Intelligence artificielle ChatGPT : limites éthiques des outils IA

L'IA a le potentiel de révolutionner notre façon de travailler, d'étudier et de vivre. En changeant tout ! De la façon dont nous conduisons les voitures à la façon dont nous communiquons les uns avec les autres.

Cependant, cet énorme potentiel s'accompagne de la responsabilité de comprendre les limites de ces outils. Sans oublier les implications éthiques de l'apprentissage automatique et des autres formes d'IA.

Dans ce dossier complet illustré, je m'inspire de mes notes de synthèse de la conférence de Luc Julia. Un expert en innovation chez Renault. Il a écrit le fameux livre "L’intelligence artificielle n’existe pas" https://youtu.be/yuDBSbng_8o

J'explore les différentes facettes de l'IA et discute de ses limites par rapport à l'intelligence humaine.

Qu'il s'agisse de biais systémiques dans la collecte de données ou de la moralité de la prise de décision automatisée.

À l'aide d'exemples passés et actuels, Luc JULIA explique pourquoi il est crucial d'examiner attentivement les limites actuelles.

J'aborde également l'importance de l'éducation et de la compréhension de l'IA pour l'utiliser de manière responsable.

Enfin, je conclue en soulignant à quel point l'IA devrait être considérée comme un outil. Elle peut améliorer les capacités humaines plutôt que les remplacer.

Résumé essentiel en une minute :

Le message principal de Luc est que « l'intelligence artificielle » n'est pas vraiment intelligente, mais plutôt de la « stupidité artificielle ». Certaines tâches peuvent être accomplies par les humains alors que l'IA ne peut pas les accomplir sans connaissance préalable du sujet. Comme la pensée créative ou la pensée critique.
Il souligne que nous devions faire attention à ne pas qualifier cette technologie d' « intelligente » parce qu'elle implique une capacité que l'IA ne possède pas encore. C'est pourquoi, la qualifier d' « intelligence scientifique » générique la décrit mieux. C’est précisément domaine de recherche.

🔵 L'IA d'Hollywood : mythe ou réalité ?

L'IA est un sujet populaire depuis des années.

Mais est-ce que c'est vrai ?

Selon Luc Julia, qui étudie l'intelligence artificielle depuis plus de 30 ans, l'IA que l'on retrouve dans les films n'existe pas.

Explorons l'histoire avant l'intelligence artificielle ChatGPT pour mieux comprendre pourquoi.

L'évolution de l'IA depuis 1642 jusqu’aux années 2000 est une aventure passionnante !

En 1642, Pascal a inventé sa calculatrice mécanique, la Pascaline. Elle aide a effectuer des additions et des soustractions de 5 chiffres.

Depuis, des scientifiques tentent de créer une machine capable de reproduire les capacités humaines de manière intelligente.

En 1956, un groupe de scientifiques américains a tenté de modéliser mathématiquement l'intelligence. Elle a définit une fonction représentant un neurone. Il s'agit de l'une des premières initiatives visant à reproduire les capacités humaines grâce à la technologie. Les experts ont essayé des approches sophistiquées en abordant le traitement du langage naturel à l'aide de méthodes statistiques.

Cependant, ces tentatives ont largement échoué pour des raisons de complexité inabordable avec la technologie des années 50. Moins de 40 % des fonctions cérébrales étaient comprises à ce stade de l'histoire.

Un échec glaçant.

Cela avait suscité des inquiétudes ou des attentes irréalistes. Et donné lieu à un « hiver de l'IA » au cours duquel le développement technologique stagnait.

Les méthodes statistiques ont donc été remplacées par des systèmes logiques ou « systèmes experts ». Elles sont devenus populaires jusque dans les années 1990 avant de perdre leur notoriété. Elles aussi !

Depuis, les humains essaient d'automatiser les processus et de simplifier les tâches grâce à la robotique ou à d'autres systèmes automatisés.

En effet, maintenant les algorithmes de raisonnement automatisés simulent les processus décisionnels. La robotique aussi automatise des tâches physiques. Les exemples connus sont la fabrication de produits ou (partiellement) la conduite de voitures !

Cela a ouvert de nouvelles possibilités aux entreprises de nombreux secteurs qui utilisent désormais ces technologies pour obtenir un avantage concurrentiel. Elles produisent de plus en plus rapidement, plus efficacement et plus précisément que jamais, sans intervention humaine !

👉 Deep Blue, DeepMind et Deep Learning : des profondeurs abyssales

À la fin du XXe siècle, les systèmes experts sont devenus populaires. Leur point fort spectaculaire est leur capacité à appliquer les connaissances d'experts dans un domaine donné. Ces systèmes créent des solutions à des problèmes complexes sans intervention humaine. En 1997, la machine Deep Blue d'IBM a battu le brillant champion du monde d'échecs Gary Kasparov pour la toute première fois.

Le programme DeepMind AlphaGo de Google a dépassé les compétences des joueurs professionnels du jeu de GO en 2016. Ce jeu de plateau est considéré comme plus complexe avec plus de 10¹⁷⁰ coups possibles. L'IA de Google a battu le champion du monde Coréen de Go, Lee Sedeol (18 ans). Pour le surprendre puis le surpasser, Google utilisa des méthodes statistiques et logiques au lieu des algorithmes strictement logiques habituels.

La puissance d'AlphaGo et des systèmes d'apprentissage automatique a eu un impact incroyable sur le monde de la technologie.

Alors, qu'est-ce qui rend DeepMind si puissant ? Quand on regarde l'intérieur de son système, on trouve :

1 500 processeurs (unités de traitement informatique)
200 ou 300 GPU (unités de traitement graphique pour les calculs mathématiques)
1 TPU (unité de traitement tensoriel), processeurs spécialisés pour le Deep Learning. Ils sont très efficaces et consomment moins d'énergie que les processeurs informatiques traditionnels tout en offrant des performances bien supérieures. Actuellement, au moins une trentaine de TPU sont disponibles. C’est suffisant pour alimenter un petit centre de données de 440 kilowatts d'énergie !

Ces composants permettent à cette IA d'apprendre à partir de millions de simulations par seconde ! Ce qui le rend bien plus rapide que le meilleur des adversaires humains, comme le champion du monde de Go.

Ces chocs font croire à de nombreuses personnes que l'intelligence artificielle était capable de surpasser l'intelligence humaine.

Ces succès ont entraîné la résurgence de l'intelligence statistique artificielle traditionnelle. Elle s'appuie sur l'abondance de données d'internet depuis les années 2000. Ces données fournissent aux machines plus d'informations que jamais. Elles leur permettent de reconnaître des modèles et de tirer des leçons de leur expérience. Ces systèmes nécessitent d'énormes quantités de données. ChatGPT, c'est environ 175 milliards de morceaux données dans certains cas. Soit l'équivalent de presque tout Internet !

Et quand on regarde la consommation énergétique l'IA est infiniment plus gourmande. Le cerveau c'est environ 20 à 40 watts. En comparaison, le système d'intelligence artificielle Watson d'IBM qui a remporté le jeu « Jeopardy! » avait besoin de 80.000 watts.

AlphaGo, piloté par l'IA était alimenté par 2 000 ordinateurs et 4400 watts d'énergie. Ce besoin en ressources est impressionnant si on le compare à celui d'un joueur de go professionnel. Cet humain n'a besoin que de 20 watts d'énergie pour affronter AlphaGo.

Cela soulève des questions majeures sur la meilleure façon d'utiliser nos ressources. La consommation d'énergie constitue un problème grave dans le monde d'aujourd'hui.

Les systèmes d'IA ultra spécialisés ont donc encore des limites nombreuses par rapport à l'intelligence humaine.

Elles ne possèdent ni pensée ni conscience indépendantes, contrairement aux films tels que I Robot avec Will Smith en 2004.

Il n'existe pas non plus de solution magique qui puisse nous mener au futur entièrement automatisé décrit dans les films hollywoodiens.

Un autre film puissant : “Her” en 2013 sur l’histoire d'amour dangereuses entre l’humain et l’intelligence artificielle.

Même si « l'IA hollywoodienne » ne se réalisera peut-être jamais, l'apprentissage automatique recèle encore un fort potentiel lorsqu'il est utilisé de manière judicieuse et éthique.

C'était une mise en perspective de l'histoire réelle de l'IA par rapport au cinéma. J'aborde maintenant plus sereinement l'intelligence artificielle ChatGPT, avantages et inconvénients inclus.

🔵 L'intelligence artificielle : définition de l'IA comme un outil d'augmentation

Luc soutient que l'IA est essentiellement une boîte à outils contenant des variables spécifiques à différents domaines, conçues pour être utiles.

L'intelligence artificielle, est parfois comparable à un marteau. Comme un marteau peut être utilisé pour construire ou détruire, l'IA peut être utilisée pour le bien ou le mal, selon la manière dont elle est utilisée. Cependant, contrairement à un marteau, l'IA est un outil qui peut augmenter les capacités humaines.

L'IA comprend en fait deux domaines distincts :

l'apprentissage automatique
l'apprentissage profond.

L'apprentissage automatique utilise des algorithmes pour automatiser des tâches. Il fonctionne en prenant des données auprès d'une source (internet, etc.). Et il les utilise pour apprendre à prendre des décisions dans un autre contexte. Les ordinateurs s'améliorent donc grâce à leur expérience, sans programmation explicite.

L'algorithme PageRank du moteur de recherche de Google en est un bon exemple. Il attribué à chaque page internet une note comprise entre 0 et 10. Il les analyse selon leur pertinence sur la base des mots clés trouvés dans son contenu, entre autres.

Le deep learning inclut des techniques informatiques, telles que les réseaux de neurones. Ce sont des algorithmes mathématiques conçus pour extraire de grandes quantités de données provenant de différentes sources. Il les transforme en informations exploitables (data analyse). Les applications de reconnaissance faciale s’en inspirent largement.

L'un des premiers projets était d’ailleurs un outil de reconnaissance de chats. En fournissant 100 000 images de chats à un ordinateur, celui-ci est parvenu à reconnaître les chats à 98 %.

Cependant, les humains n'ont besoin que de 2 a 10 images pour reconnaître les chats ! Cela montre à quel point les machines n'ont toujours pas les mêmes nuances que l'intelligence humaine.

👉 Un outil pour augmenter les capacités humaines

L'IA est conçue pour imiter certaines fonctions du cerveau humain, telles que la perception, la compréhension du langage et la prise de décision. Elle peut effectuer des tâches complexes beaucoup plus rapidement et de manière plus précise que les humains. Par conséquent, l'IA peut être utilisée pour augmenter les capacités humaines dans de nombreux domaines.

Par exemple, dans le domaine médical, l'IA peut aider les médecins à diagnostiquer des maladies plus rapidement et avec une précision accrue. Les systèmes d'intelligence artificielle peuvent analyser d'énormes quantités de données médicales :

des images de scanner
des résultats de tests pour détecter des anomalies ou des modèles qui échapperaient peut-être à l'attention humaine.

L'IA peut également être utilisée dans l'industrie pour optimiser les processus de production. Les systèmes d'IA peuvent :

analyser les données de performance des machines,
prévoir les pannes potentielles
suggérer des actions à prendre pour éviter les temps d'arrêt coûteux.

Cela permet aux entreprises d'améliorer leur efficacité et leur rentabilité.

👉 Rôle de l'homme dans l'utilisation de l'IA

Malgré ses capacités, l'IA n'est qu'un outil. C'est l'homme qui a le pouvoir de création et qui doit définir les règles d'utilisation de l'IA. Il est donc essentiel de comprendre l'IA en profondeur et d'en maîtriser les concepts et les implications.

Lorsque l'IA est utilisée pour l'augmentation des capacités humaines, il est primordial de faire preuve de responsabilité. Les décisions prises par les systèmes d'IA doivent être vérifiées par des experts humains. Qu'ils les évaluent en fonction de leur éthique et de leur conformité aux normes sociales et légales.

De plus, il est important de ne pas déléguer aveuglément toutes les décisions à l'IA. L'homme doit rester maître de l'utilisation de l'IA et garder la capacité de remettre en question les résultats et les recommandations de l'IA. L'intelligence artificielle ne peut pas remplacer complètement l'intelligence humaine.

🔵 Quelles sont les limites de l'IA ?

L'intelligence artificielle ChatGPT a connu d'énormes progrès ces derniers mois, suscitant un grand enthousiasme et des attentes élevées. Cependant, malgré toutes ses avancées, elle présente encore certaines limites par rapport à l'intelligence humaine.

Une des principales limites de l'Intelligence Artificielle est sa capacité à générer de fausses informations ou des hallucinations. En effet, les réseaux neuronaux utilisés dans de nombreux systèmes d'IA peuvent parfois produire des résultats erronés ou trompeurs. Cela peut être dû à des erreurs de programmation, à des données incorrectes ou à des modèles d'apprentissage inadéquats.

Cette capacité de l'IA à générer de fausses informations est particulièrement préoccupante dans le domaine des médias et de l'information. La prolifération des fake news s'ajoute a la désinformation en ligne. Etre capable de distinguer les informations véridiques des fausses devient essentiel.

De plus, l'IA peut également être vulnérable aux attaques et aux manipulations. Des individus mal intentionnés peuvent exploiter les failles de certains systèmes d'IA pour les manipuler et les utiliser à des fins malveillantes. Cela peut avoir des conséquences graves, notamment dans des domaines sensibles tels que la sécurité et la confidentialité des données.

ChatGPT : une technologie capable de faciliter le hacking en quelques secondes. La création d’un code malveillant indétectable nécessitait un travail complexe. Par contre, avec le modèle ChatGPT d’OpenAI, cela peut être réalisé en quelques secondes seulement.

Source : https://www.lebigdata.fr/chatgpt-hacking-tout-savoir

Une autre limite de l'IA réside dans sa capacité à comprendre le monde de la même manière que le font les êtres humains. L'intelligence humaine est complexe et s'appuie sur de nombreuses connaissances tacites, des expériences vécues et une compréhension profonde de la réalité. En revanche, l'IA ne possède pas ces mêmes capacités. Elle peut avoir du mal à interpréter certaines situations de manière appropriée.

Par exemple, l'IA peut avoir du mal à comprendre l'ironie, le sarcasme ou les subtilités du langage humain. Elle peut également éprouver des difficultés à percevoir et à interpréter des signaux non verbaux, tels que les expressions faciales et les gestes. Ces limitations diminuent ses capacités à communiquer efficacement avec les êtres humains. Surtout à interagir de manière adaptée dans des contextes sociaux.

Oui les machines ont parcouru un long chemin depuis qu'elles ont battu aux échecs Garry Kasparov en 1997. Mais elles ne peuvent toujours pas égaler les humains lorsqu'il s'agit de comprendre des concepts tels que les émotions ou les interactions sociales. Leur complexité est trop difficile à reproduire uniquement avec du code informatique. Du moins jusqu'à ce que de nouvelles avancées puissent également combler ces lacunes !

Enfin, comme l'IA est un outil créé par les êtres humains, elle est faillible. Elle dépend de l'information qui lui est fournie, ainsi que des algorithmes et des modèles sur lesquels elle est basée. Par conséquent, l'IA peut reproduire les biais et les discriminations présents dans les données qu'elle utilise. Ce qui pose des questions d'éthique et de justice.

Ce qu’il faut retenir des limites

Ainsi, bien que l'IA ait fait d'énormes progrès, elle présente encore des limites par rapport à l'intelligence humaine. Ces limites concernent notamment :
sa capacité à générer de fausses informations,
à être vulnérable aux attaques et aux manipulations,
à comprendre le monde de la même manière que les êtres humains,
à reproduire les biais présents dans les données qu'elle utilise.

🔵 L'importance de l'éducation et de la compréhension de l'IA

L'IA a le potentiel de révolutionner nos vies.

Mais son utilisation doit être guidée par une compréhension approfondie de ses implications éthiques et morales.

Pour utiliser l'IA de manière responsable, 2 axes :

investir dans une formation solide ancrée dans les réalités sociales et professionnelles
tirer parti des experts pour prendre des décisions éclairées.

👉 Les bases de l'éducation en IA

L'éducation en IA doit commencer par une solide compréhension des concepts de base. Il est important de comprendre ce qu'est réellement l'IA, ses capacités et ses limites. Il s'agit d'un domaine multidisciplinaire qui combine les mathématiques, l'informatique et les sciences cognitives. Ainsi, une bonne éducation doit couvrir ces différents aspects.

Une éducation solide doit également inclure des connaissances pratiques. Il est essentiel de savoir comment utiliser les outils et les technologies de l'IA. Il faut aussi comprendre les méthodes utilisées pour développer des modèles d'IA. Cela permettra aux professionnels de travailler de manière efficace dans un environnement où l'IA est de plus en plus présente.

👉 Des méthodes d'éducation agiles

Étant donné que le domaine de l'IA évolue rapidement, il est important que les méthodes d'éducation restent agiles et adaptées à l'environnement professionnel actuel. Cela signifie que les programmes éducatifs doivent être constamment mis à jour pour refléter les dernières avancées technologiques et les meilleures pratiques en matière d'utilisation de l'IA.

Les professionnels de l'IA doivent également être prêts à apprendre en continu. Les nouvelles découvertes et les nouvelles méthodes sont constamment publiées dans des revues scientifiques et des forums en ligne. Il est essentiel de rester à jour avec ces informations et de les incorporer dans sa pratique professionnelle.

👉 L'importance de l'écoute des experts

L'utilisation responsable de l'IA nécessite de s'appuyer sur les connaissances et l'expérience des experts du domaine.

pour garantir une utilisation éthique de l'IA, les experts peuvent fournir des conseils précieux sur :

les meilleures pratiques
les risques potentiels
les mesures à prendre.

Alors recherchons des sources fiables d'informations :

des experts universitaires,
des chercheurs
des professionnels de l'industrie.

Ces personnes peuvent aider à comprendre les implications éthiques de l'IA et à développer des lignes directrices pour son utilisation responsable.

Parmi les experts francophones, il faut citer Yann Le Cun (Meta), Serge Abiteboul (Inria) ou Luc Julia

https://www.usinenouvelle.com/editorial/qui-sont-les-100-francais-qui-comptent-dans-l-intelligence-artificielle.N650244

👉 L'éthique et la responsabilité dans l'utilisation de l'IA

Une éducation solide en IA comprend également une réflexion approfondie sur les aspects éthiques et moraux de son utilisation.

L'IA peut avoir des implications importantes dans des domaines tels que :

la vie privée,
la sécurité
les droits de l'homme
la diversité et l'inclusion.

La responsabilité de chacun est également cruciale.

Les professionnels de l'IA doivent être conscients de l'impact de leurs décisions et de leurs actions sur la société. Il doivent être prêts à prendre des mesures pour minimiser les effets négatifs potentiels.

Pour tirer le meilleur parti de l'IA, il est crucial de l'utiliser de manière responsable. Cela signifie que nous devons garantir que l'IA est utilisée dans le respect des droits humains, de l'éthique et des valeurs sociales. Les décisions prises par les systèmes d'IA doivent être transparentes, explicables et compréhensibles pour éviter les biais injustes et les discriminations.

De plus, il est également important de garantir que l'IA est utilisée pour le bien de tous les membres de la société. Elle ne doit pas être utilisée pour exploiter ou nuire aux individus ou aux groupes marginalisés. Les gouvernements, les entreprises et les organismes de réglementation jouent un rôle clé dans l'élaboration de politiques et de réglementations. C'est aussi un levier pour accroitre une utilisation responsable de l'IA.

De plus, il est important d'encourager la diversité et l'inclusion dans les domaines liés à l'IA. Cela garantit que différentes perspectives sont prises en compte lors du développement et de l'utilisation de l'IA, évitant ainsi les biais et les discriminations. Les femmes, les minorités et les personnes de tous horizons doivent avoir une considération égale.

🔵 L'IA et la productivité dans les organisations

L'intelligence artificielle ChatGPT a le potentiel de transformer de nombreux aspects de nos vies, y compris notre façon de travailler. Certaines personnes craignent que l'IA ne remplace les travailleurs humains. En réalité, elle peut être un précieux outil pour améliorer la productivité, diminuer certaines taches pénibles.

L'IA est capable d'accomplir des tâches répétitives et routinières de manière beaucoup plus efficace et précise que les humains. Par conséquent, elle peut être utilisée pour automatiser des processus qui consomment beaucoup de temps. Ce qui permet aux employés de se concentrer sur des tâches plus complexes et créatives. Cela peut également réduire les risques d'erreurs humaines et augmenter l'efficacité globale.

👉 Remplacement de certaines tâches par l'IA

Il est vrai que certaines tâches pourraient être remplacées par des systèmes d'IA. Par exemple, les chatbots peuvent être utilisés pour répondre aux questions fréquemment posées par les clients. Et ainsi, réduire la charge de travail du service client. De même, les algorithmes d'apprentissage automatique peuvent être utilisés pour analyser de grandes quantités de données. Elles peuvent fournir des informations précieuses pour aider les décideurs à prendre des décisions plus éclairées.

Cependant, il est important de noter que même si l'IA peut remplacer certaines tâches. Il y aura toujours des tâches qui nécessitent les capacités humaines. Par exemple, les emplois qui exigent des compétences socio-émotionnelles, telles que :

la compassion
la créativité
la résolution de problèmes complexes

Elles ne peuvent pas être facilement reproduits par l'IA. Ces tâches deviendront même plus valorisées à mesure que l'IA se développe, car elles sont essentielles pour maintenir un avantage concurrentiel sur le marché.

👉 Revoir les systèmes organisationnels et les compétences

Face à l'arrivée de l'IA, les entreprises doivent revoir leurs systèmes organisationnels et les compétences requises par les travailleurs. Il est essentiel de repenser les rôles et les responsabilités des employés et de les adapter aux nouvelles possibilités offertes par l'IA.

Par exemple, l'IA est largement utilisée pour automatiser des tâches dans certains secteurs. Les employés peuvent alors être formés à diverses compétences. Cela peut inclure la gestion de projet, l'analyse de données ou même la créativité.. Cela leur permettra de travailler en collaboration avec l'IA pour résoudre des problèmes complexes et trouver des stratégies innovantes.

De plus, les entreprises doivent repenser leurs processus de recrutement pour identifier les compétences qui seront les plus précieuses à l'ère de l'IA. Certaines compétences seront de plus en plus recherchées car elles complètent parfaitement les capacités de l'IA :

la pensée critique,
l'adaptabilité au changement
la résolution de problèmes

👉 Maximiser la valeur ajoutée de l'IA

Pour maximiser la valeur ajoutée de l'IA, il est essentiel de l'intégrer de manière stratégique dans les systèmes organisationnels. Cela nécessite une connaissance approfondie des capacités de l'IA et des besoins de l'organisation.

Les entreprises doivent collaborer étroitement avec des experts en IA. Ensemble, ils développeront des solutions sur mesure qui répondent aux besoins spécifiques de l'organisation.

Cela peut impliquer :

la création de chatbots personnalisés pour améliorer l'expérience client,
l'utilisation de l'apprentissage automatique pour optimiser les processus de production,
l'utilisation de l'IA pour prédire les tendances du marché.

De plus, les entreprises doivent être conscientes des problèmes éthiques et de confidentialité liés à l'utilisation de l'IA. Il est important d'établir des politiques claires pour garantir que l'IA est utilisée de manière responsable et conforme aux réglementations en vigueur.

🔵 L'intelligence artificielle ChatGPT en formation éthique

L'IA peut être un atout précieux pour l'humanité si elle est utilisée de manière responsable et équilibrée. Elle peut améliorer nos capacités humaines et nous aider à résoudre des problèmes complexes. Cependant, il est essentiel de comprendre ses limites. Et de veiller à ce qu'elle soit utilisée dans le respect des droits humains, de l'éthique et des valeurs sociales. Elle n'a pas la capacité de ressentir des émotions, de faire preuve de jugement moral ou d'avoir une compréhension contextuelle du monde qui nous entoure.

Les humains doivent donc continuer à jouer un rôle central dans la prise de décision. Et utiliser l'IA comme un outil pour les aider à trouver des solutions plus efficaces et précises.

En investissant dans l'éducation et la formation, en encourageant la diversité et l'inclusion, nous pouvons garantir que l'IA est utilisée de manière bénéfique pour tous.

Avec une approche équilibrée et une compréhension approfondie, l'IA peut être un outil précieux qui améliore notre société et notre qualité de vie.

Pour aller plus loin sur l’intelligence artificielle, consulter :

L'intelligence Artificielle : Définition, Fonctionnement