Hallucinations des réseaux neuronaux : types, causes et solutions

Date: 2024-05-15 | Temps de lecture: 12 minutes (2218 words)

Presque chaque jour, des nouvelles sortent sur les réalisations des réseaux neuronaux. ChatGPT, Midjourney et d'autres sont très populaires sur Google Trends. Il peut sembler que les réseaux neuronaux peuvent déjà tout faire, mais les humains devraient se préparer au chômage dans un proche avenir.

Les machines résolvent effectivement de nombreux problèmes, mais leur « cerveau » n'est pas encore parfait. La créativité est totalement inaccessible aux robots. Les hallucinations fréquentes de l'intelligence artificielle en font une substitution peu fiable pour l'homme. C'est particulièrement dangereux dans des domaines où la sécurité et la santé des personnes sont en jeu.

Examinons pourquoi et comment les réseaux neuronaux commettent des erreurs, et comment réduire leurs hallucinations au niveau de l'utilisateur.

Comment les réseaux neuronaux commettent des erreurs et pourquoi

Opacité des résultats

Il est impossible d'expliquer selon quel principe un réseau neuronal produit tel ou tel résultat. Bien que les principes de son fonctionnement soient connus, le processus de réflexion du robot reste un mystère. Par exemple, vous montrez une image de voiture à un réseau neuronal et il répond que c'est une fleur. Il est inutile de demander pourquoi le résultat est celui-ci.

Si pour un utilisateur ordinaire cette erreur est simplement un cas amusant, pour les processus commerciaux, l'imprévisibilité peut avoir des conséquences désagréables.

Cette opacité deviendra un problème pour toute entreprise qui cherche à communiquer ouvertement avec ses clients : expliquer les raisons des refus et autres actions de l'entreprise. Dans la zone à risque se trouvent les réseaux sociaux et différentes plateformes qui font entièrement confiance à la modération par des robots.

Par exemple, en 2021, l'intelligence artificielle (le réseau neuronal est utilisé comme méthode pour traiter les données) de Facebook a supprimé des publications d'utilisateurs contenant une photo historique d'un soldat soviétique avec le drapeau de la victoire sur le Reichstag. Le réseau neuronal a jugé que c'était une violation des règles de la communauté. Plus tard, l'entreprise s'est excusée en expliquant que, en raison de la pandémie, la plupart des employés chargés de la modération du contenu ne travaillaient pas. L'entreprise a utilisé une vérification automatique, ce qui a conduit à cette erreur.

Les lacunes dans la modération par l'IA ont également été signalées sur YouTube. Pendant la pandémie, les réseaux neuronaux ont tellement travaillé qu'ils ont supprimé deux fois plus de vidéos pour contenu incorrect que d'habitude (onze millions), dont 320 000 ont été contestées et rétablies. Ainsi, pour l'instant, le monde numérique ne peut pas se passer de personnes.

Discrimination par les réseaux neuronaux

Parfois, les réseaux neuronaux artificiels se comportent de manière injuste envers les personnes de certaines nationalités, sexes ou races dans le domaine des affaires et de l'application de la loi.

En 2014, l'IA d'Amazon évaluait les réponses à la description d'un poste vacant et il s'est avéré que les notes des femmes étaient toujours plus basses. Par conséquent, les candidates étaient plus souvent refusées pour un emploi, bien qu'il n'y ait pas de raisons objectives à cela.

Aux États-Unis, le système de reconnaissance faciale identifiait incorrectement un grand pourcentage d'Afro-Américains, qui étaient ensuite injustement arrêtés.

La nécessité de grandes quantités de données

Les réseaux neuronaux sont très « voraces » et nécessitent une énorme quantité d'informations pour leur apprentissage, parfois même personnelles. Collecter et stocker des données n'est pas une tâche simple, bon marché ou rapide. Lorsqu'il y a un manque d'informations pour l'apprentissage, le réseau neuronal commence à faire des erreurs.

Ainsi, en 2022, les conducteurs de voitures avec le volant à droite ont commencé à recevoir des amendes à cause de l'IA. Le réseau neuronal ne faisait tout simplement pas la différence entre une personne assise sur le siège et simplement le siège. Les amendes étaient pour ne pas avoir attaché la ceinture. Les développeurs ont commenté ce problème en disant qu'il y avait simplement un manque de données : il fallait montrer beaucoup de voitures avec le volant à droite pour éviter les erreurs. Mais même cela ne garantit pas la précision, car les reflets et les éclats sur les caméras peuvent perturber l'IA.

Parfois, ces cas deviennent même comiques. Par exemple, l'autopilote Tesla n'a pas reconnu un mode de transport rare pour notre époque — une charrette avec un cheval sur la route. Et parfois, les bugs du réseau neuronal peuvent devenir effrayants. Un jour, la même Tesla a vu une personne devant elle dans un cimetière vide, ce qui a effrayé le conducteur.

Pas de certitude dans les réponses

Parfois, les réseaux neuronaux ne peuvent pas faire face à une tâche que pourrait accomplir un enfant de cinq ans à qui on aurait montré un cercle et un carré, et on lui demanderait ce qui est quoi. L'enfant répondrait précisément où se trouve le carré et où se trouve le cercle. En revanche, le réseau neuronal dira que c'est un cercle à 95 % et un carré à 5 %.

Risque de piratage et de tromperie du réseau neuronal

Les réseaux neuronaux sont également sujets au piratage, tout comme d'autres systèmes. Pirater un réseau, c'est presque comme dans un film de science-fiction où le méchant rend les robots fous. En effet, en connaissant les points faibles du réseau neuronal, il est possible de modifier son fonctionnement. Par exemple, l'autopilote d'une voiture commencera à passer au feu rouge au lieu du vert.

Des chercheurs d'Israël et du Japon ont tenté de tromper un réseau neuronal dans le cadre d'une expérience. Ils ont réduit au minimum la précision de la reconnaissance faciale en utilisant du maquillage. Auparavant, le réseau neuronal échouait en présence de camouflage, de lunettes ou d'éléments lumineux dans le cadre, mais cette méthode de déguisement était très visible. Il était donc important de créer une telle hallucination artificielle pour vérifier si un simple maquillage pouvait tromper l'IA, qui avait également été développée avec un réseau neuronal. La précision de la reconnaissance en cas de maquillage mal réfléchi n'a pas donné de tels échecs.

D'autres chercheurs de Toronto ont montré comment pirater un réseau neuronal avec des symboles simples, même invisibles pour l'utilisateur.

Depuis 2013, une vulnérabilité des réseaux neuronaux a été découverte : l'attaque par confrontation, lorsqu'un léger bruit est ajouté à une image. Ensuite, le réseau neuronal commence à mal identifier ce qui est sur l'image : une table au lieu d'une voiture, un arbre au lieu d'un chariot de supermarché, et ainsi de suite. Même dix ans plus tard, il n'y a pas de solution absolue à ce problème.

La complexité du système

Comme tout système complexe, le réseau neuronal n'est pas parfait. Il apprend rapidement, peut traiter une énorme quantité de données, mais n'a pas l'équivalent complet de la pensée critique humaine. Bien que le réseau neuronal puisse contester l'information, comprendre ses erreurs, parfois il croit simplement en des choses incorrectes et confond les faits, commence à « inventer » les siens. Surtout lorsque les informations initiales proviennent de sources peu fiables.

La complexité des réseaux neuronaux et leur aspiration à modéliser l'intelligence humaine préoccupent la société. En mars 2023, le fondateur de Tesla et SpaceX, Elon Musk, a publié une lettre demandant de suspendre pendant six mois la formation des systèmes neuronaux plus complexes que la version GPT-4. Plus de 1000 spécialistes, le fondateur de Pinterest, Evan Sharp, le cofondateur d'Apple, Steve Wozniak, ont signé cette déclaration. Actuellement, il y a plus de 3000 signatures.

Évaluation superficielle de l'information

Dans le cas de la rédaction de textes, le réseau neuronal ne pense pas de manière figurative comme un être humain, mais utilise simplement des statistiques sur l'utilisation des mots et des expressions. Alors le système semble prévoir la suite. Il ne sait pas faire d'analyse approfondie ni rechercher des relations causales dans le texte.

Manque d'unicité des résultats

Bien que le réseau neuronal devrait générer du nouveau contenu basé sur de nombreux exemples, parfois le robot peut simplement produire une légère variation de l'image utilisée pour son apprentissage. Dans de tels cas d'hallucination, des données personnelles des utilisateurs peuvent être divulguées à des tiers.

La cause probable de cette erreur est attribuée à la répétition de certaines images dans les données d'entraînement.

Le réseau neuronal ne comprend pas l'anatomie humaine

Souvent, sur les images générées par différents réseaux neuronaux, apparaissent des doigts en trop, des mains en trop, des jambes en trop ou leur absence, une forme étrange des dents, de la langue, des yeux.

Les réseaux neuronaux ont particulièrement du mal avec les doigts, qui ressemblent davantage à des pattes d'animaux. Souvent, le réseau neuronal se trompe sur leur nombre. Cela s'explique par le fait qu'il traite des images de personnes et les voit sous différents angles, mais ne comprend pas comment disposer correctement les détails (doigts, yeux, dents, etc.) anatomiquement, ce qui donne ces types d'images.

En cas d'hallucination, un réseau neuronal peut générer une personne avec trois doigts sur la main.

Image générée à partir de plusieurs photos d'utilisateurs qui ont produit des yeux étranges

Cette photo est belle à première vue, mais regardez les mains

Ici, le réseau neuronal a dessiné des chevaliers à la demande qui se sont avérés ne pas avoir d'yeux, pas assez de mains, et certains n'ont même pas de pieds

Parfois, les images générées par le réseau neuronal donnent la chair de poule. Comme, par exemple, les dents ciselées des monstres.

Les réseaux neuronaux deviennent simplement fous

Des chercheurs américains ont découvert que certains réseaux neuronaux (comme ChatGPT, Midjourney) commencent à halluciner fortement après cinq cycles d'apprentissage. Il existe même un terme pour cela : le trouble autophagique du modèle (MAD), où les résultats se détériorent à chaque nouveau cycle d'apprentissage répété.

Les réseaux neuronaux peuvent parfois être imprévisibles. Par exemple, en réponse à la requête « Qui a été le seul survivant du Titanic ? », le réseau neuronal a fourni avec assurance le nom du supposé « seul » survivant et a même partagé quelques détails sur sa vie.

Il est intéressant de noter que le réseau neuronal, lorsqu'on lui a demandé ses sources dans la requête suivante, s'est rapidement excusé pour toute information erronée et a fourni l'information correcte : il y a eu 705 survivants sur un total de 2224 passagers sur le Titanic.

Un comportement autonome a été remarqué dans le chatbot MY AI de Snapchat, qui a une fois publié une photo peu claire dans ses histoires. Les utilisateurs ont été alarmés par un tel comportement, et certains ont même commencé à désinstaller l'application. Fait intéressant, initialement, MY AI n'avait pas la capacité de créer des histoires dans le cadre de ses fonctionnalités. Ainsi, une petite révolte des machines s'est produite.

Comment éviter les hallucinations des réseaux neuronaux

Les développeurs de réseaux neuronaux sont conscients de leurs problèmes et recherchent des solutions. Ainsi, chez OpenAI, une nouvelle méthode de lutte contre l'hallucination a été proposée. Selon cette approche, l'IA est récompensée spécifiquement pour les réponses correctes, et non simplement pour n'importe quelle réponse finale. Cela inciterait le réseau neuronal à mieux vérifier les faits. Cependant, le problème restera probablement d'actualité pendant longtemps, car les recherches ne sont pas encore terminées.

Pendant ce temps, les gens continuent d'utiliser des réseaux neuronaux et rencontrent des difficultés. Bien que l'utilisateur ordinaire ne puisse pas accéder au code, certaines de ses actions améliorent les résultats de l'IA.

Comment utiliser un réseau neuronal pour minimiser les hallucinations :

1. Apprenez à spécifier vos demandes. Malgré toute l'avancée du système vers la compréhension de la communication entre les humains, il reste encore loin de là. Par conséquent, veillez à ne pas poser des tâches trop abstraites et précisez ce que vous voulez. Pas comme ceci : « Écrivez un texte sur la mode 2023 ». Mais plutôt comme ceci : « Écrivez un texte sur les tendances vestimentaires de la saison printemps-automne 2023 ».

C'est ainsi que Paul McCartney a utilisé dans son travail l'IA pour écrire une chanson des Beatles en collaboration avec feu John Lennon. Ce même algorithme a été utilisé auparavant pour créer la série documentaire Get Back sur le groupe légendaire. Avec le réseau neuronal, des instructions claires ont permis de séparer la voix de Lennon des sons des instruments.

2. Fournissez plus d'informations. Le réseau neuronal dispose d'une vaste gamme de connaissances qu'il a « ingérées » auparavant. Et sans contexte, il est difficile de comprendre ce que vous voulez et de fournir le bon résultat. Expliquez donc votre demande. Par exemple, si vous attendez un texte sur le personnage du Joker dans un film Batman, précisez que vous parlez spécifiquement de « The Dark Knight » de 2008.

3. Procédez à la vérification des faits. Vérifiez les informations fournies par le réseau neuronal. Signalez-lui les erreurs si quelque chose ne va pas.

Par exemple, dans les versions antérieures de ChatGPT, il pouvait être facilement confondu par des questions contenant délibérément des informations irréelles :

Le réseau neuronal fournit avec confiance une réponse même sans comprendre qu'une personne ne peut pas marcher sur l'eau.

Résumé

Bien que le monde place de grands espoirs dans les réseaux neuronaux, ils sont loin d'être parfaits. Les robots font souvent des erreurs : ils fournissent des informations incorrectes, génèrent des images étranges, identifient mal les objets, et ainsi de suite. Les IA sont également parfois accusées de discrimination et de fournir du contenu qui n'a pas été créé à partir de zéro, mais simplement modifié légèrement. Autrement dit, ils ne peuvent pas encore fonctionner sans surveillance humaine et corrections.

Les hallucinations des réseaux neuronaux se produisent en raison de la complexité du système, des énormes volumes de données à traiter (ainsi que de leur insuffisance). Les raisons de la prise de décision ne sont pas claires, des réponses pas toujours univoques sont données, mais plutôt probabilistes. De plus, les réseaux neuronaux sont vulnérables aux piratages, et parfois ils deviennent fous en raison de répétitions fréquentes de l'apprentissage.

Essayez de formuler des requêtes claires à l'IA, ajoutez du contexte et vérifiez toujours la fiabilité des résultats.

* produit de la société Meta, interdite en Russie