L’intelligence artificielle pourrait régresser d’elle-même. D’après une récente théorie, les différents modèles d’IA reproduiraient des notions de consanguinité entre eux. Le contenu généré artificiellement et publié sur le web en serait la cause majeure.
Après le boom des chatbots conversationnels reposant sur l’intelligence artificielle générative, certaines craintes commencent d’émerger quant à la multiplication des modèles d’IA. Une récente théorie aborde le fait que la propagation massive sur le web des contenus générés par l’IA pourrait recréer une forme de « consanguinité virtuelle » entre les différents modèles.
Les performances de l’IA pourraient s’atrophier d’elles-mêmes
Prenons un exemple pour illustrer cette troublante théorie. Une première image générée par Dall-E d’OpenAI se retrouve publiée sur l’Internet. Une seconde image sur la même thématique est générée par l’IA de MidJourney. Une troisième l’est de nouveau par un autre modèle de génération d’images, et ainsi de suite.
Au fur et à mesure que les modèles consultent les illustrations créées et en génèrent de nouvelles, les erreurs de génération — certes minimes au départ — s’amplifient et deviennent de plus en plus visibles. Chaque modèle enregistre et réplique les erreurs commises sur la version précédente. À l’œil humain, les images perdent progressivement leur sens, ce qui entraîne une régression des performances de l’IA, du moins, sur le référentiel de notre perception de l’intelligence artificielle.
Cet exemple, ici appliqué à une image, prend également son sens sur tous les axes de capacités de l’IA. Les nouveaux modèles étant entraînés sur les données existantes sur le web ouvert, ils bénéficient d’un buffet à volonté sur le contenu publié en ligne… y compris celui généré par une autre IA.
Plus qu’une théorie vague ou même conspirationniste, le concept est étayé par des chercheurs dans une publication de la revue scientifique Nature.
Assisterons-nous à l’effondrement de l’intelligence artificielle par la reproduction des concepts de consanguinité observables sur le vivant ?
Source : [Les numériques] Par Florent Lanne.
[…] […]