L’intelligence artificielle : une « usine » à produire des études scientifiques « fausses »
Des spécialistes ont indiqué que l’intelligence artificielle crée désormais ce qui ressemble à des « usines » pour la production massive d’études « fausses », y compris des études scientifiques publiées dans des revues renommées.
L’Agence France-Presse a rapporté que le retrait récent de plusieurs études publiées par certaines revues scientifiques a mis en lumière l’existence de pratiques peu scrupuleuses.
Selon l’agence, des cas récents ont confirmé le phénomène croissant de l’utilisation de l’intelligence artificielle dans la préparation des publications scientifiques, au détriment de leur qualité. Certaines études dans des revues spécialisées contiennent des phrases qui révèlent qu’elles ont été générées par des programmes basés sur cette technologie, ou présentent par exemple des images manquant de précision.
L’agence a également mentionné que certaines études ont été retirées, comme celle qui contenait une image d’une jambe humaine avec un nombre d’os supérieur à ce qui est normalement présent.
Mais les images erronées ne sont pas le seul problème ; les problèmes les plus graves semblent provenir de « ChatGPT », l’outil de conversation développé par la société américaine OpenAI, basé sur l’intelligence artificielle.
Début mars dernier, une étude publiée par le groupe d’édition scientifique britannique Elsevier a été largement partagée sur les réseaux sociaux. L’introduction de cette étude commençait par « Bien sûr ! Voici une introduction à votre sujet », une formule typique des réponses générées par ChatGPT.
L’agence a rapporté que plusieurs spécialistes ont souligné que ces erreurs embarrassantes, qui ont échappé aux experts responsables de la relecture avant publication, restent rares et n’auraient pas été acceptées par les comités de révision des revues renommées.
Il est souvent difficile de détecter l’utilisation de l’intelligence artificielle, mais il est évident qu’elle se répand dans la littérature scientifique.
Andrew Gray, bibliothécaire à l’University College de Londres, a mené une recherche sur des millions d’articles scientifiques en cherchant des mots fréquemment utilisés par les outils d’intelligence artificielle, tels que « précis », « complexe » ou « louable ». Il a découvert que l’intelligence artificielle avait probablement été utilisée dans 60 000 articles scientifiques en 2023, soit environ 1 % de la production annuelle, prévoyant une « augmentation significative » de ce chiffre en 2024.
L’association américaine Retraction Watch a constaté que le nombre de rétractations d’articles scientifiques a atteint un record de 13 000 en 2023. Ivan Oransky, l’un de ses fondateurs, a déclaré que l’intelligence artificielle fournit désormais ce qui ressemble à des « usines » pour la production massive d’études « fausses ».
Ces entités produisent un grand nombre d’articles de mauvaise qualité, plagiés ou trompeurs, selon la microbiologiste néerlandaise spécialisée dans la détection des images fausses, Elisabeth Bik.
-
Comment l’intelligence artificielle changera-t-elle la nature des guerres à l’avenir ?
-
United Airlines utilise l’intelligence artificielle pour le confort des voyageurs
On pense que ces « usines », auxquelles les chercheurs paient des sommes d’argent pour produire davantage, sont à l’origine d’environ 2 % des études publiées chaque année. Cependant, ce chiffre connaît une augmentation significative en raison de l’utilisation de l’intelligence artificielle, selon la même experte.
