2024-02-05 17:43:07
Les accusations de plagiat, y compris l’utilisation abusive présumée de ChatGPT, ne doivent pas être faites à la légère. Crédit : Alexandre Rotenberg/Alay
Je viens d’être accusé de fraude scientifique. Pas de fraude aux données : personne ne m’a accusé d’avoir fabriqué ou manipulé de manière trompeuse des données ou des résultats. C’est, je suppose, un soulagement car mon laboratoire, qui étudie comment le changement global remodèle les communautés écologiques, travaille dur pour garantir que les données sont transparentes et partageables, et que notre travail est reproductible. Au lieu de cela, j’ai été accusé de fraude par écrit : faire passer « l’écriture » produite par l’intelligence artificielle (IA) pour la mienne. Cela fait mal, car – comme beaucoup de gens – je trouve qu’écrire un article est un processus quelque peu pénible. J’ai lu des livres sur la façon d’écrire – à la fois pour être réconforté par le fait que ces livres soulignent que l’écriture est généralement lente et difficile, et pour trouver des moyens de m’améliorer. Ma stratégie actuelle consiste à vouloir écrire et créer plusieurs plans avant la première ébauche, qui sont suivis d’une écriture et de nombreuses révisions. Je propose toujours cette approche à mes étudiants, même si je sais que ce n’est pas facile, car je pense qu’il est important que les scientifiques essaient de bien communiquer.
Collection : L’impact de ChatGPT sur les carrières scientifiques
Imaginez ma surprise lorsque j’ai reçu des critiques sur un article soumis déclarant qu’il s’agissait du travail de ChatGPT. Un critique a écrit qu’il s’agissait « évidemment de ChatGPT », et l’éditeur de traitement était vaguement d’accord, affirmant qu’il trouvait « le style d’écriture inhabituel ». La surprise n’était qu’une des émotions que j’ai ressenties ; J’ai également ressenti un choc, une consternation et un flot de confusion et d’inquiétude. Compte tenu de tout le travail que j’ai consacré à l’écriture, ce fut un coup dur d’être accusé d’être un chatbot, surtout sans aucune preuve.
En réalité, je n’avais pas écrit un mot du manuscrit en utilisant ChatGPT. J’ai rapidement réfléchi à la manière dont je pourrais prouver mon cas. Parce que j’écris dans des fichiers en texte brut (en utilisant le langage de composition LaTeX) que je suis à l’aide du système de contrôle de version Git, je pourrais afficher l’historique des modifications de mon texte sur GitHub (avec des messages de validation incluant « enfin j’écris ! » et « Encore 25 minutes). de progrès en écriture ! » que je n’aurais jamais pensé partager). Je pourrais également essayer de comparer le style d’écriture de mes articles pré-ChatGPT avec celui de ma soumission.
Peut-être que je pourrais demander à ChatGPT lui-même s’il pensait avoir rédigé mon article. Mais ensuite j’ai réalisé que je passerais mon temps à essayer de prouver que je n’étais pas un chatbot – ce qui semblait être une mauvaise issue à toute la situation. Ce que je voulais vraiment faire, c’était ramasser ma balle et quitter le terrain de jeu avec fureur. Comment osent-ils? Mais d’abord, j’ai décidé d’obtenir le point de vue de chercheurs qui travaillent sur la fraude aux données, des co-auteurs de l’article et d’autres collègues. La plupart étaient d’accord avec mon alarme. L’un d’eux l’a exprimé très succinctement : « Toute critique scientifique est admissible, mais c’est une autre affaire. »
Crise existentielle
Ces critiques ont capturé quelque chose à la fois intrinsèquement brisé dans le processus d’évaluation par les pairs et – ce qui est plus important pour moi – sur la façon dont l’IA pourrait corrompre la science sans même essayer.
EM Wolkovich a été accusée d’avoir fait passer le texte généré par ChatGPT pour son propre travail.Crédit : TJ Davies
Les gens s’inquiètent de la prise de contrôle de l’IA sur l’humanité, de son potentiel à amplifier la désinformation et de la manière dont elle pourrait contribuer à perpétuer les préjugés et les inégalités insidieux. Certains tentent de créer des garde-fous pour empêcher cela. Mais les communautés tentent également de créer une IA qui aide là où elle le devrait, et peut-être cela inclura-t-elle une aide à l’écriture. Mais, comme le montre mon expérience, ChatGPT a corrompu l’ensemble du processus simplement par sa présence existentielle dans le monde. J’étais à la fois ennuyé d’avoir été pris pour un chatbot et horrifié que les critiques et les éditeurs soient si blasés à l’idée que quelqu’un ait soumis un texte généré par l’IA.
Une grande partie de la science repose sur la confiance dans l’éthique et l’intégrité de nos collègues. Nous sommes généralement convaincus que les autres ne fabriquent pas leurs données, et j’espère que les gens ne rédigent pas (encore) leurs articles ou leurs subventions en utilisant de grands modèles de langage sans les divulguer. Je n’accuserais pas quelqu’un de fraude de données ou de manipulation statistique sans preuve, mais un critique n’a apparemment pas ressenti de tels scrupules en m’accusant. Peut-être qu’ils n’avaient pas l’intention d’en faire une accusation sévère, et l’éditeur n’a pas hésité à transmettre et à faire écho à leurs commentaires – mais ils m’avaient effectivement accusé de mentir en présentant délibérément le texte généré par l’IA comme le mien. Ils étaient également convaincus de pouvoir distinguer mon écriture de celle d’un outil d’IA – mais ils ne le pouvaient évidemment pas.
NatureTech
Nous devons être en mesure de dénoncer la fraude et les mauvaises conduites scientifiques. À mon avis, les coûts pour les personnes qui dénoncent une fraude aux données sont trop élevés et les conséquences d’une fraude sont trop faibles. Mais je m’inquiète d’un monde dans lequel un critique peut porter avec désinvolture une accusation de fraude, et les éditeurs et le rédacteur en chef de la revue se contentent de parcourir la critique et d’inviter une nouvelle soumission. Cela suggère non seulement que les réviseurs et les éditeurs n’ont aucune confiance dans l’intégrité scientifique des auteurs qui les soumettent, mais aussi que l’éthique est négociable. Un tel monde semble facile à corrompre pour ChatGPT sans même essayer – à moins que nous élevions nos normes.
Les sociétés scientifiques peuvent commencer par avoir des conversations lors de leurs réunions et conférences dans le but d’élaborer des normes plus explicites, générées par la communauté, sur le moment et la manière dont l’IA peut être utilisée dans le processus de rédaction de manuscrits, et sur la manière dont cette aide doit être reconnue. De telles normes pourraient aider les éditeurs à développer de meilleurs processus pour traiter les accusations concernant les textes générés par l’IA, idéalement d’une manière moins démoralisante pour les auteurs.
Quant à moi, je prévois désormais d’utiliser Git et GitHub pour tous mes écrits dès le premier jour, et de documenter les modifications chaque jour. Ce n’est pas un système à toute épreuve, mais il m’a apporté une certaine tranquillité d’esprit, sans parler d’une trace écrite qui montre clairement un manuscrit écrit lentement et minutieusement, et sans ChatGPT.
#Évidemment #ChatGPT #comment #les #critiques #mont #accusé #fraude #scientifique