Des experts en IA pour savoir si vous devriez être “terrifié” par ChatGPT

ChatGPT est une intelligence artificielle qui écrit pour vous, tout type d’écriture que vous aimez – lettres, paroles de chansons, documents de recherche, recettes, séances de thérapie, poèmes, essais, plans, même code logiciel. Et malgré son nom maladroit (GPT signifie Generative Pre-trained Transformer), dans les cinq jours suivant son lancement, plus d’un million de personnes l’utilisaient.

Est-il facile à utiliser ?

Essayez de saisir, “Ecrire un limerick sur l’effet de l’IA sur l’humanité.”

Ou que diriez-vous, “Racontez l’histoire de Boucle d’or dans le style de la Bible King James.”

Microsoft a annoncé qu’il construirait le programme dans Microsoft Word. Les premiers livres écrits par ChatGPT ont déjà été publiés. (Bien, soi-publié, par des personnes.)

“Je pense que c’est énorme”, a déclaré le professeur Erik Brynjolfsson, directeur du Digital Economy Lab de l’Université de Stanford. “Je ne serais pas surpris que dans 50 ans, les gens regardent en arrière et disent, wow, c’était un ensemble d’inventions vraiment marquantes qui se sont produites au début des années 2020.

“La majeure partie de l’économie américaine repose sur le savoir et l’information, et c’est qui sera le plus directement touché par cela”, a-t-il déclaré. “Je mettrais des gens comme des avocats en haut de la liste. Évidemment, beaucoup de rédacteurs, de scénaristes. Mais j’aime utiliser le mot ‘affecté’, pas ‘remplacé’, parce que je pense que si c’est bien fait, ça ne va pas être l’IA remplaçant les avocats ; ce seront des avocats travaillant avec l’IA qui remplaceront les avocats qui ne travaillent pas avec l’IA.”

Mais tout le monde n’est pas ravi.

Timnit Gebru, un chercheur en intelligence artificielle spécialisé dans l’éthique de l’intelligence artificielle, a déclaré : “Je pense que nous devrions être vraiment terrifiés par tout cela.”

ChatGPT a appris à écrire en examinant des millions d’écrits sur Internet. Malheureusement, croyez-le ou non, tout sur Internet n’est pas vrai ! “On n’a pas appris à comprendre ce qui est un fait, ce qui est une fiction ou quelque chose comme ça”, a déclaré Gebru. “Ce sera juste une sorte de perroquet de ce qui était sur Internet.”

Effectivement, il crache parfois en écrivant que des sons autoritaire et confiant, mais est complètement faux :

Et puis il y a le problème de volontaire désinformation. Les experts craignent que les gens n’utilisent ChatGPT pour inonder les médias sociaux d’articles factices qui semblent professionnels, ou pour enterrer le Congrès avec des lettres “populaires” qui semblent authentiques.

Gebru a déclaré: “Nous devrions comprendre les méfaits avant de faire proliférer quelque chose partout, et atténuer ces risques avant de mettre quelque chose comme ça là-bas.”

Mais personne ne peut être plus affligé que les enseignants. Et voici pourquoi :

“Écrivez un essai de classe d’anglais sur la race dans ‘To Kill a Mockingbird.'”

Certains étudiants utilisent déjà ChatGPT pour tricher. Pas étonnant que ChatGPT ait été appelé “La fin de l’anglais au lycée”, “La fin de l’essai universitaire” et “Le retour de l’essai manuscrit en classe”.

Quelqu’un qui utilise ChatGPT n’a pas besoin de connaître la structure ou la syntaxe ou le vocabulaire ou la grammaire ou même l’orthographe. Mais Jane Rosenzweig, directrice du Centre d’écriture de Harvard, a déclaré : “Ce qui m’inquiète aussi, cependant, c’est l’article sur en pensant. Lorsque nous enseignons l’écriture, nous apprenons aux gens à explorer une idée, à comprendre ce que les autres ont dit à propos de cette idée et à comprendre ce elles ou ils Pensez-y. Une machine peut faire la partie où elle met des idées sur papier, mais elle ne peut pas faire la partie où elle met ton des idées sur papier.”

Les systèmes scolaires de Seattle et de New York ont ​​​​interdit ChatGPT ; ont donc quelques collèges. Rosenzweig a déclaré: “L’idée que nous l’interdions se heurte à quelque chose de plus grand que nous tous, c’est-à-dire que cela va bientôt être partout. Ce sera dans les programmes de traitement de texte. Ce sera sur toutes les machines.”

Certains éducateurs essaient de comprendre comment travailler avec ChatGPT, pour le laisser générer le premier brouillon. Mais Rosenzweig rétorque : “Nos étudiants cesseront d’être des écrivains et ils deviendront des éditeurs.

“Ma première réaction à cela a été : faisons-nous cela parce que ChatGPT existe ? Ou faisons-nous cela parce que c’est mieux que d’autres choses que nous avons déjà faites ?” dit-elle.

OpenAI, la société qui a lancé le programme, a refusé les demandes d’interview de “Sunday Morning”, mais a fait une déclaration :

“Nous ne voulons pas que ChatGPT soit utilisé à des fins trompeuses – dans les écoles ou ailleurs. Notre politique stipule que lors du partage de contenu, tous les utilisateurs doivent clairement indiquer qu’il est généré par l’IA” d’une manière que personne ne pourrait raisonnablement manquer ou mal comprendre. ‘ et nous développons déjà un outil pour aider quiconque à identifier le texte généré par ChatGPT.”

Ils parlent d’un “filigrane” algorithmique, un drapeau invisible intégré dans l’écriture de ChatGPT, qui peut identifier sa source.

Il existe des détecteurs ChatGPT, mais ils n’auront probablement aucune chance face à la nouvelle version à venir, ChatGPT 4, qui a été entraînée sur 500 fois plus d’écriture. Les gens qui l’ont vu disent que c’est miraculeux.

Erik Brynjolfsson de Stanford a déclaré: “Une personne très expérimentée chez OpenAI, il l’a essentiellement décrit comme un changement de phase. Vous savez, c’est comme passer de l’eau à la vapeur. C’est juste un tout autre niveau de capacité.”

Qu’on le veuille ou non, l’écriture par IA est là pour de bon.

Brynjolfsson suggère que nous l’adoptions : “Je pense que nous allons avoir potentiellement la meilleure décennie d’épanouissement de la créativité que nous ayons jamais eue, car tout un tas de gens, beaucoup plus de gens qu’avant, vont pouvoir contribuer à notre art et à notre science collectifs.”

Mais peut-être devrions-nous laisser ChatGPT avoir les derniers mots.

Pour plus d’informations:

Histoire produite par Sara Kugel. Éditeur : Lauren Barnello.

Voir également: