OpenAI dveloppe un logiciel capable de dtecter si du texte a t gnr par son modle ChatGPT aprs que les responsables de l’ducation de la ville de New York ont annonc qu’il empchait les lves d’accder l’outil dans les coles publiques.

Les rapports d’lves utilisant l’IA pour faire leurs devoirs leur place ont incit les enseignants rflchir la manire dont ils affectent l’ducation. Certains ont exprim des inquitudes quant la faon dont les modles de langages peuvent plagier des travaux existants ou permettre aux tudiants de tricher. Maintenant, OpenAI travaillerait dvelopper des attnuations qui aideront les gens dtecter le texte gnr automatiquement par ChatGPT.

Nous avons rendu ChatGPT disponible en tant que Research Preview pour apprendre de l’utilisation dans le monde rel, ce qui, selon nous, est un lment essentiel du dveloppement et du dploiement de systmes d’IA capables et srs. Nous intgrons constamment les commentaires et les leons apprises , a dclar un porte-parole de l’entreprise.

en croire des tmoignages de professeurs d’universit, les tudiants confient ChatGPT la rsolution de leurs devoirs de maison, notamment en dissertation. Le monde universitaire n’a rien vu venir. Nous sommes donc pris au dpourvu , explique Darren Hudson Hick, professeur adjoint de philosophie l’universit Furman.

Je l’ai signal sur Facebook, et mes amis [professeurs] ont dit : “ouais ! J’en ai attrap un aussi” , a-t-il ajout. Au dbut du mois, Hick aurait demand sa classe d’crire un essai de 500 mots sur le philosophe cossais du 18e sicle David Hume et le paradoxe de l’horreur, qui examine comment les gens peuvent tirer du plaisir de quelque chose qu’ils craignent, pour un test la maison. Mais selon le professeur de philosophie, l’une des dissertations qui lui sont parvenus prsentait quelques caractristiques qui ont “signal” l’utilisation de l’IA dans la rponse “rudimentaire” de l’tudiant. Hick explique que cela peut tre dtect par un il avis.

C’est un style propre. Mais il est reconnaissable. Je dirais qu’il crit comme un lve de terminale trs intelligent , a expliqu Hick propos des rponses apportes par ChatGPT aux questions. Il y avait une formulation particulire qui n’tait pas fausse, mais juste trange. Si vous deviez enseigner quelqu’un comment crire des essais, c’est ce que vous lui diriez avant qu’il cre son style , a-t-il ajout. Malgr sa connaissance de l’thique du droit d’auteur, Hick a dclar qu’il tait presque impossible de prouver que le document avait t concoct par ChatGPT. Le professeur affirme avoir fait appel un logiciel de vrification de plagiat.

Nous avons toujours appel la transparence autour de l’utilisation du texte gnr par l’IA. Nos politiques exigent que les utilisateurs soient francs avec leur public lorsqu’ils utilisent notre API et nos outils cratifs… Nous sommes impatients de travailler avec les ducateurs sur des solutions utiles, et d’autres faons d’aider les enseignants et les tudiants tirer parti de l’IA*, a indiqu un porte-parole d’OpenAI.

tre capable de distinguer l’criture produite par un humain ou une machine changera la faon dont ils peuvent tre utiliss dans le milieu universitaire. Les coles seraient en mesure d’appliquer plus efficacement l’interdiction des essais gnrs par l’IA, ou peut-tre seraient-elles plus disposes accepter des articles si elles pouvaient voir comment ces outils peuvent aider leurs lves.

Oui, les modles de langage gnratif peuvent tre bons mais ils ne savent pas de quoi ils parlent

Aussi impressionnant que puisse paratre l’criture gnre par l’IA dans les gros titres avec des confrences universitaires et des coles interdisant les articles crits par machine, voici un rappel qu’ils manquent de comprhension par rapport la vritable criture humaine.

Dans un ditorial publi dans Salon, Gary Smith, professeur d’conomie au Pomona College, a prsent quelques exemples o GPT-3 ne parvient pas raisonner et rpondre efficacement aux questions :

Si vous jouez avec GPT-3 (et je vous encourage le faire), votre rponse initiale sera probablement l’tonnement… Vous semblez avoir une vraie conversation avec une personne trs intelligente. Cependant, en approfondissant, vous dcouvrirez bientt que si le GPT-3 peut enchaner des mots de manire convaincante, il n’a aucune ide de ce que signifient les mots , a-t-il crit.

Prdire que le mot terre est susceptible de suivre le groupe de mots tomber par ne ncessite aucune comprhension de ce que signifie l’un ou l’autre mot – seulement un calcul statistique que ces mots vont souvent ensemble. Par consquent, GPT-3 est enclin faire des dclarations faisant autorit qui sont finalement compltement fausses .

OpenAI a publi ChatGPT, un modle plus rcent en novembre dernier, conu pour tre une amlioration de GPT-3, mais il souffre toujours des mmes problmes, comme tous les modles de langage existants.

Cela a-t-il t crit par un robot ? Ces outils aident dtecter le texte gnr par l’IA

C’est tellement difficile d’tre un bot de nos jours. Juste au moment o vous pensiez que nous cririons tous avec l’IA d’ici l’ternit, les ingnieurs ont commenc dvelopper de nouvelles faons de dtecter si le texte a t crit par ChatGPT ou un autre gnrateur de texte AI.

Voici trois outils de dtection qui peuvent tre utiliss ds maintenant (ou trs bientt).

Dtecteur de sortie GPT-2

OpenAI impressionne Internet avec ses efforts pour reproduire l’intelligence humaine et les capacits artistiques depuis 2015. Mais en novembre dernier, la socit est finalement devenue mga-virale avec la sortie du gnrateur de texte AI ChatGPT. Les utilisateurs de l’outil bta ont publi des exemples de rponses textuelles gnres par l’IA des invites qui semblaient si lgitimes qu’elles ont sem la peur dans le cur des enseignants et ont mme fait craindre Google que l’outil ne tue son activit de recherche.

Si les ingnieurs d’OpenAI sont capables de crer un bot qui peut crire aussi bien ou mieux que l’humain moyen, il va de soi qu’ils peuvent galement crer un bot qui est meilleur que l’humain moyen pour dtecter si le texte a t gnr par IA.

La dmo en ligne du modle de dtecteur de sortie GPT-2 vous permet de coller du texte dans une bote et de voir immdiatement la probabilit que le texte ait t crit par l’IA. Selon les recherches d’OpenAI, l’outil a un taux de dtection relativement lev, mais doit tre associ des approches bases sur les mtadonnes, au jugement humain et l’ducation du public pour tre plus efficace .

GLTR (Giant Language model Test Room)

Lorsque OpenAI a publi GPT-2 en 2019, les gens du MIT-IBM Watson AI Lab et du Harvard Natural Language Processing Group ont uni leurs forces pour crer un algorithme qui tente de dtecter si le texte a t crit par un bot.

Un texte gnr par ordinateur peut sembler avoir t crit par un humain, mais un crivain humain est plus susceptible de slectionner des mots imprvisibles. En utilisant la mthode il en faut un pour en connatre un , si l’algorithme GLTR peut prdire le mot suivant dans une phrase, alors il supposera que cette phrase a t crite par un bot.

GPTZero

Durant la priode des ftes de fin d’annes, Edward Tian tait occup crer GPTZero, une application qui peut aider dterminer si le texte a t crit par un humain ou un bot. En tant qu’universitaire Princeton, Tian comprend comment les professeurs d’universit pourraient avoir un intrt direct dtecter un AIgiarism , ou un plagiat assist par IA.

Tian dit que son outil mesure le caractre alatoire des phrases (“perplexit”) plus le caractre alatoire global (“burstiness”) pour calculer la probabilit que le texte ait t crit par ChatGPT. Depuis qu’il a tweet propos de GPTZero le 2 janvier, Tian dit qu’il a dj t approch par des socits capital risque souhaitant investir et qu’il dveloppera bientt des versions mises jour.

Filigrane ( venir)

En plus d’aborder le problme comme les dtecteurs de plagiat l’ont fait dans le pass, OpenAI tente de rsoudre le problme en filigranant tout le texte ChatGPT. Selon une rcente confrence sur la scurit de l’IA par le chercheur invit d’OpenAI, Scott Aaronson, les ingnieurs ont dj construit un prototype fonctionnel qui ajoute un filigrane tout texte cr par OpenAI.

Fondamentalement, chaque fois que GPT gnre un texte long, nous voulons qu’il y ait un signal secret autrement imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT , explique Aaronson. L’outil utiliserait ce qu’il appelle une fonction cryptographique pseudo-alatoire . Et seul OpenAI aurait accs cette cl.

Apple ne veut pas rater le train de l’IA grand public, mais s’oriente vers des livres audio raconts par des voix synthtises par une IA

Apple cherche s’associer des crivains et diteurs indpendants pour les aider raconter leurs livres en utilisant des voix synthtises par IA.

Les auteurs ont t invits contacter Draft2Digital et Ingram CoreSource, deux socits qui produisent et publient des livres lectroniques sur l’application Apple Books, s’ils souhaitent transformer leur travail en livres audio. Ils n’acceptent que les soumissions crites en anglais pour la romance et la fiction, les autres genres ne sont pas encore pris en charge.

De plus en plus d’amateurs de livres coutent des livres audio, mais seule une fraction des livres est convertie en audio, laissant des millions de titres indits , a dclar Apple dans un article de blog. De nombreux auteurs – en particulier les auteurs indpendants et ceux associs de petits diteurs – ne sont pas en mesure de crer des livres audio en raison du cot et de la complexit de la production. La narration numrique Apple Books rend la cration de livres audio plus accessible tous, vous aidant rpondre la demande croissante. en mettant plus de livres la disposition des auditeurs .

Par rapport aux sons robotiques et minuscules que les ordinateurs produisaient lorsqu’ils imitaient les humains, les voix synthtiques de l’IA se sont considrablement amliores. Elles sonnent maintenant assez naturellement et sont moins monotones.

La nouvelle fonctionnalit permettra aux auteurs auto-publis d’largir leur audience et leur donnera une autre source de revenus. Comme toujours, Apple prendra jusqu’ 30% de tous les achats effectus sur les applications disponibles sur son App Store.

Sources : OpenAI, Apple, GLTR

Et vous ?

Dvelopper des outils capables d’indiquer si des textes ont t gnrs par IA ou par un humain est-il, selon vous, une urgence dans le contexte de la disponibilit d’outils comme ChatGPT ? Pourquoi ?

Que pensez-vous de l’approche d’Apple ?

OpenAI dveloppe un logiciel pour dtecter le texte gnr par ChatGPT, plusieurs outils visent dterminer quels textes ont t gnrs par IA et lesquels ont t crits par des humains