ChatGPT : du mythe à la réalité

Face à l’engouement planétaire pour ChatGPT, depuis plusieurs semaines, j’ai réalisé un certain nombre d’« expériences » avec lui. Et si, lorsqu’il est en « roue libre » (par exemple pour inventer des histoires) ses productions sont spectaculaires, par contre lorsque l’on cherche à obtenir des informations fiables grâce à lui, c’est une tout autre histoire.

Or les interviews de Terence Tao dans le numéro de mai 2023 de Sciences et Avenir – La Recherche (pages 42-44) et d’Étienne Ghys sur le site du journal Le Monde le 10/05/2023 pourraient laisser entendre que ChatGPT, en particulier dans le domaine des Mathématiques, pourrait être un collaborateur précieux.

Il est possible que Terence Tao et Étienne Ghys plaisantaient, mais en tant que personnalités scientifiques de premier plan, leur avis compte et est écouté.

Les expériences que j’ai donc faites avec ChatGPT et qui sont décrites sur cette page montrent qu’il ne peut être ce collaborateur précieux évoqué et que la vigilance s’impose. Encore une fois, en Mathématiques, il est capable, très « sérieusement », par exemple, de nous offrir des dizaines de théorèmes de Fermat tous plus « folkloriques » les uns que les autres et qui contiennent, en particulier, des erreurs grossières et élémentaires (par exemple le fait que 17 ne soit pas un nombre premier ou encore qu’entre deux nombres entiers CONSÉCUTIFS il y ait toujours au moins un nombre premier !). Et parmi tous « ces théorèmes de Fermat », quels sont les « bons » ?

Étant donné le fonctionnement et les principes du modèle GPT, on voit difficilement d’ailleurs comment ce genre de productions anormales pourraient être corrigées : il semble que l’on soit peut-être plus loin que l’on pouvait le croire d’une intelligence artificielle capable de rivaliser avec les meilleurs d’entre-nous.

Or, il est clair que ChatGPT menace, en particulier, d’envahir l’enseignement aussi bien au niveau des études classiques (il est bon pour faire des dissertations…) que scientifiques (revoir les commentaires de Terence Tao et d’Étienne Ghys). Son usage, s’il se répandait universellement, pourrait menacer de voir émerger de nouveaux « platistes » dans tous les domaines.