"     Pour me forger une opinion sur l’intérêt et les limites de ChatGPT, j’ai engagé un dialogue écrit avec lui. Je m’en suis tenu à une transcription fidèle mais non intégrale des textes compte tenu de la dimension maximale que je me suis tacitement donnée pour chaque année.  Pour la même raison, j’ai exceptionnellement proscrit toute illustration et utilisé les conventions suivantes appliquées à des caractères de texte réduits et variables :

• les textes de ChatGPT se distinguent  en rouge,

• les textes non retranscrits sont signalés par (…)

• mes commentaires d’accompagnement figurent en italique

• les liens sur des chroniques précédentes de baby-boomer ne changent pas

1 .Une réponse peut en cacher une autre 

Ayant l’intention de commencer ma chronique par l’année 1956 pour deux raisons :

• mes premiers souvenirs de l’informatique (que l’on n’appelait pas encore ainsi) et de l’intelligence artificielle (qui avait pris ce nom cette année-là),
• des ouvrages que j’avais compulsés avant d’interroger chatGPT pour l'écriture de la chronique consacrée aux robots, il résultait que 1956 était une date importante pour l’intelligence artificielle notamment puisque des spécialistes du sujet (qui travaillaient sur ce sujet depuis longtemps pour certains d’entre eux) s’étaient accordés sur cette dénomination.

                      je posais cette question à ChatGPT dans l'intention de vérifier si j'avais bien récolté les informations pertinentes pour rappeler ce qui avait précédé 1956 :

MOI : L'intelligence artificielle en 1956. Pouvez-vous me dire ou en était l'intelligence artificielle de son développement (en moins de deux pages).

ChatGPT : L'année 1956 marque un jalon important dans l'histoire de l'intelligence artificielle (IA), car elle est considérée comme le point de départ de ce domaine de recherche. À cette époque, l'IA était encore très embryonnaire et les progrès réalisés étaient plus théoriques que pratiques. Cependant, cette année-là, plusieurs événements et idées clés ont jeté les bases de ce qui allait devenir l'IA moderne. Voici un aperçu des développements de l'IA à la fin de l'année 1956.

J'avais confirmation de la validité du choix de 1956 comme année significative. En revanche, si je m'en étais tenu là, l'IA était considérée comme le point de départ de ce domaine de recherche, ce qui constitue de la part de ChatGPT  une assimilation de l'appellation nouvelle à une science nouvelle, ce qui aurait conduit à un résultat erroné pour un béotien ou pour un escroc voulant se faire passer pour l'auteur d'un ouvrage sur l'IA.
La suite du texte était consacrée à l'année 1956 sans évoquer plus avant ce qui avait précédé. Il faut dire à sa décharge que ma question laissait place à cette interprétation. Comme on l'a vu dans l'introduction, en la reformulant différemment, j'obtenais une réponse qui montrait que beaucoup de pistes avaient déjà été investiguées avant 1956… et que ChatGPT en savait beaucoup plus qu’il ne m’en avait dit (cf. introduction de cette chronique).

Reste à savoir si un homme moyennement intelligent et connaissant un tant soit peu l’histoire de l’intelligence artificielle aurait dans un premier temps limité celle-ci à partir de sa date de baptême.  

2 . Une réponse de ChatGPT peut aussi être très incomplète

J’ai voulu savoir si une réponse de ChatGPT pouvait être aussi peu convaincante sur une chronique récemment écrite au sujet des nouvelles utilisations du bois, sujet sur lequel je l’ai interrogé. 

Et sa réponse m'en proposait plusieurs mais omettait l’utilisation à mon avis de loin la plus novatrice de celles «qui émergent».  
MOI : Dis moi quelles sont les nouvelles techniques d'utilisation du bois

ChatGPT : Il existe de nombreuses nouvelles techniques d'utilisation du bois qui émergent et qui sont en train de révolutionner l'industrie du bois. Voici quelques exemples: (…)
MOI : Il manque dans cette liste l'utilisation du bois en filaments avec une imprimante 3D
ChatGPT : Vous avez raison, l'utilisation du bois en filaments pour les imprimantes 3D est une technique relativement nouvelle qui mérite d'être mentionnée.  (…)
En fait, ChatGPT peut faire valoir deux excuses dans ce cas:
    • son référentiel de données a été figé en septembre 2021 et ne s’enrichit que par le dialogue qu’il entretient avec ses nombreux interlocuteurs depuis son ouverture au public mondial en novembre 2022 (peut-être aurai-je un peu contribué à son éducation ?),
    • l’impression 3D s’enrichit progressivement et le bois est venu tard par rapport aux matériaux de construction (et cela ne s’arrête pas avec les tests en cours de la tôlerie des avions pour les rendre à la fois plus résistants et plus légers). Comparativement aux autres matériaux plus anciennement utilisés, il devait y avoir moins de données en septembre 2021 concernant le bois, ce qui a pu conduire ChatGPT à en minimiser l’intérêt et l’avenir de cette technique.

Pas sûr néanmoins qu’un homme moyennement intelligent et s’intéressant un tant soit peu à l’impression 3D aurait autant manqué de clairvoyance.

3 . Errare sic artificialis est..., perseverare diabolicum

Voulant évoquer un souvenir d’enfance dans cette chronique en 1956, la curiosité (sans rapport direct avec cette chronique) m’est venue d’interroger ChatGPT.

MOI : Bonjour, je souhaiterais connaître l'histoire de l'usine IBM de Corbeil-Essones (raisons de la construction en France, productions à  l'inauguration en France, évolutions depuis lors).
ChatGPT : (…) L'implantation de l'usine IBM à Corbeil-Essonnes remonte à 1962. (…).  Lors de son inauguration en 1965, l'usine de Corbeil-Essonnes se concentrait principalement sur la production de grands systèmes informatiques, notamment la gamme des systèmes (...)

Mettre 3 ans pour construire une usine me semble un délai bien long. Mais surtout, en outre :

MOI :  La date de l'inauguration est erronée. Enfant en 1956, je me souviens que mes parents m'avaient montré cette usine et m'avaient expliqué que cette firme y fabriquait des ordinateurs (sans doute m'avaient ils alors parlé de machines mécanographiques).
ChatGPT :  Je m'excuse pour l'erreur précédente. Merci de me l'avoir signalée. En effet, l'usine IBM de Corbeil-Essonnes a été inaugurée en 1959, et non en 1965. Voici des informations corrigées sur l'histoire de l'usine : (…)

Il est fort peu probable que mes parents aient pu me montrer en 1956 une usine inaugurée en 1959 puisque, selon sa réponse précédente, il fallait 3 ans entre la décision de construire et l’inauguration. ChatGPT n’a tout bonnement pas lu attentivement mon message et, partant, a ignoré tout ce qui précédait les années cinquante. J’en informe Chat GPT.
Au mieux - pour lui - il aurait pu me demander si mon souvenir remontait bien à 1956. Je lui fais part de sa nouvelle erreur en évoquant la possibilité d’une construction antérieure aux années cinquante.

ChatGPT :  Je m'excuse pour les informations erronées précédentes. (…)
En réalité, l'usine de Corbeil-Essonnes a été créée dès 1936 par la société britannique Powers-Samas, spécialisée dans les machines mécanographiques. Cette usine a été construite dans le cadre d'un partenariat avec IBM, qui détenait des parts dans la société Powers-Samas à cette époque. (...)
Je m'excuse encore une fois pour les erreurs précédentes et j'espère que ces informations corrigées vous sont utiles pour comprendre l'histoire de l'usine IBM de Corbeil-Essonnes

M0I : Pourquoi ne pas avoir commencé par là ?

ChatGPT : Je m'excuse sincèrement pour les informations erronées précédentes et pour ne pas avoir fourni les détails corrects dès le début. Je m'efforce toujours de fournir des réponses précises et fiables, mais dans ce cas, j'ai malheureusement fourni des informations inexactes lors de ma première réponse.
Je lui indique que j’ignorais ce partenariat avec  la société britannique et que, depuis 1956, je ne connaissais cette implantation que sous le nom d’usine IBM. Je lui demande quand l’évolution du partenariat a conduit à ne plus l’évoquer.

ChatGPT : (…) Au fil du temps, IBM est devenu l'actionnaire majoritaire. (...)

Nous en restons là de nos échanges à ce sujet.

4 . ChatGPT sous influence ?  

Pour la préparation de cette chronique, j'avais compulsé l'ouvrage du Chinois Kai-Fu Lee publié en 2019 "La plus grande mutation de l'Histoire". L'auteur annonce la couleur dès la page de couverture avec cette mention "Comment la Chine devient le leader de l'intelligence artificielle et pourquoi nos vies vont changer". Il y met donc clairement sa crédibilité professionnelle au service d'une propagande d'Etat annonçant les raisons de cette suprématie à venir.

MOI : Kai-Fu Lee et les atouts de la Chine pour le déploiement de l'IA

ChatGPT  résume les 4 atouts de la Chine détaillés par Kai-Fu Lee, le premier étant la disponibilité d’un volume de données considérable.

ChatGPT : (…) 1. Énorme quantité de données : La Chine compte la population la plus nombreuse au monde, ce qui lui donne un avantage en termes de collecte de données. L'IA nécessite de grandes quantités de données pour l'apprentissage et l'amélioration des modèles, et la Chine dispose d'une abondance de données démographiques, sociales et économiques qui peuvent être utilisées pour entraîner des systèmes d'IA.(...)

MOI : (…) Cet atout n'est d'ailleurs pas dû uniquement à la taille de sa population comme vous le mentionnez mais aussi au fait que le régime politique de la Chine lui permet de puiser sans limite dans la vie professionnelle et privée de ses citoyens (…). En conséquence de quoi, quelle peut être la valeur universelle des conseils donnés par les chatbots chinois à l'image de ChatGPT ?

ChatGPT : (…) Le gouvernement chinois a un accès plus étendu aux données des citoyens et peut utiliser ces données pour former des systèmes d'intelligence artificielle. Cela peut potentiellement conférer un avantage à l'IA développée en Chine en termes de précision et de performance dans certains domaines spécifiques.

Cependant, lorsqu'il s'agit de discuter de la valeur universelle des conseils donnés par des chatbots chinois ou des systèmes d'IA en général, il est important de prendre en compte plusieurs aspects.

 Suit un développement de ces trois principales conditions selon ChatGPT, lequel conclut:

 ChatGPT : Effectivement, la Chine peut avoir un avantage compétitif dans le développement de l'IA sur son propre territoire et dans des pays partageant des similitudes politiques et culturelles.

Cependant, pénétrer des environnements politiques, culturels et réglementaires différents tels que ceux de l'Europe et des États-Unis nécessite souvent des efforts d'adaptation importants. Les différences dans les valeurs, les normes, les réglementations et les attentes des utilisateurs peuvent rendre nécessaire une approche différente pour développer et déployer l'IA. (…)

 De ce dialogue, il résulte que:

• ChatGPT a conscience de ses limites: il se base sur les informations disponibles et ne peut qu’alerter sur les 3 aspects qui peuvent entacher la valeur de ses conseils, à savoir le biais des données, le contexte culturel et réglementaire et la pluralité des perspectives,

• Cette conscience ne le conduit cependant pas à en informer spontanément son interlocuteur, lequel doit être animé par le doute et faire preuve d’opiniâtreté pour lui tirer les vers de son nez artificiel, mais aussi être en mesure de relativiser ses affirmations compte tenu des informations auxquelles il a eu accès pour construire son récit.

5 . Erreurs de calculs suite à erreurs de logiques

Pour terminer – provisoirement – cette litanie des erreurs que vous pouvez rencontrer avec ChatGPT, je citerai un autre cas.

Dans la chronique Justice, afin de compléter la chronique de l’affaire Jubillar au 31 mai 2023 (chronique de juin 2023), je souhaitais exprimer en jours la durée d’emprisonnement déjà subie par le mari (parce que plus expressive que la succession de deux dates). Pour m’épargner une suite fastidieuse d’additions, je mis à contribution ChatGPT.

Bonjour ! Pour calculer le nombre de jours entre le 18 juin 2021 et le 31 mai 2023, nous pouvons effectuer les étapes suivantes :

 Calculer le nombre de jours entre le 18 juin 2021 et la fin de l'année 2021.

1. Il y a 195 jours entre le 18 juin et le 31 décembre (365 jours dans une année - 169 jours déjà passés).

2. Calculer le nombre de jours pour chaque année complète entre 2022 et 2023.

   Il y a 365 jours dans chaque année complète.

3. Calculer le nombre de jours entre le 1er janvier et le 31 mai 2023.

   Il y a 31 jours en janvier, 28 jours en février (en supposant que ce n'est pas une année bissextile), 31 jours en mars, 30 jours en avril et 31 jours en mai. Cela fait un total de 151 jours.

4. Additionner les résultats des étapes précédentes pour obtenir le nombre total de jours.195 jours (2021) + 365 jours (2022) + 365 jours (2023) + 151 jours (janvier à mai 2023) = 1 076 jours.

Donc, il y a 1 076 jours entre le 18 juin 2021 et le 31 mai 2023.

S'agissant d'une durée de l'ordre de deux ans, le nombre 1076 est manifestement inexact.  Le détail fourni permet de comprendre pourquoi ChatGPT s'est déjà fourvoyé la veille. Au vu du deuxième résultat, maintenant trop bas comme le constate un humain, je réagis :

MOI : La logique est encore erronée (comme hier) : il faut retrancher 2023 du total

ChatGPT : Je m'excuse pour l'erreur précédente. Vous avez raison, il faut retrancher l'année 2023 du total pour obtenir le bon résultat. Voici le calcul corrigé (...)

Hélas, il retranche alors en totalité l'année 2023 après avoir fait un calcul juste en ajoutant 2022 en entier aux parts des années 2021 et 2023 et chute de ce fait à 346 jours. Après s'être excusé à nouveau, il introduit, à ma demande, dans son décompte les années bissextiles et finit tout de même par ... un nombre plus proche de la réalité. Il reformule les 4 premières étapes, puis ... aboutit à une faute moins évidente à détecter que les deux premières (ajout d'une journée bissextile en 2024, soit bien au-delà de la date finale prescrite) dans :

ChatGPT : (...)   5 . Ajouter le nombre de jours bissextiles à notre total.1 jour bissextile en 2024.

6 ; Additionner les résultats des étapes précédentes pour obtenir le nombre total de jours. 195 jours (2021) + 365 jours (2022) + 151 jours (janvier à mai 2023) + 1 jour bissextile (2024) = 712 jours.

Donc, en tenant compte des années bissextiles, il y a 712 jours entre le 18 juin 2021 et le 31 mai 2023.

Pour cette fois-ci, je ne suis pas certain d'avoir gagné du temps en lui confiant cette tâche.    "

Pour aller à l'écran d'accueil, cliquez ici

  Chronique publiée le 1 juillet, le 1 août et le 1 septembre 2023

Textes entre guillemets extraits de l'Abécédaire d'un baby-boomer

Pour faire un commentaire, une suggestion, une critique, cliquez sur ce lien