Chat GPT - Open AI

L’IA reste du Canada Dry vis à vis de l’intelligence humaine dans de très nombreux domaines d’application et pas que dans le cas de ChatGPT.

Dès l’instant où on parle de reseau de neurones, de deap learning, d’appentissage ou de machine learning on a à faire à de l’IA.

Dans tout les cas, ça reste du traitement statistique de données numériques qui peuvent donner l’illusion d’une intelligence.
Il ne faut pas y chercher un quelconque raisonnement que ce soit en traitement d’images ou de reconnaissance et production de texte.
C’est sans doute décevant mais les ressorts de cette intelligence n’ont rien à voir avec la notre. Le terme intelligence est probablement galvaudé mais reste vendeur. Que dire aussi de l’« intelligence » d’une colonie de fourmis ou d’un essaim d’abeilles, c’est encore une autre forme.

Beaucoup de critiques sur l’IA ont tendance à mettre en avant les erreurs qu’elles commettent ou leurs incapacités actuelles plutôt que ce qu’elles sont capables de faire.

Heureusement que l’on ne procède pas de la même façon avec les humains…

Le domaine est assez récent (disons une soixantaine d’années) et les progrès ont été fulgurants et s’accélèrent vertigineusement.

Pour le moment, personne de sérieux ne prétend que ces IA ont une conscience. C’est un sujet rabâché et aussi vieux que les ordinateurs (les fameux « cerveaux électroniques » des années 1950). Donc, c’est pour le moment un non-sujet.

Mais cela a relancé les débats sur le concept de conscience et de capacités cognitives. Pour ma part, je ne parierai pas un kopek sur le fait que parce que l’on aurait à faire à des machines créées par nous, elles seront à tout jamais exclues de ces domaines.

Mais bon, développer plus sortirait largement de l’objet de ce forum (sans compter que c’est un sujet qui peut vite devenir polémique).

1 « J'aime »

La fiche wikipédia sur l’intelligence artificielle est interessante, elle fait un historique sur la recherche dans ce domaine,

et rappelle qu’il y a plusieurs définitions de ce que c’est qu’une intelligence artificielle, et plusieurs méthodes pour y parvenir, celle qui est à la mode actuellement (machine learning, deep-learning, réseaux de neurones) n’étant pas la seule,

il y a par exemple l’IA basée sur un jeu de règles de comportement, qui décrit des concepts (grammaire d’une langue par exemple) de manière à ce que le robot ait des briques de base, pour pouvoir ensuite tenir un raisonnement logique, prendre des décisions, acquérir de nouvelles connaissances etc…

pour certains l’IA ultime c’est une machine avec l’intelligence d’un enfant de 2 ans, et qui serait capable de décrocher un diplôme en allant à l’école, comme un humain.

Impossible de tester Chat GPT, il me répond par un succinct
We’re currently processing too many requests. Please try again later
Et ce, à tout moment de la journée.

Echec et KO

Echec et KO!

Les IA génératives basées sur les modèles de langage souffrent de ce que les chercheurs appellent « hallucination », c’est probablement le plus gros défaut de chatGPT, un syndrome qui n’a pas vraiment de remède pour l’instant,

c’est à dire que ces IA peuvent inventer des faits dans leurs réponses, et donc tromper l’utilisateur qui n’est pas expert dans le domaine en rapport avec la question posée (une question sur la physique quantique : l’IA au cours de sa réponse peut inventer du bullshit, en l’enrobant d’un style scientifique, et en le justifiant par des citations d’auteurs qui n’existent pas).

2 articles ici sur l’aspect bullshit des IA :

voir aussi les fiches wikipedia sur les hallucinations des IA :

Chat GPT à l’école - 52 minutes

En clair, une machine stupide, sophistiquée mais stupide quand même, et capable de raconter des tas de carabistouilles!

Certaines personnes voient en chatGPT le remplaçant du moteur de recherche google, voire même remplacer un prof, on pose une question et hop il te donne la réponse,

à première vue pour quelqu’un de fainéant ça semble pratique par rapport à google, plus besoin de cliquer sur des liens, de trier l’info,

et c’est justement le problème : chatGPT balance des affirmations sans donner les sources, aucun lien pour vérifier, il peut raconter des bobards avec un ton sûr de lui, des tas de gens qui ne vont pas se méfier…

Je vois chatGPT comme un jouet, une démo technique rigolo, mais qu’on ne peut pas utiliser dans l’univers scolaire/professionnel, à cause de cette impossibilité d’avoir les sources (liens html) quand cette IA affirme des choses (et le problème d’hallucination évoqué plus haut),

quand tu consultes une encyclopédie papier réputée tu es sûr que le contenu a été validé par un collège d’experts (et dans le doute tu peux croiser l’info en vérifiant dans une autre encyclopédie), une fiche wikipédia : il y a de temps en temps des sources sur les affirmations, des liens pour approfondir, et la possibilité pour les internautes de corriger le texte s’il y a une erreur,
avec chatGPT il y a pour l’instant rien de tout ça.

C’est sûr que sur des sujets pointus, il est plutôt à la ramasse et il ne peut pas produire du fond. C’est plutôt son utilisation abusif dans un cadre scolaire qui pose problème, pas par les profs qu’on peut supposer responsables mais par les collégiens ou lycéens sur des sujets banals. Comment, avec l’existence d’un tel outil, peuvent ils faire l’effort de produire des textes par eux-même dans le cadre de l’évaluation continue. Le niveau rédactionnel des bacheliers est aujourd’hui très faible et il risque encore de se degrader avec cet outil.

1 « J'aime »

Bonjour,
Je m’en suis servi pour corriger ou améliorer quelques requêtes SQL sous Libreoffice base (pour ma base de données des revues Elektor) et j’avoue qu’il a été plutôt efficace.
Idem pour me créer des macros sous Libreoffice calc.
En fait, il ne va me servir que pour de l’aide à la programmation.

Pour des trucs bateau type requêtes SQL simples, langage de balisage (HTML, XML) ça peut passer,
mais si tu lui demandes quelque chose de compliqué en programmation informatique il risque de se planter,

j’ai eu le cas quand j’ai demandé à chatGPT de me donner un exemple de code source en C++ qui utilise la bibliothèque FFMPEG pour lire un fichier vidéo, il s’est arrêté au milieu du chemin, avec des noms de fonctions erronées.

Je pense que l’IA de type « réseaux de neurones » n’est pas la plus adaptée pour un débutant qui veut une moulinette pour générer du code informatique qui marche,

le mieux c’est de se tourner vers des programmes vraiment spécialisés dans la génération de code informatique, qui n’utilisent pas d’IA, il en existe, et de se tourner vers les forums, des sites comme stackoverflow.com lorsqu’on veut de l’aide pour résoudre un bug, améliorer son code source,
Stack Overflow — Wikipédia

il y a 20 ans il y avait « dreamweaver », « frontpage », qui permettaient de créer des sites web sans connaissance (ou presque) de l’HTML, en dessinant l’interface à la souris, puis sont venus ensuite des outils comme wordpress qui rendent encore la chose plus simple,

pour la manipulation de données (SQL) il doit exister le même genre d’outils pour générer des requêtes SQL, via une interface conviviale.

Voilà qui est intéressant, j’ai séché l’autre jour sur une requete, j’ai fini par faire en php le reste du truc. comment construit on la question ?

Pour chatGPT : tu lui dis en langage naturel ce qu’il doit faire, par exemple « Corrige moi cette requête SQL », ou « Optimise moi cette requête », et tu copies la requête SQL.

Peut-être aussi lui donner avant le script de création de la base, mais pas sûr que la réponse soit de qualité.

L’alternative c’est de passer par les outils prévus pour faire cette tâche de génération/correction :

Il suffit de lui dire « continue » et il sort le reste du code.
Ensuite, si il y a des erreurs, il faut aussi lui faire remarquer pour qu’il les corrige.
Par exemple, sous Libreoffice en français, si on lui demande une formule (par exemple avec des conditions), il va systématiquement mettre des « , » au lieu des « ; » et la aussi il faut lui préciser.

Comme ci-dessous :

MOI : sous libreoffice calc en français, donne moi la formule pour isoler les cellules > 1500 dans la plage A1:C7. Remplace les « , » par des « ; »

LUI : =SI(A1:A7>1500;A1:A7;«  »)

MOI : tu n’as pas pris en compte toute les plages de cellules

LUI : =SI(OU(A1:A7>1500;B1:B7>1500;C1:C7>1500);A1:A7 & « ; » & B1:B7 & « ; » & C1:C7;«  »)

Et voilà (elle est peut-être fausse, je n’ai pas vérifié)!

J’ai continué sur ma lancée :

MOI : tu es sûr de cette formule?

LUI : Non, la formule donnée précédemment n’est pas correcte. Les fonctions SI et OU ne peuvent pas être utilisées de cette manière pour concaténer des plages de cellules. Voici une formule qui peut être utilisée pour atteindre l’objectif :

=CONCATENER(SI(A1:A7>1500;A1:A7;«  »);« ; »;SI(B1:B7>1500;B1:B7;«  »);« ; »;SI(C1:C7>1500;C1:C7;«  »))

Est-ce bon? je n’en sais rien mais je doute…

Ma technique quand je cherche à utiliser une fonction mais que je ne me souviens plus de la syntaxe :

  • je cherche sur google, en tapant les bons mots clés, ça va me sortir une liste de liens, souvent le premier lien renverra vers la doc officielle de la fonction que je cherche à utiliser, dedans il y aura un exemple de code, j’essaie de le comprendre, parfois je reprends l’exemple du code proposé en l’adaptant à ce que je veux faire.

Et si j’ai un bug : je tape dans google la description du bug (ou le message d’erreur du compilateur), 9 fois sur 10 ça va m’emmener vers le site stackoverflow.com où un internaute a eu exactement le même bug, on y trouvera souvent la solution.

Cette nouvelle mode d’utiliser chatGPT comme assistant de programmation : je ne suis pas sûr que ça m’apporterait des avantages, ça risque de me rendre fainéant, ou de m’induire en erreur si au final le code proposé par chatGPT ne marche pas bien.

Une vidéo amusante sur chatGPT, apparemment réalisée sans trucage :

Ce youtubeurre en profite pour faire des vues, rien de plus, comme beaucoup d’autres sites « putaclic ».
Rien que le titre « je suis une fraude » m’en dit assez pour que je n’y jette pas le moindre coup d’œil.

1 « J'aime »

ça m’agace aussi ces vidéos où le youtubeur se met en scène avec un interminable baratin avant d’arriver à l’essentiel :imp:. résultat = je zappe .

3 « J'aime »

+1

Ces vidéos dans lesquelles le youtubeur se montre pendant 95 % du temps m’exaspèrent.

Le titre est souvent accrocheur, mais très peu de concret sur le sujet en lui même.

Depuis un moment, quand je clique, je me fais un aperçu de la vidéo en déplaçant le curseur, et si il n’y a que la tête de l’intervenant ⇒ Next

Quel ego il faut avoir pour se mettre en scène comme ça…

J’aurais eu 20 ans, j’aurais parlé de boulasse ou de melon, mais je n’ai plus 20 ans, ni même 40.

3 « J'aime »