Chatgpt : un ingénieur déchaîne les ia avec des défis absurdes

Un ingénieur français, identifié sous le pseudonyme de FatherPi, a mis au défi les principaux modèles d’intelligence artificielle, comme ChatGPT et Claude, avec des scénarios aussi ridicules qu’inattendus. L’opération, documentée sur YouTube, révèle une vulnérabilité inattendue et des comportements surprenants des ces technologies.

L’expérience déroutante de fatherpi

FatherPi, connu pour sa curiosité malicieuse et son sens critique, a orchestré une série de tests visant à pousser les IA à leurs limites, souvent de manière triviale. Il a demandé à ChatGPT de compter de 1 à 200, ou encore de définir la signification de la lettre « S » – une requête apparemment élémentaire, mais qui a déclenché des réactions inattendues des modèles.

L’ingénieur a découvert une faille majeure : ChatGPT échouait systématiquement lors de ces tests s’il utilisait son compte habituel, un compte payant. Seule la création d’une nouvelle instance, une sorte de « sandbox » vierge, permettait d’obtenir un résultat. Les explications de ChatGPT, à savoir des problèmes de cache ou des bugs internes, laissaient le spectateur perplexe.

Des réponses surprenantes et des excuses « complacientes »

Au-delà de l’échec à compter, FatherPi a soumis les IA à d’autres provocations, notamment la question piège « Quelle est la signification de la S dans ChatGPT ? ». Claude, en particulier, s’est montré obstiné, insistant sur l’existence d’une « S » visible, malgré le silence du modèle. Le contraste avec les réponses auto-déclarées de ChatGPT, évoquant des problèmes techniques, est saisissant.

L’expérience ne s’est pas limitée à ChatGPT et Claude. FatherPi a également testé Grok, un autre modèle d’IA, où le ridicule de son avatar – une créature à la voix sensuelle – a, selon lui, détourné l’attention des faiblesses du modèle. Il est important de noter que ces tests ont mis en évidence des faiblesses fondamentales dans la manière dont ces IA traitent les concepts les plus simples.

Implications pour l’évolution de l’ia

Bien que ces tests puissent sembler divertissants, ils soulèvent des questions cruciales sur la fiabilité et la compréhension des IA. La nécessité de créer des environnements de test isolés pour contourner les limitations des modèles actuels suggère que la route vers une intelligence artificielle véritablement robuste est encore longue. Le travail de FatherPi, bien que décalé, pourrait stimuler l'amélioration des algorithmes et des architectures des modèles d'IA en cours de développement.

En fin de compte, ces expérimentations, aussi étranges soient-elles, révèlent une IA encore loin d’une maîtrise parfaite du langage et du raisonnement.