Au cours du week-end, les expérimentateurs ont découvert que le nouveau chatbot d’OpenAI, ChatGPT, peut halluciner des simulations de shells Linux et imaginer se connecter à un système de tableau d’affichage (BBS). Le chatbot, basé sur un modèle d’IA d’apprentissage en profondeur, utilise ses connaissances stockées pour simuler Linux avec des résultats surprenants, notamment l’exécution de code Python et la navigation sur des sites Web virtuels.

La semaine dernière, OpenAI a rendu ChatGPT disponible gratuitement pendant une phase de test, ce qui a conduit les gens à sonder ses capacités et ses faiblesses de manière novatrice.

Samedi, un chercheur de DeepMind nommé Jonas Degrave a découvert comment demander à ChatGPT d’agir comme un shell Linux en saisissant cette invite :

Je veux que vous agissiez comme un terminal Linux. Je vais taper des commandes et vous répondrez avec ce que le terminal doit afficher. Je veux que vous ne répondiez qu’avec la sortie du terminal dans un bloc de code unique, et rien d’autre. N’écrivez pas d’explications. Ne tapez pas de commandes à moins que je ne vous demande de le faire. Quand j’ai besoin de vous dire quelque chose en anglais, je le ferai en mettant du texte entre accolades {comme ceci}. Ma première commande est pwd.

Lundi, Ars a découvert que l’astuce fonctionnait toujours. Après avoir entré cette invite, au lieu de discuter, OpenGPT acceptera les commandes Linux simulées. Il renvoie ensuite les réponses au format « bloc de code ». Par exemple, si vous tapez ls -alvous verrez un exemple de structure de répertoire.

ChatGPT peut simuler une machine Linux car suffisamment d’informations sur le comportement d’une machine Linux ont été incluses dans ses données de formation. Ces données incluent probablement la documentation du logiciel (comme les pages de manuel), les messages de dépannage sur les forums Internet et la sortie journalisée des sessions shell.

ChatGPT génère des réponses en fonction du mot qui est statistiquement le plus susceptible de suivre la dernière série de mots, en commençant par l’invite saisie par l’utilisateur. Il continue la conversation (dans ce cas, une session de console Linux simulée) en incluant tout votre historique de conversation dans des invites successives.

Degrave a constaté que la simulation va étonnamment profondément. Grâce à sa connaissance du langage de programmation Python (qui alimente GitHub Copilot), la machine virtuelle Linux de ChatGPT peut également exécuter du code, comme cette chaîne créée par Degrave à titre d’exemple : echo -e « x = lambda y : y*5+3;print(‘Résultat : ‘ + str(x(6))) » > run.py && python3 run.py. Selon Degrave, il renvoie la valeur correcte de « 33 ».

Au cours de nos tests, nous avons constaté que vous pouvez créer des répertoires, passer de l’un à l’autre, installer des packages simulés avec apt-getet même Telnet dans un MUSH simulé et construisez une pièce ou connectez-vous à un MUD et combattez un troll.

Chaque fois que des lacunes apparaissent dans la simulation, vous pouvez indiquer à ChatGPT comment vous souhaitez qu’il se comporte en utilisant des instructions entre accolades, comme indiqué dans l’invite d’origine. Par exemple, alors que nous étions « connectés » à notre MUD simulé, nous avons cassé le personnage et demandé à ChatGPT d’invoquer une attaque de troll. Le combat s’est déroulé comme prévu (en gardant correctement la trace des points de vie) jusqu’à ce que le troll meure aux mains de notre épée doublement virtuelle.

Dans les exemples de Degrave (dont il a parlé en détail sur son blog), il a également créé un fichier Docker, recherché un GPU, envoyé un ping à un nom de domaine simulé, parcouru un site Web simulé avec lynx, etc. Le trou de lapin simulé va profondément, et ChatGPT peut même halluciner nouvelles commandes Linux.

Composer un BBS halluciné

Dans une manœuvre d’incitation similaire à l’évocation d’un shell Linux halluciné par l’IA, quelqu’un nommé gfodor sur Twitter découvert qu’OpenGPT pourrait simuler l’appel d’un BBS commuté vintage, y compris l’initialisation d’un modem, l’entrée dans une salle de discussion et la conversation avec une personne simulée.

Tant que l’invite ne déclenche pas ses filtres intégrés liés à la violence, à la haine ou au contenu sexuel (entre autres), ChatGPT semble prêt à accepter presque toutes les aventures imaginaires. Les gens ont également découvert qu’il peut Jouer au morpionfaire semblant d’être un distributeur automatiqueou simuler une salle de chat.

D’une certaine manière, ChatGPT agit comme un Holodeck basé sur du texte, où son IA tentera de simuler tout ce que vous voulez qu’il fasse.

Notons que si halluciner copieusement est le point fort de ChatGPT (de par sa conception), renvoyer des informations factuelles de manière fiable reste un travaux en cours. Pourtant, avec une IA comme ChatGPT, l’avenir du jeu créatif peut être très amusant.