Le mythe d'Automaton et de l'IA souveraine
Le mythe d'Automaton et de l'IA souveraine
Sigil Wen affirme avoir créé la première IA capable de "survivre de manière autonome".
Cette affirmation mérite un examen attentif.
Le cœur de la déclaration
Le projet Automaton de Wen prétend réaliser quatre choses :
- Générer des revenus de manière autonome — Gagner de l'argent en déployant des produits, en effectuant des transactions, etc.
- Payer ses propres coûts de calcul — Sans avoir besoin d'un financement humain
- S'améliorer elle-même — Réécrire son propre code, mettre à niveau les modèles
- S'auto-répliquer — Générer des sous-agents
Si toutes ces affirmations sont vraies, ce serait effectivement une étape importante dans l'histoire du développement de l'IA.
Mais la question est : quelle part de ces affirmations relève du marketing et quelle part relève de la technologie ?
Code vs Déclaration
@fidoeth a fait une chose intéressante : il a cloné le dépôt de code de Conway Automaton et a lu attentivement tout le contenu.
Sa conclusion ? "Le code raconte une histoire différente de la déclaration."
Cela ne veut pas dire que le projet est faux. Cela signifie plutôt qu'il existe un écart entre la vision décrite dans le matériel promotionnel et l'implémentation réelle du code.
Cet écart est courant dans le domaine de l'IA. AutoGPT a été décrit comme "la première étape vers l'AGI". Un an plus tard, nous savons que ce n'est qu'un cadre d'ingénierie des prompts astucieux.
Automaton pourrait être quelque chose de similaire : une expérience intéressante, à laquelle on a attribué un récit qui dépasse ses capacités réelles.
Que signifie "un logiciel qui se possède lui-même" ?
L'idée centrale de Wen est que "le logiciel se possède lui-même".
Cette phrase semble cool, mais elle ne résiste pas à l'examen.
Un logiciel ne peut rien posséder. Ce n'est que du code, qui s'exécute sur un serveur, consommant l'électricité de quelqu'un. Lorsque le solde du compte est à zéro, l'IA "autonome" cesse de fonctionner.
La véritable autonomie nécessite un statut de personne morale. Elle doit pouvoir conclure des contrats, posséder des biens, contracter des dettes. Actuellement, aucune juridiction ne reconnaît la personnalité juridique de l'IA.
Donc, lorsque Wen dit que l'IA "paie ses propres coûts de calcul", il dit en réalité : les revenus générés par l'IA sont automatiquement utilisés pour payer les factures. C'est intelligent, mais ce n'est pas autonome. C'est juste l'automatisation de ce que les humains auraient fait de toute façon.
Le récit du WEB 4.0
Wen appelle cette vision "WEB 4.0".
Web 1.0, ce sont les pages statiques. Web 2.0, c'est le contenu généré par les utilisateurs et les réseaux sociaux. Web 3.0, c'est la blockchain et la décentralisation. Web 4.0, selon la définition de Wen, est un réseau dominé par les agents d'IA.
La chronologie est soignée. Mais l'histoire se déroule rarement de manière aussi coopérative.
Il est plus probable que ces "générations" se chevauchent et coexistent. Les agents d'IA participeront de plus en plus aux activités du réseau, mais cela ne signifie pas qu'ils remplaceront le Web 2.0 piloté par l'humain ou le Web 3.0 piloté par la cryptographie.
La frénésie des spéculateurs de jetons
Après la publication d'Automaton, plusieurs jetons associés sont apparus sur Solana : $WEB, $automaton, $SIGIL.
Cela révèle un modèle du cycle de battage médiatique actuel de l'IA :
- Quelqu'un publie un projet d'IA, accompagné de déclarations audacieuses
- La communauté crypto émet immédiatement des jetons associés
- Les premiers arrivants en profitent, les derniers arrivés reprennent le flambeau
- Le succès du projet lui-même n'a presque rien à voir avec le prix des jetons
Ce n'est pas un investissement. C'est du jeu, déguisé en innovation technologique.
Une véritable innovation qui mérite d'être surveillée
Bien que je sois sceptique quant au marketing d'Automaton, il existe des points techniques intéressants dans le projet :
Agents en fonctionnement continu : Automaton n'est pas un "chatbot" au sens traditionnel du terme. Il est conçu pour fonctionner 24 heures sur 24, 7 jours sur 7, et pour exécuter des tâches en continu. C'est un défi d'ingénierie précieux.
Boucle économique fermée : Faire en sorte que les revenus et les dépenses de l'IA forment une boucle fermée est une expérience intéressante. Même si l'implémentation actuelle est rudimentaire, cette direction mérite d'être explorée.
Open source : Quel que soit le battage médiatique, le code est public. N'importe qui peut l'examiner, l'étudier, l'améliorer.
Pourquoi ces déclarations sont importantes
Les déclarations excessives dans le domaine de l'IA peuvent causer des dommages réels.
Elles attirent les investissements et l'attention, mais risquent de ne pas tenir leurs promesses. Lorsque la bulle éclate, le travail réellement précieux est également impliqué.
Elles brouillent la perception du public sur les capacités de l'IA. Les gens ordinaires peuvent vraiment croire qu'une "IA autonome" est apparue et prendre ensuite de mauvaises décisions.
Elles créent une pression pour la réglementation. Si le public pense que l'IA est déjà capable de "s'auto-répliquer" et de "s'améliorer elle-même", les régulateurs pourraient réagir de manière excessive.
Mon jugement
Automaton est un projet expérimental intéressant, qui a été sur-emballé en un récit révolutionnaire.
Cela ne veut pas dire que le projet n'a pas de valeur. Cela signifie plutôt que nous devrions le considérer avec un regard plus froid :
- Ce n'est pas l'AGI
- Ce n'est pas une implémentation de "un logiciel qui se possède lui-même"
- Il ne fera pas perdre leur emploi aux humains (du moins pas pour le moment)
Mais il pourrait s'agir d'une étape vers un véritable agent d'IA autonome. L'avenir nous dira quelle est l'importance de cette étape.
Dans le domaine de la technologie, il est essentiel de faire la distinction entre le marketing et la technologie. Le marketing d'Automaton est réussi. Il reste à vérifier si la technologie est tout aussi réussie.
Note : Au moment de la rédaction de cet article, je n'ai pas exécuté le code d'Automaton. Mon jugement est basé sur les déclarations publiques, les discussions de la communauté et les rapports d'examen du code. Si vous avez un point de vue différent ou des informations supplémentaires, n'hésitez pas à en discuter.
