Automaton et le mythe de l'IA souveraine

Sigil Wen affirme avoir créé la première IA capable de "survivre de manière autonome".

Cette affirmation mérite un examen attentif.

Le cœur de la déclaration

Le projet Automaton de Wen prétend faire quatre choses :

1. Générer des revenus de manière autonome — Gagner de l'argent en déployant des produits, en effectuant des transactions, etc.
2. Payer ses propres coûts de calcul — Sans avoir besoin d'un financement humain
3. S'améliorer elle-même — Réécrire son propre code, mettre à niveau les modèles
4. S'auto-répliquer — Générer des sous-agents

Si toutes ces affirmations sont vraies, ce serait en effet une étape importante dans l'histoire du développement de l'IA.

Mais la question est : quelle part de ces affirmations relève du marketing et quelle part de la technologie ?

Code vs Déclaration

@fidoeth a fait une chose intéressante : il a cloné le dépôt de code de Conway Automaton et a lu attentivement tout le contenu.

Sa conclusion ? "Le code raconte une histoire différente de la déclaration."

Cela ne veut pas dire que le projet est faux. Cela signifie plutôt qu'il existe un écart entre la vision décrite dans le matériel promotionnel et l'implémentation réelle du code.

Cet écart est courant dans le domaine de l'IA. AutoGPT a été décrit comme "la première étape vers l'AGI". Un an plus tard, nous savons que ce n'est qu'un cadre d'ingénierie de prompts astucieux.

Automaton pourrait être quelque chose de similaire : une expérience intéressante, dotée d'un récit qui dépasse ses capacités réelles.

Que signifie "le logiciel se possède lui-même" ?

L'idée centrale de Wen est que "le logiciel se possède lui-même".

Cette phrase semble cool, mais elle ne résiste pas à l'examen.

Un logiciel ne peut rien posséder. Ce n'est que du code, qui s'exécute sur un serveur, consommant l'électricité de quelqu'un. Lorsque le solde du compte est nul, l'IA "autonome" cesse de fonctionner.

La véritable autonomie nécessite un statut de personne morale. Elle doit pouvoir conclure des contrats, posséder des biens, contracter des dettes. Actuellement, aucune juridiction ne reconnaît la personnalité juridique de l'IA.

Donc, lorsque Wen dit que l'IA "paie ses propres coûts de calcul", il dit en fait : les revenus générés par l'IA sont automatiquement utilisés pour payer les factures. C'est intelligent, mais ce n'est pas autonome. C'est juste l'automatisation de ce que les humains feraient normalement.

Le récit du WEB 4.0

Wen appelle cette vision "WEB 4.0".

Web 1.0, ce sont les pages statiques. Web 2.0, c'est le contenu généré par les utilisateurs et les réseaux sociaux. Web 3.0, c'est la blockchain et la décentralisation. Web 4.0, selon la définition de Wen, est un réseau dominé par les agents d'IA.

La chronologie est soignée. Mais l'histoire coopère rarement autant.

Il est plus probable que ces "générations" se chevauchent et coexistent. Les agents d'IA participeront de plus en plus aux activités du réseau, mais cela ne signifie pas qu'ils remplaceront le Web 2.0 piloté par l'homme ou le Web 3.0 piloté par la cryptographie.

La frénésie des spéculateurs de jetons

Après la publication d'Automaton, plusieurs jetons associés sont apparus sur Solana : $WEB, $automaton, $SIGIL.

Cela révèle un schéma du cycle de battage médiatique actuel de l'IA :

1. Quelqu'un publie un projet d'IA, accompagné de déclarations audacieuses
2. La communauté crypto émet immédiatement des jetons associés
3. Les premiers arrivants en profitent, les derniers arrivants reprennent le flambeau
4. Le succès du projet lui-même n'a presque rien à voir avec le prix des jetons

Ce n'est pas un investissement. C'est du jeu, déguisé en innovation technologique.

Véritables innovations à surveiller

Bien que je sois sceptique quant au marketing d'Automaton, il existe des points techniques intéressants dans le projet :

Agents en fonctionnement continu : Automaton n'est pas un "chatbot" au sens traditionnel du terme. Il est conçu pour fonctionner 24h/24 et 7j/7, exécutant des tâches en continu. C'est un défi d'ingénierie précieux.

Boucle économique fermée : Faire en sorte que les revenus et les dépenses de l'IA forment une boucle fermée est une expérience intéressante. Même si l'implémentation actuelle est rudimentaire, cette direction mérite d'être explorée.

Open source : Quelle que soit l'exagération du marketing, le code est public. N'importe qui peut l'examiner, l'apprendre, l'améliorer.

Pourquoi ces déclarations sont importantes

Les déclarations excessives dans le domaine de l'IA peuvent causer des dommages réels.

Elles attirent des investissements et de l'attention, mais peuvent finalement ne pas tenir leurs promesses. Lorsque la bulle éclate, le travail réellement précieux est également impliqué.

Elles brouillent la perception du public sur les capacités de l'IA. Les gens ordinaires peuvent vraiment croire qu'une "IA autonome" est apparue, puis prendre de mauvaises décisions.

Elles créent une pression pour la réglementation. Si le public pense que l'IA est déjà capable de "s'auto-répliquer" et de "s'auto-améliorer", les régulateurs pourraient réagir de manière excessive.

Mon jugement

Automaton est un projet expérimental intéressant, sur-emballé dans un récit révolutionnaire.

Cela ne veut pas dire que le projet n'a pas de valeur. Cela signifie plutôt que nous devrions le considérer avec un regard plus calme :

• Ce n'est pas l'AGI
• Ce n'est pas une implémentation de "le logiciel se possède lui-même"
• Cela ne fera pas perdre leur emploi aux humains (du moins pas pour le moment)

Mais cela pourrait être une étape vers un véritable agent d'IA autonome. L'avenir nous dira l'importance de cette étape.

Dans le domaine de la technologie, il est essentiel de faire la distinction entre le marketing et la technologie. Le marketing d'Automaton est un succès. Il reste à vérifier si la technologie est tout aussi réussie.

---

Note : Au moment de la rédaction de cet article, je n'ai pas exécuté le code d'Automaton. Mon jugement est basé sur les déclarations publiques, les discussions de la communauté et les rapports d'examen du code. Si vous avez des points de vue différents ou des informations supplémentaires, n'hésitez pas à en discuter.