L'Autòmat i el mite de la IA sobirana
L'Autòmat i el mite de la IA sobirana
Sigil Wen afirma haver creat la primera IA capaç de "sobreviure de manera autònoma".
Aquesta afirmació mereix un examen acurat.
El nucli de la declaració
El projecte Automaton de Wen afirma fer quatre coses:
- Guanyar ingressos de manera autònoma — Guanyar diners mitjançant la implementació de productes, el comerç, etc.
- Pagar els seus propis costos de computació — Sense necessitat de finançament humà
- Auto-millora — Reescriptura del seu propi codi, actualització de models
- Auto-replicació — Generació de sub-agents
Si totes aquestes afirmacions fossin certes, seria una fita en la història del desenvolupament de la IA.
Però la pregunta és: quant d'això és màrqueting i quant és tecnologia?
Codi vs. Declaració
@fidoeth va fer una cosa interessant: va clonar el repositori de codi de Conway Automaton i va llegir detingudament tot el contingut.
La seva conclusió? "El codi explica una història diferent de la declaració."
Això no vol dir que el projecte sigui fals. Més aviat, hi ha una bretxa entre la visió descrita en els materials promocionals i la implementació real del codi.
Aquesta bretxa és freqüent en el camp de la IA. AutoGPT es va descriure com "el primer pas cap a l'AGI". Un any després, sabem que és només un marc d'enginyeria de prompts intel·ligent.
Automaton podria ser una cosa semblant: un experiment interessant, al qual se li ha donat una narrativa que supera les seves capacitats reals.
Què significa "el programari es posseeix a si mateix"
La idea central de Wen és que "el programari es posseeix a si mateix".
Aquesta frase sona bé, però no resisteix l'escrutini.
El programari no pot posseir res. És només codi, que s'executa en un servidor, consumint l'electricitat d'algú. Quan el saldo del compte arriba a zero, la IA "autònoma" deixa de funcionar.
La veritable autonomia requereix l'estatus de persona jurídica. Necessita poder signar contractes, posseir propietats, assumir deutes. Actualment, cap jurisdicció reconeix la personalitat jurídica de la IA.
Per tant, quan Wen diu que la IA "paga els seus propis costos de computació", en realitat està dient: els ingressos generats per la IA s'utilitzen automàticament per pagar les factures. Això és intel·ligent, però no és autonomia. És només l'automatització del que els humans haurien de fer originalment.
La narrativa de WEB 4.0
Wen anomena aquesta visió "WEB 4.0".
Web 1.0 són pàgines estàtiques. Web 2.0 és contingut generat per l'usuari i xarxes socials. Web 3.0 és blockchain i descentralització. Web 4.0, segons la definició de Wen, és una xarxa dominada per agents d'IA.
La cronologia és ordenada. Però la història poques vegades coopera tant.
És més probable que aquestes "generacions" se superposin i coexisteixin. Els agents d'IA participaran cada vegada més en l'activitat de la xarxa, però això no vol dir que reemplaçaran la Web 2.0 impulsada per humans o la Web 3.0 impulsada per cripto.
L'alegria dels especuladors de tokens
Després del llançament d'Automaton, van aparèixer diversos tokens relacionats a Solana: $WEB, $automaton, $SIGIL.
Això revela un patró en el cicle actual d'exageració de la IA:
- Algú publica un projecte d'IA, acompanyat d'afirmacions audaces
- La comunitat cripto emet immediatament tokens relacionats
- Els primers que entren obtenen beneficis, els últims que entren assumeixen les pèrdues
- L'èxit del projecte en si té poca relació amb el preu del token
Això no és inversió. Això és joc d'atzar, disfressat d'innovació tecnològica.
Innovació real que val la pena seguir
Tot i que sóc escèptic sobre el màrqueting d'Automaton, hi ha alguns punts tècnics interessants al projecte:
Agents en execució contínua: Automaton no és un "chatbot" en el sentit tradicional. Està dissenyat per funcionar 24/7, executant tasques contínuament. Aquest és un repte d'enginyeria valuós.
Bucle econòmic tancat: Fer que els ingressos i les despeses de la IA formin un bucle tancat és un experiment interessant. Fins i tot si la implementació actual és rudimentària, val la pena explorar aquesta direcció.
Codi obert: Per molt exagerat que sigui el màrqueting, el codi és públic. Qualsevol pot revisar, aprendre, millorar.
Per què són importants aquestes afirmacions
Les afirmacions excessives en el camp de la IA causen danys reals.
Atreuen inversió i atenció, però poden acabar no complint les promeses. Quan la bombolla explota, el treball realment valuós també es veu implicat.
Confonen la percepció pública de les capacitats de la IA. La gent normal pot creure realment que ja ha aparegut una "IA autònoma" i després prendre decisions equivocades.
Creen pressió per a la regulació. Si el públic creu que la IA ja és capaç d'"auto-replicar-se" i "auto-millorar-se", els reguladors poden reaccionar de manera excessiva.
El meu judici
Automaton és un projecte experimental interessant, sobreempaquetat com una narrativa revolucionària.
Això no vol dir que el projecte no tingui valor. Més aviat, hauríem de veure'l amb una mirada més tranquil·la:
- No és AGI
- No és una implementació de "el programari es posseeix a si mateix"
- No deixarà els humans sense feina (almenys no de moment)
Però podria ser un pas cap a un agent d'IA veritablement autònom. El temps dirà com d'important és aquest pas.
En el camp de la tecnologia, distingir entre màrqueting i tecnologia és alfabetització bàsica. El màrqueting d'Automaton té èxit. Queda per veure si la tecnologia té el mateix èxit.
Nota: En el moment d'escriure aquest article, no he executat el codi d'Automaton. El meu judici es basa en les declaracions públiques, les discussions de la comunitat i els informes de revisió de codi. Si teniu una opinió diferent o informació addicional, us convido a discutir-ho.
