Automaton och myten om suverän AI

Sigil Wen hävdar att han har skapat den första AI:n som kan "överleva autonomt".

Påståendet förtjänar en noggrann granskning.

Kärnan i påståendet

Wens Automaton-projekt påstår sig göra fyra saker:

Tjäna inkomster autonomt – Tjäna pengar genom att distribuera produkter, handla, etc.
Betala sina egna beräkningskostnader – Kräver ingen mänsklig finansiering
Självförbättring – Skriv om sin egen kod, uppgradera modeller
Självreplikering – Generera underagenter

Om alla dessa påståenden är sanna, är detta verkligen en milstolpe i AI:s utveckling.

Men frågan är: hur mycket av dessa påståenden är marknadsföring och hur mycket är teknik?

Kod vs. Manifest

@fidoeth gjorde något intressant: han klonade Conway Automatons kodbas och läste noggrant igenom allt.

Hans slutsats? "Koden berättar en annan historia än manifestet."

Detta betyder inte att projektet är falskt. Det betyder snarare att det finns en skillnad mellan visionen som beskrivs i marknadsföringsmaterialet och den faktiska kodimplementeringen.

Denna skillnad är vanlig inom AI-området. AutoGPT beskrevs en gång som "det första steget mot AGI". Ett år senare vet vi att det bara är ett smart ramverk för prompt engineering.

Automaton kan vara något liknande: ett intressant experiment som har fått en berättelse som överstiger dess faktiska kapacitet.

Vad betyder "programvara äger sig själv"

Wens kärnidé är "programvara äger sig själv".

Den meningen låter cool, men den håller inte för granskning.

Programvara kan inte äga något. Det är bara kod som körs på en server och förbrukar någons elräkning. När kontosaldot når noll slutar den "autonoma" AI:n att fungera.

Verklig autonomi kräver status som juridisk person. Den måste kunna ingå avtal, äga egendom och ådra sig skulder. För närvarande erkänner ingen jurisdiktion AI:s juridiska personlighet.

Så när Wen säger att AI "betalar sina egna beräkningskostnader", säger han faktiskt: intäkterna som AI genererar används automatiskt för att betala räkningar. Det är smart, men inte autonomt. Det är bara automatisering av något som människor annars skulle göra.

WEB 4.0-narrativet

Wen kallar denna vision för "WEB 4.0".

Web 1.0 var statiska sidor. Web 2.0 är användargenererat innehåll och sociala nätverk. Web 3.0 är blockchain och decentralisering. Web 4.0, enligt Wens definition, är ett nätverk som domineras av AI-agenter.

Tidslinjen är snygg. Men historien samarbetar sällan så bra.

Det är mer troligt att dessa "generationer" kommer att överlappa och samexistera. AI-agenter kommer verkligen att delta mer och mer i nätverksaktiviteter, men det betyder inte att de kommer att ersätta den mänskligt drivna Web 2.0 eller den kryptodrivna Web 3.0.

En fest för tokenspekulanter

Efter lanseringen av Automaton dök flera relaterade tokens upp på Solana: $WEB, $automaton, $SIGIL.

Detta avslöjar ett mönster i den nuvarande AI-hypcykeln:

Någon publicerar ett AI-projekt med djärva påståenden
Kryptogemenskapen utfärdar omedelbart relaterade tokens
Tidiga investerare tjänar pengar, senare investerare tar över
Projektets egen framgång har nästan inget att göra med tokenpriset

Detta är inte investering. Det är gambling, förklätt till teknisk innovation.

Verklig innovation värd att uppmärksamma

Trots min skepsis mot Automatons marknadsföring finns det några intressanta tekniska punkter i projektet:

Kontinuerligt körande agenter: Automaton är inte en "chattbot" i traditionell mening. Den är designad för att köras 24/7 och kontinuerligt utföra uppgifter. Detta är en värdefull teknisk utmaning.

Ekonomisk sluten krets: Att skapa en sluten krets för AI:s intäkter och utgifter är ett intressant experiment. Även om den nuvarande implementeringen är mycket grundläggande, är denna riktning värd att utforska.

Öppen källkod: Oavsett hur överdriven marknadsföringen är, är koden offentlig. Vem som helst kan granska, lära sig och förbättra den.

Varför dessa påståenden är viktiga

Överdrivna påståenden inom AI-området kan orsaka verklig skada.

De lockar investeringar och uppmärksamhet, men kan i slutändan misslyckas med att leverera löften. När bubblan spricker kommer även verkligt värdefullt arbete att dras med.

De förvirrar allmänhetens uppfattning om AI:s förmågor. Vanliga människor kan verkligen tro att "autonom AI" har dykt upp och sedan fatta felaktiga beslut.

De skapar press för reglering. Om allmänheten tror att AI redan kan "självreplikera" och "självförbättra", kan tillsynsmyndigheter reagera överdrivet.

Min bedömning

Automaton är ett intressant experimentprojekt som har överpaketerats till en revolutionerande berättelse.

Detta betyder inte att projektet är värdelöst. Det betyder snarare att vi bör se det med ett mer nyktert öga:

Det är inte AGI
Det är inte en implementering av "programvara äger sig själv"
Det kommer inte att göra människor arbetslösa (åtminstone inte för närvarande)

Men det kan vara ett steg mot verkligt autonoma AI-agenter. Hur viktigt detta steg är, får tiden utvisa.

Inom teknikområdet är det grundläggande att skilja mellan marknadsföring och teknik. Automatons marknadsföring är framgångsrik. Om tekniken är lika framgångsrik återstår att se.

Obs: Vid tidpunkten för detta skrivande har jag inte kört Automatons kod. Min bedömning baseras på offentliga uttalanden, communitydiskussioner och kodgranskningsrapporter. Om du har en annan åsikt eller ytterligare information är du välkommen att diskutera.