Automaton og myten om suveræn AI
Automaton og myten om suveræn AI
Sigil Wen hævder, at han har skabt den første AI, der er i stand til at "overleve autonomt".
Påstanden er værd at undersøge nærmere.
Kernen i påstanden
Wens Automaton-projekt hævder at gøre fire ting:
- Autonomt tjene indkomst — Tjene penge gennem implementering af produkter, handel osv.
- Betale sine egne beregningsomkostninger — Kræver ikke menneskelig finansiering
- Selvforbedring — Omskrive sin egen kode, opgradere modeller
- Selvreplikering — Generere underagenter
Hvis alle disse påstande er sande, er det virkelig en milepæl i AI's udvikling.
Men spørgsmålet er: Hvor meget af dette er markedsføring, og hvor meget er teknologi?
Kode vs. Manifest
@fidoeth gjorde noget interessant: Han klonede Conway Automatons kodebase og læste omhyggeligt alt indhold.
Hans konklusion? "Koden fortæller en anden historie end manifestet."
Det er ikke for at sige, at projektet er falsk. Det er snarere for at sige, at der er en forskel mellem den vision, der beskrives i reklamematerialet, og den faktiske kodeimplementering.
Denne forskel er almindelig inden for AI. AutoGPT er blevet beskrevet som "det første skridt mod AGI". Et år senere ved vi, at det blot er en smart prompt engineering-ramme.
Automaton kan også være noget lignende: et interessant eksperiment, der er blevet givet en fortælling, der overstiger dets faktiske evner.
Hvad betyder det, at "software ejer sig selv"?
Wens kerneidé er, at "software ejer sig selv".
Den sætning lyder cool, men holder ikke til nærmere eftersyn.
Software kan ikke eje noget. Det er blot kode, der kører på en server og forbruger nogens elregning. Når kontosaldoen er nul, stopper den "autonome" AI med at køre.
Ægte autonomi kræver status som juridisk person. Det skal kunne indgå kontrakter, eje ejendom, påtage sig gæld. Ingen jurisdiktion anerkender i øjeblikket AI's juridiske personlighed.
Så når Wen siger, at AI "betaler sine egne beregningsomkostninger", siger han faktisk: Den indkomst, AI genererer, bruges automatisk til at betale regninger. Det er smart, men det er ikke autonomt. Det er blot automatisering af noget, som mennesker ellers ville gøre.
WEB 4.0-fortællingen
Wen kalder denne vision for "WEB 4.0".
Web 1.0 var statiske sider. Web 2.0 er brugergenereret indhold og sociale netværk. Web 3.0 er blockchain og decentralisering. Web 4.0, ifølge Wens definition, er et netværk, der domineres af AI-agenter.
Tidslinjen er pæn. Men historien er sjældent så samarbejdsvillig.
Det er mere sandsynligt, at disse "generationer" vil overlappe hinanden og eksistere side om side. AI-agenter vil helt sikkert deltage mere og mere i netværksaktiviteter, men det betyder ikke, at de vil erstatte det menneskedrevne Web 2.0 eller det kryptodrevne Web 3.0.
En fest for token-spekulanter
Efter udgivelsen af Automaton dukkede der flere relaterede tokens op på Solana: $WEB, $automaton, $SIGIL.
Dette afslører et mønster i den nuværende AI-hype-cyklus:
- Nogen udgiver et AI-projekt med dristige påstande
- Kryptosamfundet udsteder straks relaterede tokens
- Tidlige investorer tjener penge, senere investorer overtager
- Selve projektets succes har næsten intet at gøre med token-prisen
Det er ikke investering. Det er gambling, forklædt som teknologisk innovation.
Ægte innovation, der er værd at holde øje med
Selvom jeg er skeptisk over for Automatons markedsføring, er der nogle interessante tekniske punkter i projektet:
Kontinuerligt kørende agenter: Automaton er ikke en "chatbot" i traditionel forstand. Den er designet til at køre 24/7 og udføre opgaver kontinuerligt. Det er en værdifuld ingeniørudfordring.
Økonomisk lukket kredsløb: At lade AI's indtægter og udgifter danne et lukket kredsløb er et interessant eksperiment. Selvom den nuværende implementering er meget primitiv, er denne retning værd at udforske.
Open source: Uanset hvor overdreven markedsføringen er, er koden offentlig. Alle kan gennemgå, lære, forbedre.
Hvorfor disse påstande er vigtige
Overdrevne påstande inden for AI kan forårsage reel skade.
De tiltrækker investeringer og opmærksomhed, men kan i sidste ende ikke leve op til løfterne. Når boblen brister, vil værdifuldt arbejde også blive påvirket.
De forvirrer offentlighedens opfattelse af AI's evner. Almindelige mennesker kan virkelig tro, at der allerede er opstået "autonom AI", og derefter træffe forkerte beslutninger.
De skaber pres for regulering. Hvis offentligheden mener, at AI allerede er i stand til at "selvreplikere" og "selvforbedre", kan reguleringsmyndighederne reagere overdrevent.
Min vurdering
Automaton er et interessant eksperimentelt projekt, der er blevet overdrevet som en revolutionerende fortælling.
Det er ikke for at sige, at projektet ikke har nogen værdi. Det er snarere for at sige, at vi bør se på det med et mere roligt blik:
- Det er ikke AGI
- Det er ikke en implementering af "software ejer sig selv"
- Det vil ikke gøre mennesker arbejdsløse (i hvert fald ikke i øjeblikket)
Men det kan være et skridt på vejen mod ægte autonome AI-agenter. Hvor vigtigt dette skridt er, vil tiden vise.
Inden for teknologi er det grundlæggende at skelne mellem markedsføring og teknologi. Automatons markedsføring er vellykket. Om teknologien er lige så vellykket, er endnu uvist.
Bemærk: På tidspunktet for denne artikels skrivelse har jeg ikke kørt Automatons kode. Min vurdering er baseret på offentlige erklæringer, samfundsdiskussioner og koderapporter. Hvis du har en anden mening eller yderligere oplysninger, er du velkommen til at diskutere det.
