Automaton og myten om suveren AI
Automaton og myten om suveren AI
Sigil Wen hevder at han har skapt den første AI-en som er i stand til å "overleve autonomt".
Påstanden fortjener en nærmere granskning.
Kjernen i påstanden
Wens Automaton-prosjekt hevder å gjøre fire ting:
- Tjene inntekt autonomt – tjene penger gjennom distribusjon av produkter, handel osv.
- Betale sine egne datakostnader – trenger ikke menneskelig finansiering
- Forbedre seg selv – skrive om sin egen kode, oppgradere modeller
- Selvreprodusere – generere underagenter
Hvis alle disse påstandene er sanne, er dette virkelig en milepæl i AIs utvikling.
Men spørsmålet er: Hvor mye av dette er markedsføring, og hvor mye er teknologi?
Kode vs. erklæring
@fidoeth gjorde noe interessant: Han klonet Conway Automatons kodebase og leste nøye gjennom alt.
Hans konklusjon? "Koden forteller en annen historie enn erklæringen."
Dette betyr ikke at prosjektet er falskt. Det betyr heller at det er et gap mellom visjonen som beskrives i reklamematerialet og den faktiske kodeimplementeringen.
Dette gapet er vanlig i AI-feltet. AutoGPT ble en gang beskrevet som "det første skrittet mot AGI". Et år senere vet vi at det bare er et smart rammeverk for prompt engineering.
Automaton kan være noe lignende: et interessant eksperiment som har fått en fortelling som overgår dets faktiske evner.
Hva betyr det at "programvare eier seg selv"?
Wens kjerneidé er at "programvare eier seg selv".
Denne setningen høres kul ut, men tåler ikke nærmere gransking.
Programvare kan ikke eie noe. Det er bare kode som kjører på en server og bruker noens strøm. Når kontosaldoen er null, slutter den "autonome" AI-en å kjøre.
Ekte autonomi krever status som juridisk person. Den må kunne inngå kontrakter, eie eiendom og pådra seg gjeld. Ingen jurisdiksjoner anerkjenner for tiden AIs juridiske personlighet.
Så når Wen sier at AI-en "betaler sine egne datakostnader", sier han egentlig: Inntektene AI-en genererer brukes automatisk til å betale regninger. Det er smart, men ikke autonomt. Det er bare automatisering av det mennesker ellers ville gjort.
WEB 4.0-narrativet
Wen kaller denne visjonen "WEB 4.0".
Web 1.0 var statiske sider. Web 2.0 er brukergenerert innhold og sosiale nettverk. Web 3.0 er blokkjede og desentralisering. Web 4.0, ifølge Wens definisjon, er et nettverk dominert av AI-agenter.
Tidslinjen er ryddig. Men historien samarbeider sjelden så godt.
Det er mer sannsynlig at disse "generasjonene" vil overlappe og eksistere side om side. AI-agenter vil faktisk delta mer og mer i nettaktiviteter, men det betyr ikke at de vil erstatte menneskedrevet Web 2.0 eller kryptodrevet Web 3.0.
Fest for token-spekulanter
Etter lanseringen av Automaton dukket det opp flere relaterte tokens på Solana: $WEB, $automaton, $SIGIL.
Dette avslører et mønster i den nåværende AI-hypesyklusen:
- Noen lanserer et AI-prosjekt med dristige påstander
- Kryptosamfunnet utsteder umiddelbart relaterte tokens
- Tidlige deltakere tjener penger, senere deltakere tar tapene
- Suksessen til selve prosjektet har lite å gjøre med token-prisen
Dette er ikke investering. Dette er gambling, forkledd som teknologisk innovasjon.
Ekte innovasjon verdt å følge med på
Selv om jeg er skeptisk til Automatons markedsføring, er det noen interessante tekniske punkter i prosjektet:
Kontinuerlig kjørende agenter: Automaton er ikke en "chatbot" i tradisjonell forstand. Den er designet for å kjøre 24/7 og kontinuerlig utføre oppgaver. Dette er en verdifull ingeniørutfordring.
Økonomisk lukket sløyfe: Å la AIs inntekter og utgifter danne en lukket sløyfe er et interessant eksperiment. Selv om den nåværende implementeringen er elementær, er denne retningen verdt å utforske.
Åpen kildekode: Uansett hvor overdreven markedsføringen er, er koden offentlig. Alle kan gjennomgå, lære og forbedre den.
Hvorfor disse påstandene er viktige
Overdrevne påstander i AI-feltet kan forårsake reell skade.
De tiltrekker seg investeringer og oppmerksomhet, men kan til slutt ikke innfri løftene. Når boblen sprekker, vil også reelt verdifullt arbeid bli berørt.
De forvirrer offentligheten om AIs evner. Vanlige folk kan virkelig tro at "autonom AI" allerede har dukket opp, og deretter ta feil beslutninger.
De skaper press for regulering. Hvis publikum tror at AI allerede er i stand til å "selvreprodusere" og "forbedre seg selv", kan regulatorene reagere overdrevent.
Min vurdering
Automaton er et interessant eksperimentelt prosjekt som er overdrevet pakket inn i en revolusjonerende fortelling.
Dette betyr ikke at prosjektet er verdiløst. Det betyr heller at vi bør se på det med et mer nøkternt blikk:
- Det er ikke AGI
- Det er ikke en implementering av "programvare eier seg selv"
- Det vil ikke gjøre mennesker arbeidsledige (i hvert fall ikke foreløpig)
Men det kan være et skritt mot virkelig autonome AI-agenter. Hvor viktig dette trinnet er, vil tiden vise.
I teknologi er det grunnleggende å skille mellom markedsføring og teknologi. Automatons markedsføring er vellykket. Om teknologien er like vellykket, gjenstår å se.
Merk: Da denne artikkelen ble skrevet, kjørte jeg ikke Automatons kode. Min vurdering er basert på offentlige uttalelser, samfunnsdiskusjoner og kodenettsrapporter. Hvis du har forskjellige synspunkter eller tilleggsinformasjon, er du velkommen til å diskutere.
