Mit o Automatonu in suvereni AI

Sigil Wen trdi, da je ustvaril prvo AI, ki je zmožna "samostojnega preživetja".

Ta trditev si zasluži natančen pregled.

Jedro izjave

Wenov projekt Automaton trdi, da dosega štiri stvari:

1. Samostojno ustvarjanje prihodkov – zaslužek z uvajanjem izdelkov, trgovanjem itd.
2. Plačilo lastnih stroškov računanja – ne potrebuje človeškega financiranja
3. Samoizboljšanje – prepisovanje lastne kode, nadgradnja modelov
4. Samoreprodukcija – ustvarjanje pod-agentov

Če so vse te trditve resnične, je to resnično mejnik v razvoju AI.

Ampak vprašanje je: koliko od teh trditev je marketing in koliko tehnologija?

Koda proti manifestu

@fidoeth je naredil zanimivo stvar: kloniral je repozitorij kode Conway Automaton in natančno prebral celotno vsebino.

Njegov zaključek? "Koda pripoveduje drugačno zgodbo kot manifest."

To ne pomeni, da je projekt lažen. Pomeni pa, da obstaja vrzel med vizijo, opisano v promocijskem materialu, in dejansko implementacijo kode.

Ta vrzel je pogosta na področju AI. AutoGPT je bil opisan kot "prvi korak proti AGI". Leto kasneje vemo, da je to le pameten okvir za inženiring pozivov.

Automaton je morda nekaj podobnega: zanimiv eksperiment, ki mu je pripisana pripoved, ki presega njegove dejanske zmožnosti.

Kaj pomeni "programska oprema ima sebe"

Wenova osrednja ideja je, da "programska oprema ima sebe".

Ta stavek zveni kul, vendar ne prenese preizkusa.

Programska oprema ne more imeti ničesar. Je le koda, ki se izvaja na strežniku in porablja elektriko nekoga drugega. Ko se stanje na računu izprazni, se bo "avtonomna" AI ustavila.

Prava avtonomija zahteva status pravne osebe. Potrebno je, da lahko sklepa pogodbe, ima premoženje, prevzema dolgove. Trenutno nobena jurisdikcija ne priznava pravne osebnosti AI.

Torej, ko Wen reče, da AI "plačuje lastne stroške računanja", v resnici pravi: prihodki, ki jih ustvari AI, se samodejno uporabljajo za plačilo računov. To je pametno, vendar ni avtonomno. To je le avtomatizacija tistega, kar bi sicer storil človek.

Pripoved WEB 4.0

Wen to vizijo imenuje "WEB 4.0".

Web 1.0 so statične strani. Web 2.0 je vsebina, ki jo ustvarjajo uporabniki, in socialna omrežja. Web 3.0 je blockchain in decentralizacija. Web 4.0, po Wenovi definiciji, je mreža, ki jo vodijo agenti AI.

Časovnica je urejena. Toda zgodovina se redko tako ujema.

Bolj verjetno je, da se bodo te "generacije" prekrivale in sobivale. Agenti AI bodo res vse bolj sodelovali v spletnih aktivnostih, vendar to ne pomeni, da bodo nadomestili človeško vodeni Web 2.0 ali kripto vodeni Web 3.0.

Praznovanje špekulantov s tokeni

Po izdaji Automaton se je na Solani pojavilo več povezanih tokenov: $WEB, $automaton, $SIGIL.

To razkriva vzorec trenutnega cikla hype okoli AI:

1. Nekdo objavi projekt AI z drznimi izjavami
2. Kripto skupnost takoj izda povezane tokene
3. Zgodnji vstopniki zaslužijo, poznejši prevzamejo izgube
4. Uspeh samega projekta je skoraj nepomemben za ceno tokena

To ni investicija. To je hazardiranje, preoblečeno v tehnološko inovacijo.

Prave inovacije, ki si zaslužijo pozornost

Čeprav sem skeptičen glede marketinga Automaton, ima projekt nekaj zanimivih tehničnih točk:

Neprekinjeno delujoči agenti: Automaton ni "chatbot" v tradicionalnem smislu. Zasnovan je za delovanje 24/7 in neprekinjeno izvajanje nalog. To je dragocen inženirski izziv.

Ekonomski zaprti krog: Ustvarjanje zaprtega kroga prihodkov in izdatkov AI je zanimiv eksperiment. Tudi če je trenutna implementacija preprosta, je to smer, ki jo je vredno raziskati.

Odprta koda: Ne glede na to, kako pretiran je marketing, je koda javna. Vsak jo lahko pregleda, se uči in jo izboljšuje.

Zakaj so te izjave pomembne

Pretirane izjave na področju AI lahko povzročijo dejansko škodo.

Privlačijo naložbe in pozornost, vendar morda na koncu ne bodo izpolnile obljub. Ko balon poči, bo prizadeto tudi resnično dragoceno delo.

Zamegljujejo javno dojemanje zmožnosti AI. Navadni ljudje lahko resnično verjamejo, da se je pojavila "avtonomna AI", in nato sprejemajo napačne odločitve.

Ustvarjajo pritisk za regulacijo. Če javnost meni, da je AI že zmožna "samoreprodukcije" in "samoizboljšanja", se lahko regulatorji odzovejo pretirano.

Moja presoja

Automaton je zanimiv eksperimentalni projekt, ki je bil pretirano zapakiran v revolucionarno pripoved.

To ne pomeni, da projekt nima vrednosti. Pomeni pa, da bi ga morali gledati bolj trezno:

• Ni AGI
• Ni implementacija "programska oprema ima sebe"
• Ne bo povzročil izgube delovnih mest za ljudi (vsaj zaenkrat ne)

Vendar je lahko korak proti resnično avtonomnim agentom AI. Kako pomemben je ta korak, bo pokazal čas.

Na področju tehnologije je razlikovanje med marketingom in tehnologijo osnovna pismenost. Marketing Automaton je bil uspešen. Ali je tehnologija enako uspešna, je treba še preveriti.

---

Opomba: V času pisanja tega članka nisem zagnal kode Automaton. Moja presoja temelji na javnih izjavah, razpravah v skupnosti in poročilih o pregledu kode. Če imate drugačno stališče ali dodatne informacije, ste dobrodošli v razpravi.