Mit o Automatonu i suverenoj umjetnoj inteligenciji

Sigil Wen tvrdi da je stvorio prvu umjetnu inteligenciju koja može "samostalno preživjeti".

Ova tvrdnja zaslužuje pažljivo razmatranje.

Srž tvrdnje

Wenov projekt Automaton tvrdi da postiže četiri stvari:

Samostalno zarađivanje prihoda — zarađivanje novca putem implementacije proizvoda, trgovanja itd.
Plaćanje vlastitih troškova računanja — ne treba ljudsko financiranje
Samousavršavanje — prepisivanje vlastitog koda, nadogradnja modela
Samorepliciranje — generiranje pod-agenata

Ako su sve ove tvrdnje istinite, to je uistinu prekretnica u povijesti razvoja umjetne inteligencije.

Ali pitanje je: koliko je od ovih tvrdnji marketing, a koliko tehnologija?

Kod vs. Deklaracija

@fidoeth je učinio zanimljivu stvar: klonirao je Conway Automaton repozitorij koda i pažljivo pročitao cijeli sadržaj.

Njegov zaključak? "Kod priča drugačiju priču od deklaracije."

To ne znači da je projekt lažan. Već da postoji jaz između vizije opisane u promotivnim materijalima i stvarne implementacije koda.

Ova je razlika uobičajena u području umjetne inteligencije. AutoGPT je opisan kao "prvi korak prema AGI-ju". Godinu dana kasnije, znamo da je to samo pametan okvir za prompt engineering.

Automaton je vjerojatno nešto slično: zanimljiv eksperiment kojem je dodijeljena naracija koja nadilazi njegove stvarne mogućnosti.

Što znači "softver posjeduje sam sebe"

Wenova je temeljna ideja da "softver posjeduje sam sebe".

Ova rečenica zvuči cool, ali ne izdržava provjeru.

Softver ne može posjedovati ništa. To je samo kod koji se pokreće na poslužitelju i troši nečiju struju. Kada se stanje računa svede na nulu, "autonomna" umjetna inteligencija prestaje raditi.

Prava autonomija zahtijeva status pravne osobe. Potrebno je moći sklapati ugovore, posjedovati imovinu, preuzimati dugove. Trenutno nijedna jurisdikcija ne priznaje pravnu osobnost umjetne inteligencije.

Dakle, kada Wen kaže da umjetna inteligencija "plaća vlastite troškove računanja", on zapravo kaže: prihod koji generira umjetna inteligencija automatski se koristi za plaćanje računa. To je pametno, ali nije autonomno. To je samo automatizacija onoga što bi ljudi inače radili.

Naracija WEB 4.0

Wen ovu viziju naziva "WEB 4.0".

Web 1.0 su statične stranice. Web 2.0 je sadržaj koji generiraju korisnici i društvene mreže. Web 3.0 je blockchain i decentralizacija. Web 4.0, prema Wenovoj definiciji, je mreža kojom dominiraju AI agenti.

Vremenska linija je uredna. Ali povijest rijetko surađuje na taj način.

Vjerojatnije je da će se ove "generacije" preklapati i koegzistirati. AI agenti će doista sve više sudjelovati u mrežnim aktivnostima, ali to ne znači da će zamijeniti Web 2.0 vođen ljudima ili Web 3.0 vođen kriptovalutama.

Veselje špekulanata tokenima

Nakon objave Automatona, na Solani se pojavilo nekoliko povezanih tokena: $WEB, $automaton, $SIGIL.

Ovo otkriva obrazac trenutnog ciklusa hypea umjetne inteligencije:

Netko objavi projekt umjetne inteligencije s hrabrim tvrdnjama
Kripto zajednica odmah izdaje povezane tokene
Rani ulagači profitiraju, a kasniji preuzimaju gubitke
Uspjeh samog projekta gotovo da nema veze s cijenom tokena

Ovo nije ulaganje. Ovo je kockanje, prerušeno u tehnološku inovaciju.

Prave inovacije vrijedne pažnje

Iako sam skeptičan prema marketingu Automatona, u projektu postoje neke zanimljive tehničke točke:

Agenti koji rade kontinuirano: Automaton nije "chatbot" u tradicionalnom smislu. Dizajniran je za rad 24/7, kontinuirano izvršavajući zadatke. Ovo je vrijedan inženjerski izazov.

Ekonomski zatvorena petlja: Stvaranje zatvorene petlje prihoda i rashoda umjetne inteligencije zanimljiv je eksperiment. Čak i ako je trenutna implementacija primitivna, ovaj smjer vrijedi istražiti.

Otvoreni izvor: Bez obzira na to koliko je marketing pretjeran, kod je javan. Svatko ga može pregledati, učiti, poboljšati.

Zašto su ove tvrdnje važne

Pretjerane tvrdnje u području umjetne inteligencije mogu uzrokovati stvarnu štetu.

Privlače ulaganja i pozornost, ali možda na kraju neće ispuniti obećanja. Kada balon pukne, bit će pogođen i pravi vrijedan rad.

Oni zbunjuju javnost o sposobnostima umjetne inteligencije. Obični ljudi mogu stvarno vjerovati da se pojavila "autonomna umjetna inteligencija", a zatim donositi pogrešne odluke.

Oni stvaraju pritisak za regulaciju. Ako javnost vjeruje da je umjetna inteligencija već sposobna za "samorepliciranje" i "samousavršavanje", regulatori mogu pretjerano reagirati.

Moja prosudba

Automaton je zanimljiv eksperimentalni projekt koji je pretjerano upakiran u revolucionarnu naraciju.

To ne znači da projekt nema vrijednost. Već da bismo ga trebali gledati s hladnijim okom:

Nije AGI
Nije implementacija "softver posjeduje sam sebe"
Neće ostaviti ljude bez posla (barem ne zasad)

Ali to bi mogao biti korak prema istinski autonomnim AI agentima. Koliko je ovaj korak važan, pokazat će vrijeme.

U tehnološkom području, razlikovanje marketinga i tehnologije je osnovna pismenost. Automatonov marketing je uspješan. Hoće li tehnologija biti jednako uspješna, tek treba provjeriti.

Napomena: U vrijeme pisanja ovog članka nisam pokrenuo Automatonov kod. Moja prosudba temelji se na javnim izjavama, raspravama u zajednici i izvješćima o pregledu koda. Ako imate drugačije mišljenje ili dodatne informacije, dobrodošli ste u raspravu.