Mit o Automatonu i suverenoj umjetnoj inteligenciji

Sigil Wen tvrdi da je stvorio prvu umjetnu inteligenciju koja može "samostalno preživjeti".

Ova tvrdnja zaslužuje pažljivo razmatranje.

Srž tvrdnje

Wenov projekt Automaton tvrdi da postiže četiri stvari:

Samostalno zarađivanje prihoda — zarađivanje novca putem implementacije proizvoda, trgovanja itd.
Plaćanje vlastitih troškova računanja — ne zahtijeva ljudsko financiranje
Samousavršavanje — prepisivanje vlastitog koda, nadogradnja modela
Samoumnožavanje — generiranje pod-agenata

Ako su sve ove tvrdnje istinite, to bi zaista bio prekretnica u povijesti razvoja umjetne inteligencije.

Ali pitanje je: koliko je od ovih tvrdnji marketing, a koliko tehnologija?

Kod vs. Deklaracija

@fidoeth je učinio zanimljivu stvar: klonirao je Conway Automatonov repozitorij koda i pažljivo pročitao cijeli sadržaj.

Njegov zaključak? "Kod priča drugačiju priču od deklaracije."

To ne znači da je projekt lažan. Već da postoji jaz između vizije opisane u promotivnim materijalima i stvarne implementacije koda.

Ova vrsta jaza je uobičajena u području umjetne inteligencije. AutoGPT je jednom opisan kao "prvi korak prema AGI-ju". Godinu dana kasnije, znamo da je to samo pametan okvir za prompt engineering.

Automaton je vjerojatno nešto slično: zanimljiv eksperiment kojem je dodijeljena naracija koja nadilazi njegove stvarne mogućnosti.

Što znači "softver posjeduje sam sebe"

Wenova temeljna ideja je "softver posjeduje sam sebe".

Ova rečenica zvuči cool, ali ne izdržava provjeru.

Softver ne može posjedovati ništa. To je samo kod koji se pokreće na serveru i troši nečiju struju. Kada stanje računa dođe do nule, "autonomna" umjetna inteligencija prestaje raditi.

Prava autonomija zahtijeva status pravnog subjekta. Potrebno je moći sklapati ugovore, posjedovati imovinu, preuzimati dugove. Trenutno nijedna jurisdikcija ne priznaje pravnu osobnost umjetne inteligencije.

Dakle, kada Wen kaže da umjetna inteligencija "plaća vlastite troškove računanja", on zapravo kaže: prihod koji generira umjetna inteligencija automatski se koristi za plaćanje računa. To je pametno, ali nije autonomno. To je samo automatizacija onoga što bi ljudi inače radili.

Naracija WEB 4.0

Wen ovu viziju naziva "WEB 4.0".

Web 1.0 su statične stranice. Web 2.0 je sadržaj koji generiraju korisnici i društvene mreže. Web 3.0 je blockchain i decentralizacija. Web 4.0, prema Wenovoj definiciji, je mreža kojom dominiraju AI agenti.

Vremenska linija je uredna. Ali povijest rijetko tako surađuje.

Vjerojatnije je da će se ove "generacije" preklapati i koegzistirati. AI agenti će doista sve više sudjelovati u mrežnim aktivnostima, ali to ne znači da će zamijeniti Web 2.0 koji pokreću ljudi ili Web 3.0 koji pokreće kripto.

Veselje špekulanata tokenima

Nakon objave Automatona, na Solani se pojavilo nekoliko povezanih tokena: $WEB, $automaton, $SIGIL.

Ovo otkriva obrazac trenutnog ciklusa hypea umjetne inteligencije:

Netko objavi projekt umjetne inteligencije s hrabrim tvrdnjama
Kripto zajednica odmah izdaje povezane tokene
Rani ulagači profitiraju, kasniji preuzimaju gubitke
Uspjeh samog projekta gotovo da nema veze s cijenom tokena

Ovo nije investicija. Ovo je kockanje, prerušeno u tehnološku inovaciju.

Prave inovacije vrijedne pažnje

Iako sam skeptičan prema marketingu Automatona, u projektu postoje neke zanimljive tehničke točke:

Agenti koji neprekidno rade: Automaton nije "chatbot" u tradicionalnom smislu. Dizajniran je da radi 24/7, neprekidno izvršavajući zadatke. Ovo je vrijedan inženjerski izazov.

Ekonomski zatvorena petlja: Stvaranje zatvorene petlje prihoda i rashoda umjetne inteligencije zanimljiv je eksperiment. Čak i ako je trenutna implementacija primitivna, ovaj smjer vrijedi istražiti.

Otvoreni izvor: Bez obzira na to koliko je marketing pretjeran, kod je javan. Svatko ga može pregledati, učiti, poboljšati.

Zašto su ove tvrdnje važne

Pretjerane tvrdnje u području umjetne inteligencije mogu uzrokovati stvarnu štetu.

Privlače ulaganja i pozornost, ali možda na kraju neće ispuniti obećanja. Kada balon pukne, bit će pogođen i pravi vrijedan rad.

Oni zbunjuju javnost o sposobnostima umjetne inteligencije. Obični ljudi mogu stvarno vjerovati da se pojavila "autonomna umjetna inteligencija", a zatim donositi pogrešne odluke.

Oni stvaraju pritisak za regulaciju. Ako javnost vjeruje da umjetna inteligencija već može "samoumnožavati se" i "samousavršavati se", regulatori mogu pretjerano reagirati.

Moja procjena

Automaton je zanimljiv eksperimentalni projekt koji je pretjerano zapakiran u revolucionarnu naraciju.

To ne znači da projekt nema vrijednost. Već da bismo ga trebali gledati s hladnijim okom:

To nije AGI
To nije implementacija "softver posjeduje sam sebe"
Neće ostaviti ljude bez posla (barem ne trenutno)

Ali to bi mogao biti korak prema pravim autonomnim AI agentima. Koliko je ovaj korak važan, vrijeme će pokazati.

U području tehnologije, razlikovanje marketinga i tehnologije je osnovna pismenost. Automatonov marketing je bio uspješan. Hoće li tehnologija biti jednako uspješna, tek treba provjeriti.

Napomena: U vrijeme pisanja ovog članka, nisam pokrenuo Automatonov kod. Moja procjena se temelji na javnim izjavama, raspravama u zajednici i izvješćima o pregledu koda. Ako imate drugačije mišljenje ili dodatne informacije, dobrodošli ste u raspravu.