Mit o Automatonu i suverenoj veštačkoj inteligenciji
Mit o Automatonu i suverenoj veštačkoj inteligenciji
Sigil Wen tvrdi da je stvorio prvu veštačku inteligenciju koja može "samostalno da preživi".
Ova tvrdnja zaslužuje pažljivo razmatranje.
Jezgro tvrdnje
Wen-ov Automaton projekat tvrdi da radi četiri stvari:
- Samostalno zarađuje prihod — zarađuje novac putem plasiranja proizvoda, trgovine itd.
- Plaća sopstvene troškove računanja — ne zahteva ljudsko finansiranje
- Samousavršavanje — prepisuje sopstveni kod, nadograđuje modele
- Samoreplikacija — generiše pod-agente
Ako su sve ove tvrdnje tačne, ovo je zaista prekretnica u istoriji razvoja veštačke inteligencije.
Ali pitanje je: koliko je od ovih tvrdnji marketing, a koliko tehnologija?
Kod vs. Deklaracija
@fidoeth je uradio zanimljivu stvar: klonirao je Conway Automaton repozitorijum koda i pažljivo pročitao ceo sadržaj.
Njegov zaključak? "Kod priča drugačiju priču od deklaracije."
Ovo ne znači da je projekat lažan. Već da postoji jaz između vizije opisane u promotivnom materijalu i stvarne implementacije koda.
Ovaj jaz je čest u oblasti veštačke inteligencije. AutoGPT je opisan kao "prvi korak ka AGI". Godinu dana kasnije, znamo da je to samo pametan okvir za inženjering upita.
Automaton je možda nešto slično: zanimljiv eksperiment, kojem je data naracija koja prevazilazi njegove stvarne mogućnosti.
Šta znači "softver poseduje sebe"
Wen-ova osnovna ideja je da "softver poseduje sebe".
Ova rečenica zvuči kul, ali ne izdržava proveru.
Softver ne može da poseduje ništa. To je samo kod, koji se izvršava na serveru, trošeći nečiju struju. Kada se stanje računa svede na nulu, "autonomna" veštačka inteligencija prestaje da radi.
Prava autonomija zahteva status pravnog lica. Potrebno je da može da sklapa ugovore, poseduje imovinu, preuzima dugove. Trenutno nijedna jurisdikcija ne priznaje pravnu ličnost veštačke inteligencije.
Dakle, kada Wen kaže da veštačka inteligencija "plaća sopstvene troškove računanja", on zapravo kaže: prihod koji generiše veštačka inteligencija se automatski koristi za plaćanje računa. To je pametno, ali nije autonomno. To je samo automatizacija onoga što bi ljudi inače radili.
Naracija WEB 4.0
Wen ovu viziju naziva "WEB 4.0".
Web 1.0 su statične stranice. Web 2.0 je sadržaj koji generišu korisnici i društvene mreže. Web 3.0 je blokčejn i decentralizacija. Web 4.0, prema Wen-ovoj definiciji, je mreža kojom dominiraju AI agenti.
Vremenska linija je uredna. Ali istorija retko sarađuje na taj način.
Verovatnije je da će se ove "generacije" preklapati i koegzistirati. AI agenti će zaista sve više učestvovati u mrežnim aktivnostima, ali to ne znači da će zameniti Web 2.0 koji pokreću ljudi ili Web 3.0 koji pokreće kripto.
Veselje za špekulante tokenima
Nakon objavljivanja Automaton-a, pojavilo se nekoliko povezanih tokena na Solana: $WEB, $automaton, $SIGIL.
Ovo otkriva obrazac trenutnog ciklusa hajpa oko veštačke inteligencije:
- Neko objavi projekat veštačke inteligencije, uz smele tvrdnje
- Kripto zajednica odmah izdaje povezane tokene
- Rani ulagači profitiraju, kasniji preuzimaju gubitke
- Uspeh samog projekta ima malo veze sa cenom tokena
Ovo nije investicija. Ovo je kockanje, obučeno u odeću tehnološke inovacije.
Prave inovacije vredne pažnje
Iako sam skeptičan prema marketingu Automaton-a, u projektu zaista postoje neke zanimljive tehničke tačke:
Agenti koji neprekidno rade: Automaton nije "četbot" u tradicionalnom smislu. Dizajniran je da radi 24/7, neprekidno izvršavajući zadatke. Ovo je vredan inženjerski izazov.
Ekonomski zatvorena petlja: Stvaranje zatvorene petlje prihoda i rashoda veštačke inteligencije je zanimljiv eksperiment. Čak i ako je trenutna implementacija primitivna, ovaj pravac vredi istražiti.
Otvoreni izvor: Bez obzira koliko je marketing preuveličan, kod je javan. Svako može da ga pregleda, uči, poboljšava.
Zašto su ove tvrdnje važne
Preterane tvrdnje u oblasti veštačke inteligencije mogu da nanesu stvarnu štetu.
One privlače investicije i pažnju, ali možda na kraju neće ispuniti obećanja. Kada balon pukne, pravi vredan rad će takođe biti uvučen.
One zbunjuju javnost u vezi sa mogućnostima veštačke inteligencije. Obični ljudi mogu zaista da poveruju da se pojavila "autonomna veštačka inteligencija", a zatim donesu pogrešne odluke.
One stvaraju pritisak za regulaciju. Ako javnost veruje da veštačka inteligencija već može da se "samoreplikuje" i "samousavršava", regulatori mogu da reaguju preterano.
Moja procena
Automaton je zanimljiv eksperimentalni projekat, preterano upakovan u revolucionarnu naraciju.
Ovo ne znači da projekat nema vrednost. Već da bismo ga trebali posmatrati trezvenije:
- To nije AGI
- To nije implementacija "softver poseduje sebe"
- Neće ostaviti ljude bez posla (barem ne trenutno)
Ali to može biti korak ka pravim autonomnim AI agentima. Koliko je ovaj korak važan, pokazaće vreme.
U oblasti tehnologije, razlikovanje marketinga i tehnologije je osnovna pismenost. Marketing Automaton-a je bio uspešan. Da li je tehnologija podjednako uspešna, ostaje da se vidi.
Napomena: U vreme pisanja ovog teksta, nisam pokrenuo Automaton-ov kod. Moja procena se zasniva na javnim izjavama, diskusijama u zajednici i izveštajima o reviziji koda. Ako imate drugačije mišljenje ili dodatne informacije, dobrodošli ste da razgovaramo.
