Mýtus Automatonu a suverénnej AI

Sigil Wen tvrdí, že vytvoril prvú AI, ktorá je schopná "autonómne prežiť".

Toto tvrdenie si zaslúži dôkladné preskúmanie.

Jadro tvrdení

Wenov projekt Automaton tvrdí, že dokáže štyri veci:

Autonómne zarábať príjem – zarábať peniaze prostredníctvom nasadzovania produktov, obchodovania atď.
Platiť si vlastné výpočtové náklady – nepotrebuje ľudské financovanie
Samo-vylepšovanie – prepisovať svoj vlastný kód, aktualizovať modely
Samo-replikácia – generovať dcérskych agentov

Ak sú všetky tieto tvrdenia pravdivé, ide skutočne o míľnik v histórii vývoja AI.

Otázka však znie: Koľko z týchto tvrdení je marketing a koľko technológia?

Kód vs. Manifest

@fidoeth urobil zaujímavú vec: naklonoval kódovú základňu Conway Automaton a pozorne si prečítal celý obsah.

Jeho záver? "Kód rozpráva iný príbeh ako manifest."

To neznamená, že projekt je falošný. Skôr to znamená, že existuje rozdiel medzi víziou opísanou v propagačných materiáloch a skutočnou implementáciou kódu.

Tento rozdiel je v oblasti AI bežný. AutoGPT bol opísaný ako "prvý krok k AGI". O rok neskôr vieme, že je to len šikovný rámec pre prompt engineering.

Automaton môže byť niečo podobné: zaujímavý experiment, ktorému bol pridelený naratív presahujúci jeho skutočné schopnosti.

Čo znamená "softvér vlastní sám seba"

Wenova hlavná myšlienka je "softvér vlastní sám seba".

Táto veta znie cool, ale neobstojí v skúške.

Softvér nemôže vlastniť nič. Je to len kód, ktorý beží na serveri a spotrebúva niečiu elektrinu. Keď sa zostatok na účte vynuluje, "autonómna" AI prestane fungovať.

Skutočná autonómia si vyžaduje postavenie právneho subjektu. Potrebuje mať možnosť uzatvárať zmluvy, vlastniť majetok, preberať dlhy. V súčasnosti žiadna jurisdikcia neuznáva právnu osobnosť AI.

Takže keď Wen hovorí, že AI "platí svoje vlastné výpočtové náklady", v skutočnosti hovorí: Príjem generovaný AI sa automaticky používa na platenie účtov. To je šikovné, ale nie autonómne. Je to len automatizácia toho, čo by inak robil človek.

Naratív WEB 4.0

Wen nazýva túto víziu "WEB 4.0".

Web 1.0 sú statické stránky. Web 2.0 je obsah generovaný používateľmi a sociálne siete. Web 3.0 je blockchain a decentralizácia. Web 4.0, podľa Wenovej definície, je sieť, ktorej dominujú AI agenti.

Časová os je úhľadná. Ale história zriedka takto spolupracuje.

Je pravdepodobnejšie, že tieto "generácie" sa budú prekrývať a koexistovať. AI agenti sa budú skutočne čoraz viac zapájať do sieťových aktivít, ale to neznamená, že nahradia Web 2.0 riadený ľuďmi alebo Web 3.0 riadený kryptomenami.

Rave pre špekulantov s tokenmi

Po vydaní Automatonu sa na Solane objavilo niekoľko súvisiacich tokenov: $WEB, $automaton, $SIGIL.

To odhaľuje vzorec súčasného cyklu hype okolo AI:

Niekto vydá AI projekt s odvážnymi tvrdeniami
Kryptokomunita okamžite vydá súvisiace tokeny
Tí, ktorí vstúpia skoro, profitujú, tí, ktorí vstúpia neskôr, preberajú straty
Úspech samotného projektu má s cenou tokenu len málo spoločného

Toto nie je investícia. Je to hazard, zahalený do plášťa technologickej inovácie.

Skutočné inovácie, ktoré stoja za pozornosť

Napriek mojej skepse voči marketingu Automatonu, projekt skutočne obsahuje niekoľko zaujímavých technických bodov:

Nepretržite bežiaci agenti: Automaton nie je v tradičnom zmysle slova "chatbot". Je navrhnutý tak, aby bežal 24 hodín denne, 7 dní v týždni a nepretržite vykonával úlohy. To je cenná inžinierska výzva.

Ekonomická uzavretá slučka: Vytvorenie uzavretej slučky príjmov a výdavkov AI je zaujímavý experiment. Aj keď je súčasná implementácia primitívna, tento smer stojí za preskúmanie.

Otvorený zdrojový kód: Bez ohľadu na to, aký prehnaný je marketing, kód je verejný. Ktokoľvek ho môže skontrolovať, učiť sa z neho, vylepšovať ho.

Prečo sú tieto tvrdenia dôležité

Prehnané tvrdenia v oblasti AI môžu spôsobiť skutočné škody.

Priťahujú investície a pozornosť, ale nakoniec nemusia splniť sľuby. Keď bublina praskne, zasiahne to aj skutočne hodnotnú prácu.

Zahmlievajú verejné vnímanie schopností AI. Bežní ľudia môžu skutočne veriť, že sa objavila "autonómna AI", a potom urobiť nesprávne rozhodnutia.

Vytvárajú tlak na reguláciu. Ak verejnosť verí, že AI je už schopná "samo-replikácie" a "samo-vylepšovania", regulátori môžu reagovať prehnane.

Môj úsudok

Automaton je zaujímavý experimentálny projekt, ktorý bol prehnane zabalený do revolučného naratívu.

To neznamená, že projekt nemá hodnotu. Skôr to znamená, že by sme sa naň mali pozerať triezvejšie:

Nie je to AGI
Nie je to implementácia "softvér vlastní sám seba"
Nespôsobí stratu zamestnania pre ľudí (aspoň zatiaľ nie)

Ale môže to byť krok k skutočne autonómnym AI agentom. Aký dôležitý je tento krok, ukáže čas.

V oblasti technológií je rozlišovanie medzi marketingom a technológiou základná gramotnosť. Marketing Automatonu je úspešný. Či je rovnako úspešná aj technológia, sa ešte len ukáže.

Poznámka: V čase písania tohto článku som nespustil kód Automatonu. Môj úsudok je založený na verejných vyhláseniach, diskusiách v komunite a správach o kontrole kódu. Ak máte iný názor alebo ďalšie informácie, vitajte v diskusii.