Mýtus o Automatonu a suverénní AI

Sigil Wen prohlašuje, že vytvořil první AI, která je schopna "autonomního přežití".

Toto tvrzení si zaslouží důkladné prozkoumání.

Jádro prohlášení

Projekt Automaton od Wena tvrdí, že dokáže čtyři věci:

Autonomně vydělávat příjmy – vydělávat peníze nasazováním produktů, obchodováním atd.
Platit si vlastní výpočetní náklady – nepotřebuje lidské financování
Samo se zlepšovat – přepisovat svůj vlastní kód, upgradovat modely
Samo se replikovat – generovat podagenty

Pokud jsou všechna tato tvrzení pravdivá, jedná se skutečně o milník v historii vývoje AI.

Otázkou ale je: kolik z těchto tvrzení je marketing a kolik technologie?

Kód vs. deklarace

@fidoeth udělal zajímavou věc: naklonoval kódovou základnu Conway Automaton a pečlivě si přečetl veškerý obsah.

Jeho závěr? "Kód vypráví jiný příběh než deklarace."

To neznamená, že projekt je falešný. Spíše to znamená, že existuje rozdíl mezi vizí popsanou v propagačních materiálech a skutečnou implementací kódu.

Tento rozdíl je v oblasti AI běžný. AutoGPT byl popsán jako "první krok k AGI". O rok později víme, že je to jen chytrý rámec pro prompt engineering.

Automaton může být také něco podobného: zajímavý experiment, kterému je přisuzován narativ přesahující jeho skutečné schopnosti.

Co znamená "software vlastní sám sebe"

Wenova hlavní myšlenka je "software vlastní sám sebe".

Tato fráze zní skvěle, ale neobstojí při bližším zkoumání.

Software nemůže vlastnit nic. Je to jen kód, který běží na serveru a spotřebovává něčí elektřinu. Když se zůstatek na účtu vynuluje, "autonomní" AI přestane fungovat.

Skutečná autonomie vyžaduje status právního subjektu. Vyžaduje schopnost uzavírat smlouvy, vlastnit majetek, přebírat dluhy. V současné době žádná jurisdikce neuznává právní osobnost AI.

Takže když Wen říká, že AI "platí své vlastní výpočetní náklady", ve skutečnosti říká: příjmy generované AI jsou automaticky použity k placení účtů. To je chytré, ale není to autonomní. Je to jen automatizace toho, co by jinak dělal člověk.

Narativ WEB 4.0

Wen nazývá tuto vizi "WEB 4.0".

Web 1.0 jsou statické stránky. Web 2.0 je obsah generovaný uživateli a sociální sítě. Web 3.0 je blockchain a decentralizace. Web 4.0, podle Wenovy definice, je síť ovládaná agenty AI.

Časová osa je úhledná. Ale historie se málokdy chová takto.

Je pravděpodobnější, že se tyto "generace" budou překrývat a koexistovat. Agenti AI se budou skutečně stále více podílet na aktivitách v síti, ale to neznamená, že nahradí lidmi řízený Web 2.0 nebo kryptem řízený Web 3.0.

Rave pro spekulanty s tokeny

Po vydání Automatonu se na Solaně objevilo několik souvisejících tokenů: $WEB, $automaton, $SIGIL.

To odhaluje vzorec současného cyklu hype kolem AI:

Někdo vydá projekt AI s odvážnými prohlášeními
Krypto komunita okamžitě vydá související tokeny
Ti, kteří vstoupí brzy, profitují, ti, kteří vstoupí později, přeplácejí
Úspěch samotného projektu má s cenou tokenu jen málo společného

To není investice. To je hazard, maskovaný za technologickou inovaci.

Skutečné inovace, které stojí za pozornost

I když jsem skeptický k marketingu Automatonu, v projektu je několik zajímavých technických bodů:

Nepřetržitě běžící agenti: Automaton není tradiční "chatbot". Je navržen tak, aby běžel 24/7 a neustále prováděl úkoly. To je cenná inženýrská výzva.

Ekonomická uzavřená smyčka: Vytvoření uzavřené smyčky příjmů a výdajů AI je zajímavý experiment. I když je současná implementace primitivní, tento směr stojí za prozkoumání.

Otevřený zdrojový kód: Bez ohledu na to, jak přehnaný je marketing, kód je veřejný. Kdokoli jej může zkontrolovat, učit se z něj, vylepšovat jej.

Proč jsou tato prohlášení důležitá

Přehnaná prohlášení v oblasti AI mohou způsobit skutečné škody.

Přilákají investice a pozornost, ale nakonec nemusí splnit sliby. Když bublina praskne, bude zasažena i skutečně hodnotná práce.

Zamlžují veřejné vnímání schopností AI. Běžní lidé mohou skutečně uvěřit, že se objevila "autonomní AI", a pak učinit chybná rozhodnutí.

Vytvářejí tlak na regulaci. Pokud se veřejnost domnívá, že AI je již schopna "samo se replikovat" a "samo se zlepšovat", regulátoři mohou reagovat přehnaně.

Můj úsudek

Automaton je zajímavý experimentální projekt, který byl přehnaně zabalen do revolučního narativu.

To neznamená, že projekt nemá hodnotu. Spíše to znamená, že bychom se na něj měli dívat střízlivěji:

Není to AGI
Není to implementace "software vlastní sám sebe"
Nezbaví lidi práce (alespoň prozatím ne)

Ale může to být krok k skutečně autonomním agentům AI. Jak důležitý tento krok je, ukáže čas.

V oblasti technologií je rozlišování mezi marketingem a technologií základní dovednost. Marketing Automatonu je úspěšný. Zda je stejně úspěšná i technologie, se teprve uvidí.

Poznámka: V době psaní tohoto článku jsem nespustil kód Automatonu. Můj úsudek je založen na veřejných prohlášeních, komunitních diskusích a zprávách o revizi kódu. Pokud máte jiný názor nebo další informace, neváhejte diskutovat.