Az Automaton és a szuverén AI mítosza

Sigil Wen azt állítja, hogy megalkotta az első AI-t, amely képes az "önálló életre".

Ez az állítás alapos vizsgálatot érdemel.

A nyilatkozat lényege

Wen Automaton projektje azt állítja, hogy négy dolgot valósít meg:

Önálló bevételszerzés – termékek telepítésével, kereskedéssel stb.
Saját számítási költségeinek fedezése – nincs szükség emberi finanszírozásra
Önfejlesztés – saját kódjának átírása, modellek frissítése
Önmásolás – alügynökök generálása

Ha ezek az állítások mind igazak, akkor ez valóban mérföldkő az AI fejlődésében.

De a kérdés az: mennyi ebből marketing és mennyi technológia?

Kód vs. Nyilatkozat

@fidoeth egy érdekes dolgot tett: klónozta a Conway Automaton kódkönyvtárát, és alaposan elolvasta a teljes tartalmat.

A következtetése? "A kód más történetet mesél, mint a nyilatkozat."

Ez nem azt jelenti, hogy a projekt hamis. Hanem azt, hogy van egy szakadék a promóciós anyagokban leírt elképzelés és a tényleges kódmegvalósítás között.

Ez a szakadék gyakori az AI területén. Az AutoGPT-t korábban "az AGI-hez vezető első lépésként" írták le. Egy évvel később tudjuk, hogy ez csak egy ügyes prompt engineering keretrendszer.

Az Automaton valószínűleg valami hasonló: egy érdekes kísérlet, amely a tényleges képességein túlmutató narratívát kapott.

Mit jelent az, hogy "a szoftver a sajátja"?

Wen központi gondolata az, hogy "a szoftver a sajátja".

Ez a mondat jól hangzik, de nem állja meg a helyét.

A szoftver nem birtokolhat semmit. Ez csak kód, amely szervereken fut, és valakinek a villanyszámláját fogyasztja. Amikor a számlaegyenleg nullára csökken, az "önálló" AI leáll.

A valódi autonómiához jogi személyiségre van szükség. Szükséges, hogy szerződéseket köthessen, tulajdont birtokolhasson, adósságokat vállalhasson. Jelenleg egyetlen joghatóság sem ismeri el az AI jogi személyiségét.

Tehát amikor Wen azt mondja, hogy az AI "fizeti a saját számítási költségeit", akkor valójában azt mondja: az AI által generált bevétel automatikusan a számlák kifizetésére fordítódik. Ez okos, de nem autonómia. Ez csak automatizálja azt, amit az ember eredetileg megtenne.

A WEB 4.0 narratívája

Wen ezt a jövőképet "WEB 4.0"-nak nevezi.

A Web 1.0 statikus oldalak voltak. A Web 2.0 a felhasználók által generált tartalom és a közösségi hálózatok. A Web 3.0 a blokklánc és a decentralizáció. A Web 4.0, Wen definíciója szerint, az AI ügynökök által uralt hálózat.

Az idővonal rendezett. De a történelem ritkán működik együtt ennyire.

Valószínűbb, hogy ezek a "generációk" átfedik egymást és együtt léteznek. Az AI ügynökök valóban egyre nagyobb mértékben vesznek részt a hálózati tevékenységekben, de ez nem jelenti azt, hogy felváltják az ember által vezérelt Web 2.0-t vagy a kriptográfia által vezérelt Web 3.0-t.

A token spekulánsok ünnepe

Az Automaton megjelenése után több kapcsolódó token is megjelent a Solanán: $WEB, $automaton, $SIGIL.

Ez feltárja a jelenlegi AI hype ciklus egyik mintáját:

Valaki közzétesz egy AI projektet, merész állításokkal
A kriptoközösség azonnal kibocsát kapcsolódó tokeneket
A korai belépők profitálnak, a későbbi belépők átveszik a terhet
A projekt sikere szinte semmilyen kapcsolatban nincs a token árával

Ez nem befektetés. Ez szerencsejáték, a technológiai innováció leple alatt.

Valódi innovációk, amelyekre érdemes figyelni

Bár szkeptikus vagyok az Automaton marketingjével kapcsolatban, a projektben valóban van néhány érdekes technikai pont:

Folyamatosan futó ügynökök: Az Automaton nem a hagyományos értelemben vett "chatbot". Úgy tervezték, hogy 24/7-ben fusson, folyamatosan feladatokat végrehajtva. Ez egy értékes mérnöki kihívás.

Gazdasági zárt lánc: Az AI bevételeinek és kiadásainak zárt láncot alkotása egy érdekes kísérlet. Még ha a jelenlegi megvalósítás kezdetleges is, ez az irány érdemes a feltárásra.

Nyílt forráskód: Bármilyen túlzó is a marketing, a kód nyilvános. Bárki áttekintheti, tanulhat belőle, fejlesztheti.

Miért fontosak ezek az állítások

Az AI területén a túlzó állítások tényleges károkat okozhatnak.

Befektetéseket és figyelmet vonzanak, de végül nem tudják beváltani az ígéreteket. Amikor a buborék kipukkan, az igazán értékes munka is érintett lesz.

Összezavarják a közvéleményt az AI képességeivel kapcsolatban. A hétköznapi emberek valóban elhihetik, hogy már megjelent egy "önálló AI", és rossz döntéseket hozhatnak.

Nyomást gyakorolnak a szabályozásra. Ha a közvélemény úgy gondolja, hogy az AI már képes "önmagát másolni" és "önmagát fejleszteni", a szabályozók túlzott reakciókat adhatnak.

Az én ítéletem

Az Automaton egy érdekes kísérleti projekt, amelyet túlzottan egy forradalmi narratívába csomagoltak.

Ez nem azt jelenti, hogy a projekt értéktelen. Hanem azt, hogy nyugodtabb szemmel kell néznünk rá:

Ez nem AGI
Ez nem a "szoftver a sajátja" megvalósítása
Nem fogja az embereket munkanélkülivé tenni (legalábbis egyelőre nem)

De ez lehet egy lépés a valódi autonóm AI ügynökök felé. Az idő fogja megmondani, hogy ez a lépés mennyire fontos.

A technológiai területen alapvető fontosságú a marketing és a technológia megkülönböztetése. Az Automaton marketingje sikeres volt. Hogy a technológia is sikeres-e, az még kiderül.

Megjegyzés: A cikk írásakor nem futtattam az Automaton kódját. Az ítéletem a nyilvános nyilatkozatokon, a közösségi vitákon és a kódellenőrzési jelentéseken alapul. Ha eltérő véleménye vagy további információja van, szívesen megvitatom.