Automaton ja suveräänse AI müüt

Sigil Wen väidab, et on loonud esimese AI, mis on võimeline "iseseisvalt ellu jääma".

See väide väärib põhjalikku uurimist.

Väite tuum

Weni Automaton projekt väidab, et suudab nelja asja:

Ise teenida tulu — teenides raha toodete juurutamise, kauplemise jms kaudu
Maksta oma arvutuskulud — ei vaja inimeste rahastust
Ennast täiustada — kirjutades ümber oma koodi, uuendades mudeleid
Ennast kopeerida — genereerides alamagente

Kui need väited kõik paika peavad, on see tõepoolest AI arengu verstapost.

Kuid küsimus on: kui palju neist väidetest on turundus ja kui palju tehnoloogia?

Kood vs deklaratsioon

@fidoeth tegi huvitava asja: ta kloonis Conway Automatoni koodibaasi ja luges hoolikalt läbi kogu sisu.

Tema järeldus? "Kood jutustab teistsugust lugu kui deklaratsioon."

See ei tähenda, et projekt oleks võlts. See tähendab, et reklaammaterjalides kirjeldatud visiooni ja tegeliku koodi teostuse vahel on erinevus.

Selline erinevus on AI valdkonnas tavaline. AutoGPT-d kirjeldati kunagi kui "esimest sammu AGI suunas". Aasta hiljem teame, et see on lihtsalt nutikas viipade genereerimise raamistik.

Automaton võib olla midagi sarnast: huvitav eksperiment, millele on antud suurem narratiiv, kui selle tegelikud võimalused.

Mida tähendab "tarkvara omab ennast"

Weni põhiidee on "tarkvara omab ennast".

See lause kõlab lahedalt, kuid ei pea vastu kriitikale.

Tarkvara ei saa midagi omada. See on lihtsalt kood, mis töötab serveris ja tarbib kellegi elektriarvet. Kui kontojääk on null, lakkab "autonoomne" AI töötamast.

Tõeline autonoomia nõuab juriidilise isiku staatust. See peab saama sõlmida lepinguid, omada vara ja võtta kohustusi. Praegu ei tunnista ükski jurisdiktsioon AI juriidilist isikut.

Nii et kui Wen ütleb, et AI "maksab oma arvutuskulud", siis ta tegelikult ütleb: AI genereeritud tulu kasutatakse automaatselt arvete tasumiseks. See on nutikas, kuid mitte autonoomne. See on lihtsalt automatiseeritud tegevus, mida inimene muidu teeks.

WEB 4.0 narratiiv

Wen nimetab seda visiooni "WEB 4.0".

Web 1.0 on staatilised lehed. Web 2.0 on kasutajate loodud sisu ja sotsiaalvõrgustikud. Web 3.0 on plokiahel ja detsentraliseerimine. Web 4.0, Weni definitsiooni järgi, on AI agentide juhitud võrk.

Ajakava on kena ja korras. Kuid ajalugu harva nii hästi koostööd teeb.

Tõenäolisem on, et need "põlvkonnad" kattuvad ja eksisteerivad koos. AI agendid osalevad tõepoolest üha enam võrgutegevuses, kuid see ei tähenda, et see asendab inimeste juhitud Web 2.0 või krüptovaluuta juhitud Web 3.0.

Tokenite spekulantide pidu

Pärast Automatoni avaldamist ilmus Solanas mitu seotud tokenit: $WEB, $automaton, $SIGIL.

See paljastab praeguse AI hüpe tsükli mustri:

Keegi avaldab AI projekti koos julgete väidetega
Krüptokogukond emiteerib kohe seotud tokeneid
Varajased tulijad teenivad kasumit, hilisemad ostjad võtavad kahju
Projekti enda edukusel on tokeni hinnaga vähe pistmist

See pole investeering. See on hasartmäng, mis on maskeeritud tehnoloogilise innovatsioonina.

Tõeline innovatsioon, mida tasub jälgida

Kuigi ma olen Automatoni turunduse suhtes skeptiline, on projektis tõepoolest mõned huvitavad tehnilised punktid:

Pidevalt töötavad agendid: Automaton pole traditsioonilises mõttes "vestlusrobot". See on loodud töötama 24/7, pidevalt ülesandeid täites. See on väärtuslik insenertehniline väljakutse.

Majanduslik suletud ahel: AI tulude ja kulude suletud ahela loomine on huvitav eksperiment. Isegi kui praegune teostus on algeline, tasub seda suunda uurida.

Avatud lähtekood: olenemata sellest, kui ülepaisutatud on turundus, on kood avalik. Igaüks saab seda üle vaadata, õppida ja täiustada.

Miks need väited on olulised

Ülepaisutatud väited AI valdkonnas võivad tekitada tegelikku kahju.

Need meelitavad ligi investeeringuid ja tähelepanu, kuid ei pruugi lõpuks lubadusi täita. Kui mull lõhkeb, on ka tõeliselt väärtuslik töö ohus.

Need hägustavad avalikkuse arusaama AI võimetest. Tavainimesed võivad tõesti uskuda, et "autonoomne AI" on juba olemas, ja teha seejärel valesid otsuseid.

Need loovad survet reguleerimisele. Kui avalikkus usub, et AI on juba võimeline "ennast kopeerima" ja "ennast täiustama", võivad reguleerijad reageerida ülemääraselt.

Minu hinnang

Automaton on huvitav eksperimentaalprojekt, mis on üle pakendatud revolutsiooniliseks narratiiviks.

See ei tähenda, et projektil poleks väärtust. See tähendab, et me peaksime seda vaatama rahulikumalt:

See pole AGI
See pole "tarkvara omab ennast" teostus
See ei jäta inimesi tööta (vähemalt praegu mitte)

Kuid see võib olla samm tõeliselt autonoomsete AI agentide suunas. Kui oluline see samm on, näitab aeg.

Tehnoloogiavaldkonnas on turunduse ja tehnoloogia eristamine elementaarne oskus. Automatoni turundus on edukas. Kas tehnoloogia on sama edukas, selgub alles.

Märkus: selle artikli kirjutamise ajal ma ei käivitanud Automatoni koodi. Minu hinnang põhineb avalikel väidetel, kogukonna aruteludel ja koodi ülevaatuse aruannetel. Kui teil on erinevaid vaateid või lisateavet, olete oodatud arutama.