Il mito di Automaton e dell'AI sovrana

Sigil Wen afferma di aver creato la prima AI in grado di "sopravvivere autonomamente".

Questa affermazione merita un esame approfondito.

Il cuore della dichiarazione

Il progetto Automaton di Wen afferma di fare quattro cose:

Guadagnare entrate autonomamente — Guadagnare denaro attraverso la distribuzione di prodotti, il trading, ecc.
Pagare i propri costi di calcolo — Non necessita di finanziamenti umani
Auto-miglioramento — Riscrivere il proprio codice, aggiornare i modelli
Auto-replicazione — Generare sotto-agenti

Se tutte queste affermazioni fossero vere, sarebbe davvero una pietra miliare nella storia dello sviluppo dell'AI.

Ma la domanda è: quanto di queste affermazioni è marketing e quanto è tecnologia?

Codice vs Dichiarazione

@fidoeth ha fatto una cosa interessante: ha clonato il repository di codice di Conway Automaton e ha letto attentamente tutto il contenuto.

La sua conclusione? "Il codice racconta una storia diversa dalla dichiarazione."

Questo non significa che il progetto sia falso. Significa invece che c'è un divario tra la visione descritta nel materiale promozionale e l'effettiva implementazione del codice.

Questo divario è comune nel campo dell'AI. AutoGPT è stato descritto come "il primo passo verso l'AGI". Un anno dopo, sappiamo che è solo un ingegnoso framework di prompt engineering.

Automaton potrebbe essere qualcosa di simile: un esperimento interessante, a cui è stata data una narrazione che va oltre le sue reali capacità.

Cosa significa "il software possiede se stesso"

L'idea centrale di Wen è che "il software possiede se stesso".

Questa frase suona bene, ma non regge a un esame più approfondito.

Il software non può possedere nulla. È solo codice, in esecuzione su un server, che consuma l'elettricità di qualcuno. Quando il saldo del conto arriva a zero, l'AI "autonoma" smette di funzionare.

La vera autonomia richiede lo status di soggetto giuridico. Richiede la capacità di stipulare contratti, possedere proprietà, assumere debiti. Attualmente nessuna giurisdizione riconosce la personalità giuridica dell'AI.

Quindi, quando Wen dice che l'AI "paga i propri costi di calcolo", in realtà sta dicendo: le entrate generate dall'AI vengono utilizzate automaticamente per pagare le bollette. È intelligente, ma non è autonomia. È solo l'automazione di ciò che gli umani avrebbero fatto.

La narrazione del WEB 4.0

Wen chiama questa visione "WEB 4.0".

Web 1.0 sono pagine statiche. Web 2.0 è contenuto generato dagli utenti e social network. Web 3.0 è blockchain e decentralizzazione. Web 4.0, secondo la definizione di Wen, è una rete dominata da agenti AI.

La timeline è ordinata. Ma la storia raramente è così collaborativa.

È più probabile che queste "generazioni" si sovrappongano e coesistano. Gli agenti AI parteciperanno sempre più alle attività di rete, ma ciò non significa che sostituiranno il Web 2.0 guidato dall'uomo o il Web 3.0 guidato dalla crittografia.

La festa dei speculatori di token

Dopo il rilascio di Automaton, sono apparsi diversi token correlati su Solana: $WEB, $automaton, $SIGIL.

Questo rivela un modello dell'attuale ciclo di hype dell'AI:

Qualcuno pubblica un progetto AI, accompagnato da dichiarazioni audaci
La comunità crittografica emette immediatamente token correlati
I primi arrivati realizzano profitti, gli ultimi arrivati si accollano le perdite
Il successo del progetto stesso ha poca relazione con il prezzo del token

Questo non è investimento. È gioco d'azzardo, mascherato da innovazione tecnologica.

Vera innovazione degna di nota

Nonostante il mio scetticismo sul marketing di Automaton, ci sono alcuni punti tecnici interessanti nel progetto:

Agenti in esecuzione continua: Automaton non è un "chatbot" nel senso tradizionale. È progettato per funzionare 24 ore su 24, 7 giorni su 7, eseguendo continuamente attività. Questa è una sfida ingegneristica preziosa.

Ciclo economico chiuso: Creare un ciclo chiuso di entrate e spese per l'AI è un esperimento interessante. Anche se l'implementazione attuale è rudimentale, questa direzione merita di essere esplorata.

Open source: Indipendentemente da quanto sia esagerato il marketing, il codice è pubblico. Chiunque può esaminarlo, imparare, migliorarlo.

Perché queste affermazioni sono importanti

Le affermazioni eccessive nel campo dell'AI possono causare danni reali.

Attraggono investimenti e attenzione, ma potrebbero non essere in grado di mantenere le promesse. Quando la bolla scoppia, anche il lavoro di valore reale viene coinvolto.

Confondono la percezione pubblica delle capacità dell'AI. La gente comune potrebbe davvero credere che sia già apparsa un'"AI autonoma" e quindi prendere decisioni sbagliate.

Creano pressione per la regolamentazione. Se il pubblico crede che l'AI sia già in grado di "auto-replicarsi" e "auto-migliorarsi", i regolatori potrebbero reagire in modo eccessivo.

Il mio giudizio

Automaton è un progetto sperimentale interessante, eccessivamente confezionato in una narrazione rivoluzionaria.

Questo non significa che il progetto non abbia valore. Significa invece che dovremmo guardarlo con occhi più sobri:

Non è AGI
Non è un'implementazione di "il software possiede se stesso"
Non farà perdere il lavoro agli umani (almeno non per ora)

Ma potrebbe essere un passo verso un vero agente AI autonomo. Quanto sia importante questo passo, lo dirà il tempo.

Nel campo della tecnologia, distinguere tra marketing e tecnologia è un'alfabetizzazione di base. Il marketing di Automaton ha avuto successo. Se la tecnologia abbia altrettanto successo, resta da vedere.

Nota: al momento della stesura di questo articolo, non ho eseguito il codice di Automaton. Il mio giudizio si basa su dichiarazioni pubbliche, discussioni della comunità e rapporti di revisione del codice. Se hai opinioni diverse o informazioni aggiuntive, sei il benvenuto a discuterne.