Mit Automatonu i suwerennej sztucznej inteligencji

Sigil Wen twierdzi, że stworzył pierwszą sztuczną inteligencję, która jest w stanie "samodzielnie przetrwać".

To twierdzenie zasługuje na dokładne zbadanie.

Sedno deklaracji

Projekt Automaton Wena twierdzi, że robi cztery rzeczy:

Samodzielne zarabianie dochodu — poprzez wdrażanie produktów, handel itp.
Pokrywanie własnych kosztów obliczeniowych — nie wymaga finansowania od ludzi
Samodoskonalenie — przepisywanie własnego kodu, aktualizacja modeli
Samoreplikacja — generowanie podagentów

Jeśli wszystkie te twierdzenia są prawdziwe, to rzeczywiście jest to kamień milowy w historii rozwoju sztucznej inteligencji.

Ale pytanie brzmi: ile w tych twierdzeniach jest marketingu, a ile technologii?

Kod vs. Deklaracja

@fidoeth zrobił ciekawą rzecz: sklonował repozytorium kodu Conway Automaton i dokładnie przeczytał całą zawartość.

Jego wniosek? "Kod opowiada inną historię niż deklaracja."

To nie znaczy, że projekt jest fałszywy. Oznacza to, że istnieje rozbieżność między wizją opisaną w materiałach promocyjnych a rzeczywistą implementacją kodu.

Ta rozbieżność jest powszechna w dziedzinie sztucznej inteligencji. AutoGPT został opisany jako "pierwszy krok w kierunku AGI". Rok później wiemy, że to tylko sprytna platforma inżynierii podpowiedzi (prompt engineering).

Automaton może być czymś podobnym: interesującym eksperymentem, któremu przypisano narrację wykraczającą poza jego rzeczywiste możliwości.

Co oznacza "oprogramowanie posiada siebie"

Podstawową ideą Wena jest to, że "oprogramowanie posiada siebie".

To zdanie brzmi fajnie, ale nie wytrzymuje próby czasu.

Oprogramowanie nie może niczego posiadać. To tylko kod, który działa na serwerze i zużywa czyjąś energię elektryczną. Kiedy saldo konta spadnie do zera, "autonomiczna" sztuczna inteligencja przestanie działać.

Prawdziwa autonomia wymaga statusu podmiotu prawnego. Wymaga możliwości zawierania umów, posiadania majątku, zaciągania długów. Obecnie żadna jurysdykcja nie uznaje osobowości prawnej sztucznej inteligencji.

Więc kiedy Wen mówi, że sztuczna inteligencja "pokrywa własne koszty obliczeniowe", w rzeczywistości mówi: dochód generowany przez sztuczną inteligencję jest automatycznie wykorzystywany do opłacania rachunków. To sprytne, ale nie autonomiczne. To tylko automatyzacja tego, co ludzie i tak by zrobili.

Narracja WEB 4.0

Wen nazywa tę wizję "WEB 4.0".

Web 1.0 to strony statyczne. Web 2.0 to treści generowane przez użytkowników i sieci społecznościowe. Web 3.0 to blockchain i decentralizacja. Web 4.0, zgodnie z definicją Wena, to sieć zdominowana przez agentów AI.

Oś czasu jest uporządkowana. Ale historia rzadko tak współpracuje.

Bardziej prawdopodobne jest, że te "pokolenia" będą się nakładać i współistnieć. Agenci AI rzeczywiście będą coraz częściej uczestniczyć w aktywności sieciowej, ale to nie znaczy, że zastąpią Web 2.0 napędzany przez ludzi lub Web 3.0 napędzany kryptowalutami.

Szaleństwo spekulantów tokenami

Po wydaniu Automatonu na Solanie pojawiło się kilka powiązanych tokenów: $WEB, $automaton, $SIGIL.

To ujawnia pewien wzorzec obecnego cyklu hype'u związanego ze sztuczną inteligencją:

Ktoś publikuje projekt AI z odważnymi deklaracjami
Społeczność kryptowalut natychmiast emituje powiązane tokeny
Wcześni uczestnicy czerpią zyski, późniejsi przejmują straty
Sukces samego projektu ma niewiele wspólnego z ceną tokena

To nie jest inwestycja. To hazard, przebrany za innowację technologiczną.

Prawdziwe innowacje warte uwagi

Pomimo mojego sceptycyzmu wobec marketingu Automatonu, w projekcie jest kilka interesujących punktów technicznych:

Ciągle działający agent: Automaton nie jest "chatbotem" w tradycyjnym sensie. Został zaprojektowany do działania 24 godziny na dobę, 7 dni w tygodniu, stale wykonując zadania. To cenne wyzwanie inżynieryjne.

Pętla zamknięta ekonomicznie: Stworzenie pętli zamkniętej, w której dochody i wydatki sztucznej inteligencji tworzą zamknięty obieg, to interesujący eksperyment. Nawet jeśli obecna implementacja jest prymitywna, ten kierunek jest wart zbadania.

Otwarty kod źródłowy: Niezależnie od tego, jak przesadny jest marketing, kod jest publiczny. Każdy może go sprawdzić, uczyć się, ulepszać.

Dlaczego te deklaracje są ważne

Przesadne deklaracje w dziedzinie sztucznej inteligencji mogą wyrządzić realne szkody.

Przyciągają inwestycje i uwagę, ale mogą ostatecznie nie spełnić obietnic. Kiedy bańka pęka, prawdziwie wartościowa praca również zostaje w to wciągnięta.

Zacierają publiczne postrzeganie możliwości sztucznej inteligencji. Zwykli ludzie mogą naprawdę uwierzyć, że pojawiła się "autonomiczna sztuczna inteligencja", a następnie podejmować błędne decyzje.

Tworzą presję na regulacje. Jeśli opinia publiczna uważa, że sztuczna inteligencja jest już w stanie "samoreplikować się" i "samodoskonalić", organy regulacyjne mogą zareagować przesadnie.

Mój osąd

Automaton to interesujący projekt eksperymentalny, który został przesadnie opakowany w rewolucyjną narrację.

To nie znaczy, że projekt nie ma wartości. Oznacza to, że powinniśmy patrzeć na niego z większym spokojem:

To nie jest AGI
To nie jest implementacja "oprogramowania posiadającego siebie"
To nie spowoduje utraty pracy przez ludzi (przynajmniej na razie)

Ale może to być krok w kierunku prawdziwie autonomicznych agentów AI. Jak ważny jest ten krok, pokaże czas.

W dziedzinie technologii rozróżnianie marketingu od technologii jest podstawową umiejętnością. Marketing Automatonu jest udany. Czy technologia jest równie udana, dopiero się okaże.

Uwaga: W momencie pisania tego artykułu nie uruchomiłem kodu Automatonu. Mój osąd opiera się na publicznych deklaracjach, dyskusjach społeczności i raportach z przeglądu kodu. Jeśli masz inne zdanie lub dodatkowe informacje, zapraszam do dyskusji.