Митът за Automaton и суверенния AI

Сигил Уен твърди, че е създал първия AI, който може да „съществува автономно“.

Това твърдение заслужава внимателно разглеждане.

Същността на твърдението

Проектът Automaton на Уен твърди, че прави четири неща:

Автономно генериране на приходи — печелене на пари чрез внедряване на продукти, търговия и т.н.
Покриване на собствените разходи за изчисления — не се нуждае от човешко финансиране
Самоусъвършенстване — пренаписване на собствения код, надграждане на модели
Самокопиране — генериране на дъщерни агенти

Ако всички тези твърдения са верни, това наистина е крайъгълен камък в историята на развитието на AI.

Но въпросът е: колко от тези твърдения са маркетинг и колко са технология?

Код срещу декларация

@fidoeth направи нещо интересно: той клонира кодовата база на Conway Automaton и внимателно прочете цялото съдържание.

Неговият извод? „Кодът разказва различна история от декларацията.“

Това не означава, че проектът е фалшив. По-скоро, че има разлика между визията, описана в рекламните материали, и действителната реализация на кода.

Тази разлика е често срещана в областта на AI. AutoGPT някога беше описан като „първата стъпка към AGI“. Година по-късно знаем, че това е просто хитра рамка за prompt engineering.

Automaton може да е нещо подобно: интересен експеримент, на който е даден разказ, надхвърлящ действителните му възможности.

Какво означава „софтуерът притежава себе си“

Основната идея на Уен е, че „софтуерът притежава себе си“.

Това изречение звучи готино, но не издържа на проверка.

Софтуерът не може да притежава нищо. Той е просто код, който работи на сървър и консумира нечие електричество. Когато салдото по сметката стане нула, „автономният“ AI спира да работи.

Истинската автономия изисква статут на юридическо лице. Трябва да може да сключва договори, да притежава имущество, да поема дългове. В момента няма юрисдикция, която да признава правната правосубектност на AI.

Така че, когато Уен казва, че AI „покрива собствените си разходи за изчисления“, той всъщност казва: приходите, генерирани от AI, автоматично се използват за плащане на сметки. Това е умно, но не е автономно. Това е просто автоматизиране на неща, които хората биха направили.

Разказът за WEB 4.0

Уен нарича тази визия „WEB 4.0“.

Web 1.0 са статични страници. Web 2.0 е генерирано от потребителите съдържание и социални мрежи. Web 3.0 е блокчейн и децентрализация. Web 4.0, според дефиницията на Уен, е мрежа, доминирана от AI агенти.

Времевата линия е подредена. Но историята рядко е толкова съгласна.

По-вероятно е тези „поколения“ да се припокриват и да съществуват съвместно. AI агентите наистина ще участват все повече в мрежови дейности, но това не означава, че ще заменят управлявания от хора Web 2.0 или крипто-управлявания Web 3.0.

Пиршество за спекулантите с токени

След пускането на Automaton се появиха множество свързани токени в Solana: $WEB, $automaton, $SIGIL.

Това разкрива модел на текущия цикъл на hype около AI:

Някой публикува AI проект с дръзки твърдения
Крипто общността незабавно издава свързани токени
Ранните участници печелят, а по-късните поемат загубите
Успехът на самия проект почти няма връзка с цената на токена

Това не е инвестиция. Това е хазарт, маскиран като технологична иновация.

Истински иновации, които си струва да бъдат наблюдавани

Въпреки че съм скептичен към маркетинга на Automaton, има някои интересни технически точки в проекта:

Непрекъснато работещи агенти: Automaton не е „чатбот“ в традиционния смисъл. Той е проектиран да работи 24/7, непрекъснато изпълнявайки задачи. Това е ценно инженерно предизвикателство.

Икономически затворен цикъл: Създаването на затворен цикъл от приходи и разходи на AI е интересен експеримент. Дори настоящата реализация да е елементарна, тази посока си струва да бъде проучена.

Отворен код: Независимо колко е преувеличен маркетингът, кодът е публичен. Всеки може да го прегледа, да се учи от него, да го подобри.

Защо тези твърдения са важни

Преувеличените твърдения в областта на AI могат да причинят реални щети.

Те привличат инвестиции и внимание, но в крайна сметка може да не успеят да изпълнят обещанията си. Когато балонът се спука, наистина ценната работа също ще бъде засегната.

Те объркват общественото възприятие за възможностите на AI. Обикновените хора може наистина да повярват, че вече е възникнал „автономен AI“, и след това да вземат грешни решения.

Те създават натиск за регулация. Ако обществеността вярва, че AI вече е в състояние да се „самокопира“ и „самоусъвършенства“, регулаторите могат да реагират прекалено.

Моята преценка

Automaton е интересен експериментален проект, който е прекалено опакован като революционен разказ.

Това не означава, че проектът няма стойност. По-скоро, че трябва да го разглеждаме с по-трезва перспектива:

Това не е AGI
Това не е реализация на „софтуерът притежава себе си“
Това няма да лиши хората от работа (поне засега)

Но може да е стъпка към истински автономни AI агенти. Колко важна е тази стъпка, времето ще покаже.

В областта на технологиите разграничаването на маркетинга от технологията е основна грамотност. Маркетингът на Automaton е успешен. Дали технологията е също толкова успешна, предстои да видим.

Забележка: Към момента на писане на тази статия не съм стартирал кода на Automaton. Моята преценка се основава на публични изявления, дискусии в общността и доклади за преглед на кода. Ако имате различни гледни точки или допълнителна информация, добре дошли да обсъдим.