Automaton та міф про суверенний ШІ

Sigil Wen стверджує, що створив перший ШІ, здатний до "автономного виживання".

Це твердження варто ретельно перевірити.

Суть заяви

Проєкт Wen Automaton заявляє про чотири речі:

Автономний заробіток — заробіток грошей шляхом розгортання продуктів, торгівлі тощо.
Оплата власних обчислювальних витрат — не потребує фінансування від людей.
Самоудосконалення — переписування власного коду, оновлення моделей.
Самокопіювання — створення дочірніх агентів.

Якщо всі ці заяви правдиві, це дійсно віха в історії розвитку ШІ.

Але питання в тому: скільки в цих заявах маркетингу, а скільки технологій?

Код vs Маніфест

@fidoeth зробив цікаву річ: він клонував кодову базу Conway Automaton, уважно прочитав увесь вміст.

Його висновок? "Код розповідає іншу історію, ніж маніфест".

Це не означає, що проєкт є фейком. Швидше, існує розрив між баченням, описаним у рекламних матеріалах, і фактичною реалізацією коду.

Такий розрив є звичайним явищем у сфері ШІ. AutoGPT колись описувався як "перший крок до AGI". Через рік ми знаємо, що це лише хитромудра структура інженерії підказок.

Automaton може бути чимось подібним: цікавий експеримент, якому приписують більше, ніж він насправді може.

Що означає "програмне забезпечення володіє собою"

Основна ідея Wen полягає в тому, що "програмне забезпечення володіє собою".

Ця фраза звучить круто, але не витримує перевірки.

Програмне забезпечення не може нічим володіти. Це просто код, який працює на сервері, споживаючи чиюсь електроенергію. Коли баланс рахунку досягає нуля, "автономний" ШІ припиняє роботу.

Справжня автономія вимагає статусу юридичної особи. Вона повинна мати можливість укладати контракти, володіти майном, брати на себе борги. Наразі жодна юрисдикція не визнає юридичну правосуб'єктність ШІ.

Тому, коли Wen каже, що ШІ "оплачує власні обчислювальні витрати", він насправді має на увазі: дохід, отриманий ШІ, автоматично використовується для оплати рахунків. Це розумно, але не автономно. Це просто автоматизація того, що люди робили б інакше.

Розповідь про WEB 4.0

Wen називає це бачення "WEB 4.0".

Web 1.0 — це статичні сторінки. Web 2.0 — це контент, створений користувачами, і соціальні мережі. Web 3.0 — це блокчейн і децентралізація. Web 4.0, за визначенням Wen, — це мережа, де домінують агенти ШІ.

Хронологія виглядає акуратно. Але історія рідко буває такою послідовною.

Більш імовірно, що ці "покоління" будуть перекриватися і співіснувати. Агенти ШІ дійсно будуть все більше брати участь у мережевій діяльності, але це не означає, що вони замінять Web 2.0, керований людьми, або Web 3.0, керований криптовалютою.

Свято для спекулянтів токенами

Після запуску Automaton на Solana з'явилося кілька пов'язаних токенів: $WEB, $automaton, $SIGIL.

Це розкриває модель поточного циклу хайпу навколо ШІ:

Хтось публікує проєкт ШІ з амбітними заявами.
Криптоспільнота негайно випускає пов'язані токени.
Ранні учасники отримують прибуток, пізніші — розплачуються.
Успіх самого проєкту майже не пов'язаний з ціною токена.

Це не інвестиція. Це азартна гра, замаскована під технологічні інновації.

Справжні інновації, на які варто звернути увагу

Хоча я скептично ставлюся до маркетингу Automaton, у проєкті є кілька цікавих технічних моментів:

Агенти, які працюють безперервно: Automaton — це не "чат-бот" у традиційному розумінні. Він розроблений для роботи 24/7, постійно виконуючи завдання. Це цінний інженерний виклик.

Економічний замкнутий цикл: Створення замкнутого циклу доходів і витрат ШІ — цікавий експеримент. Навіть якщо поточна реалізація є примітивною, цей напрямок варто досліджувати.

Відкритий вихідний код: Незалежно від того, наскільки перебільшеним є маркетинг, код є відкритим. Будь-хто може переглядати, вивчати, вдосконалювати.

Чому ці заяви важливі

Надмірні заяви у сфері ШІ можуть завдати реальної шкоди.

Вони залучають інвестиції та увагу, але можуть не виконати обіцянки. Коли бульбашка лусне, постраждає і справді цінна робота.

Вони заплутують громадськість щодо можливостей ШІ. Звичайні люди можуть повірити, що вже з'явився "автономний ШІ", і прийняти неправильні рішення.

Вони створюють тиск на регулювання. Якщо громадськість вважає, що ШІ вже здатний "самовідтворюватися" і "самовдосконалюватися", регулятори можуть надмірно відреагувати.

Мій висновок

Automaton — це цікавий експериментальний проєкт, який надмірно розрекламований як революційна розповідь.

Це не означає, що проєкт не має цінності. Швидше, ми повинні дивитися на нього більш тверезо:

Це не AGI.
Це не реалізація "програмне забезпечення володіє собою".
Це не призведе до втрати робочих місць (принаймні, поки що).

Але це може бути кроком до справді автономних агентів ШІ. Наскільки важливим є цей крок, покаже час.

У сфері технологій розрізнення маркетингу та технологій є базовою грамотністю. Маркетинг Automaton був успішним. Чи буде технологія настільки ж успішною, ще належить перевірити.

Примітка: на момент написання цієї статті я не запускав код Automaton. Мій висновок ґрунтується на публічних заявах, обговореннях у спільноті та звітах про перевірку коду. Якщо у вас є інша точка зору або додаткова інформація, ласкаво просимо до обговорення.