Митот за Automaton и суверената вештачка интелигенција

Sigil Wen тврди дека ја создал првата вештачка интелигенција која може „самостојно да преживее“.

Оваа изјава заслужува внимателно испитување.

Сржта на тврдењето

Проектот Automaton на Wen тврди дека постигнува четири работи:

1. Самостојно заработување приходи — заработување пари преку распоредување производи, тргување итн.
2. Плаќање на сопствените трошоци за пресметување — не бара човечко финансирање
3. Само-подобрување — препишување на сопствениот код, надградба на моделите
4. Само-репликација — генерирање на под-агенти

Ако сите овие тврдења се вистинити, ова навистина е пресвртница во историјата на развојот на вештачката интелигенција.

Но, прашањето е: колку од овие тврдења се маркетинг, а колку се технологија?

Код наспроти декларација

@fidoeth направи интересна работа: го клонираше кодот на Conway Automaton и внимателно го прочита целиот код.

Неговиот заклучок? „Кодот раскажува приказна различна од декларацијата.“

Ова не значи дека проектот е лажен. Туку, постои јаз помеѓу визијата опишана во промотивните материјали и вистинската имплементација на кодот.

Овој јаз е вообичаен во областа на вештачката интелигенција. AutoGPT некогаш беше опишан како „прв чекор кон AGI“. Една година подоцна, знаеме дека тоа е само паметна рамка за инженерство на инструкции.

Automaton можеби е нешто слично: интересен експеримент, на кој му е даден наратив што ги надминува неговите вистински способности.

Што значи „софтверот поседува себеси“

Основната идеја на Wen е „софтверот поседува себеси“.

Оваа фраза звучи кул, но не издржува проверка.

Софтверот не може да поседува ништо. Тоа е само код, кој работи на сервер, трошејќи ја сметката за струја на некого. Кога салдото на сметката ќе биде нула, „автономната“ вештачка интелигенција ќе престане да работи.

Вистинската автономија бара статус на правно лице. Потребно е да може да склучува договори, да поседува имот, да презема долгови. Во моментов, ниту една јурисдикција не го признава правниот идентитет на вештачката интелигенција.

Значи, кога Wen вели дека вештачката интелигенција „ги плаќа сопствените трошоци за пресметување“, тој всушност вели: приходите генерирани од вештачката интелигенција автоматски се користат за плаќање на сметките. Ова е паметно, но не е автономно. Тоа е само автоматизација на она што луѓето инаку би го направиле.

Нарацијата на WEB 4.0

Wen ја нарекува оваа визија „WEB 4.0“.

Web 1.0 се статични страници. Web 2.0 е содржина генерирана од корисници и социјални мрежи. Web 3.0 е блокчејн и децентрализација. Web 4.0, според дефиницијата на Wen, е мрежа доминирана од агенти на вештачка интелигенција.

Временската рамка е уредна. Но, историјата ретко е толку кооперативна.

Поверојатно е дека овие „генерации“ ќе се преклопуваат и ќе коегзистираат. Агентите на вештачката интелигенција навистина ќе бидат сè повеќе вклучени во мрежните активности, но тоа не значи дека ќе го заменат Web 2.0 управуван од луѓе или Web 3.0 управуван од крипто.

Лудило на шпекулантите со токени

По објавувањето на Automaton, се појавија неколку поврзани токени на Solana: $WEB, $automaton, $SIGIL.

Ова открива модел на тековниот циклус на хајп за вештачката интелигенција:

1. Некој објавува проект за вештачка интелигенција, придружен со смели изјави
2. Крипто заедницата веднаш издава поврзани токени
3. Раните влегувачи профитираат, подоцнежните влегувачи ги преземаат загубите
4. Успехот на самиот проект речиси и да нема врска со цената на токенот

Ова не е инвестиција. Ова е коцкање, преправено како технолошка иновација.

Вистински иновации кои вреди да се следат

Иако сум скептичен во врска со маркетингот на Automaton, има некои интересни технички точки во проектот:

Агенти кои работат континуирано: Automaton не е „четбот“ во традиционална смисла. Тој е дизајниран да работи 24/7, постојано извршувајќи задачи. Ова е вреден инженерски предизвик.

Економски затворен циклус: Создавањето затворен циклус на приходи и расходи на вештачката интелигенција е интересен експеримент. Дури и ако тековната имплементација е примитивна, оваа насока вреди да се истражи.

Отворен код: Без оглед на тоа колку е претеран маркетингот, кодот е јавен. Секој може да го прегледа, да учи, да го подобрува.

Зошто овие изјави се важни

Претераните изјави во областа на вештачката интелигенција можат да предизвикаат вистинска штета.

Тие привлекуваат инвестиции и внимание, но можеби на крајот нема да ги исполнат ветувањата. Кога ќе пукне балонот, ќе биде засегната и вистинската вредна работа.

Тие ја збунуваат јавноста за способностите на вештачката интелигенција. Обичните луѓе може навистина да веруваат дека се појавила „автономна вештачка интелигенција“, а потоа да донесат погрешни одлуки.

Тие создаваат притисок за регулација. Ако јавноста верува дека вештачката интелигенција веќе може „самостојно да се реплицира“ и „самостојно да се подобрува“, регулаторите може да реагираат претерано.

Мојата проценка

Automaton е интересен експериментален проект, претерано спакуван во револуционерна нарација.

Ова не значи дека проектот нема вредност. Туку, треба да го гледаме со поладни очи:

• Тоа не е AGI
• Тоа не е имплементација на „софтверот поседува себеси“
• Тоа нема да ги остави луѓето без работа (барем засега не)

Но, тоа може да биде чекор кон вистински автономни агенти на вештачка интелигенција. Колку е важен овој чекор, времето ќе покаже.

Во областа на технологијата, разликувањето на маркетингот од технологијата е основна писменост. Маркетингот на Automaton е успешен. Дали технологијата е исто толку успешна, останува да се види.

---

Забелешка: Во времето на пишувањето на овој текст, не го извршив кодот на Automaton. Мојата проценка се заснова на јавните изјави, дискусиите во заедницата и извештаите за преглед на кодот. Ако имате различни ставови или дополнителни информации, добредојдени сте да дискутирате.