Миф об Automaton и суверенном ИИ

Sigil Wen утверждает, что создал первый ИИ, способный "автономно существовать".

Это утверждение заслуживает тщательного изучения.

Суть заявления

Проект Wen Automaton заявляет о четырех вещах:

Автономное получение дохода — зарабатывание денег путем развертывания продуктов, торговли и т. д.
Оплата собственных вычислительных затрат — не требует финансирования со стороны человека
Самосовершенствование — переписывание собственного кода, обновление моделей
Самовоспроизведение — создание дочерних агентов

Если все эти заявления правдивы, это действительно веха в истории развития ИИ.

Но вопрос в том: сколько в этих заявлениях маркетинга, а сколько технологий?

Код vs Декларация

@fidoeth сделал интересную вещь: он клонировал кодовую базу Conway Automaton, внимательно прочитал все содержимое.

Его вывод? "Код рассказывает историю, отличную от декларации".

Это не значит, что проект фальшивый. Скорее, существует разрыв между видением, описанным в рекламных материалах, и фактической реализацией кода.

Этот разрыв очень распространен в области ИИ. AutoGPT когда-то описывался как "первый шаг к AGI". Год спустя мы знаем, что это всего лишь хитрая структура prompt engineering.

Automaton может быть чем-то подобным: интересный эксперимент, которому приписывают возможности, превосходящие его фактические возможности.

Что означает "программное обеспечение владеет собой"

Основная идея Wen заключается в том, что "программное обеспечение владеет собой".

Эта фраза звучит круто, но не выдерживает критики.

Программное обеспечение не может ничего иметь. Это просто код, работающий на сервере и потребляющий чью-то электроэнергию. Когда баланс счета обнуляется, "автономный" ИИ перестает работать.

Реальная автономия требует статуса юридического лица. Она должна иметь возможность заключать контракты, владеть имуществом, нести долги. В настоящее время ни одна юрисдикция не признает юридическую личность ИИ.

Поэтому, когда Wen говорит, что ИИ "оплачивает собственные вычислительные затраты", он на самом деле говорит: доход, генерируемый ИИ, автоматически используется для оплаты счетов. Это умно, но не автономно. Это просто автоматизация того, что изначально должен был делать человек.

Повествование WEB 4.0

Wen называет это видение "WEB 4.0".

Web 1.0 — это статические страницы. Web 2.0 — это пользовательский контент и социальные сети. Web 3.0 — это блокчейн и децентрализация. Web 4.0, по определению Wen, — это сеть, управляемая агентами ИИ.

Временная шкала выглядит аккуратно. Но история редко бывает такой последовательной.

Более вероятно, что эти "поколения" будут перекрываться и сосуществовать. Агенты ИИ действительно будут все больше участвовать в сетевой активности, но это не означает, что они заменят управляемый человеком Web 2.0 или крипто-управляемый Web 3.0.

Развлечение для спекулянтов токенами

После выпуска Automaton в Solana появилось несколько связанных токенов: $WEB, $automaton, $SIGIL.

Это раскрывает закономерность текущего цикла ажиотажа вокруг ИИ:

Кто-то выпускает проект ИИ с громкими заявлениями
Криптосообщество немедленно выпускает связанные токены
Ранние участники получают прибыль, более поздние участники расплачиваются
Успех самого проекта почти не связан с ценой токена

Это не инвестиции. Это азартная игра, замаскированная под технические инновации.

Реальные инновации, заслуживающие внимания

Несмотря на мой скептицизм по поводу маркетинга Automaton, в проекте действительно есть несколько интересных технических моментов:

Постоянно работающие агенты: Automaton — это не "чат-бот" в традиционном понимании. Он разработан для работы 24/7, постоянно выполняя задачи. Это ценная инженерная задача.

Экономический замкнутый цикл: Создание замкнутого цикла доходов и расходов ИИ — интересный эксперимент. Даже если текущая реализация является элементарной, это направление стоит изучить.

Открытый исходный код: Независимо от того, насколько преувеличен маркетинг, код является общедоступным. Любой может проверить, изучить, улучшить.

Почему эти заявления важны

Чрезмерные заявления в области ИИ могут нанести реальный вред.

Они привлекают инвестиции и внимание, но в конечном итоге могут не выполнить обещания. Когда пузырь лопнет, пострадает и действительно ценная работа.

Они искажают общественное восприятие возможностей ИИ. Обычные люди могут действительно поверить, что появился "автономный ИИ", и принять неверные решения.

Они создают давление для регулирования. Если общественность считает, что ИИ уже способен "самовоспроизводиться" и "самосовершенствоваться", регулирующие органы могут отреагировать чрезмерно.

Мой вердикт

Automaton — это интересный экспериментальный проект, чрезмерно упакованный в революционное повествование.

Это не значит, что проект не имеет ценности. Скорее, мы должны смотреть на него более трезво:

Это не AGI
Это не реализация "программное обеспечение владеет собой"
Это не приведет к потере рабочих мест людьми (по крайней мере, пока)

Но это может быть шагом к действительно автономным агентам ИИ. Насколько важен этот шаг, покажет время.

В сфере технологий различение маркетинга и технологий является базовой грамотностью. Маркетинг Automaton успешен. Будут ли технологии столь же успешными, еще предстоит проверить.

Примечание: на момент написания этой статьи я не запускал код Automaton. Мои суждения основаны на публичных заявлениях, обсуждениях в сообществе и отчетах об обзоре кода. Если у вас есть другое мнение или дополнительная информация, добро пожаловать к обсуждению.