Automatonと主権AIの神話
Automatonと主権AIの神話
Sigil Wenは、彼が「自律的に生存できる」最初のAIを作成したと主張しています。
この主張は注意深く検討する価値があります。
声明の核心
WenのAutomatonプロジェクトは、次の4つのことを行うと主張しています。
- 自律的に収入を得る — 製品の展開、取引などの方法で収入を得る
- 自身の計算コストを支払う — 人間の資金援助を必要としない
- 自己改善 — 自身のコードを書き換え、モデルをアップグレードする
- 自己複製 — 子エージェントを生成する
これらの声明がすべて真実であれば、これは確かにAI開発の歴史におけるマイルストーンです。
しかし、問題は、これらの声明のうち、どれがマーケティングであり、どれが技術であるかということです。
コード vs 宣言
@fidoethは興味深いことをしました。彼はConway Automatonのコードベースをクローンし、すべての内容を注意深く読みました。
彼の結論は？「コードが語る物語は宣言とは異なる。」
これは、プロジェクトが偽物だと言っているわけではありません。そうではなく、宣伝資料で説明されているビジョンと実際のコード実装との間にギャップがあるということです。
この種のギャップはAI分野ではよく見られます。AutoGPTはかつて「AGIへの第一歩」と説明されていました。1年後、それが巧妙なプロンプトエンジニアリングフレームワークにすぎないことがわかりました。
Automatonも同様のものかもしれません。興味深い実験ですが、その実際の能力を超える物語が与えられています。
「ソフトウェアが自身を所有する」とはどういう意味か
Wenの中核となる理念は「ソフトウェアが自身を所有する」ということです。
この言葉はクールに聞こえますが、吟味に耐えられません。
ソフトウェアは何も所有できません。それは単なるコードであり、サーバー上で実行され、誰かの電気代を消費しています。アカウント残高がゼロになると、「自律的な」AIは動作を停止します。
真の自律性には、法的地位が必要です。契約を締結し、財産を所有し、債務を負うことができる必要があります。現在、AIの法人格を認めている法域はありません。
したがって、WenがAIが「自身の計算コストを支払う」と言うとき、彼は実際には、AIが生成した収入が自動的に請求書の支払いに使用されると言っています。これは賢いですが、自律的ではありません。これは、人間が本来行うべきことを自動化しただけです。
WEB 4.0の物語
Wenはこのビジョンを「WEB 4.0」と呼んでいます。
Web 1.0は静的なページです。Web 2.0はユーザー生成コンテンツとソーシャルネットワークです。Web 3.0はブロックチェーンと分散化です。Wenの定義によれば、Web 4.0はAIエージェントが主導するネットワークです。
タイムラインは整然としています。しかし、歴史はめったにそうではありません。
より可能性が高いのは、これらの「世代」が重複して共存することです。AIエージェントは確かにますますネットワーク活動に関与するようになりますが、これは人間主導のWeb 2.0または暗号通貨主導のWeb 3.0に取って代わることを意味するものではありません。
トークン投機家の狂騒
Automatonのリリース後、Solanaには複数の関連トークン（$WEB、$automaton、$SIGIL）が登場しました。
これは、現在のAI誇大広告サイクルのパターンを明らかにしています。
- 誰かが大胆な声明を伴うAIプロジェクトを公開する
- 暗号通貨コミュニティはすぐに関連トークンを発行する
- 早期参入者が利益を得て、後発者が引き継ぐ
- プロジェクト自体の成功は、トークン価格とはほとんど関係がない
これは投資ではありません。技術革新のベールをかぶったギャンブルです。
注目に値する真のイノベーション
Automatonのマーケティングには懐疑的ですが、プロジェクトにはいくつかの興味深い技術的な点があります。
継続的に実行されるエージェント：Automatonは、従来の意味での「チャットボット」ではありません。24時間365日実行され、継続的にタスクを実行するように設計されています。これは価値のあるエンジニアリング上の課題です。
経済閉ループ：AIの収入と支出を閉ループにすることは、興味深い実験です。現在の実装は初歩的ですが、この方向性は探求する価値があります。
オープンソース：マーケティングがどれほど誇張されていても、コードは公開されています。誰でもレビュー、学習、改善できます。
なぜこれらの声明が重要なのか
AI分野における過剰な声明は、実際の損害を引き起こす可能性があります。
それらは投資と注目を集めますが、最終的には約束を果たすことができない可能性があります。バブルが崩壊すると、真に価値のある仕事も巻き込まれます。
それらは、AIの能力に対する一般の認識を混乱させます。一般の人は、すでに「自律的なAI」が登場したと本当に信じ、誤った意思決定をする可能性があります。
それらは規制のプレッシャーを生み出します。AIがすでに「自己複製」および「自己改善」できると一般の人が考える場合、規制当局は過剰な反応をする可能性があります。
私の判断
Automatonは、革命的な物語として過剰にパッケージ化された興味深い実験プロジェクトです。
これは、プロジェクトに価値がないと言っているわけではありません。そうではなく、より冷静な目で見るべきだということです。
- それはAGIではありません
- それは「ソフトウェアが自身を所有する」の実装ではありません
- それは人間を失業させません（少なくとも現時点では）
しかし、それは真に自律的なAIエージェントへの一歩となる可能性があります。このステップがどれほど重要であるかは、時間が教えてくれるでしょう。
技術分野では、マーケティングと技術を区別することが基本的な素養です。Automatonのマーケティングは成功しています。技術も同様に成功しているかどうかは、まだ検証されていません。
注：この記事の執筆時点では、Automatonのコードを実行していません。私の判断は、公開されている声明、コミュニティの議論、およびコードレビューレポートに基づいています。異なる意見や追加の情報がある場合は、議論を歓迎します。
