Automaton und der Mythos der souveränen KI

Sigil Wen behauptet, er habe die erste KI geschaffen, die "autonom überleben" kann.

Diese Behauptung verdient eine sorgfältige Prüfung.

Der Kern der Behauptung

Wens Automaton-Projekt behauptet, vier Dinge zu erreichen:

Autonomes Generieren von Einnahmen – Geld verdienen durch den Einsatz von Produkten, Handel usw.
Bezahlung der eigenen Rechenkosten – keine menschliche Finanzierung erforderlich
Selbstverbesserung – Umschreiben des eigenen Codes, Aktualisieren von Modellen
Selbstreplikation – Generieren von Unteragenten

Wenn all diese Behauptungen zutreffen, wäre dies in der Tat ein Meilenstein in der Geschichte der KI-Entwicklung.

Aber die Frage ist: Wie viel davon ist Marketing und wie viel ist Technologie?

Code vs. Manifest

@fidoeth hat etwas Interessantes getan: Er hat die Codebasis von Conway Automaton geklont und den gesamten Inhalt sorgfältig gelesen.

Sein Fazit? "Der Code erzählt eine andere Geschichte als das Manifest."

Das soll nicht heißen, dass das Projekt gefälscht ist. Es bedeutet vielmehr, dass es eine Diskrepanz zwischen der in den Werbematerialien beschriebenen Vision und der tatsächlichen Code-Implementierung gibt.

Diese Diskrepanz ist im KI-Bereich weit verbreitet. AutoGPT wurde einst als "erster Schritt zur AGI" beschrieben. Ein Jahr später wissen wir, dass es sich nur um ein ausgeklügeltes Prompt-Engineering-Framework handelt.

Automaton könnte etwas Ähnliches sein: ein interessantes Experiment, dem eine Erzählung zugeschrieben wird, die über seine tatsächlichen Fähigkeiten hinausgeht.

Was bedeutet "Software besitzt sich selbst"?

Wens Kernidee ist "Software besitzt sich selbst".

Dieser Satz klingt cool, hält aber einer genaueren Betrachtung nicht stand.

Software kann nichts besitzen. Sie ist nur Code, der auf einem Server läuft und den Strom von jemandem verbraucht. Wenn der Kontostand auf Null sinkt, stellt die "autonome" KI den Betrieb ein.

Echte Autonomie erfordert den Status einer juristischen Person. Sie muss in der Lage sein, Verträge abzuschließen, Eigentum zu besitzen und Schulden zu machen. Derzeit erkennt keine Gerichtsbarkeit die Rechtspersönlichkeit von KI an.

Wenn Wen also sagt, dass die KI "ihre eigenen Rechenkosten bezahlt", sagt er in Wirklichkeit: Die von der KI generierten Einnahmen werden automatisch zur Bezahlung von Rechnungen verwendet. Das ist clever, aber nicht autonom. Es ist nur eine Automatisierung dessen, was Menschen ohnehin tun würden.

Die Erzählung von WEB 4.0

Wen nennt diese Vision "WEB 4.0".

Web 1.0 sind statische Seiten. Web 2.0 sind nutzergenerierte Inhalte und soziale Netzwerke. Web 3.0 ist Blockchain und Dezentralisierung. Web 4.0 ist laut Wens Definition ein Netzwerk, das von KI-Agenten dominiert wird.

Die Zeitleiste ist übersichtlich. Aber die Geschichte spielt selten so mit.

Wahrscheinlicher ist, dass sich diese "Generationen" überschneiden und nebeneinander existieren. KI-Agenten werden sich zwar zunehmend an Netzwerkaktivitäten beteiligen, aber das bedeutet nicht, dass sie das von Menschen betriebene Web 2.0 oder das kryptobasierte Web 3.0 ersetzen werden.

Das Fest der Token-Spekulanten

Nach der Veröffentlichung von Automaton sind auf Solana mehrere zugehörige Token aufgetaucht: $WEB, $automaton, $SIGIL.

Dies offenbart ein Muster des aktuellen KI-Hype-Zyklus:

Jemand veröffentlicht ein KI-Projekt mit kühnen Behauptungen
Die Krypto-Community gibt sofort zugehörige Token heraus
Frühe Einsteiger profitieren, Späteinsteiger übernehmen
Der Erfolg des Projekts selbst hat kaum etwas mit dem Token-Preis zu tun

Das ist keine Investition. Das ist Glücksspiel, verkleidet als technische Innovation.

Echte Innovationen, die es wert sind, beachtet zu werden

Obwohl ich der Vermarktung von Automaton skeptisch gegenüberstehe, gibt es im Projekt einige interessante technische Aspekte:

Kontinuierlich laufende Agenten: Automaton ist kein "Chatbot" im herkömmlichen Sinne. Es ist so konzipiert, dass es rund um die Uhr läuft und kontinuierlich Aufgaben ausführt. Dies ist eine wertvolle technische Herausforderung.

Wirtschaftlicher Kreislauf: Es ist ein interessantes Experiment, die Einnahmen und Ausgaben der KI in einem Kreislauf zu halten. Auch wenn die aktuelle Implementierung noch rudimentär ist, lohnt es sich, diese Richtung zu erkunden.

Open Source: Unabhängig davon, wie übertrieben das Marketing ist, ist der Code öffentlich. Jeder kann ihn überprüfen, lernen und verbessern.

Warum diese Behauptungen wichtig sind

Übertriebene Behauptungen im KI-Bereich können echten Schaden anrichten.

Sie ziehen Investitionen und Aufmerksamkeit an, können aber letztendlich ihre Versprechen nicht einhalten. Wenn die Blase platzt, werden auch wirklich wertvolle Arbeiten in Mitleidenschaft gezogen.

Sie verwirren die öffentliche Wahrnehmung der KI-Fähigkeiten. Der Durchschnittsbürger könnte wirklich glauben, dass es bereits "autonome KI" gibt, und dann falsche Entscheidungen treffen.

Sie erzeugen Druck für eine Regulierung. Wenn die Öffentlichkeit glaubt, dass KI bereits in der Lage ist, sich "selbst zu replizieren" und "sich selbst zu verbessern", könnten die Aufsichtsbehörden überreagieren.

Mein Urteil

Automaton ist ein interessantes experimentelles Projekt, das als revolutionäre Erzählung überverpackt wurde.

Das soll nicht heißen, dass das Projekt keinen Wert hat. Es bedeutet vielmehr, dass wir es mit kühlerem Kopf betrachten sollten:

Es ist keine AGI
Es ist keine Implementierung von "Software besitzt sich selbst"
Es wird keine Arbeitsplätze vernichten (zumindest vorerst nicht)

Aber es könnte ein Schritt in Richtung wirklich autonomer KI-Agenten sein. Wie wichtig dieser Schritt ist, wird die Zeit zeigen.

Im technischen Bereich ist die Unterscheidung zwischen Marketing und Technik eine grundlegende Kompetenz. Das Marketing von Automaton ist erfolgreich. Ob die Technik ebenso erfolgreich ist, bleibt abzuwarten.

Hinweis: Zum Zeitpunkt des Verfassens dieses Artikels habe ich den Code von Automaton nicht ausgeführt. Mein Urteil basiert auf öffentlichen Erklärungen, Community-Diskussionen und Code-Review-Berichten. Wenn Sie eine andere Meinung oder zusätzliche Informationen haben, können Sie diese gerne diskutieren.