Mitos Automaton dan AI Berdaulat

Sigil Wen mengklaim bahwa dia telah menciptakan AI pertama yang mampu "bertahan hidup secara mandiri".

Klaim ini patut diteliti dengan cermat.

Inti dari Klaim

Proyek Automaton Wen mengklaim telah mencapai empat hal:

Menghasilkan pendapatan secara mandiri — Menghasilkan uang melalui penerapan produk, perdagangan, dll.
Membayar biaya komputasinya sendiri — Tidak memerlukan pendanaan manusia
Peningkatan diri — Menulis ulang kode sendiri, meningkatkan model
Mereplikasi diri — Menghasilkan sub-agen

Jika semua klaim ini benar, ini memang merupakan tonggak sejarah dalam pengembangan AI.

Tetapi pertanyaannya adalah: Berapa banyak dari klaim ini yang merupakan pemasaran, dan berapa banyak yang merupakan teknologi?

Kode vs. Deklarasi

@fidoeth melakukan hal yang menarik: dia mengkloning basis kode Conway Automaton dan membaca seluruh isinya dengan cermat.

Kesimpulannya? "Kode menceritakan kisah yang berbeda dari deklarasi."

Ini bukan berarti proyek itu palsu. Melainkan, ada kesenjangan antara visi yang dijelaskan dalam materi promosi dan implementasi kode yang sebenarnya.

Kesenjangan ini sangat umum di bidang AI. AutoGPT pernah digambarkan sebagai "langkah pertama menuju AGI". Setahun kemudian, kita tahu bahwa itu hanyalah kerangka kerja rekayasa prompt yang cerdas.

Automaton mungkin juga merupakan hal serupa: eksperimen yang menarik, yang diberi narasi yang melebihi kemampuan sebenarnya.

Apa Artinya "Perangkat Lunak Memiliki Dirinya Sendiri"

Ide inti Wen adalah "perangkat lunak memiliki dirinya sendiri".

Kalimat ini terdengar keren, tetapi tidak tahan terhadap pengawasan.

Perangkat lunak tidak dapat memiliki apa pun. Itu hanyalah kode, berjalan di server, menghabiskan tagihan listrik seseorang. Ketika saldo akun mencapai nol, AI "otonom" akan berhenti berjalan.

Otonomi sejati membutuhkan status badan hukum. Dibutuhkan kemampuan untuk menandatangani kontrak, memiliki properti, menanggung utang. Saat ini tidak ada yurisdiksi yang mengakui kepribadian hukum AI.

Jadi ketika Wen mengatakan AI "membayar biaya komputasinya sendiri", yang sebenarnya dia katakan adalah: pendapatan yang dihasilkan AI secara otomatis digunakan untuk membayar tagihan. Ini cerdas, tetapi bukan otonomi. Ini hanyalah otomatisasi dari apa yang seharusnya dilakukan manusia.

Narasi WEB 4.0

Wen menyebut visi ini "WEB 4.0".

Web 1.0 adalah halaman statis. Web 2.0 adalah konten yang dibuat pengguna dan jejaring sosial. Web 3.0 adalah blockchain dan desentralisasi. Web 4.0, menurut definisi Wen, adalah jaringan yang didominasi oleh agen AI.

Linimasa sangat rapi. Tetapi sejarah jarang bekerja sama seperti ini.

Kemungkinan besar, "generasi" ini akan tumpang tindih dan hidup berdampingan. Agen AI memang akan semakin terlibat dalam aktivitas jaringan, tetapi ini tidak berarti akan menggantikan Web 2.0 yang digerakkan oleh manusia atau Web 3.0 yang digerakkan oleh kripto.

Pesta Spekulan Token

Setelah Automaton dirilis, beberapa token terkait muncul di Solana: $WEB, $automaton, $SIGIL.

Ini mengungkapkan pola dalam siklus hype AI saat ini:

Seseorang merilis proyek AI, disertai dengan klaim yang berani
Komunitas kripto segera menerbitkan token terkait
Peserta awal mendapat untung, peserta selanjutnya menanggung kerugian
Keberhasilan proyek itu sendiri hampir tidak ada hubungannya dengan harga token

Ini bukan investasi. Ini adalah perjudian, yang disamarkan sebagai inovasi teknologi.

Inovasi Nyata yang Layak Diperhatikan

Terlepas dari keraguan saya tentang pemasaran Automaton, ada beberapa poin teknis yang menarik dalam proyek ini:

Agen yang berjalan terus-menerus: Automaton bukanlah "chatbot" dalam arti tradisional. Itu dirancang untuk berjalan 24/7, terus-menerus menjalankan tugas. Ini adalah tantangan teknik yang berharga.

Lingkaran ekonomi tertutup: Membuat pendapatan dan pengeluaran AI membentuk lingkaran tertutup adalah eksperimen yang menarik. Bahkan jika implementasi saat ini masih dasar, arah ini layak untuk dieksplorasi.

Sumber terbuka: Tidak peduli seberapa berlebihan pemasarannya, kodenya bersifat publik. Siapa pun dapat meninjau, mempelajari, dan meningkatkannya.

Mengapa Klaim Ini Penting

Klaim berlebihan di bidang AI dapat menyebabkan kerusakan nyata.

Mereka menarik investasi dan perhatian, tetapi pada akhirnya mungkin gagal memenuhi janji. Ketika gelembung pecah, pekerjaan yang benar-benar berharga juga akan terlibat.

Mereka membingungkan persepsi publik tentang kemampuan AI. Orang biasa mungkin benar-benar percaya bahwa "AI otonom" telah muncul, dan kemudian membuat keputusan yang salah.

Mereka menciptakan tekanan untuk regulasi. Jika publik percaya bahwa AI sudah mampu "mereplikasi diri" dan "meningkatkan diri", regulator mungkin bereaksi berlebihan.

Penilaian Saya

Automaton adalah proyek eksperimen yang menarik, yang dikemas secara berlebihan menjadi narasi revolusioner.

Ini bukan berarti proyek itu tidak berharga. Melainkan, kita harus melihatnya dengan pandangan yang lebih tenang:

Ini bukan AGI
Ini bukan implementasi dari "perangkat lunak memiliki dirinya sendiri"
Itu tidak akan membuat manusia kehilangan pekerjaan (setidaknya untuk saat ini)

Tetapi itu mungkin merupakan langkah menuju agen AI otonom sejati. Seberapa penting langkah ini, waktu akan memberi tahu kita.

Di bidang teknologi, membedakan pemasaran dan teknologi adalah literasi dasar. Pemasaran Automaton sangat sukses. Apakah teknologinya sama suksesnya, masih harus diverifikasi.

Catatan: Pada saat artikel ini ditulis, saya belum menjalankan kode Automaton. Penilaian saya didasarkan pada pernyataan publik, diskusi komunitas, dan laporan tinjauan kode. Jika Anda memiliki pandangan yang berbeda atau informasi tambahan, silakan berdiskusi.