Mitos Automaton dan AI Berdaulat

Sigil Wen mendakwa bahawa dia telah mencipta AI pertama yang mampu "hidup secara autonomi".

Dakwaan ini wajar diteliti dengan teliti.

Inti Dakwaan

Projek Automaton Wen mendakwa melakukan empat perkara:

Menjana pendapatan secara autonomi — Menjana wang melalui penggunaan produk, perdagangan, dan lain-lain.
Membayar kos pengkomputeran sendiri — Tidak memerlukan pembiayaan manusia
Penambahbaikan kendiri — Menulis semula kod sendiri, menaik taraf model
Mereplikasi diri — Menjana sub-ejen

Jika semua dakwaan ini benar, ini sememangnya satu pencapaian penting dalam sejarah pembangunan AI.

Tetapi persoalannya ialah: Berapa banyak daripada dakwaan ini adalah pemasaran, dan berapa banyak adalah teknologi?

Kod vs Pengisytiharan

@fidoeth melakukan sesuatu yang menarik: dia mengklon repositori kod Conway Automaton dan membaca keseluruhan kandungan dengan teliti.

Kesimpulannya? "Kisah yang diceritakan oleh kod adalah berbeza daripada pengisytiharan."

Ini tidak bermakna projek itu palsu. Sebaliknya, terdapat jurang antara visi yang diterangkan dalam bahan promosi dan pelaksanaan kod sebenar.

Jurang ini adalah perkara biasa dalam bidang AI. AutoGPT pernah digambarkan sebagai "langkah pertama ke arah AGI". Setahun kemudian, kita tahu ia hanyalah rangka kerja kejuruteraan gesaan yang bijak.

Automaton mungkin juga sesuatu yang serupa: eksperimen yang menarik, yang diberi naratif yang melebihi keupayaan sebenar.

Apa Maksud "Perisian Memiliki Diri Sendiri"

Idea teras Wen ialah "perisian memiliki diri sendiri".

Ayat ini kedengaran hebat, tetapi tidak dapat dipertahankan.

Perisian tidak boleh memiliki apa-apa. Ia hanyalah kod, berjalan pada pelayan, menggunakan bil elektrik seseorang. Apabila baki akaun mencapai sifar, AI "autonomi" akan berhenti berjalan.

Autonomi sebenar memerlukan status entiti undang-undang. Ia perlu dapat menandatangani kontrak, memiliki harta benda, menanggung hutang. Pada masa ini, tiada bidang kuasa yang mengiktiraf personaliti undang-undang AI.

Jadi apabila Wen berkata AI "membayar kos pengkomputeran sendiri", dia sebenarnya berkata: Pendapatan yang dijana oleh AI digunakan secara automatik untuk membayar bil. Ini bijak, tetapi bukan autonomi. Ia hanyalah automasi perkara yang sepatutnya dilakukan oleh manusia.

Naratif WEB 4.0

Wen memanggil visi ini "WEB 4.0".

Web 1.0 ialah halaman statik. Web 2.0 ialah kandungan yang dijana pengguna dan rangkaian sosial. Web 3.0 ialah blockchain dan penyahpusatan. Web 4.0, mengikut definisi Wen, ialah rangkaian yang dikuasai oleh ejen AI.

Garis masa sangat kemas. Tetapi sejarah jarang bekerjasama seperti ini.

Kemungkinan besar, "generasi" ini akan bertindih dan wujud bersama. Ejen AI sememangnya akan semakin terlibat dalam aktiviti rangkaian, tetapi ini tidak bermakna ia akan menggantikan Web 2.0 yang dipacu manusia atau Web 3.0 yang dipacu kripto.

Pesta Spekulator Token

Selepas Automaton dikeluarkan, beberapa token berkaitan muncul di Solana: $WEB, $automaton, $SIGIL.

Ini mendedahkan corak kitaran gembar-gembur AI semasa:

Seseorang mengeluarkan projek AI, disertakan dengan dakwaan yang berani
Komuniti kripto segera mengeluarkan token berkaitan
Peserta awal mendapat keuntungan, peserta kemudian mengambil alih
Kejayaan projek itu sendiri hampir tidak berkaitan dengan harga token

Ini bukan pelaburan. Ini adalah perjudian, yang diselubungi inovasi teknologi.

Inovasi Sebenar yang Patut Diperhatikan

Walaupun saya ragu-ragu tentang pemasaran Automaton, terdapat beberapa perkara teknikal yang menarik dalam projek itu:

Ejen yang berjalan berterusan: Automaton bukanlah "chatbot" dalam erti kata tradisional. Ia direka untuk berjalan 24/7, melaksanakan tugas secara berterusan. Ini adalah cabaran kejuruteraan yang berharga.

Gelung ekonomi tertutup: Membuat gelung tertutup pendapatan dan perbelanjaan AI adalah eksperimen yang menarik. Walaupun pelaksanaan semasa adalah asas, arah ini patut diterokai.

Sumber terbuka: Tidak kira betapa keterlaluannya pemasaran, kodnya adalah awam. Sesiapa sahaja boleh menyemak, belajar, menambah baik.

Mengapa Dakwaan Ini Penting

Dakwaan yang berlebihan dalam bidang AI boleh menyebabkan kemudaratan sebenar.

Mereka menarik pelaburan dan perhatian, tetapi mungkin akhirnya gagal menunaikan janji. Apabila gelembung pecah, kerja yang benar-benar berharga juga akan terjejas.

Mereka mengelirukan persepsi orang ramai tentang keupayaan AI. Orang biasa mungkin benar-benar percaya bahawa "AI autonomi" telah muncul, dan kemudian membuat keputusan yang salah.

Mereka mewujudkan tekanan untuk peraturan. Jika orang ramai percaya bahawa AI sudah mampu "mereplikasi diri" dan "menambah baik diri", pengawal selia mungkin bertindak balas secara berlebihan.

Pertimbangan Saya

Automaton ialah projek eksperimen yang menarik, yang dibungkus secara berlebihan menjadi naratif revolusioner.

Ini tidak bermakna projek itu tidak bernilai. Sebaliknya, kita harus melihatnya dengan pandangan yang lebih tenang:

Ia bukan AGI
Ia bukan pelaksanaan "perisian memiliki diri sendiri"
Ia tidak akan menyebabkan manusia kehilangan pekerjaan (sekurang-kurangnya buat masa ini)

Tetapi ia mungkin satu langkah ke arah ejen AI autonomi sebenar. Seberapa penting langkah ini, masa akan menentukan.

Dalam bidang teknologi, membezakan pemasaran dan teknologi adalah celik huruf asas. Pemasaran Automaton berjaya. Sama ada teknologinya sama berjaya, masih perlu disahkan.

Nota: Semasa artikel ini ditulis, saya tidak menjalankan kod Automaton. Pertimbangan saya adalah berdasarkan dakwaan awam, perbincangan komuniti dan laporan semakan kod. Jika anda mempunyai pandangan yang berbeza atau maklumat tambahan, dialu-alukan untuk dibincangkan.