Thần Thoại về Automaton và AI Tự Chủ

Sigil Wen tuyên bố rằng anh ấy đã tạo ra AI đầu tiên có thể "tự sinh tồn".

Tuyên bố này đáng để xem xét kỹ lưỡng.

Cốt Lõi của Tuyên Bố

Dự án Automaton của Wen tuyên bố đạt được bốn điều:

1. Tự chủ kiếm thu nhập — Kiếm tiền thông qua việc triển khai sản phẩm, giao dịch, v.v.
2. Tự thanh toán chi phí tính toán — Không cần tài trợ từ con người
3. Tự cải thiện — Viết lại mã của chính nó, nâng cấp mô hình
4. Tự sao chép — Tạo ra các tác nhân con

Nếu tất cả những tuyên bố này đều đúng, thì đây thực sự là một cột mốc quan trọng trong lịch sử phát triển AI.

Nhưng vấn đề là: Có bao nhiêu trong số những tuyên bố này là marketing, và bao nhiêu là công nghệ?

Mã vs Tuyên Ngôn

@fidoeth đã làm một việc thú vị: Anh ấy đã sao chép kho mã của Conway Automaton, đọc kỹ toàn bộ nội dung.

Kết luận của anh ấy? "Mã kể một câu chuyện khác với tuyên ngôn."

Điều này không có nghĩa là dự án là giả. Mà là, có một khoảng cách giữa tầm nhìn được mô tả trong tài liệu quảng cáo và việc triển khai mã thực tế.

Khoảng cách này rất phổ biến trong lĩnh vực AI. AutoGPT từng được mô tả là "bước đầu tiên hướng tới AGI". Một năm sau, chúng ta biết rằng nó chỉ là một khung kỹ thuật prompt (prompt engineering) khéo léo.

Automaton có thể cũng là một thứ tương tự: một thử nghiệm thú vị, được gán cho một câu chuyện vượt quá khả năng thực tế của nó.

"Phần Mềm Sở Hữu Chính Nó" Có Nghĩa Là Gì

Ý tưởng cốt lõi của Wen là "phần mềm sở hữu chính nó".

Câu nói này nghe có vẻ hay, nhưng không chịu được sự kiểm tra.

Phần mềm không thể sở hữu bất cứ thứ gì. Nó chỉ là mã, chạy trên máy chủ, tiêu thụ tiền điện của ai đó. Khi số dư tài khoản về 0, AI "tự chủ" sẽ ngừng hoạt động.

Sự tự chủ thực sự đòi hỏi tư cách pháp nhân. Nó cần có khả năng ký kết hợp đồng, sở hữu tài sản, gánh chịu nợ nần. Hiện tại không có khu vực pháp lý nào công nhận tư cách pháp lý của AI.

Vì vậy, khi Wen nói AI "tự thanh toán chi phí tính toán", anh ấy thực sự đang nói: Thu nhập do AI tạo ra được tự động sử dụng để thanh toán hóa đơn. Điều này rất thông minh, nhưng không phải là tự chủ. Đây chỉ là tự động hóa những việc mà con người vốn phải làm.

Câu Chuyện WEB 4.0

Wen gọi tầm nhìn này là "WEB 4.0".

Web 1.0 là các trang tĩnh. Web 2.0 là nội dung do người dùng tạo và mạng xã hội. Web 3.0 là blockchain và phi tập trung. Web 4.0, theo định nghĩa của Wen, là mạng do các tác nhân AI thống trị.

Thời gian biểu rất gọn gàng. Nhưng lịch sử hiếm khi hợp tác như vậy.

Nhiều khả năng hơn là, những "thế hệ" này sẽ chồng chéo và cùng tồn tại. Các tác nhân AI chắc chắn sẽ tham gia ngày càng nhiều vào các hoạt động trên mạng, nhưng điều này không có nghĩa là sẽ thay thế Web 2.0 do con người điều khiển hoặc Web 3.0 do tiền điện tử điều khiển.

Cuộc Vui Của Những Nhà Đầu Cơ Token

Sau khi Automaton được phát hành, một số token liên quan đã xuất hiện trên Solana: $WEB, $automaton, $SIGIL.

Điều này tiết lộ một mô hình của chu kỳ cường điệu AI hiện tại:

1. Ai đó phát hành một dự án AI, kèm theo những tuyên bố táo bạo
2. Cộng đồng tiền điện tử ngay lập tức phát hành các token liên quan
3. Những người tham gia sớm kiếm lợi nhuận, những người đến sau gánh chịu
4. Sự thành công của chính dự án hầu như không liên quan đến giá token

Đây không phải là đầu tư. Đây là cờ bạc, đội lốt đổi mới công nghệ.

Đổi Mới Thực Sự Đáng Quan Tâm

Mặc dù tôi hoài nghi về marketing của Automaton, nhưng dự án thực sự có một số điểm kỹ thuật thú vị:

Tác nhân chạy liên tục: Automaton không phải là "chatbot" theo nghĩa truyền thống. Nó được thiết kế để chạy 24/7, liên tục thực hiện các nhiệm vụ. Đây là một thách thức kỹ thuật có giá trị.

Vòng khép kín kinh tế: Tạo ra một vòng khép kín giữa thu nhập và chi tiêu của AI là một thử nghiệm thú vị. Ngay cả khi việc triển khai hiện tại còn sơ khai, hướng đi này đáng để khám phá.

Mã nguồn mở: Bất kể marketing có cường điệu đến đâu, mã là công khai. Bất kỳ ai cũng có thể xem xét, học hỏi, cải thiện.

Tại Sao Những Tuyên Bố Này Quan Trọng

Những tuyên bố quá mức trong lĩnh vực AI có thể gây ra thiệt hại thực tế.

Chúng thu hút đầu tư và sự chú ý, nhưng có thể cuối cùng không thực hiện được lời hứa. Khi bong bóng vỡ, những công việc thực sự có giá trị cũng sẽ bị liên lụy.

Chúng làm lẫn lộn nhận thức của công chúng về khả năng của AI. Người bình thường có thể thực sự tin rằng "AI tự chủ" đã xuất hiện, và sau đó đưa ra những quyết định sai lầm.

Chúng tạo ra áp lực cho việc điều chỉnh. Nếu công chúng tin rằng AI đã có khả năng "tự sao chép" và "tự cải thiện", các nhà quản lý có thể phản ứng thái quá.

Đánh Giá Của Tôi

Automaton là một dự án thử nghiệm thú vị, được đóng gói quá mức thành một câu chuyện mang tính cách mạng.

Điều này không có nghĩa là dự án không có giá trị. Mà là, chúng ta nên nhìn nhận nó bằng một con mắt bình tĩnh hơn:

• Nó không phải là AGI
• Nó không phải là hiện thực hóa của "phần mềm sở hữu chính nó"
• Nó sẽ không khiến con người thất nghiệp (ít nhất là hiện tại)

Nhưng nó có thể là một bước tiến hướng tới các tác nhân AI tự chủ thực sự. Bước tiến này quan trọng đến mức nào, thời gian sẽ trả lời.

Trong lĩnh vực công nghệ, phân biệt giữa marketing và công nghệ là kiến thức cơ bản. Marketing của Automaton rất thành công. Công nghệ có thành công tương tự hay không, vẫn còn phải xác minh.

---

Lưu ý: Tại thời điểm viết bài này, tôi chưa chạy mã của Automaton. Đánh giá của tôi dựa trên các tuyên bố công khai, thảo luận cộng đồng và báo cáo đánh giá mã. Nếu bạn có quan điểm khác hoặc thông tin bổ sung, vui lòng thảo luận.