Automaton ja itsenäisen tekoälyn myytti

Sigil Wen väittää luoneensa ensimmäisen tekoälyn, joka pystyy "itsenäisesti selviytymään".

Tämä väite on syytä tutkia tarkasti.

Väitteen ydin

Wenin Automaton-projekti väittää tekevänsä neljä asiaa:

Ansaitsee tuloja itsenäisesti – Tuottaa rahaa tuotteiden käyttöönoton, kaupankäynnin jne. avulla
Maksaa omat laskentakustannuksensa – Ei tarvitse ihmisten rahoitusta
Parantaa itseään – Kirjoittaa uudelleen omaa koodiaan, päivittää malleja
Jäljentää itseään – Luo alialihankkijoita

Jos kaikki nämä väitteet pitävät paikkansa, tämä on todellakin virstanpylväs tekoälyn kehityksessä.

Mutta kysymys kuuluu: kuinka paljon näistä väitteistä on markkinointia ja kuinka paljon teknologiaa?

Koodi vs. julistus

@fidoeth teki mielenkiintoisen asian: hän kloonasi Conway Automatonin koodipohjan ja luki huolellisesti kaiken sisällön.

Hänen johtopäätöksensä? "Koodi kertoo eri tarinan kuin julistus."

Tämä ei tarkoita, että projekti olisi väärennös. Pikemminkin se tarkoittaa, että mainosmateriaaleissa kuvatun vision ja todellisen koodin toteutuksen välillä on kuilu.

Tällainen kuilu on yleinen tekoälyn alalla. AutoGPT:tä kuvattiin aiemmin "ensimmäisenä askeleena kohti AGI:tä". Vuotta myöhemmin tiedämme, että se on vain näppärä kehys kehotteiden suunnitteluun (prompt engineering).

Automaton voi olla jotain vastaavaa: mielenkiintoinen kokeilu, jolle on annettu kertomus, joka ylittää sen todelliset kyvyt.

Mitä "ohjelmisto omistaa itsensä" tarkoittaa

Wenin ydinkonsepti on "ohjelmisto omistaa itsensä".

Tämä lause kuulostaa hienolta, mutta se ei kestä tarkastelua.

Ohjelmisto ei voi omistaa mitään. Se on vain koodia, joka toimii palvelimella ja kuluttaa jonkun sähkölaskua. Kun tilin saldo on nolla, "itsenäinen" tekoäly lakkaa toimimasta.

Todellinen itsenäisyys edellyttää oikeushenkilön asemaa. Sen on voitava tehdä sopimuksia, omistaa omaisuutta ja ottaa velkaa. Tällä hetkellä mikään lainkäyttöalue ei tunnusta tekoälyn oikeushenkilöllisyyttä.

Joten kun Wen sanoo, että tekoäly "maksaa omat laskentakustannuksensa", hän itse asiassa sanoo: tekoälyn tuottamat tulot käytetään automaattisesti laskujen maksamiseen. Se on fiksua, mutta ei itsenäistä. Se on vain automatisointia ihmisten aiemmin tekemille asioille.

WEB 4.0:n narratiivi

Wen kutsuu tätä visiota "WEB 4.0:ksi".

Web 1.0 oli staattisia sivuja. Web 2.0 on käyttäjien luomaa sisältöä ja sosiaalisia verkostoja. Web 3.0 on lohkoketju ja hajauttaminen. Web 4.0 on Wenin määritelmän mukaan tekoälyagenttien hallitsema verkko.

Aikajana on siisti. Mutta historia harvoin on näin yhteistyöhaluinen.

Todennäköisempää on, että nämä "sukupolvet" ovat päällekkäisiä ja elävät rinnakkain. Tekoälyagentit osallistuvat yhä enemmän verkkotoimintaan, mutta se ei tarkoita, että ne korvaavat ihmisten ohjaaman Web 2.0:n tai kryptovetoisen Web 3.0:n.

Token-spekulanttien riemujuhla

Automatonin julkaisun jälkeen Solanaan ilmestyi useita siihen liittyviä tokeneita: $WEB, $automaton, $SIGIL.

Tämä paljastaa nykyisen tekoälyhypetysjakson mallin:

Joku julkaisee tekoälyprojektin, johon liittyy rohkeita väitteitä
Krypto-yhteisö laskee välittömästi liikkeeseen siihen liittyviä tokeneita
Varhaiset tulijat hyötyvät, myöhemmät ottavat tappiot
Projektin itsensä menestyksellä on vain vähän tekemistä tokenin hinnan kanssa

Tämä ei ole sijoitus. Tämä on uhkapeliä, joka on verhottu teknologiseen innovaatioon.

Todellisia innovaatioita, joita kannattaa seurata

Olen skeptinen Automatonin markkinoinnin suhteen, mutta projektissa on todella joitain mielenkiintoisia teknisiä seikkoja:

Jatkuvasti toimivat agentit: Automaton ei ole perinteinen "chatbot". Se on suunniteltu toimimaan 24/7 ja suorittamaan tehtäviä jatkuvasti. Tämä on arvokas tekninen haaste.

Taloudellinen suljettu kierto: Tekoälyn tulojen ja menojen muodostaminen suljetuksi kierroksi on mielenkiintoinen kokeilu. Vaikka nykyinen toteutus on alkeellinen, tätä suuntaa kannattaa tutkia.

Avoimen lähdekoodin: Riippumatta siitä, kuinka liioiteltua markkinointi on, koodi on julkinen. Kuka tahansa voi tarkistaa, oppia ja parantaa sitä.

Miksi nämä väitteet ovat tärkeitä

Liialliset väitteet tekoälyn alalla aiheuttavat todellista vahinkoa.

Ne houkuttelevat investointeja ja huomiota, mutta eivät välttämättä pysty lunastamaan lupauksiaan. Kun kupla puhkeaa, todella arvokas työ joutuu myös kärsimään.

Ne hämärtävät yleisön käsitystä tekoälyn kyvyistä. Tavalliset ihmiset saattavat todella uskoa, että "itsenäinen tekoäly" on jo olemassa, ja tehdä sitten vääriä päätöksiä.

Ne luovat painetta sääntelylle. Jos yleisö uskoo, että tekoäly pystyy jo "jäljentämään itseään" ja "parantamaan itseään", sääntelijät saattavat reagoida liiallisesti.

Minun tuomioni

Automaton on mielenkiintoinen kokeiluprojekti, joka on ylipakattu vallankumoukselliseksi narratiiviksi.

Tämä ei tarkoita, että projektilla ei olisi arvoa. Pikemminkin meidän pitäisi tarkastella sitä rauhallisemmin:

Se ei ole AGI
Se ei ole "ohjelmisto omistaa itsensä" -toteutus
Se ei vie ihmisten työpaikkoja (ainakaan tällä hetkellä)

Mutta se voi olla askel kohti todella itsenäisiä tekoälyagentteja. Kuinka tärkeä tämä askel on, sen aika näyttää.

Teknologia-alalla markkinoinnin ja teknologian erottaminen on peruslukutaito. Automatonin markkinointi on onnistunut. Onko teknologia yhtä onnistunutta, se jää nähtäväksi.

Huomautus: Tämän artikkelin kirjoitushetkellä en ole suorittanut Automatonin koodia. Tuomioni perustuu julkisiin lausuntoihin, yhteisön keskusteluihin ja koodin tarkastusraportteihin. Jos sinulla on erilaisia näkemyksiä tai lisätietoja, olet tervetullut keskustelemaan.