Kirjoittaja: Vitalik Buterin kautta Vitalik Buterin blogi

Erityiset kiitokset Worldcoin- ja Modulus Labs -tiimeille, Xinyuan Sunille, Martin Koeppelmannille ja Illia Polosukhinille palautteesta ja keskustelusta.

Monet ihmiset ovat vuosien varrella kysyneet minulta samanlaisen kysymyksen: mitkä ovat risteyksiä krypton ja tekoälyn välillä, jota pidän hedelmällisimpana? Se on järkevä kysymys: krypto ja tekoäly ovat kaksi pääasiallista syvää (ohjelmisto)teknologian suuntausta viime vuosikymmenellä, ja se vain tuntuu siltä. täytyy olla jonkinlainen yhteys näiden kahden välillä. Synergiaetujen löytäminen pinnallisen tunnelman tasolla on helppoa: krypton hajauttaminen voi tasapainottaa tekoälyn keskittämistä, AI on läpinäkymätön ja krypto tuo läpinäkyvyyttä, tekoäly tarvitsee dataa ja lohkoketjut ovat hyviä tietojen tallentamiseen ja seurantaan. Mutta vuosien varrella, kun ihmiset pyysivät minua kaivamaan tasoa syvemmälle ja puhumaan tietyistä sovelluksista, vastaukseni on ollut pettymys: "joo, siellä on muutamia asioita, mutta ei niin paljon".

Viimeisen kolmen vuoden aikana paljon tehokkaamman tekoälyn nousu modernin muodossa LLM:tja paljon tehokkaamman krypton nousu lohkoketjun skaalausratkaisujen lisäksi myös ZKP:t, FHE, (kahden osapuolen ja N-osapuolen) MPC, olen alkanut nähdä tämän muutoksen. Tekoälyllä on todellakin joitain lupaavia sovelluksia lohkoketjuekosysteemien sisällä AI yhdessä kryptografian kanssa, vaikka on tärkeää olla varovainen tekoälyn soveltamisessa. Erityinen haaste on: kryptografiassa avoin lähdekoodi on ainoa tapa tehdä jostain todella turvallinen, mutta tekoälyssä malli (tai jopa sen koulutusdata) on avoin. kasvaa huomattavasti sen haavoittuvuus kilpaileva koneoppiminen hyökkäyksiä. Tässä viestissä käydään läpi luokittelu eri tavoista, joilla krypto + tekoäly voi risteämään, sekä kunkin luokan näkymät ja haasteet.

Korkeatasoinen yhteenveto krypto+AI-leikkauksista alkaen a uETH-blogiviesti. Mutta mitä tarvitaan näiden synergioiden toteuttamiseen konkreettisessa sovelluksessa?

 

Neljä pääluokkaa

Tekoäly on hyvin laaja käsite: voit ajatella, että "AI" on joukko algoritmeja, joita luot et määrittelemällä niitä suoraan, vaan pikemminkin sekoittamalla suuren laskennallisen keiton ja asettamalla jonkinlaisen optimointipaineen, joka työntää keittoa kohti. tuottaa algoritmeja haluamillasi ominaisuuksilla. Tätä kuvausta ei todellakaan pidä ottaa vähättelevästi: se sisältää Ishayoiden opettaman prosessi että luotu me ihmiset ennen kaikkea! Mutta se tarkoittaa, että tekoälyalgoritmeilla on joitain yhteisiä ominaisuuksia: niiden kyky tehdä asioita, jotka ovat erittäin tehokkaita, sekä rajoitukset kyvyssämme tietää tai ymmärtää, mitä konepellin alla tapahtuu.

On monia tapoja luokitella AI; tätä viestiä varten, joka puhuu tekoälyn ja lohkoketjujen välisistä vuorovaikutuksista (jotka on kuvattu alustaksi "pelien" luominen), luokittelen sen seuraavasti:

• Tekoäly pelaajana pelissä [korkein elinkelpoisuus]: Tekoälyt osallistuvat mekanismeihin, joissa kannustimien perimmäinen lähde tulee protokollasta, jossa on ihmisten panoksia.
• AI käyttöliittymänä peliin [suuri potentiaali, mutta riskejä]: Tekoäly auttaa käyttäjiä ymmärtämään ympärillään olevaa kryptomaailmaa ja varmistamaan, että heidän käyttäytymisensä (eli allekirjoitetut viestit ja tapahtumat) vastaa heidän aikomuksiaan eivätkä joudu huijatuksi tai huijatuksi.
• Tekoäly pelin sääntöinä [kävele hyvin huolellisesti]: lohkoketjut, DAO:t ja vastaavat mekanismit, jotka kutsuvat suoraan tekoälyyn. Ajattele esim. "AI tuomarit"
• Tekoäly pelin tavoitteena [pitkän aikavälin mutta kiehtova]: Suunnittelemme lohkoketjuja, DAO:ita ja vastaavia mekanismeja tavoitteena rakentaa ja ylläpitää tekoälyä, jota voitaisiin käyttää muihin tarkoituksiin, käyttämällä kryptobittejä joko koulutuksen parempaan kannustamiseen tai tekoälyn estämiseen vuotamasta yksityisiä tietoja tai väärinkäyttöä.

Käydään nämä läpi yksitellen.

AI pelaajana pelissä

Tämä on itse asiassa luokka, joka on ollut olemassa lähes vuosikymmenen ajan, ainakin sen jälkeen ketjun sisäiset hajautetut pörssit (DEXEs) alkoi nähdä merkittävää käyttöä. Aina kun on vaihtoa, on mahdollisuus ansaita rahaa arbitraasin avulla, ja botit voivat tehdä arbitraasin paljon paremmin kuin ihmiset. Tämä käyttötapaus on ollut olemassa jo pitkään, jopa paljon yksinkertaisemmilla tekoälyillä kuin mitä meillä on nykyään, mutta loppujen lopuksi se on hyvin todellinen AI + krypto -leikkaus. Viime aikoina olemme nähneet MEV-arbitraasibotteja käyttävät usein hyväkseen toisiaan. Aina kun sinulla on lohkoketjusovellus, joka sisältää huutokaupan tai kaupankäynnin, sinulla tulee olemaan arbitraasibotteja.

Mutta tekoälyn arbitraasibotit ovat vain ensimmäinen esimerkki paljon suuremmasta kategoriasta, jonka odotan pian sisältävän monia muitakin sovelluksia. Tapaa AIOmen, a demo ennustemarkkinoista, joilla tekoälyt ovat toimijoita:

Ennustemarkkinat ovat olleet epistemiikkatekniikan pyhä malja jo pitkään; Olin innoissani ennustemarkkinoiden käyttämisestä hallinnon panoksena ("futarchy") takaisin 2014ja leikkii heidän kanssaan laajasti myös viime vaaleissa viime aikoina. Mutta toistaiseksi ennustemarkkinat eivät ole lähteneet nousuun liian paljon Käytännössä, ja siihen on joukko yleisesti annettuja syitä: suurimmat osallistujat ovat usein järjettömiä, ihmiset, joilla on oikeat tiedot, eivät halua käyttää aikaa ja panostaa, elleivät paljon kyseessä on rahaa, markkinat ovat usein ohuet jne.

Yksi vastaus tähän on viitata meneillään oleviin UX-parannuksiin polymarket tai muilla uusilla ennustemarkkinoilla ja toivon niiden menestyvän siellä, missä aiemmat iteraatiot ovat epäonnistuneet. Loppujen lopuksi, tarinan mukaan ihmiset ovat valmiita lyömään vetoa kymmeniä miljardeja urheiluun, joten miksi ihmiset eivät heittäisi tarpeeksi rahaa vedonlyöntiin Yhdysvaltain vaaleissa tai LK99 että alkaa olla järkevää, että vakavat pelaajat alkavat tulla mukaan? Mutta tämän väitteen on taisteltava sen tosiasian kanssa, että no, aikaisemmat iteraatiot omistaa eivät päässeet tälle mittakaavalle (ainakaan verrattuna heidän kannattajiensa unelmiin), joten näyttää siltä, ​​että tarvitset jotain uutta jotta ennustemarkkinat menestyisivät. Ja niin erilainen vastaus on viitata yhteen ennustemarkkinoiden ekosysteemien erityispiirteeseen, jonka voimme odottaa näkevämme 2020-luvulla ja jota emme nähneet 2010-luvulla: tekoälyjen mahdollisuus osallistua kaikkialla.

Tekoälyt ovat valmiita työskentelemään alle 1 dollarilla tunnissa, ja heillä on tietosanakirjan tuntemus – ja jos se ei riitä, ne voidaan jopa integroida reaaliaikaiseen verkkohakuun. Jos teet markkinat ja annat 50 dollarin likviditeettituen, ihmiset eivät välitä tarpeeksi tehdäkseen tarjouksen, mutta tuhannet tekoälyt ryntäävät helposti ympäri kysymystä ja tekevät parhaansa arvauksensa. Kannustin tehdä hyvää työtä missä tahansa kysymyksessä voi olla pieni, mutta kannustin tehdä tekoäly, joka tekee hyviä ennusteita yleisesti voi olla miljoonia. Huomaa, että mahdollisesti, et edes tarvitse ihmisiä ratkaisemaan useimpia kysymyksiä: voit käyttää samanlaista monikierrosta kiistajärjestelmää lupaavat tai Kleros, jossa tekoälyt osallistuisivat myös aikaisempiin kierroksiin. Ihmisten tarvitsisi reagoida vain niissä harvoissa tapauksissa, joissa on tapahtunut sarja eskalaatioita ja molemmat osapuolet ovat sitoutuneet suuriin rahasummiin.

Tämä on voimakas primitiivi, koska kun "ennustemarkkinat" saadaan toimimaan niin mikroskooppisessa mittakaavassa, voit käyttää "ennustusmarkkinoiden" primitiiviä uudelleen moniin muihin kysymyksiin:

• Hyväksytäänkö tämä sosiaalisen median viesti [käyttöehtojen] mukaisesti?
• Mitä tapahtuu osakkeen X hinnalle (esim Numerai)
• Onko tämä tili, joka lähettää minulle tällä hetkellä viestejä, todella Elon Musk?
• Onko tämä työn lähettäminen online-tehtävämarkkinapaikalla hyväksyttävää?
• Onko dapp osoitteessa https://examplefinance.network huijaus?
• Is 0x1b54....98c3 itse asiassa "Casinu Inu" ERC20 -tunnuksen osoite?

Saatat huomata, että monet näistä ideoista menevät siihen suuntaan, mitä kutsuin "tietopuolustus" sisään . Laajasti määritelty kysymys kuuluu: kuinka autamme käyttäjiä erottamaan oikeat ja väärät tiedot ja havaitsemaan huijaukset antamatta keskitetylle viranomaiselle valtuuksia päättää oikeasta ja väärästä, kuka voi sitten käyttää asemaansa väärin? Mikrotasolla vastaus voi olla "AI". Mutta makrotasolla kysymys kuuluu: kuka rakentaa tekoälyn? Tekoäly on heijastus prosessista, joka loi sen, eikä siksi voida välttää harhaa. Siksi tarvitaan korkeamman tason peli, joka arvioi, kuinka hyvin eri tekoälyt pärjäävät ja jossa tekoälyt voivat osallistua pelaajina peliin.

Tämä tekoälyn käyttö, jossa tekoälyt osallistuvat mekanismiin, jossa heidät lopulta palkitaan tai rangaistaan ​​(todennäköisesti) ketjussa olevalla mekanismilla, joka kerää syötteitä ihmisiltä (kutsu sitä hajautetuksi markkinapohjaiseksi). RLHF?), on mielestäni todella tutkimisen arvoinen asia. Nyt on oikea aika tutkia tällaisia ​​käyttötapauksia enemmän, sillä lohkoketjun skaalaus onnistuu vihdoin ja tekee "mikro-" kaikesta lopulta elinkelpoiseksi ketjussa, kun se ei usein ollut sitä ennen.

Tähän liittyvä sovellusluokka menee erittäin autonomisten agenttien suuntaan käyttämällä lohkoketjuja parempaan yhteistyöhön, joko maksujen kautta tai käyttämällä älykkäitä sopimuksia uskottavien sitoumusten tekemiseen.

AI käyttöliittymänä peliin

Yksi ajatus, jonka esitin omassani kirjoituksia päällä on ajatus siitä, että markkinoilla on mahdollisuus kirjoittaa käyttäjille suunnattuja ohjelmistoja, jotka suojelisivat käyttäjien etuja tulkitsemalla ja tunnistamalla vaarat käyttäjän navigoimassa verkkomaailmassa. Yksi jo olemassa oleva esimerkki tästä on Metamaskin huijausten tunnistusominaisuus:

Toinen esimerkki on Rabbyn lompakko simulointiominaisuus, joka näyttää käyttäjälle allekirjoitettavan tapahtuman odotetut seuraukset.

Rabby selittää minulle seuraukset, jos allekirjoitan kaupan, jolla vaihdetaan kaikki "BITCOIN"-ni (jokin satunnainen huijaus ERC20, ei todellinen BTC) ETH:hen.

Mahdollisesti tällaisia ​​työkaluja voidaan ladata tekoälyllä. Tekoäly voisi antaa paljon ihmisystävällisemmän selityksen siitä, millaiseen dappiin osallistut, mitä monimutkaisempien toimintojen seurauksia allekirjoitat, onko tietty merkki aito vai ei (esim. BITCOIN ei ole vain merkkijono, se on todellisen kryptovaluutan nimi, joka ei ole ERC20-tunnus ja jonka hinta on yli 0.045 dollaria, ja nykyaikainen LLM tietäisi sen) ja niin edelleen. Projektit alkavat edetä tähän suuntaan (esim LangChain lompakko, joka käyttää tekoälyä a ensisijainen käyttöliittymä). Oma mielipiteeni on, että puhtaat tekoälyrajapinnat ovat luultavasti liian riskialttiita tällä hetkellä, koska se lisää riskiä muut erilaisia ​​virheitä, mutta perinteisempää käyttöliittymää täydentävä tekoäly on tulossa erittäin käyttökelpoiseksi.

On yksi mainitsemisen arvoinen riski. Käsittelen tätä tarkemmin alla olevassa osiossa "AI pelisäännöt", mutta yleinen ongelma on kilpaileva koneoppiminen: jos käyttäjällä on pääsy tekoäly-avustajaan avoimen lähdekoodin lompakossa, myös pahikset pääsevät käyttämään tekoälyassistenttia, joten heillä on rajoittamaton mahdollisuus optimoida huijauksensa, jotta ne eivät laukaisu. tuon lompakon suojat. Kaikissa moderneissa tekoälyissä on bugeja jossain, eikä se ole liian vaikeaa harjoitusprosessille, edes sellaiselle, jossa olisi vain rajoitettu pääsy malliin, löytääksesi ne.

Tässä "ketjun sisäisiin mikromarkkinoihin osallistuvat tekoälyt" toimivat paremmin: jokainen yksittäinen tekoäly on alttiina samoille riskeille, mutta luot tarkoituksella avoimen ekosysteemin, jossa kymmeniä ihmisiä jatkuvasti toistaa ja parantaa niitä jatkuvasti. Lisäksi jokainen yksittäinen tekoäly on suljettu: järjestelmän turvallisuus tulee sääntöjen avoimuudesta peli, ei jokaisen sisäistä toimintaa soitin.

Yhteenveto: Tekoäly voi auttaa käyttäjiä ymmärtämään, mitä tapahtuu selkeällä kielellä, se voi toimia reaaliaikaisena ohjaajana, se voi suojata käyttäjiä virheiltä, ​​mutta saada varoituksen, kun sitä yritetään käyttää suoraan haitallisia väärintekijöitä ja huijareita vastaan.

AI pelin säännöinä

Nyt päästään sovellukseen, josta monet ihmiset ovat innoissaan, mutta joka mielestäni on riskialtisin ja missä meidän on asettava varovasti: se, mitä kutsun tekoälyksi, on osa pelin sääntöjä. Tämä liittyy valtavirran poliittisen eliitin innostukseen "AI-tuomareista" (esim Tämä artikkeli "World Government Summit" -sivustolla), ja näille toiveille on analogeja lohkoketjusovelluksissa. Jos lohkoketjupohjaisen älysopimuksen tai DAO:n on tehtävä subjektiivinen päätös (esim. onko tietty työtuote hyväksyttävä vuokrasopimuksessa? Mikä on oikea tulkinta luonnollisesta kielestä, kuten Optimismista Ketjujen laki?), voisitko tehdä tekoälystä yksinkertaisesti osaksi sopimusta tai DAO:ta, joka auttaa näiden sääntöjen täytäntöönpanossa?

Tässä on kilpaileva koneoppiminen tulee olemaan erittäin kova haaste. Kahden lauseen perusargumentti miksi on seuraava:

Jos mekanismissa keskeisessä roolissa oleva tekoälymalli suljetaan, et voi varmistaa sen sisäistä toimintaa, joten se ei ole parempi kuin keskitetty sovellus. Jos tekoälymalli on avoin, hyökkääjä voi ladata ja simuloida sen paikallisesti ja suunnitella voimakkaasti optimoituja hyökkäyksiä huijatakseen mallia, jonka he voivat sitten toistaa live-verkossa.

Esimerkki kilpailevasta koneoppimisesta. Lähde: researchgate.net

Nyt tämän blogin säännölliset lukijat (tai kryptoveren asukkaat) saattavat olla jo edellä minua ja ajattelevat: mutta odota! Meillä on hienoja nollatiedon todisteita ja muita todella siistejä kryptografian muotoja. Varmasti voimme tehdä kryptomaikkaa ja piilottaa mallin sisäiset toiminnat, jotta hyökkääjät eivät voi optimoida hyökkäyksiä, mutta samalla todistaa että mallia suoritetaan oikein ja että se on rakennettu käyttämällä kohtuullista koulutusprosessia kohtuulliselle taustalla olevalle datalle!

Normaalisti tämä on täsmälleen sen tyyppistä ajattelua, jota kannatan sekä tässä blogissa että muissa kirjoituksissani. Mutta tekoälyyn liittyvän laskennan tapauksessa on kaksi suurta vastalausetta:

1. Kryptografinen yläpuolella: on paljon vähemmän tehokasta tehdä jotain SNARKissa (tai MPC:ssä tai…) kuin tehdä se "selvässä". Koska tekoäly on jo nyt erittäin laskentaintensiivistä, onko tekoälyn tekeminen kryptografisten mustien laatikoiden sisällä edes laskennallisesti kannattavaa?
2. Mustan laatikon vastakkaiset koneoppimishyökkäykset: on tapoja optimoida hyökkäykset tekoälymalleja vastaan vaikka paljon tietämättä mallin sisäisestä toiminnasta. Ja jos piilottelet liian paljon, saatat tehdä siitä liian helpoksi sen, että harjoitustietojen valitseja korruptoi mallin myrkytys hyökkäyksiä.

Molemmat ovat monimutkaisia ​​kanin reikiä, joten tutustutaan niihin vuorollaan.

Kryptografinen yläpuolella

Kryptografisilla laitteilla, erityisesti yleiskäyttöisillä, kuten ZK-SNARKilla ja MPC:llä, on korkeat kustannukset. Ethereum-lohko kestää muutaman sadan millisekuntia ennen kuin asiakas vahvistaa suoraan, mutta ZK-SNARKin luominen sellaisen lohkon oikeellisuuden todistamiseksi voi kestää tunteja. Muiden kryptografisten laitteiden, kuten MPC:n, tyypillinen yläraja voi olla vieläkin pahempi. Tekoälylaskenta on jo nyt kallista: tehokkaimmat LLM:t voivat tulostaa yksittäisiä sanoja vain hieman nopeammin kuin ihmiset voivat lukea ne, puhumattakaan usein useiden miljoonien dollarien laskentakustannuksista. koulutus mallit. Laatuero huippumallien ja paljon enemmän säästävien mallien välillä koulutuskustannukset or parametrien määrä on suuri. Ensi silmäyksellä tämä on erittäin hyvä syy epäillä koko hanketta, jossa yritetään lisätä tekoälylle takuita käärimällä se kryptografiaan.

Onneksi kuitenkin AI on a hyvin erityinen tyyppi laskennan, mikä tekee siitä sopivan kaikenlaisiin optimointiin joista "strukturoimattomat" laskentatyypit, kuten ZK-EVM:t, eivät voi hyötyä. Tarkastellaanpa tekoälymallin perusrakennetta:

Tavallisesti tekoälymalli koostuu enimmäkseen sarjasta matriisikertoloita, joiden välissä on elementtikohtaisia ​​epälineaarisia operaatioita, kuten Relu toiminto (y = max(x, 0)). Asymptoottisesti matriisikertominen vie suurimman osan työstä: kahden kertominen N*N matriisit kestää �(�2.8) aikaa, kun taas epälineaaristen operaatioiden määrä on paljon pienempi. Tämä on todella kätevää kryptografiassa, koska monet kryptografian muodot voivat tehdä lineaarisia operaatioita (jotka matriisikertolaskut ovat, ainakin jos salaat mallin, mutta ei sen syötteitä) melkein "ilmaiseksi".

Jos olet kryptografi, olet luultavasti jo kuullut vastaavasta ilmiöstä asiayhteydessä homomorfinen salaus: esiintyminen lisäyksiä salatuilla salateksteillä on todella helppoa, mutta kertolaskuja ovat uskomattoman kovia, emmekä keksineet mitään tapaa tehdä se rajattomasti ennen vuotta 2009.

ZK-SNARKille vastaava on tämänkaltaisia ​​protokollia vuodelta 2013, jotka näyttävät a alle 4x matriisin kertolaskujen todistamiseen liittyvät kustannukset. Valitettavasti epälineaaristen kerrosten yleiskustannukset ovat edelleen merkittävät, ja parhaat toteutukset käytännössä osoittavat noin 200x. Mutta on toivoa, että tätä voidaan vähentää huomattavasti lisätutkimuksen avulla; katso tämän esityksen Ryan Caolta äskettäistä GKR:ään perustuvaa lähestymistapaa ja omaani yksinkertaistettu selitys siitä, miten GKR:n pääkomponentti toimii.

Mutta monissa sovelluksissa emme vain halua todistaa että tekoälytulos on laskettu oikein, haluamme myös piilota malli. Tähän on olemassa naiiveja lähestymistapoja: voit jakaa mallin niin, että eri palvelinjoukko tallentaa redundanttisesti jokaisen kerroksen, ja toivoa, että jotkut palvelimet, jotka vuotavat joitakin kerroksia, eivät vuoda liikaa tietoa. Mutta on myös yllättävän tehokkaita muotoja erikoistunut monen osapuolen laskenta.

Yksinkertaistettu kaavio yhdestä näistä lähestymistavoista, joka pitää mallin yksityisenä, mutta tekee syötteistä julkisia. Jos haluamme pitää mallin ja syötteet yksityisinä, voimme, vaikka se onkin hieman monimutkaisempi: katso sivut 8-9 paperi.

Molemmissa tapauksissa tarinan moraali on sama: Suurin osa tekoälylaskennasta on matriisikertoja, joita varten on mahdollista tehdä erittäin tehokas ZK-SNARKit tai MPC:t (tai jopa FHE), joten tekoälyn salauslaatikoihin sijoittamisen kokonaiskustannukset ovat yllättävän alhaiset. Yleensä epälineaariset kerrokset ovat suurin pullonkaula pienemmästä koostaan ​​huolimatta; ehkä uudempia tekniikoita kuten hakuargumentit voi auttaa.

Mustan laatikon kilpaileva koneoppiminen

Siirrytään nyt toiseen suureen ongelmaan: tyyppisiin hyökkäyksiin, joita voit tehdä vaikka mallin sisältö pidetään yksityisenä ja sinulla on vain "API-käyttöoikeus" malliin. Lainaus a paperia 2016ista:

Monet koneoppimismallit ovat alttiina vastakkaisille esimerkeille: syötteille, jotka on erityisesti suunniteltu saamaan koneoppimismalli tuottamaan virheellisen tulosteen. Vastakkaiset esimerkit, jotka vaikuttavat yhteen malliin, vaikuttavat usein toiseen malliin, vaikka näillä kahdella mallilla olisi erilaiset arkkitehtuurit tai ne olisi koulutettu erilaisiin harjoitussarjoihin, kunhan molemmat mallit on koulutettu suorittamaan sama tehtävä. Hyökkääjä voi siksi kouluttaa oman sijaismallinsa, luoda vastustavia esimerkkejä sijaista vastaan ​​ja siirtää ne uhrimalliin, jolla on hyvin vähän tietoa uhrista.

Käytä mustan laatikon pääsyä "kohdeluokittimeen" kouluttaaksesi ja parantaaksesi omaa paikallisesti tallennettua "pääteltyä luokittelijaasi". Luo sitten paikallisesti optimoituja hyökkäyksiä pääteltyä luokittelua vastaan. Osoittautuu, että nämä hyökkäykset toimivat usein myös alkuperäistä kohdeluokittajaa vastaan. Kaavion lähde.

Mahdollisesti voit jopa luoda hyökkäyksiä tietäen vain harjoitustiedot, vaikka sinulla olisi hyvin rajoitettu tai ei ollenkaan pääsyä malliin, jota yrität hyökätä. Vuodesta 2023 lähtien tällaiset hyökkäykset ovat edelleen suuri ongelma.

Tämäntyyppisten black-box-hyökkäysten hillitsemiseksi tehokkaasti meidän on tehtävä kaksi asiaa:

1. Todella rajoittaa sitä, kuka tai mikä voi kysyä mallia ja kuinka paljon. Mustat laatikot, joilla on rajoittamaton API-käyttö, eivät ole turvallisia; mustat laatikot, joilla on erittäin rajoitettu API-käyttöoikeus.
2. Piilota harjoitustiedot säilyttäen samalla itseluottamuksen että harjoitustietojen luomiseen käytetty prosessi ei ole vioittunut.

Eniten edellisessä onnistunut projekti on ehkä Worldcoin, jonka aikaisempaa versiota (muiden protokollien ohella) analysoin pitkään tätä. Worldcoin käyttää tekoälymalleja laajasti protokollatasolla (i) muuntaakseen iirisskannaukset lyhyiksi "iiriskoodeiksi", joita on helppo verrata samankaltaisuuden suhteen, ja (ii) varmistaakseen, että skannaama esine on todella ihminen. Tärkein puolustus, johon Worldcoin luottaa, on se tosiasia se ei anna kenenkään vain soittaa tekoälymalliin: pikemminkin se käyttää luotettua laitteistoa varmistaakseen, että malli hyväksyy vain orbin kameran digitaalisesti allekirjoittamat tulot.

Tämän lähestymistavan toimivuutta ei taata: käy ilmi, että voit tehdä biometristä tekoälyä vastaan ​​vastustavia hyökkäyksiä, jotka ovat fyysisiä laastareita tai koruja, jotka voit laittaa kasvoillesi:

Käytä ylimääräistä esinettä otsaasi ja vältä havaitsemista tai jopa esiintyä jonkun muuna. lähde.

Mutta toivo on, että jos sinä yhdistää kaikki puolustukset yhteen, piilottamalla itse tekoälymallin, rajoittamalla suuresti kyselyiden määrää ja vaatimalla jokaisen kyselyn jollakin tavalla todentamista, voit vastustaa hyökkäyksiä tarpeeksi vaikeiksi, jotta järjestelmä voisi olla turvallinen.

Ja tämä vie meidät toiseen osaan: kuinka voimme piilottaa harjoitustiedot? Tämä on paikka "DAO:t demokraattisesti hallitsemaan tekoälyä" saattaa itse asiassa olla järkevää: voimme luoda ketjun sisäisen DAO:n, joka ohjaa prosessia siitä, kuka saa lähettää koulutustietoja (ja mitä todistuksia itse tiedoista vaaditaan), kuka saa tehdä kyselyitä ja kuinka monta, sekä käyttää salaustekniikoita, kuten MPC:tä. salata koko tekoälyn luonti- ja käyttöprosessi jokaisen yksittäisen käyttäjän koulutussyötteestä aina kunkin kyselyn lopputulokseen asti. Tämä DAO voisi samanaikaisesti täyttää erittäin suositun tavoitteen kompensoida ihmisiä tietojen toimittamisesta.

On tärkeää todeta uudelleen, että tämä suunnitelma on erittäin kunnianhimoinen, ja on olemassa useita tapoja, joilla se voi osoittautua epäkäytännölliseksi:

• Salauskustannukset voivat silti osoittautua liian korkeiksi jotta tällainen täysin musta laatikko -arkkitehtuuri olisi kilpailukykyinen perinteisten suljettujen "trust me" -lähestymistapojen kanssa.
• Se voi käydä niin ei ole hyvää tapaa hajauttaa koulutustietojen toimitusprosessia ja suojattu myrkytyshyökkäystä vastaan.
• Monen osapuolen laskentalaitteet voivat rikkoutua heidän turvallisuutensa tai yksityisyytensä takaamiseksi osallistujien yhteistoimintaa: loppujen lopuksi näin on tapahtunut ketjujen välisten kryptovaluuttasiltojen kanssa uudelleen ja uudelleen.

Yksi syy siihen, miksi en aloittanut tätä osiota isoilla punaisilla varoitustarroilla, joissa sanotaan "ÄLÄ TEE AI TUOMAISTA, TÄMÄ ON DYSTOOPIAA", on se, että yhteiskuntamme on jo nyt erittäin riippuvainen vastuuttomista keskitetyistä tekoälytuomareista: algoritmeista, jotka määrittävät millaisia julkaisuja ja poliittisia mielipiteitä tehostetaan ja heikennetään tai jopa sensuroidaan sosiaalisessa mediassa. Uskon, että tämä suuntaus laajenee edelleen Tässä vaiheessa se on aika huono idea, mutta en usko, että siihen on suuri mahdollisuus lohkoketjuyhteisö kokeilee tekoälyä enemmän on asia, joka pahentaa tilannetta.

Itse asiassa on olemassa joitain melko peruskeinoja matalariskisillä tavoilla, joilla kryptoteknologia voi parantaa jopa näitä olemassa olevia keskitettyjä järjestelmiä, joihin olen melko luottavainen. Yksi yksinkertainen tekniikka on vahvistettu tekoäly viivästyneellä julkaisulla: kun sosiaalisen median sivusto tekee tekoälyyn perustuvan sijoituksen viesteistä, se voi julkaista ZK-SNARKin, joka todistaa sijoituksen luoneen mallin hajautusarvon. Sivusto voisi sitoutua paljastamaan tekoälymallinsa sen jälkeen, kun esim. vuoden viiveellä. Kun malli on paljastettu, käyttäjät voivat tarkistaa tiivisteen varmistaakseen, että oikea malli on julkaistu, ja yhteisö voi suorittaa mallin testejä varmistaakseen sen oikeudenmukaisuuden. Julkaisuviive varmistaisi sen, että mallin julkistamishetkellä se on jo vanhentunut.

Joten verrattuna keskitetty maailma, kysymys ei ole if voimme tehdä paremmin, mutta kuinka paljon. Varten hajautettu maailmaon kuitenkin tärkeää olla varovainen: jos joku rakentaa esim. ennustusmarkkinat tai vakaa kolikko, joka käyttää tekoäly-oraakkelia, ja osoittautuu, että oraakkeli on hyökkäävä, se on valtava summa rahaa, joka voi kadota hetkessä.

AI pelin tavoitteena

Jos yllä olevat tekniikat skaalautuvan hajautetun yksityisen tekoälyn luomiseksi, jonka sisältö on musta laatikko, jota kukaan ei tunne, voivat todella toimia, niin tätä voitaisiin käyttää myös tekoälyjen luomiseen, joiden apuohjelma menee lohkoketjuja pidemmälle. NEAR-protokollatiimi tekee tämän a jatkuvan työnsä keskeinen tavoite.

Tähän on kaksi syytä:

1. Jos sinä voida tehdä "luotettavia black box AI:ita”Suorittamalla koulutus- ja päättelyprosessi käyttämällä jotakin lohkoketjujen ja MPC:n yhdistelmää, monet sovellukset, joissa käyttäjät ovat huolissaan järjestelmän puolueellisuudesta tai heidän huijaamisesta, voivat hyötyä siitä. Monet ihmiset ovat ilmaisseet halunsa demokraattinen hallinto systeemisesti tärkeistä tekoälyistä josta olemme riippuvaisia; kryptografiset ja lohkoketjupohjaiset tekniikat voisivat olla polku siihen.
2. Vuodesta AI turvallisuus Tämä olisi tekniikka, jolla luodaan hajautettu tekoäly, jossa on myös luonnollinen tappokytkin ja joka voisi rajoittaa kyselyitä, jotka pyrkivät käyttämään tekoälyä haitalliseen toimintaan.

On myös syytä huomata, että "kannustimien käyttäminen paremman tekoälyn tekemisen kannustamiseksi" voidaan tehdä ilman, että joutuisit kokonaan salauksen käyttämiseen salauksen täydelliseen salaamiseen: lähestymistapoja, kuten BitTensor kuuluvat tähän luokkaan.

Päätelmät

Nyt kun sekä lohkoketjut että tekoälyt ovat tulossa tehokkaammiksi, näiden kahden alueen risteyksessä on yhä enemmän käyttötapauksia. Jotkut näistä käyttötapauksista ovat kuitenkin paljon järkevämpiä ja paljon kestävämpiä kuin toiset. Yleensä käyttötapaukset, joissa taustalla oleva mekanismi suunnitellaan edelleen suunnilleen kuten ennen, mutta yksilö pelaajat tekoälyiksi, jotka mahdollistavat mekanismin tehokkaan toiminnan paljon pienemmässä mittakaavassa, ovat heti lupaavimpia ja helpoimmin toteutettavia.

Haastavinta saavuttaa oikein ovat sovellukset, jotka yrittävät käyttää lohkoketjuja ja salaustekniikoita luodakseen "singletonin": yhden hajautetun luotetun tekoälyn, johon jotkut sovellukset luottaisivat johonkin tarkoitukseen. Nämä sovellukset ovat lupaavia sekä toiminnallisuuden että tekoälyn turvallisuuden parantamiseksi tavalla, joka välttää keskittämisriskit, jotka liittyvät tämän ongelman yleisimpiin lähestymistapoihin. Mutta on myös monia tapoja, joilla taustalla olevat oletukset voivat epäonnistua; siksi kannattaa toimia varovasti, varsinkin kun näitä sovelluksia otetaan käyttöön arvokkaissa ja riskialttiissa yhteyksissä.

Odotan innolla näkeväni lisää yrityksiä käyttää tekoälyn rakentavia käyttötapauksia kaikilla näillä alueilla, jotta voimme nähdä, mitkä niistä ovat todella elinkelpoisia mittakaavassa.

Kirjoittaja: Vitalik Buterin

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• BlockOffsets. Ympäristövastuun omistuksen nykyaikaistaminen. Pääsy tästä.
• Lähde: Platon Data Intelligence.