Tehisintellektil töötavad virtuaalsed isiklikud assistendid on muutumas kõikjal tehnoloogiaplatvormidel ja igas suuremas tehnoloogiaettevõttes AI lisamine nende teenustele ja kümnetele eriteenused turule kukkumas. Kuigi see on tohutult kasulik, väidavad Google'i teadlased, et inimesed võivad nendega liiga emotsionaalselt kiinduda, mis toob kaasa hulgaliselt negatiivseid sotsiaalseid tagajärgi.
Uus uurimustöö Google'i DeepMind tehisintellekti uurimislaboratoorium toob esile täiustatud, isikupärastatud AI-assistentide potentsiaalsed eelised ühiskonna erinevate aspektide muutmisel, öeldes, et nad "võivad radikaalselt muuta töö olemust, haridust ja loomingulisi tegevusi ning seda, kuidas me suhtleme, koordineerime ja läbirääkimisi peame. üksteisega, mõjutades lõpuks seda, kelleks me tahame olla ja saada.
See ülisuur mõju võib muidugi olla kahe teraga mõõk, kui tehisintellekti arendamine jätkub ilma läbimõeldud planeerimiseta.
Üks peamine risk? Sobimatult tihedate sidemete moodustumine – mis võib süveneda, kui assistendile esitatakse inimesesarnane kujutis või nägu. "Need kunstlikud ained võivad isegi tunnistada oma eeldatavat platoonilist või romantilist kiindumust kasutaja vastu, pannes aluse kasutajatele pikaajalisele emotsionaalsele kiindumusele tehisintellektiga," öeldakse dokumendis.
Kui seda ei kontrollita, võib selline seos põhjustada kasutaja autonoomia ja sotsiaalsete sidemete kaotuse, kuna tehisintellekt võib asendada inimestevahelise suhtluse.
See risk ei ole puhtalt teoreetiline. Isegi kui tehisintellekt oli mõnevõrra primitiivses olekus, oli AI vestlusbot piisavalt mõjukas veenda kasutajat enesetappu sooritama pärast pikka vestlust 2023. aastal. Kaheksa aastat tagasi oli AI-toega meiliassistent nimega "Amy Ingram" piisavalt realistlik, et kutsuda mõnda kasutajat saatma armastusmärkmeid ja isegi proovida teda tööl külastada.
DeepMindi eetika uurimisrühma teadur ja artikli kaasautor Iason Gabriel ei vastanud Lahtikrüptimine kommentaaritaotlus.
Garbriel hoiatas aga säutsus, et "assistentide üha isiklikumad ja inimlikumad vormid toovad esile uusi küsimusi antropomorfismi, privaatsuse, usalduse ja sobivate suhete kohta tehisintellektiga."
Kuna "miljoneid tehisintellekti abilisi võiks kasutada ühiskondlikul tasandil, kus nad suhtlevad üksteisega ja mittekasutajatega," ütles Gabriel, et ta usub, et sellele uuele sotsiaalsele nähtusele on vaja rohkem kaitsemeetmeid ja terviklikumat lähenemist.
Uurimistöös käsitletakse ka väärtuste ühtlustamise, ohutuse ja väärkasutuse tähtsust tehisintellekti assistentide arendamisel. Kuigi tehisintellekti assistendid võivad aidata kasutajatel parandada nende heaolu, suurendada nende loovust ja optimeerida oma aega, hoiatasid autorid lisariskide eest, nagu kasutajate ja ühiskondlike huvidega mittevastavus, väärtuste pealesurumine teistele, kasutamine pahatahtlikel eesmärkidel ja haavatavus. vastase rünnakutele.
Nende riskide käsitlemiseks soovitab DeepMindi meeskond töötada välja igakülgsed AI-assistentide hinnangud ja kiirendada sotsiaalselt kasulike tehisintellekti assistentide väljatöötamist.
„Seisame praegu selle tehnoloogiliste ja ühiskondlike muutuste ajastu alguses. Seetõttu on meil võimalus tegutseda praegu – arendajate, teadlaste, poliitikakujundajate ja avalike sidusrühmadena –, et kujundada selliseid tehisintellekti abilisi, mida me maailmas näha tahame.
Tehisintellekti kõrvalekaldeid saab leevendada RLHF (Inforcement Learning Through Human Feedback) abil, mida kasutatakse AI mudelite koolitamiseks. Eksperdid nagu Paul Christiano, kes juhtis OpenAI keelemudelite koostamise meeskonda ja juhib nüüd mittetulunduslikku joondusuuringute keskust, hoiatavad, et tehisintellekti koolitusmeetodite ebaõige haldamine võib lõppeda katastroofiga.
"Ma arvan, et võib-olla on AI ülevõtmiseks 10-20% tõenäosus, kui paljud [või] enamus inimesi on surnud," Paul Christiano ütles eelmisel aastal Banklessi podcastis. "Ma võtan seda üsna tõsiselt."
Muutis Ryan Ozawa.
Olge kursis krüptouudistega, saate oma postkasti igapäevaseid värskendusi.
