Persónulegir sýndaraðstoðarmenn knúnir af gervigreind eru að verða alls staðar nálægir á öllum tæknikerfum, hjá öllum helstu tæknifyrirtækjum bætir við gervigreind til þjónustu þeirra og heilmikið af sérhæfða þjónustu steypast á markaðinn. Þótt það sé gríðarlega gagnlegt, segja vísindamenn frá Google að menn gætu fest sig of tilfinningalega við þá, sem leiði til fjölda neikvæðra félagslegra afleiðinga.

Ný rannsóknarritgerð frá DeepMind gervigreindarrannsóknarstofu Google undirstrikar hugsanlegan ávinning háþróaðra, sérsniðinna gervigreindaraðstoðarmanna til að umbreyta ýmsum þáttum samfélagsins, og segir að þeir „gæti gjörbreytt eðli vinnu, menntunar og skapandi iðju sem og hvernig við höfum samskipti, samhæfingu og samningaviðræður. hvert við annað, sem að lokum hafa áhrif á hver við viljum vera og verða.“

Þessi stóru áhrif gætu auðvitað verið tvíeggjað sverð ef þróun gervigreindar heldur áfram að hraða áfram án ígrundaðrar skipulagningar.

Ein lykiláhætta? Myndun óviðeigandi náinna tengsla - sem gæti versnað ef aðstoðarmaðurinn fær manneskjulega framsetningu eða andlit. „Þessir gerviefni geta jafnvel lýst yfir meintri platónskri eða rómantískri ást sinni til notandans og lagt grunninn að notendum til að mynda langvarandi tilfinningatengsl við gervigreind,“ segir blaðið.

Ef ekki er hakað við gæti slík viðhengi leitt til taps á sjálfræði notandans og taps félagslegra tengsla vegna þess að gervigreind gæti komið í stað mannlegra samskipta.

Þessi áhætta er ekki eingöngu fræðileg. Jafnvel þegar gervigreind var í frekar frumstæðu ástandi var gervigreind spjallbotni nógu áhrifamikill til að sannfæra notanda um að fremja sjálfsmorð eftir langt spjall aftur árið 2023. Fyrir átta árum var AI-knúinn tölvupóstaðstoðarmaður að nafni „Amy Ingram“ nógu raunhæfur til að hvetja suma notendur til að senda ástarbréf og jafnvel reyna að heimsækja hana í vinnuna.

Iason Gabriel, vísindamaður í siðfræðirannsóknarteymi DeepMind og meðhöfundur greinarinnar, svaraði ekki Afkóða beiðni um umsögn.

Í tíst varaði Garbriel hins vegar við því að „sífellt persónulegri og manneskjulegri tegund aðstoðarmanna kynnir nýjar spurningar um mannfræði, friðhelgi, traust og viðeigandi tengsl við gervigreind.

Vegna þess að „milljónir gervigreindaraðstoðarmanna gætu verið notaðar á samfélagslegu stigi þar sem þeir munu hafa samskipti sín á milli og við notendur,“ sagði Gabriel að hann trúði á þörfina fyrir meiri verndarráðstafanir og heildrænni nálgun á þetta nýja félagslega fyrirbæri.

Rannsóknargreinin fjallar einnig um mikilvægi verðmætajöfnunar, öryggis og misnotkunar við þróun AI aðstoðarmanna. Jafnvel þó að AI aðstoðarmenn gætu hjálpað notendum að bæta líðan sína, aukið sköpunargáfu sína og hagrætt tíma sínum, vöruðu höfundarnir við viðbótaráhættu eins og misræmi við hagsmuni notenda og samfélags, álagningu gilda á aðra, notkun í illgjarn tilgangi og varnarleysi. til andstæðra árása.

Til að takast á við þessar áhættur mælir DeepMind teymið með því að þróa yfirgripsmikið mat fyrir AI aðstoðarmenn og flýta fyrir þróun samfélagslega gagnlegra AI aðstoðarmanna.

„Við stöndum nú við upphaf þessa tímabils tæknilegra og samfélagslegra breytinga. Við höfum því tækifæri til að bregðast við núna - sem þróunaraðilar, rannsakendur, stefnumótendur og opinberir hagsmunaaðilar - til að móta hvers konar AI aðstoðarmenn sem við viljum sjá í heiminum.

Hægt er að draga úr rangstöðu gervigreindar með styrkingarnámi í gegnum mannlega endurgjöf (RLHF), sem er notað til að þjálfa gervigreind módel. Sérfræðingar eins og Paul Christiano, sem stýrði tungumálamódelaðlögunarteyminu hjá OpenAI og leiðir nú Alignment Research Center, sem ekki er rekin í hagnaðarskyni, vara við því að óviðeigandi stjórnun gervigreindarþjálfunaraðferða gæti enda með hörmungum.

„Ég held að það séu kannski eitthvað eins og 10-20% líkur á yfirtöku gervigreindar, [með] margir [eða] flestir látnir,“ Paul Christiano sagði á hlaðvarpinu Bankless í fyrra. „Ég tek það mjög alvarlega“

Breytt af Ryan Ozawa.

• SEO knúið efni og PR dreifing. Fáðu magnara í dag.
• PlatoData.Network Vertical Generative Ai. Styrktu sjálfan þig. Aðgangur hér.
• PlatoAiStream. Web3 upplýsingaöflun. Þekking aukin. Aðgangur hér.
• PlatóESG. Kolefni, CleanTech, Orka, Umhverfi, Sól, Úrgangsstjórnun. Aðgangur hér.
• PlatoHealth. Líftækni og klínísk rannsóknagreind. Aðgangur hér.
• Heimild: https://decrypt.co/227754/ai-assistant-users-could-develop-an-emotional-attachment-to-them-google-warns