Virtuální osobní asistenti pohánění umělou inteligencí se stávají všudypřítomnými napříč technologickými platformami u každé velké technologické firmy přidání AI na jejich služby a desítky specializované služby padání na trh. I když je to nesmírně užitečné, vědci z Google tvrdí, že lidé by se k nim mohli příliš citově připoutat, což by vedlo k řadě negativních sociálních důsledků.
Nový výzkum papír z výzkumné laboratoře DeepMind AI společnosti Google zdůrazňuje potenciální výhody pokročilých personalizovaných asistentů AI pro transformaci různých aspektů společnosti a říká, že „mohou radikálně změnit povahu práce, vzdělávání a kreativních činností a také způsob, jakým komunikujeme, koordinujeme a vyjednáváme. jeden s druhým, což v konečném důsledku ovlivňuje to, kým chceme být a kým se stát.“
Tento obrovský dopad by samozřejmě mohl být dvousečným mečem, pokud bude vývoj umělé inteligence pokračovat v rychlosti bez promyšleného plánování.
Jedno klíčové riziko? Vytváření nevhodně blízkých vazeb – což by se mohlo zhoršit, pokud je asistentovi prezentována podoba nebo tvář jako člověk. "Tito umělí agenti mohou dokonce vyznávat svou domnělou platonickou nebo romantickou náklonnost k uživateli, čímž pokládají základy pro uživatele, aby si vytvořili dlouhodobé emocionální vazby k AI," uvádí list.
Pokud by taková vazba nebyla zaškrtnuta, mohla by vést ke ztrátě autonomie uživatele a ztrátě sociálních vazeb, protože umělá inteligence by mohla nahradit lidskou interakci.
Toto riziko není čistě teoretické. Dokonce i když byla AI v poněkud primitivním stavu, AI chatbot byl dostatečně vlivný přesvědčit uživatele, aby spáchal sebevraždu po dlouhém chatování v roce 2023. Před osmi lety byla e-mailová asistentka s umělou inteligencí jménem „Amy Ingram“ dostatečně realistická, aby některé uživatele přiměla k zasílání milostných poznámek a dokonce pokusit se ji navštívit v práci.
Iason Gabriel, vědecký pracovník výzkumného týmu DeepMind pro etiku a spoluautor článku, neodpověděl na Dešifrovat žádost o komentář.
Ve svém tweetu však Garbriel varoval, že „stále osobní a lidské formy asistenta zavádějí nové otázky týkající se antropomorfismu, soukromí, důvěry a vhodných vztahů s AI“.
Protože „miliony asistentů umělé inteligence by mohly být nasazeny na společenské úrovni, kde budou interagovat mezi sebou i s neuživateli,“ řekl Gabriel, že věří v potřebu většího zabezpečení a holistického přístupu k tomuto novému společenskému fenoménu.
Výzkumný dokument také pojednává o důležitosti sladění hodnot, bezpečnosti a zneužití při vývoji asistentů AI. I když by asistenti umělé inteligence mohli uživatelům pomoci zlepšit jejich pohodu, zvýšit jejich kreativitu a optimalizovat jejich čas, autoři varovali před dalšími riziky, jako je nesoulad se zájmy uživatelů a společnosti, vnucování hodnot ostatním, použití pro škodlivé účely a zranitelnost. k nepřátelským útokům.
K řešení těchto rizik doporučuje tým DeepMind vypracovat komplexní hodnocení pro asistenty AI a urychlit vývoj společensky prospěšných asistentů AI.
„V současné době stojíme na začátku této éry technologických a společenských změn. Máme proto příležitost jednat nyní – jako vývojáři, výzkumníci, tvůrci politik a veřejné zainteresované strany – a utvářet druh asistentů AI, které chceme ve světě vidět.“
Nesoulad AI lze zmírnit pomocí Reinforcement Learning Through Human Feedback (RLHF), který se používá k trénování modelů AI. Odborníci jako Paul Christiano, který vedl tým pro přizpůsobení jazykových modelů v OpenAI a nyní vede neziskové centrum pro výzkum zarovnání, varují, že nesprávné řízení školicích metod AI by mohlo skončit katastrofou.
"Myslím, že možná existuje něco jako 10-20% šance na převzetí AI, [s] mnoha [nebo] většinou lidí mrtvých," Paul Christiano řekl loni v podcastu Bankless. "Beru to docela vážně."
Upravil Ryan Ozawa.
Mějte přehled o krypto novinkách, dostávejte denní aktualizace do vaší schránky.
