인공 지능으로 구동되는 가상 개인 비서는 모든 주요 기술 회사와 함께 기술 플랫폼 전반에 걸쳐 널리 보급되고 있습니다. AI 추가 그들의 서비스와 수십 전문 서비스 시장에 굴러다니고 있습니다. Google의 연구원들은 인간이 매우 유용하기는 하지만 너무 감정적으로 자신에게 애착을 갖게 되어 수많은 부정적인 사회적 결과를 초래할 수 있다고 말합니다.
새로운 연구 논문 Google의 DeepMind AI 연구실은 사회의 다양한 측면을 변화시키는 고급 맞춤형 AI 비서의 잠재적 이점을 강조하며 "업무, 교육 및 창의적 추구의 성격은 물론 의사소통, 조정 및 협상 방식을 근본적으로 바꿀 수 있습니다"라고 말했습니다. 궁극적으로 우리가 되고 싶은 사람과 되고 싶은 사람에게 영향을 미칩니다.”
물론, AI 개발이 사려 깊은 계획 없이 계속해서 가속화된다면 이러한 엄청난 영향은 양날의 검이 될 수 있습니다.
한 가지 주요 위험은 무엇입니까? 부적절하게 가까운 유대감 형성 - 보조자에게 인간과 유사한 표현이나 얼굴이 제시되면 더욱 악화될 수 있습니다. “이러한 인공 에이전트는 사용자에 대한 플라토닉적이거나 낭만적인 애정을 표명하여 사용자가 AI에 대해 오랫동안 정서적 애착을 형성할 수 있는 토대를 마련할 수도 있습니다.”라고 논문은 말합니다.
확인하지 않은 채 방치하면 AI가 인간 상호 작용을 대체할 수 있기 때문에 이러한 애착은 사용자의 자율성 상실과 사회적 유대 상실로 이어질 수 있습니다.
이 위험은 순전히 이론적인 것이 아닙니다. AI가 다소 원시적인 상태에 있었을 때도 AI 챗봇의 영향력은 충분했다. 사용자가 자살하도록 설득 2023년 전, "Amy Ingram"이라는 AI 기반 이메일 도우미는 일부 사용자에게 사랑의 메모를 보내도록 유도할 만큼 현실적이었습니다. 직장에서 그녀를 방문하려고.
DeepMind 윤리 연구팀의 연구 과학자이자 논문의 공동 저자인 Iason Gabriel은 이에 대해 응답하지 않았습니다. 해독 의견을 요청하십시오.
그러나 Garbriel은 트윗에서 "점점 더 개인적이고 인간과 유사한 형태의 비서가 의인화, 개인 정보 보호, 신뢰 및 AI와의 적절한 관계에 대한 새로운 질문을 제기합니다"라고 경고했습니다.
가브리엘은 "수백만 명의 AI 비서가 서로 상호 작용하거나 비사용자와 상호 작용하는 사회 수준에 배치될 수 있기 때문에" 이 새로운 사회 현상에 대한 더 많은 보호 장치와 보다 전체적인 접근 방식이 필요하다고 믿습니다.
연구 논문은 또한 AI 보조자 개발에서 가치 정렬, 안전 및 오용의 중요성에 대해 논의합니다. AI 비서가 사용자의 웰빙을 개선하고 창의력을 향상시키며 시간을 최적화하는 데 도움을 줄 수 있지만 저자는 사용자 및 사회적 이익과의 불일치, 타인에 대한 가치 부과, 악의적인 목적으로의 사용 및 취약성과 같은 추가 위험에 대해 경고했습니다. 적의 공격에.
이러한 위험을 해결하기 위해 DeepMind 팀은 AI 보조자에 대한 포괄적인 평가를 개발하고 사회적으로 유익한 AI 보조자 개발을 가속화할 것을 권장합니다.
“우리는 현재 기술 및 사회 변화 시대의 시작점에 서 있습니다. 따라서 우리는 지금 개발자, 연구자, 정책 입안자, 대중 이해관계자로서 행동하여 우리가 세상에서 보고 싶은 종류의 AI 보조자를 형성할 수 있는 기회를 갖게 되었습니다.”
AI 모델 훈련에 사용되는 RLHF(Reinforcement Learning Through Human Feedback)를 통해 AI 오정렬을 완화할 수 있습니다. OpenAI에서 언어 모델 정렬 팀을 운영했으며 현재 비영리 정렬 연구 센터를 이끌고 있는 Paul Christiano와 같은 전문가들은 AI 훈련 방법의 부적절한 관리가 재앙으로 끝나다.
"아마도 AI가 장악할 확률은 10~20% 정도일 것입니다. 많은 [또는] 대부분의 인간이 사망합니다." Paul Christiano 말했다 작년 Bankless 팟캐스트에서요. "나는 그것을 아주 진지하게 받아들인다."
에 의해 수정 라이언 오자와.
암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.
