미국 국토안보부(DHS)가 인공지능 안전보안위원회(AI Safety and Security Board)를 설립하기 위해 광범위한 AI 업계 리더들을 모집했습니다. 발표 금요일에.
DHS는 새로운 기관이 미국의 중요한 인프라를 보호하고 AI 기반 위협을 완화하기 위해 인공 지능을 활용하는 데 중요한 역할을 할 것이라고 밝혔습니다.
알레한드로 마요르카스 국토안보부 장관은 준비된 성명에서 “인공지능은 전례 없는 방식으로 우리의 국가 이익을 증진할 수 있는 혁신적인 기술”이라고 말했다. "동시에 모범 사례를 채택하고 기타 연구된 구체적인 조치를 취함으로써 완화할 수 있는 실제 위험도 제시됩니다."
이사회에는 마요르카스(Mayorkas)가 이끌며 OpenAI CEO 샘 알트만(Sam Altman), 마이크로소프트 회장 겸 CEO 사티아 나델라(Satya Nadella), 알파벳 CEO 순다르 피차이(Sundar Pichai), 앤트로픽(Anthropic) 공동 창업자 겸 CEO 다리오 아모데이(Dario Amodei), 엔비디아 사장 겸 CEO 젠슨 황(Jensen Huang) 등 몇몇 유명 AI 임원들이 포함된다. .
“저는 그러한 뛰어난 지도자들이 미국의 중요한 기반 시설(미국인들이 매일 의존하는 필수 서비스)이 위험으로부터 효과적으로 보호하고 이 혁신적인 기술의 엄청난 잠재력을 실현할 수 있도록 이사회에 시간과 전문 지식을 바치는 것에 감사드립니다. "라고 마요르카스가 말했다.
Anthropic의 Amodei는 동시 성명에서 "AI 기술은 책임감 있게 배포되면 사회에 막대한 이점을 제공할 수 있습니다. 이것이 바로 우리가 잠재적인 위험을 완화하기 위해 최첨단 AI 시스템의 안전성을 테스트하려는 노력을 옹호해 온 이유입니다"라고 말했습니다. “우리는 공공 및 민간 부문의 다른 리더들과 함께 중요 인프라 보호에 대한 AI의 영향을 연구하는 데 기여하게 된 것을 자랑스럽게 생각합니다.
이어 “안전한 AI 배치는 미국 사회에 힘을 실어주는 인프라를 확보하는 데 가장 중요하며, 우리는 이 위원회의 구성이 미국 국가 안보를 강화하는 데 긍정적인 진전이라고 믿습니다”라고 말했습니다.
Microsoft의 Nadella는 “인공 지능은 우리 시대의 가장 혁신적인 기술이므로 이 기술이 안전하고 책임감 있게 배포되도록 해야 합니다.”라고 덧붙였습니다. "Microsoft는 이 중요한 노력에 참여하게 된 것을 영광으로 생각하며 현재까지 얻은 지식과 앞으로의 계획을 모두 공유하기를 기대합니다."
AI 안전 및 보안 위원회에 합류한 다른 사람들로는 Amazon Web Services CEO Adam Selipsky, IBM 회장 겸 CEO Arvind Krishna, Stanford Human-Centered AI Institute 공동 디렉터 Fei-Fei Li, Civil Leadership Conference on Civil의 회장 겸 CEO인 Maya Wiley 등이 있습니다. 그리고 인권.
Li는 “세계를 변화시키는 이 기술을 책임감 있고 인간 중심적인 방식으로 관리하기 위해 학제간 리더 그룹에 합류하게 된 것을 영광으로 생각합니다.”라고 말했습니다. “궁극적으로 AI는 도구이자 강력한 도구이며, AI가 개인, 커뮤니티, 사회 전반에 어떤 영향을 미칠지 이해하면서 개발하고 적용해야 합니다.”
DHS에 따르면 이사회는 5월 초에 첫 번째 분기별 회의를 개최할 예정이며, 필수 서비스에 AI 기술을 안전하게 채택할 수 있도록 장관에게 권고사항을 제공하는 임무를 즉시 맡게 될 것입니다. 목표는 DHS, "중요 인프라 커뮤니티" 및 AI 리더가 AI 관련 보안 위험에 대한 정보를 교환할 수 있는 포럼을 만드는 것입니다.
2023년 인공지능이 주류로 급속히 진입하면서 글로벌 리더들은 신기술을 다루기 위한 규정을 개발하기 위해 안간힘을 썼습니다. XNUMX월에는 세계 경제 포럼 (World Economic Forum) (WEF)는 가장 시급한 글로벌 위험 목록 중 하나로 인공 지능과 양자 컴퓨팅을 꼽았습니다.
발행 후 행정 명령 2023년 XNUMX월 바이든 행정부는 미국의 출범을 발표했다. AI 안전연구소 컨소시엄 (AISIC)에는 DHS의 이니셔티브에 참여하는 많은 이름이 포함되어 있습니다.
국가 안보 문제 외에도 Google, Meta, OpenAI를 포함한 AI 개발자들이 화요일 비영리 단체 Thorn 및 All Tech is Human과 합류했습니다. 서약 아동 성적 학대 자료(CSAM) 제작에 사용되는 것을 막기 위해 해당 AI 모델 주위에 가드레일을 시행합니다. CSAM은 상원의원이 보낸 새 편지의 핵심이기도 했습니다. 엘리자베스 워렌 DHS와 법무부에.
에 의해 수정 라이언 오자와.
암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.
