우리는 아직 초기 단계에 있습니다. 인공 지능, 그러나 조직이 스스로를 방어하는 방법에서 빠르게 필수적인 부분이 되고 있습니다. 기업은 고급 알고리즘을 사용하여 사고 대응을 개선하고 잠재적 위협을 모니터링하고 위험 신호가 적용되기 전에 해독하고 있습니다. 또한 인간이 간과했을 수 있는 취약점을 식별하는 데 사용할 수 있습니다.
이것들은 모두 과거의 반동적이고 시간 소모적인 전략보다 사이버 방어 시스템을 향상시킬 수 있는 필수 기능입니다. 그러나 많은 조직에서 아직까지 AI의 가장 중요한 사이버 방어 응용 프로그램인 공감 부족을 활용하지 못하고 있습니다.
당신의 신뢰를 노리는
전화나 이메일 기술이 뛰어난 사람이 시작하고 실행하는 사회 공학에는 헤드라인을 장식하는 첨단 해킹이 포함되지 않습니다. 대신 해커는 이중 인증과 관련된 휴대 전화 번호 또는 수익성 있는 게임 계정의 비밀번호와 같은 해커가 획득하려고 하는 정보를 가지고 고객 서비스 에이전트 또는 다른 사람을 게임합니다. FBI의 인터넷 범죄 신고 센터(Internet Crime Complaint Center)에 따르면, 소셜 엔지니어링의 대중적인 형태인 비즈니스 이메일 침해(BEC)는 $ 1.2 억 2018년에만 적자.
은행 및 기타 고부가가치 기업이 주요 표적이 될 수 있지만 아무도 면역이 없습니다. 한 여성이 해커로 인해 암호화폐로 30,000만 달러를 잃었습니다. 성공적으로 그녀의 무선 통신 사업자가 새로운 SIM 카드를 활성화하도록 설득한 후 다양한 금융 계정에 대한 XNUMX단계 인증을 위반하는 데 사용되었습니다. 또 다른 사건, Ubiquiti Networks는 해커가 고위 직원으로 가장하고 재무 부서에서 대규모 자금 이체를 완료하도록 설득한 후 39.1만 달러의 손실을 입었습니다.
보상 프로그램과 같이 무해한 것조차도 악의적인 위협 행위자의 관심을 끌 수 있습니다. 기업은 현재 직원이 항상 따라야 하는 일련의 프로토콜을 사용하여 직원을 교육함으로써 이 문제를 처리합니다.
불행히도, 가장 약한 링크는 사이버 보안 체인은 방화벽이 아니라 종종 사람입니다. 그들은 고객 서비스 사업에 종사하고 있으며 기꺼이 기쁘게 생각합니다. 그들은 또한 대본을 따르는 데 끔찍하며, 옳은 말을 할 줄 아는 영리한 사기꾼의 영향을 받지 않습니다. 해커가 호텔 리워드 카드를 분실했다고 주장하고 다른 카드를 집으로 보내주기를 원하고 어떤 주소가 등록되어 있는지 묻는다면 콜센터 직원이 이를 받아들일 수 있습니다. 이제 낯선 사람이 특정 고객의 개인 정보를 얻었습니다.
그들의 궤도에서 멈췄다
인공 지능, 특히 대화형 AI가 고객 에이전트보다 앞서 있었다면 결과는 매우 달라졌을 것입니다. 세계에서 가장 큰 게임 회사 중 하나는 회사가 대화형 AI를 프론트 엔드 채팅 에이전트로 사용하기로 결정했을 때 이를 직접 경험했습니다. 많은 성공적인 비디오 게임 프랜차이즈로 알려진 이 회사는 Amelia를 구현하여 고객을 위한 간단한 게임 문제를 해결했습니다. 회사는 Amelia가 고객이 문제가 해결될 때까지 기다리는 시간을 줄일 수 있다고 생각했고 그녀는 그렇게 했습니다. 그러나 잠시 후 Amelia는 발신자가 올바른 식별 정보 없이 계정에 대한 액세스를 요청하는 경우가 있음을 알아차리고 피싱 공격자를 탐지했습니다. 실제 금융 상품이 게임 플레이에 구워지고 금융 계좌 정보가 첨부되는 게임 세계에서는 위험이 큽니다. 인간 고객 서비스 에이전트는 계정 자격 증명을 넘겨주려고 게임을 하고 있었습니다. 흐느끼는 이야기에 수액이 없는 Amelia는 그렇지 않았습니다.
회사 정책을 염두에 두고 결정을 내리도록 프로그래밍된 Amelia는 사회 공학 기술에 속지 않습니다. 그녀는 당신이 말하는 당신이 누구인지 증명하고 싶을 뿐이며, 스크립트를 고수하고 행동이 위험해 보일 때 새로운 형태의 인증을 도입함으로써 그렇게 합니다.
초기 출시는 적어도 부분적으로는 성공적이었습니다. Amelia는 상담원보다 더 짧은 시간에 고객 불만을 해결할 수 있었고 그 외에도 사기성 계정 사용을 줄였지만 고객 만족도는 떨어졌습니다. 계정 정보가 도난당하는 것을 방지할 수 있는 AI에 소비자가 어떻게 화를 낼 수 있습니까?
일반 채팅과 에스컬레이션된 채팅 중에 Amelia와 고객 사이에 일어난 일의 녹취록을 보면 이유가 명확해졌습니다. 그녀는 프로세스를 고수했으며 게임 회사 콜 센터에서 Amelia에게 극찬을 받은 해커에게 낮은 고객 만족도 등급을 부여한 해커에게 자신을 속이는 것을 허용하지 않았습니다.
실시간 같은 시간은 없다
고객 서비스 환경 밖에서 대화형 AI를 사용하는 경우에도 위협 평가 전문가에게 경쟁 우위를 제공합니다. 고급 대화형 AI는 데이터를 스캔하거나 위협을 주기적으로 오프라인으로 모니터링하는 대신 상호 작용의 컨텍스트를 파악하는 것 외에도 실시간으로 데이터와 작업을 분석할 수 있습니다. 사용자가 균형을 원하면 고급 대화형 AI가 제공한 정보를 기반으로 신원을 인증한 후 올바른 의미를 파악합니다. 이를 통해 기술은 데이터가 백엔드에서 온라인으로 처리되기 때문에 프런트 엔드에서 자연스럽고 생생하게 느껴지는 인간과 실제 일대일 대화를 할 수 있습니다.
AI는 대화가 일어나는 대로 평가하는 것을 가능하게 했습니다. 위험 평가를 위해 모든 발화를 처리하는 기능이 있어 매우 강력한 도구입니다. 의심되는 고객이 위험을 구성하는 규범을 너무 많이 벗어나면 대화형 AI가 이를 인식하고 적절한 조치를 취합니다. 이는 신원 확인을 위한 추가 단계를 추가하는 것처럼 간단할 수 있습니다.
AI가 없었다면 토론이 끝난 후에 사기 징후가 있는지 조사하는 것이 가능했을 것입니다. 그때쯤이면 악의적인 행위자가 돈을 받아 도망쳤을 수 있습니다. 그러나 AI가 실제 사람이 아닌 대화를 나눈다면 발생한 모든 것을 보고 모든 단어를 분석하고 위협, 위험 및 보안에 대한 실시간 결정을 내렸을 것입니다.
리드하기
사회 공학은 무차별 대입 알고리즘 기반 소프트웨어 공격만큼이나 해킹의 원천입니다. 호텔, 게임 퍼블리셔 또는 기타 기관을 대상으로 하든 관계없이 해커는 내부로 들어갈 정보를 찾고 있습니다. 그러나 원하는 것을 얻기 위해 고도로 정교한 공격을 실행할 필요는 없습니다. 그들에게 필요한 것은 좋은 이야기, 약간의 끈기, 그리고 기꺼이 규약을 깨려는 콜센터 상담원뿐입니다.
대화형 AI가 프론트 엔드 채팅 에이전트로 앞장서도록 함으로써 기업은 사회 공학으로 인한 잠재적 피해를 완화할 수 있습니다. 이것은 가능한 한 적은 고객 중단으로 구현될 수 있고 구현되어야 합니다. 사실, 고객은 채팅 상대방이 누구인지, 아닌지에 대해 생각조차 해서는 안 됩니다. 그들은 단순히 쿼리를 입력하고 원하는 것을 얻고 계속 진행할 수 있어야 합니다. 그 편리함은 결국 우리가 미래를 정의하는 방법입니다.
