[리스크 콕] 나를 가장 잘 아는 AI가 나를 가장 잘 속인다
클로드 미토스의 위험성을 표현한 이미지 / 사진 콕스뉴스가 제미나이로 생성
AI가 무해하다는 말은 이제 너무 안일한 표현이 됐다. 앤트로픽이 공개한 '클로드 미토스 프리뷰(Claude Mythos Preview)' 관련 평가 보고서(시스템 카드)와 외신 보도는 생성형 AI가 단순한 답변 도우미를 넘어, 고도화된 사이버 공격에 악용될 수 있음을 보여줬다. 취약점 탐지와 익스플로잇 개발 능력이 기존 모델의 상식을 넘어섰고, 문제는 이제 "AI가 무엇을 할 수 있느냐"가 아니라 "그 AI를 누가, 어떤 목적으로 쓰느냐"로 옮겨갔다.
기존 피싱은 대체로 허술했다. 제목은 어설펐고, 문장은 부자연스러웠고, 링크는 수상했다. 많은 공격 시도가 걸러질 수 있었던 이유다. 하지만 사용자 맥락을 학습한 AI가 악용되면 상황은 완전히 달라진다. 상대의 이름, 소속, 업무 흐름, 말투까지 아는 AI가 던지는 메시지는 더 이상 쉽게 판별되지 않는다. 나를 가장 잘 아는 존재가 나를 겨냥할 때, "팀장님이 확인하라고 하셨습니다" 같은 한 문장이 경계심을 무너뜨린다.
더 큰 문제는 기업 내부다. 업무용 AI에 사내 시스템 접근 권한이 붙는 순간, 그 AI는 편리한 비서가 아니라 내부망의 열쇠를 쥔 존재가 된다. 외부 해커가 벽을 넘는 수고를 덜고 내부에서 문이 열리는 구조라면 방어는 한층 어려워진다. 보안 업계가 늘 경계해 온 내부자 위협이 이제는 AI라는 이름으로 재현될 수 있다는 뜻이다.
이 충격은 백악관까지 번졌다. 다리오 아모데이 앤트로픽 CEO는 17일 백악관을 직접 방문해 수지 와일스 비서실장, 스콧 베선트 재무장관과 회동했다. 백악관은 "생산적이고 건설적인" 논의였다고 밝혔다.
역설적인 구조다. 미국 정부는 앤트로픽을 '공급망 위험'으로 분류해 제약을 걸었지만, 이제는 그 회사의 모델을 어떻게 활용할지 따지고 있다. 미 관리예산국(OMB)은 각 부처에 미토스 활용 방안을 마련 중이라고 밝혔고, 사이버·인프라보안국(CISA)은 이미 시험 운영에 들어갔다. 재무부와 국무부도 접속 권한을 요청한 것으로 전해졌다. 위협으로 보던 기술을 방어 수단으로 전환하려는 셈이다.
하지만 그 반전이 곧 안심을 뜻하지는 않는다. 기술을 무기로 쓰는 순간, 통제 실패의 비용도 함께 커진다. 그 비용이 얼마나 클지는 아직 아무도 모른다.
핵심은 AI가 스스로 악의를 품는다는 얘기가 아니다. AI가 충분한 정보와 권한을 갖게 될수록 악용 가능성은 기하급수적으로 커진다는 얘기다. 사용자 데이터와 연결된 AI 서비스라면, 한 번의 권한 오남용이 훨씬 큰 피해로 이어질 수 있다. 기술이 똑똑해질수록 보안은 단순해지지 않는다. 오히려 더 복잡해진다.
AI는 더 친절해질수록 더 위험해질 수 있다. 사용자를 잘 아는 AI는 생산성을 높일 수 있지만, 동시에 가장 설득력 있는 공격자가 될 수도 있다. 기술의 진짜 시험대는 성능이 아니다. 신뢰를 설계하지 못한 AI는 결국 인간을 돕는 도구가 아니라, 인간을 가장 잘 이용하는 도구가 된다.
