"탈옥됐다" 한 마디에…미 정부, 앤트로픽 AI 수출통제 명령

트럼프 행정부가 앤트로픽의 페이블5와 미토스5에 대한 수출 금지 명령을 내렸다. / 사진 콕스뉴스가 제미나이(AI)로 생성

미 AI 스타트업 앤트로픽(Anthropic)의 신규 모델이 전면 차단됐다. 탈옥 가능성이 미 정부의 강력한 제재 결정을 뒷받침했다.

미 상무부는 12일 오후 5시 21분(현지시각) 앤트로픽에 공문을 보내 페이블5(Fable 5)와 미토스5(Mythos 5)에 대한 외국인의 접근을 즉시 차단하라고 명령했다. 그런데 미국 정부 말처럼 외국 국적자만 해당 서비스에 대한 접근을 골라 막는 것은 기술적으로 불가능하다. 결국 전 세계 모든 고객이 페이블5와 미토스5를 사용하지 못하는 상황이다.

이번 결정은 트럼프 행정부의 조치다. 하워드 루트닉(Howard Lutnick) 상무장관은 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO)에게 서한을 보냈는데, 공문 상에는 구체적인 안보 우려 관련 내용이 없는 것으로 알려졌다.

미 매체 악시오스(Axios)에 따르면, 트럼프 행정부의 서비스 차단 명령 결정의 발단은 제3의 기업이 미토스 탈옥(jailbreak)에 성공했다는 주장이었다. 미 행정부는 앤트로픽에 모델의 출시를 늦춰달라고 요청했지만, 이를 거절했다. 그 다음 절차가 수출통제 조치다. 

앤트로픽이 페이블5와 미토스5를 출시한 것은 9일이다. 미토스는 사이버보안에 특화된 고성능 AI로, 앤트로픽이 '프로젝트 글라스윙(Project Glasswing)' 파트너십을 통해 일부 기관에만 제한 공급해 온 모델이다. 페이블은 미토스의 핵심 역량을 일반 사용자에게 개방한 첫 버전이다.

두 서비스는 출시 전 미국 정부·영국 AI 안전연구소(AISI)·민간 기관 등이 참여한 가운데 수천시간의 레드팀(red-team) 테스트를 진행한 후 나왔다.

클로드 서비스에는 현재 '클로드 페이블5 이용이 현재 불가능하다'는 안내를 내보내고 있다. / 사진 클로드 갈무리

앤트로픽은 미 정부의 논리를 정면으로 반박했다. 구두로 전달받은 탈옥 기법을 직접 검토해 보니, 특정 코드베이스를 읽고 결함을 수정하도록 유도하는 수준이었다. 오픈AI의 GPT-5.5를 비롯한 다른 공개 모델에서도 그대로 재현되는 취약점이다. 페이블5는 오히려 보안 관련 차단이 지나치게 광범위하다는 사용자 불만이 쏟아질 정도로 안전장치를 조였다. 탈옥 1건이 수출통제의 근거가 되기엔 터무니없다는 생각이다.

더 큰 문제는 선례다. 앤트로픽은 좁고 비보편적인 탈옥 가능성 하나로 상용 모델을 회수하는 방식이 굳어지면, 앞으로 프론티어 모델 출시 자체가 사실상 불가능해진다고 경고했다.

앤트로픽은 성명에서 "정부가 안전하지 않은 배포를 차단할 권한을 가져야 한다는 데 동의한다"며 "다만 그 과정은 투명하고 공정하며 기술적 사실에 근거한 법적 절차를 따라야 한다"고 했다.

또 "이번 조치는 그 원칙을 벗어났다"고 덧붙였다.

앤트로픽은 24시간 안에 기술적 근거를 추가 공개할 예정이며, 현재 정부와 접근 복구를 논의 중이다.