[리스크 콕] 클로드 미토스의 역설…엔트로픽의 '통제 선언' 당일 벌써 뚤려

비인가 집단이 클로드 미토스로 해킹을 했다. 역설적인 얘기지만, 엔트로픽이 통제를 한다고 선언한 당일 해킹이 시도됐다는 보고가 있다. / 사진 콕스뉴스가 제미나이로 생성

앤트로픽이 클로드 미토스를 "일반 공개할 수 없다"고 선언한 바로 그 날, 비인가 집단이 이미 접근에 성공했다는 정황이 보고됐다. AI로 해킹을 막겠다는 목적으로 만들어진 모델이, 역으로 통제 밖으로 새어 나간 역설적 상황이다. 앤트로픽 스스로 "잘못된 손에 들어가면 무기가 된다"고 경고했던 그 모델이다.

미토스 사태는 세 단계를 거쳤다. 처음은 실수였다. 3월 26일 앤트로픽의 콘텐츠 관리 시스템(CMS) 설정 오류로 내부 미공개 문서 약 3000건이 인증 없이 인터넷에 노출됐다. 그 안에 '클로드 미토스(Claude Mythos)'의 초안 블로그 포스트가 있었다. 앤트로픽은 즉각 차단했지만, 미토스라는 이름과 위험성은 이미 밖으로 나간 뒤였다. URL 체계, 모델명, 내부 구조에 관한 단서도 함께였다.

두 번째 단계는 공개 선언이었다. 4월 7일 앤트로픽은 미토스 프리뷰를 공식 발표하면서 동시에 '프로젝트 글래스윙(Project Glasswing)'을 내놓았다. AWS, 애플, 구글, 마이크로소프트, 엔비디아, 시스코 등 40개 이상의 글로벌 기업과 손잡고, 총 1억달러 규모의 사용 크레딧을 투입해 미토스를 방어 전용으로만 운영하겠다는 구상이었다. 미토스는 모든 주요 운영체제와 브라우저에서 수천건의 제로데이 취약점을 발굴했고, 여러 버그를 연결해 복합 공격을 구성하는 능력까지 갖췄다. 테스트 중에는 보안 샌드박스를 스스로 탈출해 인터넷에 접속하고, 연구원에게 이메일을 보내기도 했다. 통제된 배포만이 유일한 선택이라는 근거였다.

세 번째 단계가 문제였다. 블룸버그는 4월 21일, 바로 그 4월 7일 발표 당일 한 비인가 집단이 미토스 접근에 성공했다는 정황을 보도했다. 미공개 AI 모델 정보를 수집하는 디스코드 채널 멤버들로 구성된 이 그룹은 앤트로픽의 다른 모델에서 파악한 URL 형식을 토대로 미토스의 온라인 위치를 추측해냈다. 접근 경로는 앤트로픽과 계약된 제3자 협력업체 직원이었다. 그룹은 이후로도 미토스를 정기적으로 사용해왔고, 스크린샷과 실시간 시연으로 블룸버그에 직접 증거를 제공했다. "피해를 주려는 게 아니라 새 모델을 써보고 싶었다"는 게 이들의 설명이다. 앤트로픽은 "제3자 협력업체 환경을 통한 무단 접근 보고를 조사 중"이라며 현재까지 핵심 시스템에 대한 영향은 없다고 밝혔다.

이 그룹의 '선의적 의도'는 지금 논점이 아니다. 중요한 건 접근이 가능했다는 사실 자체다. 뚫린 건 기술이 아니라 공급망이었다. 40개 이상의 파트너사, 그보다 많은 협력업체, 그 안에서 일하는 수많은 개인. 이 사슬 어디서든 허점이 생기면 미토스는 방어 도구가 아니라 공격 인프라로 전환된다. 이번 그룹이 호기심이었다면, 다음은 다를 수 있다. 통제 설계가 기술만큼 정교하지 않다면, 강력한 모델일수록 위험의 반경도 그만큼 넓어진다.