과기정통부·KISA, 총 113개 항목 'AI 보안 안내서' 발간

과학기술정보통신부(과기정통부)와 한국인터넷진흥원(KISA)이 발표한 'AI 보안 안내서' 소개 인포그라피 / 사진 과기정통부

정부가 외부 사이버 위협으로부터 인공지능 모델과 서비스를 보호하기 위한 'AI 보안 안내서'를 발간했다. 세부 항목만 113개에 달한다. 

과학기술정보통신부(과기정통부)와 한국인터넷진흥원(KISA)은 기업과 국민이 참조할 수 있는 'AI 보안 안내서'를 마련했다고 10일 밝혔다.

AI 보안 안내서는 AI 모델·시스템에 대해 보안 3대 요소(기밀성, 무결성, 가용성)를 기반으로 개발자, 서비스 제공자 대상 AI 생애주기 전 단계 보안 요구사항과 이용자의 AI 보안 수칙 등 총 113개 항목으로 구성됐다.

모델 개발 단계에서는 AI 모델 위험 관리, 데이터 암호화, 실시간 모니터링 등 보안 내재화를 위한 요구사항을 제시했다. 서비스 제공 단계에서는 서비스 이상 행위 탐지, API·인터페이스 보안, 백업시스템 구축 등 서비스 복원력 관점의 보안 요구사항을 제시했다. 중요 정보 입력금지, AI 악용 금지 등 이용자를 위한 보안 수칙도 포함했다.

미국 NIST AI RMF 1.0, OWASP Top 10 등 국제 기준을 참고해 국내외 모델에 적용할 수 있도록 범용성과 국제 규범 간 호환성을 확보했다.

임정규 과기정통부 정보보호네트워크정책관은 "이번 AI 보안 안내서는 고도화되는 사이버 위협 속에서 AI를 안전하게 개발·활용할 수 있도록 하는 중요한 이정표가 될 것이다"며 "새로운 보안 위협을 모니터링하여 안내서를 지속 업데이트해나갈 예정이다"고 말했다.