TTA, 국내 첫 'AI 보안 시험' 수행 성적서 발급

AI 보안 시험 서비스 기본 시험항목을 나타내는 표 / 사진 TTA

한국정보통신기술협회(TTA)와 인공지능산업협회(KAIIA)는 페르소나에이아이가 개발한 AI 모델 'AI MODS I ver1.0'에 대해 국내 최초로 'AI 보안 시험'을 수행하고 성적서를 발급했다고 1일 밝혔다.

TTA는 7월 'AI 보안 시험서비스'를 개시하고, 9월 KAIIA와 업무협약을 체결했다. AI 기술 확산에 따라 AI 모델 자체의 신뢰성 및 보안성 검증 필요성이 대두되면서 TTA는 AI 모델의 생명주기 전반에 걸친 보안 검증 체계를 마련했다.

페르소나에이아이의 'AI MODS I ver1.0'은 현미경 이미지에서 결핵균을 자동으로 식별하는 Computer Vision 기반 AI 모델이다.

이번 시험에서는 ▲데이터 출처의 투명성 ▲모델 무결성 관리 ▲모델 관리 환경에 대한 감사 기록 등 AI 서비스의 신뢰성과 보안성을 위협하는 요소를 다각도로 검증했다.

손승현 TTA 회장은 "데이터 오염, 모델 변조, 무단 사용 등 디지털 리스크 대응 중요성이 급격히 부각되는 상황에서 성능 못지않게 보안이 AI 기술 수용의 핵심 요소가 되고 있다"며 "안전한 AI 생태계 구축에 지속적으로 기여하겠다"고 말했다.