AI 영수증 위조에 속수무책…글로벌 기업의 AI 맞불 전략도 한계

AI로 만든 가짜 영수증 / 사진 뤼튼으로 생성

AI가 만들어낸 가짜 영수증이 최근 기업 비용 정산 시스템을 마비시키고 있다. 마땅한 대응책도 없어 단순 골머리를 넘어 법적 어려움이 가중될 전망이다. 

26일(현지시각) 미 경제매체 블룸버그 등 외신 보도에 따르면, 9월 발생한 ‘AI 영수증 위조’ 사례는 미국 내 전체 허위 비용 서류 중 14%를 차지했다.

미국의 기업은 최근 1년간 비용 부정행위로 연평균 9.8%의 수익 손실을 입었다. 지난해 대비 46% 증가한 수치다. 전 세계 기업의 연간 손실액은 5340억달러에 달했다.

경비관리 소프트웨어 업체 AppZen과 SAP Concur, Ramp 등은 AI 영수증을 집어내는 AI 탐지 솔루션을 도입했지만, AI로 만들어진 영수증은 사진을 찍어 메타데이터를 삭제하는 방식으로 기존 감지 시스템을 우회한다.

최근 90일간 Ramp의 신제품은 100만달러 규모의 위조 청구서를 찾아냈지만, 인공지능 위조는 나날이 교묘해지고 있다.

회계·재무 전문가 30%는 블룸버그를 통해 “GPT-4o 출시 이후 가짜 영수증이 눈에 띄게 늘었다"고 밝혔다. 경비 소프트웨어 Rydoo의 세바스티앙 마르숑은 "위조 영수증의 AI 생성 비중이 아직 적지만 앞으로 급속히 늘어날 것이다"고 경고했다. 

딥페이크를 비롯한 AI 기반 부정 청구로 인한 전 세계 손실액은 올해 15억6000만달러를 돌파했다. 미국 연방기관은 2027년까지 미국 내 AI 금융 범죄 피해가 400억달러에 달할 것으로 전망했다.

전문가들은 다중 보안 솔루션, 이미지 포렌식, 실명 대면 인증 등 AI 기반 복합 방어 체계 도입을 권고한다.

업계 한 관계자는 "위조 영수증을 만들 때 특별한 기술이 필요 없는 시대가 왔다”며 “AI와 사람의 도덕성 사이 ‘치킨게임’이 가속화되고 있다”고 평가했다.