[더테크 이승수 기자]  국내 생성형 인공지능(AI) 전문 기업 딥브레인AI가 기업과 기관을 대상으로 딥페이크 탐지 API(애플리케이션 프로그래밍 인터페이스) 서비스를 론칭한다고 11일 밝혔다. 이번 서비스는 문화체육관광부·한국콘텐츠진흥원이 주관하는 ‘문화기술 연구개발’ 사업의 일환으로 추진됐다.

기존에는 딥브레인AI 플랫폼 내에서만 제공되던 딥페이크 탐지 기능을 외부 프로그램에서도 바로 활용 가능하도록 확장한 것이 특징이다. 이를 통해 기업·기관은 별도의 시스템 구축 없이 영상, 이미지, 음성 등 콘텐츠의 진위 여부를 검증할 수 있다.

딥브레인AI의 딥페이크 탐지 솔루션 ‘AI 디텍터(AI Detector)는 △영상 △이미지 △음성 탐지 기술을 기반으로 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 다양한 조작형 콘텐츠를 탐지한다. 특히, 픽셀 단위 차이를 활용한 고도화된 판별 기술과 국내 최다 레퍼런스를 기반으로 관공서를 대상으로 한 국내 최초 상용화에도 성공한 바 있다.

현재 AI 디텍터는 다양한 온라인 플랫폼에서 활용되며 높은 만족도를 기록하고 있다. 콘텐츠 업로드 단계에서 자동으로 영상과 이미지를 검증하고, 게시 이후에도 지속적인 모니터링을 통해 조작 또는 불법 생성 콘텐츠를 실시간으로 탐지한다. 아울러 불법 성인물 등 유해 콘텐츠는 노출 부위를 블러 처리하는 등 윤리적 기준을 강화해 건강한 디지털 환경 조성에도 기여하고 있다.

장세영 딥브레인AI 대표는 “딥페이크 기술 확산으로 AI가 만든 콘텐츠의 진위를 구분하는 일이 점점 중요해지고 있다”며, “이번 API 론칭으로 기업과 기관이 별도 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있다. 앞으로도 신뢰할 수 있는 AI 기술 개발을 통해 누구나 안전하게 디지털 콘텐츠를 이용할 수 있는 환경을 만드는 데 앞장서겠다”고 밝혔다.