[더테크 이승수 기자] 경찰청은 26일 경찰청 어울림마당에서 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 개최한다고 밝혔다. 착수보고회에는 최주원 미래치안정책국장과 과학치안진흥센터(KIPoT) 최귀원 소장이 참석한 가운데 연구 컨소시엄의 숭실대 정수환 교수(연구책임자), 성균관대학교 우사이먼성일 교수, 독일 부퍼탈 대학의 토비아스 마이젠(Tobias Meisen) 교수가 분야별 연구 추진계획을 발표했다. 이번 연구는 한·독 과학치안 국제공동연구의 첫 사례로, 앞서 2023년 경찰청 미래치안정책국과 독일 노르트라인베스트팔렌주(NRW주) 내무부 범죄수사국 간 공동의향합의서(JDoI) 체결과, 지난해 한-독 과학치안 협력센터 개소 및 경찰관 파견이 있었다. 경찰청 최초의 국제공동연구인 ‘허위조작 콘텐츠 진위여부 판별 시스템 개발’은 생성형인공지능(AI)의 활용이 대중화됨에 따라 폭발적으로 증가하고 있는 ‘조작된 가짜 콘텐츠’를 탐지하기 위한 데이터셋 구축과 통합시스템 개발을 목표로 올해부터 2027년까지 3년간 진행된다. 올해 초 공모 및 평가 절차를 거쳐 숭실대(주관연구기관), 성균관대, 연세대, 한컴위드가 참여하는 연합체를 국내 연구기관으로 선정
[더테크 이지영 기자] 국내 생성형 인공지능(AI) 전문 기업 딥브레인AI가 개발한 딥페이크 탐지 솔루션이 소프트웨어 품질 인증 제도인 GS 1등급 인증을 획득했다. GS인증은 국내 소프트웨어 품질 경쟁력 향상과 유통 활성화를 위해 도입된 국가 공인 인증 제도다. 실제 운영 환경을 모사한 테스트 환경에서 기능적합성, 호환성, 사용성, 신뢰성, 보안성 등 9개 항목을 종합적으로 평가한다. 이 가운데 딥브레인AI가 획득한 1등급은 최고 수준의 품질을 의미해, 그 기술력을 공식 인정받게 됐다. 딥브레인AI의 딥페이크 탐지 솔루션은 영상 탐지, 이미지 탐지, 음성 탐지를 바탕으로 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다. API기능까지 탑재돼 다양한 플랫폼과 쉽게 연동할 수 있어 대량의 데이터도 쉽게 탐지 가능하다. 특히, 픽셀(화면의 가장 작은 단위) 차이로 딥페이크 여부를 판별하는 고도화된 기술력과 국내 최다 레퍼런스를 바탕으로 국내 최초 관공서 대상 상용화에 성공한 바 있다. 작년 11월에는 딥페이크 자동 탐지 솔루션을 누구나 구독 형태로 간편하게 도입할 수 있는 서비스형 소프트웨어로 공개하기도 했다. 사용
[더테크 이지영 기자] 국민 10명 중 4명은 딥페이크 가짜뉴스를 진짜 뉴스와 구별할 수 없으며 일반적인 가짜뉴스보다 부정적 영향이 큰 것으로 조사됐다. 과학기술정보통신부는 ‘새로운 디지털 질서 정립 추진계획’의 후속조치로 ‘딥페이크 가짜뉴스 대응’을 주제로 디지털 공론장을 통해 국민들의 의견을 집중적으로 공론화한 결과를 9일 발표했다. 먼저, 대국민 설문조사는 지난 한 달간 진행되었으며 597명의 국민이 참여했다. 대국민 설문조사 결과, 응답자의 94.5%는 가짜뉴스가 개인과 사회에 미치는 영향이 심각(매우 심각함 55.9%, 심각함 38.5%)하다고 응답했다. 특히 딥페이크를 활용한 가짜뉴스가 일반적인 가짜뉴스보다 부정적 영향이 더 심각하다고 답한 응답자는 84.9%에 달했다. 딥페이크 가짜뉴스를 접해본 응답자는 39%였고, 딥페이크 가짜뉴스의 악영향으로 가장 우려되는 점은 인격적 피해가 48.2%로 가장 높았다. 응답자 41.9%는 딥페이크 가짜뉴스를 판별할 수 없다고 밝혔다. 딥페이크 확산 원인으로 법·제도 미비(36.5%)를 지적하고, 피해 예방을 위한 효과적 방법으로 강력한 입법 및 정책(57.6%), 정부의 정책으로 ‘범죄자에 대한 처벌강화(36
[더테크 이승수 기자] 팁페이크가 대한 사회적 문제로 떠오른 가운데 인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 보안 기업 샌즈랩이 생성형 AI 역기능 중 하나인 딥페이크를 탐지하는 서비스 페이크체크(fakecheck.io)를 출시했다고 5일 밝혔다. 해당 서비스는 무료로 누구나 이용이 가능하다. 페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크가 의심되는 이미지를 업로드하면 수 초 내로 위조 진위 여부를 분석해 판별 결과를 알려준다. 남녀노소 누구나 쉽게 서비스를 이용할 수 있도록 회원가입이나 인증 등 번거로운 절차들을 없애고 순수한 기능에 집중했다. 샌즈랩은 현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는데 드는 클라우드 서비스 등의 모든 비용을 사회 공헌 차원에서 직접 부담했다. 당장의 서비스 수익보다 딥페이크로 인한 2·3차 피해 확산 방지가 우선이라는 판단에서다. 샌즈랩은 당초 생성형 AI 역기능 탐지 및 대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었으나 착수 이후 반년도 채 지나지 않은 시점에서 AI 역기능이 사
[더테크=조명의 기자] 딥브레인AI는 딥페이크 탐지 솔루션 고도화를 통해 조작된 영상 검출은 물론 이미지, 음성까지 탐지 범위를 확대했다고 3일 밝혔다. 딥페이크는 AI를 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 콘텐츠를 말한다. 스마트폰 앱으로 딥페이크 영상을 쉽게 만들 수 있는 등 기술 장벽이 낮아지며 악용되는 사례가 늘고 있다. 딥브레인AI는 AI 휴먼 솔루션, 생성형 AI 아바타 제작 솔루션 등을 개발하며 쌓은 AI 기술을 바탕으로 완성도 높은 딥페이크 탐지 솔루션을 선보였다. ▲종합 탐지 모델 ▲특정 인물 탐지 모델 ▲음성 탐지 모델로 구성된다. 종합 탐지 모델은 합성곱 신경망(CNN)과 구글의 자연어 처리 모델인 트랜스포머를 기반으로 설계됐다. 가상 인간의 얼굴을 제작하는 페이스 제너레이션과 원하는 얼굴로 교체하는 페이스 스왑, 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다. 특정 인물 탐지 모델은 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별한다. 음성 탐지 모델은 TTS(Text To Speech)나 보코더 등 음성
(주)빅테크 | 제호 : 더테크 (THE TECH) | 신문등록번호: 서울아53318 | 등록ㆍ발행일자: 2020.10.7 | 사업자번호 : 168-86-01987
발행ㆍ편집인 : 서명수 | 개인정보관리 책임자 : 이지영 | 청소년보호 책임자 : 이지영
주소 : 서울특별시 마포구 동교로 162-10, 4층 (서교동, 이혜2 빌딩) | 전화번호: 02-6952-6992 | 기사제보 : press@the-tech.co.kr
Copyright @더테크 (THE TECH) Corp. All rights reserved.
UPDATE: 2025년 07월 01일 10시 56분
