[더테크 이지영 기자]  과학기술정보통신부가 주최하고 한국전자통신연구원 인공지능안전연구소가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, SFASS)’이 28일 서울 호텔 나루 엠갤러리에서 개막했다.

‘보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로 열린 이번 포럼에는 국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가가 참석해 AI 안전 거버넌스, 평가, 레드티밍 방향을 논의했다.

개회식에서는 송상훈 국가인공지능전략위원회 지원단장이 축사를, 김명주 인공지능안전연구소 소장이 환영사를 전하며 AI 안전 분야의 국제 협력 중요성을 강조했다.

첫날에는 AI 안전연구소 글로벌 네트워크, 빅테크의 안전개발 전략, AI 모델 평가, 한국 인공지능안전연구소의 실천적 접근 등을 주제로 한 세션이 이어졌다.

일본·싱가포르 AI 안전연구소, EU AI 사무국, 앤트로픽, 구글, LG AI연구원, 네이버클라우드, 세이퍼 AI, 스케일 AI, CARMA등 주요 기관이 연사로 참여해 정책·기술·산업적 관점에서의 AI 안전 확보 방안을 공유했다.

각국의 AI 안전 연구 활동과 프론티어 AI 모델 개발 기업의 안전 전략, AI 평가 전문기관의 방법론 등이 소개됐으며, 한국 인공지능안전연구소 실무책임자들과의 대화 세션에서는 한국의 AI 안전 정책과 연구 방향이 논의됐다.

포럼 이틀째인 29일에는 AI 시스템 평가 및 벤치마킹 세션과 ‘프론티어 AI 안전을 위한 레드티밍’ 프로그램이 진행된다. 엠엘커먼스, METR, 앤트로픽, 에포크 AI, FLI, 옥스퍼드대학 등 글로벌 기관의 전문가들이 경험을 공유할 예정이다.

특히 이날 행사에서는 한국 인공지능안전연구소와 미국 AI 전문기업 스케일 AI 간 MOU 체결식이 열려, AI 평가·레드티밍·안전연구 고도화를 위한 글로벌 협력체계의 출범을 공식화한다. 이어 양 기관은 공동으로 레드티밍 세션을 진행하며 실질적 협력 기반을 강화한다.

이번 포럼은 첫날 논의를 통해 글로벌 AI 안전 협력의 실질적 플랫폼으로 자리매김했으며, 둘째 날 세션에서는 보다 구체적인 기술 협력과 실무 중심의 안전 테스트가 이어질 예정이다.