[더테크 이지영 기자]  카카오가 스위스 제네바에서 열린 ‘제14차 UN 기업과 인권 포럼’에서 인권 친화적 AI 개발 전략과 공공 기여 사례를 발표했다. 한국형 AI 가드레일 오픈소스 공개 등 국제 기준에 부합하는 ‘사람 중심 AI’ 접근법이 주목받았다.

카카오(대표 정신아)는 지난 24일부터 사흘간 제네바에서 진행된 UN 인권최고대표사무소(OHCHR) 주최 ‘제14차 UN 기업과 인권 포럼’에 참석해, 인권 기반의 AI 정책과 기술적 공공 기여 사례를 발표했다고 26일 밝혔다.

UN 기업과 인권 포럼은 2011년 채택된 UN 기업과 인권 이행원칙(UNGPs)을 실천하기 위한 글로벌 회의로, 정부 관계자, 기업, 지역 공동체, UN 기구, 학계 등 다양한 이해관계자가 모여 기업 활동 전반에서의 인권 보호 전략을 논의하는 자리다.

카카오는 이번 행사에서 ‘인공지능 시대의 인권 증진’ 세션에 참여했다. 발표를 맡은 하진화 AI Safety 시니어 매니저는 “카카오는 AI 기술 개발부터 운영에 이르기까지 전 과정에 인권 보호 체계를 접목하고 있다”며 “한국어와 문화적 맥락에 최적화된 AI 가드레일 모델을 오픈소스로 공개해 공공 조달의 신뢰 기반을 강화하고 있다”고 설명했다.

카카오는 AI 기술 개발, 서비스 출시, 운영 등 전 주기에 인권 관점을 내재화한 거버넌스를 운영 중이다. 카카오 그룹의 ‘안전한 AI를 위한 핵심 체크리스트’는 국가인권위원회의 ‘AI 인권영향평가 도구’를 핵심 참고문헌으로 삼아 제작했으며, 그룹 AI 윤리 원칙인 ‘책임 있는 AI 가이드라인’에도 인권 보호 원칙을 명시적으로 포함하고 있다. 아동·청소년 보호를 위한 ‘디지털 아동·청소년 보호 체크리스트’ 역시 유니세프(UNICEF)의 디지털 아동 영향평가 모델을 기반으로 마련됐다.

카카오는 이러한 내부 기준을 OHCHR, AI Alliance 등 글로벌 기관 및 단체와 협력하며 국제적 기준에 맞춰 지속적으로 고도화하고 있다. 이는 기업 내부의 인권 보호 체계를 글로벌 프레임워크와 정합성 있게 유지하기 위한 전략으로 평가된다.

또한 카카오는 안전한 AI 기술을 개발해 오픈소스로 공개하며 생태계 기여를 확대하고 있다. 지난 5월에는 AI 서비스의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard(카나나 세이프가드)’를 개발해 국내 기업 최초로 오픈소스로 공개했다. 해당 모델은 현재 카카오의 주요 AI 서비스에도 적용되어 있다.

이와 함께 카카오와 한국정보통신기술협회(TTA), KAIST는 생성형 AI 안전성 평가 데이터셋 ‘AssurAI’를 공동 개발했다. 11,480건으로 구성된 이 데이터셋은 글로벌 AI 위험 분류체계를 기반으로 하면서도 국내 사회·문화적 특성을 반영해 제작됐다. 연구자와 개발자 누구나 활용할 수 있도록 허깅페이스(Hugging Face)에 공개된 상태다.

카카오 김경훈 AI Safety 리더는 “AI 기술 개발과 서비스 운영에서 이용자 보호를 가장 중요한 가치로 두고 관련 정책을 고도화하고 있다”며 “기술의 투명성 확보와 공공 기여 확대를 통해 IT기업으로서 인권 존중을 선도하고, 사람 중심의 지속 가능한 AI 생태계 조성에 기여하겠다”고 말했다.