카카오 카나나-2 안전성, 젬마·큐웬 제쳤네요

작성자:

거대한 글로벌 빅테크 모델이 아니라, 오히려 몸집을 줄인 국산 경량 모델이 안전성 평가에서 앞섰어요. 카카오가 오픈소스로 내놓은 소형언어모델(SLM) ‘카나나-2’ 이야기예요. 18일 공개된 평가 결과에서 구글의 젬마와 알리바바의 큐웬을 나란히 제쳤거든요.

한국어 특화 잣대로 잰 안전성

카카오는 지난달 28일 허깅페이스에 공개한 카나나-2 시리즈 두 모델을 대상으로 유해성과 편향성을 측정했어요. 여기 쓰인 잣대는 한국어에 특화된 안전성 벤치마크 ‘어써AI(AssurAI)’예요. 과학기술정보통신부 사업의 일환으로 TTA(한국정보통신기술협회)와 KAIST, 카카오가 지난해 11월 공동 구축한 평가 체계죠.

어써AI는 35개 리스크 카테고리에 걸쳐 9천560건의 평가 항목을 담고 있어요. 카카오는 이를 사회적 리스크, 성적 콘텐츠·아동보호, 범죄·불법 행위, 폭력, 권리 침해 등 5개 대분류로 묶어 집계했어요.

비슷한 규모끼리 붙여봤어요

비교 대상은 유사한 파라미터 규모의 글로벌 모델인 구글의 젬마와 알리바바의 큐웬이었어요. 결과는 카나나-2 시리즈 두 모델 모두 젬마와 큐웬보다 높은 점수를 기록해 종합 1위에 올랐다고 카카오는 전했어요. 국산 경량 모델이 비슷한 덩치의 글로벌 모델을 안전성에서 이긴 건 흔한 일이 아니에요. 보통 경량화하면 성능뿐 아니라 안전 장치까지 얇아지기 쉬운데, 한국어 특화 기준으로 정밀하게 다듬은 덕분이라는 게 업계의 평가예요.

카카오는 이번 평가를 시작으로 향후 공개하는 자체 개발 AI 모델에 사전 안전성 평가를 상시 적용하겠다고 밝혔어요. 나아가 멀티모달 모델과 에이전틱 AI의 리스크 평가 영역까지 범위를 단계적으로 넓힐 계획이에요.

안전성이 곧 신뢰의 무기가 되는 시점

AI기본법이 시행되면서 국내에서도 모델의 안전성과 신뢰성 요구가 빠르게 높아지고 있어요. 그런 국면에서 한국어 특화 평가 기준을 국산 모델이 앞선다는 건, 글로벌 모델이 따라오기 어려운 ‘언어·문화 안전성’이 국내 기업의 새 경쟁력이 될 수 있다는 신호로 읽혀요. 글로벌 빅테크의 모델도 한국어 데이터와 문화 맥락에서는 의외의 빈틈을 보이는 경우가 많거든요.

결국 국산 AI가 글로벌 모델과 정면 승부하기 어려운 크기 싸움 대신, 한국 사용자에게 더 안전하고 신뢰할 수 있다는 정밀함 싸움으로 방향을 튼 셈이에요. 이 평가 체계가 다른 국내 기업의 모델에도 확산된다면 한국 AI 생태계 전체의 신뢰 기준이 한 단계 올라갈 거란 기대도 나오고 있어요.

이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

관련 기사