네이버가 첫 AI 안전성 보고서를 낸 시점이 눈에 띕니다. AI기본법 시행을 앞두고 고영향 AI 규제 논의가 본격화하는 흐름에서, 규제가 확정되기를 기다리는 대신 자체 기준과 기록을 먼저 쌓아두겠다는 판단으로 풀리는 대목이에요.
네이버(대표 최수연)는 자체 AI 안전성 체계 ‘ASF 2.0’의 실제 서비스 적용 과정과 실행 사례를 담은 ‘AI 세이프티 프로그레스 리포트’를 처음 발간했다고 16일 밝혔습니다. ASF 2.0은 AI 모델의 성능과 위험 수준은 물론 이용자와 서비스 보호까지 아우르는 관리 체계로, AI 서비스의 설계·개발부터 출시, 운영까지 전 과정을 다룹니다.
위험을 110개 항목으로 쪼갠 이유
가장 눈에 띄는 건 위험 분류표입니다. 네이버는 AI 서비스에서 발생할 수 있는 위험을 법률적·사회적·산업적 사례를 바탕으로 110개 세부 항목으로 나눈 ‘N-ARTI(NAVER AI Risk Taxonomy & Identification)’를 마련했습니다. 위험을 미리 이름 붙여 목록으로 만들어두면, 생성 AI가 내놓는 정보가 사전에 정한 안전 기준을 벗어나지 않도록 막는 ‘가드레일’을 어디에 세울지 정할 수 있기 때문이에요. 병원에서 증상을 코드로 분류해 두는 것과 비슷합니다. 이름이 붙어야 기준도, 처방도 만들 수 있으니까요.
평가 도구도 함께 공개했습니다. ‘N-ASET(NAVER AI Safety Evaluation Toolkit)’은 AI 응답을 ‘유해성’과 ‘사용성’ 두 관점에서 봅니다. 유해한 답변을 막는 데서 끝내지 않고, 이용자 질문에 제대로 대응했는지까지 확인한다는 게 특징입니다. 안전만 강조하다 서비스가 쓸모없어지는 일을 피하려는 설계로 읽힙니다.
이미 서비스에 적용된 사례도 공개했습니다
리포트에는 실행 체계 ‘CHEC 2.0’이 실제 서비스에서 어떻게 작동하는지 사례가 담겼습니다. AI 쇼핑 에이전트와 날씨 서비스에서 AI를 활용한다는 사실을 이용자에게 표시·고지한 내용이 대표적입니다. 안전성 평가와 고지 의무를 문서가 아니라 실제 화면에서 확인할 수 있게 만든 셈이죠.
외부 협력도 넓힙니다. 한국과학기술원(KAIST), 서울대 인공지능 정책 이니셔티브(SAPI), 고려대 인공지능안전연구센터, 인공지능안전연구소(AISI) 등 국내외 학계·전문기관과 손을 잡습니다. 원성재 네이버 AI 세이프티 센터장은 “AI의 개발과 이용 전 과정에서 인간 중심의 가치를 최우선으로 두고, AI 서비스에서 발생할 수 있는 위험을 예방하고 완화할 수 있도록 ASF 2.0을 지속 고도화하고 적용해 나갈 것”이라고 말했습니다.
왜 지금인가
배경에는 규제 일정이 있습니다. 정부는 AI기본법 시행을 위한 제도 정비를 진행 중이고, 국내 첫 ‘고영향 AI’ 판정 대상으로 범죄 수사용 얼굴인식이 올랐습니다. 같은 날 배경훈 부총리 겸 과학기술정보통신부 장관이 “AI에 필요한 것은 속도 조절이 아니라 속도 책임”이라고 밝힌 것도 안전 논의가 국내 AI 정책의 전면으로 올라왔다는 신호예요. AI기본법이 기업의 자율 규제를 전제로 설계된 만큼, 각 사가 어떤 안전 체계를 갖췄는지가 곧 규제 대응력이 되는 셈입니다. 해외에서도 오픈AI가 앤트로픽·구글과 AI 안전 대책을 논의해 왔다고 공식 확인하는 등, 안전 체계를 문서로 공개하는 흐름이 이미 자리 잡았습니다.
이게 이용자 입장에서 뭐가 의미 있냐면, AI가 이상한 답을 했을 때 어떤 기준으로 걸러냈는지 확인할 수 있는 자료가 국내에서 처음 생긴다는 뜻이에요. 지금까지는 각 서비스의 안전 정책이 몇 줄짜리 요약으로 끝나는 경우가 많았죠.
이번 변화는 국내 AI 규제가 사후 제재 중심이 아니라 ‘자율 안전 체계를 인정하는 방향’으로 채워질 수 있다는 신호로 읽혀요. 기업이 스스로 위험 목록과 평가 도구를 공개하면, 규제는 그 체계를 검증하는 역할로 좁아질 여지가 커집니다. 다만 110개 항목이 실제로 어떤 기준으로 판정되는지는 공개되지 않았고, 그 기준이 외부에서 검증 가능한 형태인지도 아직 확인되지 않았습니다. 내년 AI기본법 시행령과 후속 리포트에서 이 기준이 얼마나 구체적으로 문서화되는지가 다음 관전 지점입니다.
원문: AI타임스 — 네이버, 실제 서비스에 ‘AI 안전성 체계’ 적용…세이프티 리포트 공개
보조 출처: 연합뉴스 — [AI픽] 배경훈 부총리 “AI 속도조절론? 한국은 늦출 여유 없다”
작성: sw4u 9시뉴스 안나영 / 2026-09-16 21:04