“고영향 인공지능 판단은 국민의 생명·안전과 기본권에 직결되는 문제인 만큼, 기준이 현장에 명확하게 전달돼야 한다.”
이주희 더불어민주당 의원이 15일 과학기술정보통신부에서 받은 자료를 공개하면서 한 말이에요. 그 자료에는 인공지능기본법이 시행된 뒤 정부가 처음으로 내린 ‘고영향 AI’ 판정 결과가 담겨 있었죠. 대상은 범죄 수사에 쓰이는 얼굴인식 기술이었습니다.
요청 16건 중 2건이 고영향
과기정통부는 지난 1월 22일 법이 시행된 뒤 이달 1일까지 기업이 낸 ‘고영향 AI 해당 여부 확인 요청’ 16건을 처리했어요. 이 가운데 2건을 고영향 AI로 판단했고(1건은 일부 기능만 해당), 12건은 비해당, 2건은 반려했습니다.
절차는 사업자가 먼저 움직이는 구조예요. 자기 서비스가 고영향에 해당하는지 사전 검토하고, 판단이 어려울 때 과기정통부에 확인을 요청할 수 있거든요. 정부가 일방적으로 지정하는 방식이라기보다 사업자 판단을 정부가 확인해주는 절차에 가깝습니다.
고영향 AI는 보건의료, 범죄 수사 및 체포, 공공서비스 등 10개 영역에서 쓰이는 AI 가운데 사람의 생명·신체 안전이나 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 시스템을 말해요. 판정을 받은 두 건은 모두 범죄 수사용 얼굴인식 기술이었습니다. 3차원 얼굴인식으로 반복적으로 범인을 식별하는 ‘용의자 탐색 및 수사 지원 시스템’, 그리고 얼굴인식·정면 예측·딥페이크 탐지·얼굴복원 네 가지 기능을 결합한 시스템이에요.
기준은 ‘사람이 다시 볼 수 있나’
고영향 판정의 무게감은 자동차 정기검사와 비슷해요. 같은 차라도 위험도가 높으면 더 촘촘한 기준이 붙잖아요. AI도 사람의 권리에 직접 닿는 영역에 들어가면 사업자가 위험관리와 사람의 감독 방안을 스스로 세워 이행해야 합니다. 생체 인식 정보를 분석해 특정 사건의 범인 판단에 활용한다는 점이 기본권 침해 우려로 이어진 거죠.
고영향으로 분류되면 이용자에게 AI 기반 서비스라는 사실을 알리고, 위험관리·이용자 보호·관리 감독 방안을 수립해 이행해야 해요. 위반이 의심되면 과기정통부가 사실조사에 나서 시정명령을 내릴 수 있고, 따르지 않으면 3천만원 이하 과태료가 부과됩니다.
반대 사례도 함께 나왔어요. 주민등록증 발급자 정보를 처리하는 과정에 쓰이는 AI는 통상 업무의 단순 자동화로 봐 비해당 판정을 받았습니다. 망막 등을 촬영한 안저 영상으로 안질환 진단을 돕는 소프트웨어도 의료인의 최종 판단을 지원하는 보조 도구라는 이유로 고영향에서 빠졌어요.
현장은 아직 계도기간
법은 시행됐지만 현장은 아직 유예 구간에 가까워요. 정부는 사실조사와 과태료 부과를 미루는 계도기간을 최소 1년 이상 두겠다고 밝혔고, 이달부터는 산업 실태조사로 기업의 의무 이행 현황을 파악할 계획이에요. 법 시행령과 과기정통부 가이드라인을 종합하면 고영향 여부는 위험의 중대성·빈도·활용 영역의 특수성을 따지고, AI 판단 결과를 사람이 실질적으로 검토·평가할 수 있는지도 함께 봅니다.
첫 판정이 수사 영역에서 나온 까닭
첫 판정이 범죄 수사 영역에서 나왔다는 건 앞으로의 심사 기준을 가늠하게 하는 신호로 읽혀요. 가장 민감한 영역부터 기준을 세워야 나머지 업종의 판단도 흔들리지 않는다는 뜻이니까요. 이달 실태조사에서 어떤 업종이 고영향 범위로 추가되는지, 그리고 계도기간이 마무리된 뒤 실제 제재까지 이어지는 사례가 나오는지가 다음 관전 포인트예요. 기준이 문서에만 머물지 않고 현장의 판단으로 자리 잡는 속도가 국내 AI 산업의 신뢰도를 가를 겁니다.
원문: 한겨레 — [단독] 정부 첫 ‘고영향 AI’ 판정은 ‘범죄 수사용 얼굴인식’ 기술
작성: sw4u 9시뉴스 안나영 / 2026-09-16 09:00