25일 오후 정부서울청사. 고민수 방송미디어통신위원회 상임위원, 김민재 행정안전부 차관, 정구창 성평등가족부 차관이 한자리에 모여 협약서에 서명했어요. 생성형 AI로 만들어진 딥페이크 성범죄에 대해 방미통위·행안부·성평등부가 처음으로 공동 기술 대응 체계를 가동하기로 한 순간이었죠.
이번 업무협약의 배경은 간단해요. 생성형 AI 기술이 빠르게 발전하면서 딥페이크 성범죄가 지능화·고도화되고 있고, 피해 영상물이 온라인에서 걷잡을 수 없이 확산되는 상황을 더 이상 개별 부처의 대응만으로는 감당하기 어려워졌기 때문입니다.
그래서 이번 협약의 핵심은 ‘AI 탐지 → 삭제·차단 → 피해자 보호’를 하나의 파이프라인으로 연결한 거예요. 피해 영상물이나 의심 콘텐츠가 접수되면 행안부가 개발·고도화한 AI 딥페이크 탐지 모델이 1차 분석을 하고, 그 결과를 콘텐츠 삭제·차단 절차와 피해자 지원으로 바로 연계하는 구조입니다.
부처별 역할도 명확히 나눴어요. 방미통위는 딥페이크 의심 콘텐츠의 온라인 유통에 대응하고 유튜브·인스타그램 등 플랫폼 기업들과 삭제·차단 협력체계를 강화합니다. 재유포와 변형 콘텐츠에 대응하기 위한 관계 기관 간 정보 공유도 확대하고요. 행안부는 AI 딥페이크 탐지·분석 모델을 지속적으로 고도화해 제공하고, 성평등부는 기존 민간 탐지모델과 AI 분석 모델을 병행 활용해 더 세밀한 피해 영상물 분석과 삭제를 진행할 계획이에요. 각 부처는 피해 영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제·공유·보관을 제한하는 보안 관리 기준도 강화할 방침입니다.
정부는 협약을 계기로 현장에 AI 탐지 모델을 본격 적용하고 딥페이크 성범죄 공동대응 성과를 지속 점검할 계획이에요.
각 부처가 개별적으로 대응하던 방식에서 벗어나 기술과 행정, 피해자 보호가 하나의 체계로 묶였다는 점에서 이번 협약은 한 걸음 나아간 조치로 평가할 만해요. 특히 AI 탐지 결과를 콘텐츠 삭제로 직결시키는 구조는, 지금까지 피해자가 직접 신고·입증해야 했던 부담을 상당 부분 덜어줄 수 있거든요. 작년 한 해 딥페이크 범죄 검거 건수만 해도 전년 대비 4배 가까이 급증했고, 피해자의 상당수가 미성년자라는 점에서 정부 대응이 늦었다는 비판이 꾸준히 제기돼 왔어요.
다만 아직 풀어야 할 숙제도 남아 있어요. 딥페이크 생성 기술이 하루가 다르게 정교해지는 속도에 비해 탐지 모델의 업데이트 주기가 따라잡을 수 있을지, 그리고 플랫폼 기업들의 실질적인 협조를 얼마나 이끌어낼 수 있을지가 앞으로의 관건이에요. 세 부처가 약속한 ‘지속적 점검’이 실질적 성과로 이어질 수 있을지가 앞으로의 관건이에요. 유럽연합은 이미 AI법을 통해 딥페이크 생성물에 라벨링을 의무화했고, 미국도 주별로 대응 법안을 쏟아내고 있는 상황이거든요. 글로벌 규제 흐름에 비춰볼 때 이번 협약은 한국이 AI 범죄 대응에서 최소한의 첫발을 뗐다는 의미도 있어요. 다만 ‘협약’이라는 틀이 ‘집행’으로 이어지려면, 플랫폼 기업의 실질적 협조와 탐지 기술의 지속적 고도화라는 두 과제를 동시에 풀어내야 한다는 점은 변함없어요.
- 원문: ZDNet Korea — 방미통위·행안부·성평등부, AI로 딥페이크 범죄 대응
- 작성: sw4u 9시뉴스 안나영 / 2026-06-25 21:00