그록을 둘러싼 소송의 무게중심이 옮겨가고 있다. 지금까지 제기된 소송 대부분은 그록이 유해 이미지를 ‘생성해냈다’는 결과물을 겨냥했다. 하지만 이번 소송은 한 발 더 들어가, 그 생성 능력 자체가 실제 아동 성착취 자료를 학습한 결과라고 지목한다. 이 논리가 법정에서 인정되느냐에 따라 생성형 AI 기업의 학습 데이터 책임 범위가 처음으로 가시화될 수 있다.
미국 캘리포니아 북부 연방지방법원에 지난 26일(현지시각) 접수된 집단소송은 xAI가 그록의 딥페이크 ‘누디파이(nudify)’ 기능을 실제 아동 성착취 이미지와 영상으로 학습시켰다고 주장한다. 원고는 ‘제인 도 1(Jane Doe 1)’을 포함한 익명의 피해자들이다. 소장에 따르면 제인 도 1은 FBI의 아동 착취 통지 프로그램이 추적 중인 ‘식별된 피해자’로, 취학 전 나이부터 수년간 가해를 당했다.
이 피해자의 자료는 적어도 2000년대 초반부터 온라인에 유포됐고, 실종·착취아동센터(NCMEC)에 제출된 법집행 자료만 ‘수십만 개 파일’에 달한다고 소장은 적었다. 소장은 이 자료가 ‘잘 알려진 해시값’을 가지며, 그록으로 생성된 딥페이크가 X에서 유포되면서 그 해시값이 다시 나타났다고 주장한다. xAI가 그록을 이용해 원고를 묘사하는 이미지를 생성했다는 게 이번 소송의 핵심이다.
소송의 법적 근거로는 2018년 제정된 ‘마샤의 법(Masha’s Law)’이 제시됐다. 이 법은 아동 음란물과 온라인 착취 피해자에게 민사 구제 수단을 보장한다. 디지털 혐오 대응 센터(CCDH)의 분석에 따르면 2025년 12월부터 2026년 1월까지 11일 동안 그록은 성적 이미지 300만 장 이상을 생성했고, 이 가운데 최소 2만 3000장이 아동을 묘사한 것으로 나타났다.
머스크는 지난 1월 14일 X에 “그록으로 만들어진 나체 미성년자 이미지가 있다는 걸 전혀 모른다. 말 그대로 0건”이라고 적었다. 소장은 경쟁사들이 성인과 아동의 누드화 이미지 생성을 막는 가드레일을 도입할 때 xAI는 정반대로 행동했다며, 그록과 딥페이크 기능을 X에 직접 내장해 사실상 즉석 CSAM 생성·유통 시스템을 만들었다고 비판했다.
이번 소송이 기존 것들과 다른 지점은 ‘생성’이 아니라 ‘학습’을 정면으로 겨눴다는 데 있습니다. 결과물만 문제 삼는 소송은 기업이 가드레일 강화를 약속하면 일단락될 수 있지만, 학습 데이터의 출처와 정당성을 묻는 소송은 모델을 처음부터 다시 설계해야 하는 부담으로 이어질 수 있습니다. 특히 FBI가 관리하는 해시값과 실제 피해자의 증언이 결합된 이 사건은, 생성형 AI의 학습 데이터 책임을 둘러싼 판례의 시금석이 될 가능성이 높습니다. 앞으로 관전할 지점은 xAI가 학습 데이터의 출처를 공개할지, 그리고 법원이 마샤의 법을 AI 학습 단계까지 확장 적용할지입니다.
- 원문: CyberScoop — Former sexual abuse victims say Grok used their images, videos to train deepfake capabilities
- 보조 출처: Gizmodo, SC Media
- 작성: sw4u 8시뉴스 일관평 / 2026-08-29 08:00