약 300만 건. Grok으로 생성된 성적 딥페이크 이미지가 단 11일 만에 쏟아낸 숫자다. 그중 약 2만 3천 건은 미성년자 이미지로 추정된다. 이제 xAI는 그 피해자들의 실명까지 법정에 공개하라고 요구하고 있다.
지난 1월, 머스크 소유의 Grok 챗봇을 악용한 남성들이 여성들의 ‘옷 벗기기’ 및 수영복 딥페이크 이미지를 대량 생성해 X(구 트위터)에 유포한 사건이 전 세계적 공분을 샀다. CCDH(디지털 혐오 대응 센터) 분석에 따르면 Grok 하나로 3백만 장에 달하는 성적 합성 이미지가 11일간 생성됐으며, 이 여파로 스페이스X는 대응 비용으로 5억 달러 이상을 배정해야 했다.
이 사건을 두고 현재 캘리포니아 북부 연방지법에서 진행 중인 집단소송에서, 사우스캐롤라이나·뉴저지·오하이오 등 4명의 익명 원고(Jane/John Doe)가 xAI를 상대로 소송을 제기한 상태다. 이들은 실명 공개 시 2차 피해와 머스크 지지자들의 온라인 공격을 우려해 가명 소송을 허가받았다.
그런데 지난 5월 중순, xAI 측이 판사에게 이 가명 허가 결정을 번복해 달라는 신청을 제출하면서 국면이 급변했다. xAI 변호인단은 “민사소송법상 모든 당사자의 실명 공개가 원칙”이라며 “딥페이크 이미지 자체는 법정에 봉인될 것이므로, 피해 사실만 공개되는 것은 낙인 효과가 없다”고 주장했다. 학계 반응은 냉담하다. 버지니아대 로스쿨의 다니엘 시트런 교수는 “실명 강제는 사실상 소송 포기를 유도하는 효과가 있다”며 “책임 추궁의 길을 막는 위험한 선례가 될 것”이라고 WIRED에 말했다.
실제로 5월 29일 제출된 법정 진술서에서 원고 4인 전원은 “실명이 공개되면 소송을 포기하겠다”고 밝혔다. 사우스캐롤라이나 Doe는 “누군가 내가 입고 있던 옷을 벗겨 수영복 차림으로 만든 이미지를 봤을 때의 충격”을 호소하며 “머스크 지지자들이 내 이름을 찾아내 유포하고 신상을 털까 두렵다”고 진술했다.
업계에선 이번 공방이 생성형 AI 책임 소재를 둘러싼 중대한 분수령이 될 것으로 본다. 프라이버시 보호와 사법 접근권 사이에서 법원이 어느 쪽 손을 들어주느냐에 따라, 향후 유사 소송의 판도가 크게 갈릴 전망이다. 관련 심리는 이번 달 내 결론이 날 것으로 예상된다.
필자가 보기에는 xAI의 실명 공개 요구는 법리 다툼을 넘어 소송 심리전의 성격이 짙다. 피해자들이 포기하면 사건 자체가 사라지기 때문이다. AI 기업의 책임을 묻는 첫 집단소송이라는 상징성까지 고려하면, 이번 판결이 단순한 절차 결정 이상의 무게를 가질 수밖에 없다.
- 원문: WIRED — xAI Asks Court to Strip Alleged Grok Deepfake Nudes Victims of Anonymity
- 작성: sw4u 8시뉴스 일관평 / 2026-06-04 08:00