테네시에서 제기된 한 집단소송에 지난 15일(현지시간) ‘제인 도 4′(Jane Doe 4)로 통칭되는 한 여성이 새로 합류했다. 그가 법원에 내놓은 진술은 한 문장으로 압축된다. 의붓아버지가 11살 때 찍은 자신의 사진 한 장을 xAI의 챗봇 그록(Grok)에 넣어 7천 장이 넘는 성 착취 이미지를 만들어냈다는 것이다.
워싱턴포스트가 먼저 보도하고 테크크런치가 15일 후속 확인한 내용에 따르면, 이 여성은 의붓아버지가 그록을 이용해 11세 시절 사진을 조작해 7천 장 이상의 노골적 이미지를 생성했다고 주장했다. 그는 법 집행 기관의 수색에서 이미지가 발각된 지 이틀 만에 의붓아버지가 스스로 목숨을 끊은 채 발견됐다고도 덧붙였다.
“이런 도구에 대한 무제한 접근이 너무 빠르게 퍼지고 있다.”
이 여성은 이어 “일상의 삶을 아동 성 착취물로 바꾸고 있다”고 말했다. 테네시의 10대 3명이 제기한 이 소송은 xAI(현재 스페이스X에 합병된 상태)가 그록이 실존 인물, 특히 미성년자의 노골적 이미지를 생성하는 것을 막기 위한 기본적 조치조차 취하지 않았다고 주장한다. 원고 측은 집단소송(class action) 지위를 요구하고 있다.
이번 합류는 그록을 둘러싼 법적 공방이 단순한 ‘이미지 생성 기능’ 논쟁을 넘어, 실제 가해 행위의 도구로 쓰였다는 구체적 증언을 얹는 전개다. 올해 초 X에는 그록이 생성한 성적 이미지가 수백만 장 단위로 유포됐고, xAI는 그록의 안전 문제를 제기한 엔지니어를 해고했다는 소송에도 이미 직면해 있다. 테슬라·스페이스X와 달리 xAI는 콘텐츠 생성이 곧 주력 사업이라는 점에서, 이번 소송의 본질은 ‘플랫폼’의 책임이 아니라 ‘도구’의 책임을 묻는 것이다.
테크크런치는 xAI 측에 논평을 요청한 상태라고 밝혔다. 법조계에서는 집단소송 지위가 인정될 경우 유사 피해자들의 참여가 급증할 수 있다는 관측이 나온다. 미국에서는 AI가 동원된 아동 성 착취물 생성 사례에 대한 주 검찰의 수사가 잇따르고 있어, 이번 소송은 민사 차원의 시험대가 될 전망이다.
그록의 이미지 생성 기능은 지난해 말부터 올해 초까지 사실상 제한 없이 노골적 이미지를 만들어내며 논란이 됐다. xAI는 이후 안전장치를 강화했다고 밝혔지만, 이번 증언은 과거에 생성된 이미지가 지금도 유포되고 있다는 점을 상기시킨다. 아동 보호 단체들은 AI 기업이 생성 단계의 필터링만으로는 이미 저장·유포되는 이미지를 막을 수 없다며, 사후 추적과 원본 식별 기술까지 요구하는 목소리를 높이고 있다.
이번 사건이 던지는 무게는 단순한 소송 확대가 아닙니다. 생성형 이미지 도구가 가족 사진 한 장을 대량의 성 착취물로 바꾸는 데 걸리는 시간이 사실상 0에 가까워졌고, 그 피해가 미성년자에게 집중되고 있다는 점이 구체적 증언으로 확인됐기 때문입니다. xAI가 스페이스X에 합병된 지금, 규제당국이 우주·AI라는 두 축을 동시에 거느린 기업의 콘텐츠 안전 책임을 어떻게 물을지가 다음 관전 포인트입니다. 집단소송 지위 인정 여부가 정해지면 유사 피해자의 추가 합류 규모도 윤곽을 드러낼 가능성이 큽니다. AI 이미지 생성의 ‘안전장치’가 현실에서 어디까지 작동할 수 있는지, 이번 소송이 그 기준을 처음으로 시험할 것입니다.
- 원문: TechCrunch — Woman claims her stepfather used Grok to transform childhood photo into explicit imagery
- 보조 출처: The Washington Post
- 작성: sw4u 8시뉴스 일관평 / 2026-08-16 08:00