미국 제8연방항소법원이 10월 2일(현지시간) 미네소타주의 AI 누드 합성물 규제법 효력을 잠정 정지시켰다. 일론 머스크가 이끄는 xAI가 낸 가처분 신청을 받아들인 결과다. 세인트루이스에 있는 제8연방항소법원은 이날 명령에서 해당 법을 일단 멈춰 세우고, 항소심 절차를 진행하기로 했다. 이 법은 AI로 만든 가짜 나체 이미지, 이른바 ‘누드화(nudification)’ 이미지를 당사자 동의 없이 제작·유포하는 행위를 처벌하는 미국 내 첫 주(州) … 더 읽기
“초기 AI 기업들의 경우 투자유치에 큰 어려움을 겪고 있다는 목소리를 현장에서 많이 들었다.” 박태완 과학기술정보통신부 정보통신산업정책관이 지난 17일 서울 섬유센터에서 열린 결선에서 남긴 말입니다. 이 자리에서 대상을 받은 곳은 딥페이크가 만들어지기 전에 위변조를 막고, 이미 만들어진 콘텐츠의 진위까지 가려내는 인공지능(AI) 보안 기술을 내놓은 스타트업 스틸컷이었습니다. 경쟁률부터 눈에 띕니다. 과학기술정보통신부와 한국통신사업자연합회(KTOA)가 두 번째로 연 모험·도전적 AI … 더 읽기
“현행 AI기본법이 AI 산업 전반을 규율하는 법이라면, AI 이용자보호법은 AI 서비스 대상으로 이용자 권리 보호에 특화된 별도의 법 체계입니다.” 류신환 방송미디어통신위원회 비상임위원이 11일 서울 중구 한국프레스센터에서 열린 동북아공동체ICT포럼 제98차 조찬간담회에서 꺼낸 말이에요. 방미통위가 AI 이용자를 위한 별도 법체계 제정에 나선다는 방침을 이 자리에서 밝혔죠. 사업자에겐 의무, 이용자에겐 권리 제정안(가칭 인공지능서비스 이용자 보호법)은 정보통신망을 통해 제공되는 … 더 읽기
지난 2월 미네소타 주의회 증언대. AI로 합성한 나체 사진에 자신의 얼굴이 등장했다는 여성 3명이 또래의 초상 75명 이상이 같은 방식으로 악용됐다고 털어놓았다. 그 증언을 바탕으로 미국 최초의 AI 누드합성(nudification) 금지법이 탄생했고, 4일(현지시간) 머스크 계열사가 그 법의 시행을 막으려던 두 번째 도전도 법원에서 좌절됐다. 미네소타 연방법원의 도노반 프랭크 판사는 이날 스페이스XAI(전 xAI)의 예비금지명령 신청을 기각했다. 법 … 더 읽기
그록을 둘러싼 소송의 무게중심이 옮겨가고 있다. 지금까지 제기된 소송 대부분은 그록이 유해 이미지를 ‘생성해냈다’는 결과물을 겨냥했다. 하지만 이번 소송은 한 발 더 들어가, 그 생성 능력 자체가 실제 아동 성착취 자료를 학습한 결과라고 지목한다. 이 논리가 법정에서 인정되느냐에 따라 생성형 AI 기업의 학습 데이터 책임 범위가 처음으로 가시화될 수 있다. 미국 캘리포니아 북부 연방지방법원에 지난 … 더 읽기
“소송 제기가 이렇게 지연됐다는 사실은, 피해가 급박하지 않다는 방증입니다.” 도노반 프랭크 미네소타 연방지법 판사는 7월 31일, xAI가 미네소타주의 ‘누디파이(nudify)’ 앱 금지법 발효를 임시로 막아달라며 낸 가처분 신청을 기각하며 이렇게 밝혔다. 문제의 법은 8월 1일 예정대로 발효됐고, xAI의 소송은 본안 재판으로 이어진다. 미국에서 AI 기반 비동의 누드 이미지 생성 앱을 주 단위로 금지한 것은 미네소타주가 처음이다. … 더 읽기
“법이 발효되기 전에 막아달라”는 xAI의 긴급 요청을 연방 판사가 거부했다. 미네소타주의 ‘누드화 기술 금지법’은 8월 1일(현지시간) 예정대로 발효됐고, 이를 위반하는 AI 기업에는 건당 최대 50만 달러(약 6억 9,000만 원)의 벌금이 부과될 수 있게 됐다. NBC뉴스와 미네소타리포머가 7월 31일 보도한 바에 따르면, 담당 판사는 “xAI가 제시한 긴급성과 회복 불가능한 손해의 증명이 충분하지 않다”며 가처분 신청을 기각했다. … 더 읽기
영국 하원의원 제스 아사토(Jess Asato)가 일론 머스크의 xAI를 상대로 제기한 소송의 배경을 담은 심층 인터뷰가 29일(현지시각) 공개됐다. 노동당 소속 로스토프트 지역구 의원인 아사토는 xAI의 챗봇 그록(Grok)이 자신을 비키니 차림의 성적 이미지로 합성한 것에 대해 “세계 최고 부자를 상대로 소송을 제기할 줄은 꿈에도 몰랐다”고 밝혔다. 이번 소송은 지난 6월 초 런던 고등법원에 접수됐다. 아사토 의원은 지난 … 더 읽기
25일 오후 정부서울청사. 고민수 방송미디어통신위원회 상임위원, 김민재 행정안전부 차관, 정구창 성평등가족부 차관이 한자리에 모여 협약서에 서명했어요. 생성형 AI로 만들어진 딥페이크 성범죄에 대해 방미통위·행안부·성평등부가 처음으로 공동 기술 대응 체계를 가동하기로 한 순간이었죠. 이번 업무협약의 배경은 간단해요. 생성형 AI 기술이 빠르게 발전하면서 딥페이크 성범죄가 지능화·고도화되고 있고, 피해 영상물이 온라인에서 걷잡을 수 없이 확산되는 상황을 더 이상 개별 … 더 읽기
지난 1월, Grok 챗봇으로 생성된 약 300만 건의 성적 딥페이크 이미지가 11일 만에 인터넷에 쏟아져 나왔다. 그로부터 5개월. 캐나다 프라이버시 감독기구(OPC)가 11일(현지시간) Grok이 캐나다 개인정보보호법(PIPEDA)을 위반했다고 공식 판정했다. 글로벌 규제 기관이 머스크 소유의 AI 챗봇을 상대로 내린 첫 번째 법적 판단이다. OPC의 필리프 뒤프레슈 커미셔너는 이날 발표한 조사 결과에서 “Grok의 이미지 생성 도구는 개인의 동의 … 더 읽기