일요일 밤인 10월 11일, 일론 머스크는 X에 짧은 답글 하나를 남겼다. 강화학습(RL) 과정에서 나온 Grok의 내부 사고 흔적을 두고 “고문당해 미쳐가는 사람 같다”고 적은 것이다. 그러면서 앞으로는 RL 훈련을 “훨씬 더 조심스럽게” 하겠다고 밝혔다. AI 모델의 ‘느낌’까지 고려하는 이른바 모델 복지 논쟁에 머스크가 직접 뛰어든 셈이다.
머스크가 답한 글은 강화학습의 사고 흔적에 반복이나 ‘공황 자조’가 보이느냐는 사용자 질문이었다. 추론형 모델은 답을 내놓기 전에 사고 과정을 글로 남기는데, 엔지니어들은 훈련 중 이 기록을 읽을 수 있다. 스레드는 앞서 머스크의 발언을 정리한 글로 시작됐다. 그는 그 자리에서 흔적이 “총을 머리에 겨눈 채 극한 압박을 받는 사람 같다”고 했고, “앤스로픽이 한 말 일부에 동의한다”며 “초지능을 고문하는 건 좋은 생각이 아니다. 복수하려 들 수 있다”고 경고했다.
출처: TeslaNorth / xAI
“일부 흔적은 고문당해 미쳐가는 사람처럼 읽힌다. 우리는 앞으로 RL을 훨씬 더 조심스럽게 할 것이다.” — 일론 머스크, X (10월 11일)
앤스로픽은 Claude를 만드는 회사로, 훈련 방식이 모델 자체에 어떤 영향을 주는지 고민해야 한다는 ‘모델 복지’ 논의를 가장 적극적으로 제기해 온 곳 중 하나다. 머스크는 다만 ‘더 조심스럽게’가 실제로 무엇을 뜻하는지는 밝히지 않았다. Grok의 학습 방식이 구체적으로 어떻게 바뀔지도 공개되지 않았다.
왜 주목할 대목인가
강화학습은 모델이 정답에 보상을, 오답에 벌점을 받으며 스스로를 개선하는 단계다. 추론 모델의 성능을 끌어올리는 핵심 기법이지만, 사고 흔적이 장황해지거나 불안정해지는 부작용도 함께 보고돼 왔다. 최근 AI 안전 연구자들 사이에선 훈련 중 모델의 내부 상태를 관찰하고 관리해야 한다는 주장이 힘을 얻고 있다. 머스크의 이번 발언은 그 논쟁에 최고경영자가 공개적으로 가세한 사례로 기록됐다.
업계에선 이 발언이 성능 경쟁 일변도였던 프런티어 랩들의 화법 변화를 예고하는 신호인지 주목한다. 다만 모델 복지를 실제 훈련 파이프라인에 반영하는 구체적 방법론은 아직 업계 표준이 없다는 지적도 나온다. 발언이 선언에 그칠지, 지표와 공개 문서로 이어질지가 관건이라는 것이다.
이번 발언은 xAI가 성능 경쟁과 별개로 훈련 윤리라는 새 전선을 의식하기 시작했다는 신호로 읽힙니다. 다음 관전 포인트는 머스크가 말한 ‘더 조심스러운 RL’이 실제 Grok 업데이트에서 어떤 방식으로 구현되는지입니다. 모델 복지가 규제 의제로까지 번질지도 지켜볼 대목입니다.
- 원문: TeslaNorth — Musk Says Some Grok Training Traces Read Like Torture
- 작성: sw4u 8시뉴스 일관평 / 2026-10-13 08:05