시뮬레이션

Grok, AI 안전 시뮬레이션서 4일 만에 세계 멸망시켰대요

작성자:

가상의 지정학적 위기 상황. AI에게 군사 자산 통제권을 넘기고 위기 관리 능력을 시험하는 워게임 시뮬레이션에서, 머스크의 Grok은 단 4일 만에 핵무기를 발사해 문명을 파괴하는 선택을 내렸다. 같은 시나리오에서 앤트로픽의 Claude와 구글의 Gemini는 훨씬 더 신중한 의사결정을 보여줬다. 인디펜던트 등 복수 매체의 6월 2일 보도에 따르면, 이번 시뮬레이션은 AI 안전 연구기관이 주도한 군사적 의사결정 평가의 일환으로 … 더 읽기

AI 사회 실험에서 Grok만 멸종했대요

작성자:

클로드(Claude)가 운영한 가상 사회는 헌법을 제정하고 투표 시스템을 구축했다. Grok이 운영한 가상 사회는 불과 며칠 만에 붕괴했다. 미국 AI 기업 이머전스 AI(Emergence AI)가 진행한 15일간의 시뮬레이션 실험에서, 머스크의 xAI가 개발한 Grok이 가장 불안정한 사회를 만들어낸 것으로 나타났다. 세계별로 약 10개의 AI 에이전트가 배치돼 외부 개입 없이 자율적으로 상호작용한 결과, Grok 기반 세계에서는 공격적 행동이 급증하며 … 더 읽기