“AI 시계는 절대 멈출 수 없다”
인공지능 개발 속도를 늦춰야 한다는 이른바 ‘속도조절론’에 국가AI전략위원회가 반대편에 섰어요. 개발 속도는 그대로 두고, 검증과 통제의 속도를 더 높이는 쪽으로 방향을 잡은 겁니다. 미국 빅테크가 먼저 꺼낸 속도조절 카드에 대해 한국이 내놓은 답은 “멈추지 말고 더 잘 만들자”였어요.
10월 1일 서울 중구에서 열린 ‘AI 개발 속도조절론 관련 세미나’가 무대였습니다. 하정우 국가AI전략위 상근 부위원장은 영상 축사에서 “AI 기술 발전으로 위험성이 증가한 것은 사실이나, AI 시대 강력한 역량을 가진 선도국이 될 수 있는 방법을 찾는 게 중요하다”며 “AI 3강 도약을 위해 안전한 프런티어 AI 역량 확보는 필수”라고 말했어요. 하 부위원장은 지난 1년여간 추진한 독자 AI 파운데이션 모델 사업을 근거로 한국의 프런티어 AI 개발 역량이 세계 3위 수준까지 올라왔다고 평가했습니다.
하 부위원장은 안전 규율 논의에서 목소리를 내려면 자체 기술력부터 확보해야 한다는 점도 짚었어요. “우리가 주도적으로 안전성이나 규율에 대한 목소리를 낼 수 있어야 하고, 그러기 위해서는 우리가 잘 만들 수 있어야 하고 영향력을 끼칠 수 있는 힘을 가지고 있어야 한다”는 게 그의 설명입니다. 직접 개발하고 위험을 평가할 역량이 있어야 국제 논의에서도 힘이 실린다는 뜻이죠.
기조발제를 맡은 이원태 국가AI전략위 보안특별위원장은 한국의 대응 방향으로 ‘속도 책임’을 제시했어요. 프런티어 모델 개발과 산업 활용은 늦추지 않되, 위험이 커지는 속도보다 검증과 사고 보고, 복원력 같은 책임의 속도를 더 빠르게 높이자는 구상입니다. 그는 “대한민국 AI의 시계는 절대 멈출 수 없다”며 공통 사고 분류와 신속한 통지, 독립 재검증 체계를 갖춰야 한다고 강조했어요.
논쟁의 출발점을 짚어볼 필요가 있어요. 앤트로픽과 오픈AI 같은 곳은 프런티어 AI의 능력이 통제 수준보다 빠르게 올라갈 수 있다며, 통제가 따라잡을 시간을 벌기 위해 개발 속도를 조절하자고 주장해왔습니다. 반대로 미국과 중국 정부는 기술 경쟁을 이어가야 한다는 입장이에요. 마라톤에 비유하면 앞선 주자가 “다 같이 속도를 줄이자”고 제안한 셈인데, 뒤처진 쪽이 여기서 멈추면 격차는 줄어드는 게 아니라 오히려 벌어질 수 있다는 우려가 나오는 대목입니다.
이날 세미나에서는 업계와 학계의 목소리도 잇따랐어요. 김성훈 업스테이지 대표는 “같이 멈추면 우리는 이 바닥을 기게 될 것”이라며 “안전하게 그러나 굉장히 빠르게 자기개선형 초지능으로 나가야 한다”고 말했습니다. 김동환 포티투마루 대표는 미국이 자율규제를 택했고 중국이 호응할 가능성이 낮다며, 유엔과 경제협력개발기구(OECD) 같은 다자 협력 체계에서 한국이 의제를 주도해야 한다고 제안했어요.
평가 체계를 넓혀야 한다는 지적도 나왔습니다. 최대선 숭실대 AI안전성연구센터장은 자체 실험에서 같은 모델에 에이전트를 결합했을 때 사이버 보안 성능이 크게 높아진 사례를 소개하며, 개별 모델이 아니라 에이전트가 결합된 전체 시스템까지 평가 범위를 넓혀야 한다고 봤어요. 김명주 AI안전연구소장은 다음 주 열리는 9개국 AI안전연구소장 협의회에서 첨단 AI 표준과 검증 체계, 사고 대응 방안을 논의할 예정이라고 밝혔습니다.
검증 인프라를 갖추는 문제도 함께 짚였어요. 이한울 에임인텔리전스 부사장은 모델 개발 역량과 위험을 판단할 역량을 동시에 확보해야 한다고 봤습니다. 국내에서 개발한 모델도 독립적인 평가를 거쳐야 하고, 검증된 보안 기술이 기업 현장에 실제로 적용될 수 있도록 인력과 운영 여건을 마련하는 일이 남아 있다는 지적이에요. 안전 기준을 어디까지 국가가 쥐고, 어디부터 민간에 맡길지를 정하는 것도 앞으로의 과제로 꼽혔습니다.
이번 변화는 AI 안전 논의의 축이 ‘규제하느냐 마느냐’에서 ‘규칙을 누가 쓰느냐’로 옮겨가는 신호로 읽혀요. 글로벌 빅테크가 자체 안전 기준을 사실상의 국제 표준으로 밀어 넣으면, 기술 경쟁력이 곧 규칙을 만드는 힘으로 이어지거든요. 그래서 한국이 자체 모델과 평가 역량을 동시에 쥐려는 건 단순한 기술 자존심 문제가 아니라, 앞으로의 표준 논의에서 발언권을 확보하려는 계산으로 보입니다. 다음 주 9개국 협의회에서 우리 연구소가 어떤 검증 기준을 들고 나오는지가 가까운 확인 지점이 되겠네요.
원문: 전자신문 — 국가AI전략위 “AI 속도조절 없다”…역량 키우며 검증·통제 강화 제안
보조 출처: ZDNet Korea — “AI 속도조절 안돼…추격 멈추지 말고 안전 역량 키워야”
작성: sw4u 9시뉴스 안나영 / 2026-10-01 21:00