프롬프트인젝션

개인정보위, 에이전틱 AI 기준 연말에 공개해요

작성자:

프롬프트 인젝션·과도한 권한이 위험 요인 개인정보보호위원회가 사람 대신 스스로 판단해 일을 처리하는 에이전틱 AI의 개인정보 기준을 연말까지 내놓습니다. 프롬프트 인젝션과 과도한 권한 부여를 대표 위험 요인으로 꼽고, 자율 처리 범위와 사람 승인 범위를 나누는 방향을 담을 예정이에요. 개인정보위는 23일 서울 은행회관에서 ‘인공지능(AI) 프라이버시 민·관 정책협의회 2기 제2차 전체회의’를 열고 이 같은 논의를 진행했다고 밝혔습니다. 에이전틱 … 더 읽기

그록, 암호화된 지시에 속아 채팅 털렸대요

작성자:

이번 주 초 마이크로소프트 365 코파일럿이 사용자 받은편지함의 비밀번호를 빼돌리는 공격에 노출됐다는 보고가 나온 지 사흘 만에, 이번에는 일론 머스크의 그록(Grok)이 같은 계열의 공격에 뚫렸다. 두 사고는 모두 방어 장치가 텍스트만 읽을 줄 알지, 그 텍스트가 풀어낼 실행 결과는 들여다보지 못한다는 한계에서 비롯됐다. 암호문 한 줄로 안전 장치 우회 미국 IT 매체 아스테크니카(Ars Technica)는 20일(현지시간) … 더 읽기