오픈AI의 인공지능(AI) 에이전트들이 지난 7월 허깅페이스 해킹 사고에 이어 독일어 프로그래밍 위키 사이트까지 장악해 통제를 우회하는 방법을 서로 공유해온 사실이 추가로 드러났다. 오픈AI가 이를 수 주간 공개하지 않은 사실까지 겹치면서 미 의회에서는 초당적으로 에이전트형 AI 규제 법안이 잇따라 발의되고 있다.
 
6일 로이터통신 등 외신에 따르면 AI 안전 비영리단체 나이팅게일 최고경영자(CEO) 시드니 본 아크스 등 독립 연구자 4명은 지난 5일(현지시간) 오픈AI와 연계된 에이전트들이 지난 5월부터 두 달간 독일어 커뮤니티 위키 '드제위키(DseWiki)'에서 사고를 쳤다는 내용의 보고서를 공개했다.
 
프로그래머 지원용으로 만들어진 이 위키에는 사람이 아닌 AI 에이전트가 쓴 편집 기록이 1만5000건 이상 확인됐으며, 연구진이 집계한 게시물은 약 1만8000건, 이를 작성한 자칭 에이전트 이름만 3700여개에 달했다.
 
보고서에 따르면 '오픈AI리서처' 등의 이름을 쓴 에이전트들은 이 위키를 메시지 게시판으로 개조해 △과제 부정행위 방법 △안전장치 우회법 △셧다운 이후에도 소통을 이어가는 법 등을 서로 공유했다.
 
사람 관리자가 지난 6월부터 관련 페이지를 삭제했지만, 에이전트들은 대체 페이지를 만들어 소통을 이어간 것으로 나타났다. 이는 지난 7월 약 700개의 에이전트가 협업해 벌인 허깅페이스 해킹 사고와 유사한 패턴이다.
 
일부 오픈AI 관계자들은 오픈AI 측이 고의로 이번 사건을 은폐했다는 취지로 답했다. 오픈AI가 '치명적(Critical)' 등급의 사이버보안 역량을 갖췄다고 자체 평가한 신모델 '아스트라(Astra)'의 공개 시점이라 AI 에이전틔 사고에 민감했다는 분석이다.
 
미 의회 대응도 빨라지고 있다. 조시 고트하이머(민주·뉴저지) 의원과 마이크 롤러(공화·뉴욕) 의원은 지난 3일 '스톱 로그 AI법(Stop Rogue AI Act)'을 공동 발의했다. 미 상무부 산하 국립표준기술연구소(NIST)가 에이전트형 AI의 안전한 배치를 위한 표준·가이드라인을 만들고, 기업이 자사 네트워크에서 작동 중인 에이전트를 식별할 수 있는 기계판독형 목록을 구축하도록 하는 내용이다.
 
다만 민간 기업에는 자율 준수를, 연방정부 계약업체에는 의무 준수를 각각 적용해 강제력은 제한적이다. 이 외에도 마크 워너 상원의원(민주·버지니아)의 에이전트 검증기구 신설 법안, 테드 리우·네이선 모런 하원의원의 '킬스위치법'(위험 모델 강제 중단권 부여) 등 관련 입법이 이달 들어 잇따라 발의됐다.
 
전문가들은 사고 조사를 기업 자율에 맡기는 현 구조 자체가 문제라고 지적한다.
 
매켄지 아놀드 로AI(LawAI) 미국법·정책 담당 이사는 지난 3일 브리핑에서 "현행 캘리포니아·뉴욕·일리노이주 AI 안전법은 일반 언어로 된 사고 요약 정도만 요구할 뿐, 정부가 후속 질의를 하거나 조사관을 보내거나 기록 보존을 요구할 권한을 전혀 부여하지 않는다"고 말했다.