미국 인공지능(AI) 기업 오픈AI가 자사 AI 모델의 안전성을 점검하고 배포 전 보호장치를 결정하는 내부 시스템인 '준비 프레임워크(Preparedness Framework)'를 개정했다. 회사 측은 이번 개정을 통해 "경쟁사가 적잘한 보호장치 없이 고위험 AI 모델을 출시할 경우, 자사의 안전요건을 조정할 수 있다"고 밝혔다.

16일(현지시간) 오픈AI는 공식 블로그를 통해 이같은 내용의 개정 사실을 전하며, "이러한 조정은 결코 가볍게 이뤄지지 않을 것이며, 위험 수준이 실질적으로 변했는지를 엄밀히 검토한 뒤에, 대중에 조정 사실을 공개하고 전체 위험이 유의미하게 증가하지 않는 경우에 한 해 진행될 것"이라고 설명했다. 다만, "그럼에도 자사 보호장치는 보다 높은 수준을 유지하겠다"고 덧붙였다.

이번 개정은 최근 상업용 AI 개발 기업들 간의 경쟁 심화로 출시 속도가 빨라지고, 이에 따라 안전 기준이 후퇴할 수 있다는 우려가 제기되는 상황 속에서 나왔다. 앞서 오픈AI는 신모델을 빠르게 출시하기 위해 안전 검증 과정을 간소화했다는 비판을 받아왔다. 특히 지난주에는 오픈AI 전직 직원 12명이 일론 머스크가 제기한 소송에 참고인 의견서를 제출해, "회사 구조 개편이 완료되면 안전 기준이 더욱 낮아질 수 있다"고 주장하기도 했다.

오픈AI는 또한 이번 개정을 통해 모델의 위험 등급 분류 기준을 구체화했다. 앞으로는 모델이 '심각한 피해를 야기할 수 있는 기존 경로를 증폭할 수 있는 수준(high capability)'이거나, '전례 없는 새로운 경로를 통해 심각한 피해를 야기할 수 있는 수준(critical capability)'인지에 따라 별도 기준을 적용할 계획이다.

이 기준에 따르면, '고성능(high capability)' 모델은 배포 전에 충분한 보호장치가 갖춰져야 하며, '중대 위험(critical capability)' 모델은 개발 단계부터 관련 위험이 관리 되어야 한다.

아울러 오픈AI는 제품 개발 속도를 높이기 위해 자동화된 테스트 평가 시스템의 활용을 확대하고 있다고 밝혔다. 기존의 사람 중심 검증 절차를 완전히 폐지하지는 않았지만, 더 빠른 릴리스(출시) 주기에 대응하기 위한 '자동화 평가 도구군'을 구축하고 있다는 설명이다.

그러나 일부 외신 보도는 이러한 설명과 상반된 내용을 전하고 있다. 파이낸셜타임스는 오픈AI가 차기 대형 모델의 안전성 점검을 위해 테스터들에게 일주일도 안 되는 기간을 부여했으며, 실제 출시 버전이 아닌 이전 버전을 대상으로 시험을 진행했다는 관계자 발언을 보도했다. 이에 대해 오픈AI는 안전성을 희생하고 있다는 지적은 사실이 아니며, 모든 모델에 대해 적절한 검증 절차를 거치고 있다는 입장이다.

오픈AI는 GPT‑4o, OpenAI o1, 오퍼레이터(Operator), o3‑mini, 딥 리서치(deep research), GPT‑4.5와 마찬가지로, 각 프런티어 모델 릴리스와 함께 준비 상태 결과를 계속 게시하고, 이 분야 전반에 걸쳐 보다 광범위한 안전 노력을 지원하기 위해 새로운 벤치마크를 공유할 것이라고 덧붙였다.

오픈AI의 이번 프레임워크 업데이트는 지난 2023년 이후 처음이며, AI 개발 속도가 빨리지는 가운데 윤리적 통제 및 안전성 확보 기준을 둘러싼 논의가 더욱 치열해질 것으로 보인다.