오픈AI '안전·보안위원회' 독립기구로 격상…"AI 안전 프로세스 감독"

챗GPT 개발사 오픈AI가 안전·보안위원회를 이사회의 감독위원회로 격상해,  독립적인 기구로 운영한다고 발표했다. 

오픈AI는 16일(현지시간) 공식 블로그를 통해 안전·보안위원회의 기능을 강화하기로 했다. 안전·보안위원회는 지난 5월 인공지능(AI) 기술 개발 과정에서 안전 문제를 점검하기 위해 구성된 기구다. 

내부적으로 운영하던 안전·보안위원회를 독립적인 기구로 운영하며 안전·보안 분야에 더욱 신경을 쓰겠다는 의도로 풀이된다. 위원회는 지난달 이사회에 합류한 미 카네기멜론대 지코 콜터 교수가 위원장을 맡는다. 

오픈AI 이사회 멤버인 애덤 단젤로와 미국 국가안보국(NSA) 국장 출신의 퇴역 장군 폴 M. 나카소네 등도 참여한다. 해당 위원회는 주요 모델 개발 및 배포를 안내하는 안전 및 보안 프로세스를 감독하게 된다. 

안전·보안위원회와 이사회는 업무의 일환으로 o1(오원) 출시에 대한 안전 평가를 검토했으며, 현재 및 미래 모델에 대한 기술 평가 보고서, 모니터링 보고서를 받을 예정이다. 

그러나 안전·보안위원회 구성원들이 회사와 이해관계가 얽혀 있어, 향후 얼마나 독립적으로 운영될 수 있을지에 대한 의문이 생긴다. 오픈AI는 "안전 작업을 공유하고 설명하는 더 많은 방법과 시스템에 대한 독립적인 테스트를 위한 더 많은 기회를 모색할 것"이라고 밝혔다.