클로드 개발사 앤트로픽이 프런티어 인공지능(AI) 모델 개발을 위한 새로운 투명성 프레임워크를 제안했다.
앤트로픽은 8일(현지시간) 공식 뉴스룸을 통해 AI 개발의 투명성을 강화하기 위한 새로운 지침을 발표했다. 앤트로픽은 "AI는 빠르게 발전하고 있다. 업계, 정부, 학계 등이 합의된 안전 기준과 포괄적인 평가 방법을 개발하기 위해 노력하고 있지만, 이 과정이 수개월에서 수년이 걸릴 수 있다"라고 밝혔다.
그러면서 앤트로픽은 강력한 AI를 안전하고 책임감 있게 개발될 수 있는 임시 조치가 필요하다고 설명했다. 앤트로픽의 프레임워크는 최대 규모 모델이나 최신 AI 모델을 개발하는 기업에만 적용된다.
앤트로픽은 "규제가 AI 혁신을 저해할 수 있다. 생명을 구하는 신약 개발, 공공 이익 실현, 국가 안보 등 AI의 이점을 실현하는 효과를 약화시킬 수 있다"라며 "특히 기술 변화의 속도로 인해 평가 방식이 몇 달 만에 시대에 뒤떨어진다는 점을 고려할 때, 엄격한 정부의 기준은 오히려 역효과를 낳을 수 있다"라고 우려했다.
앤트로픽이 제시한 프레임워크에는 소규모 개발업체에 대한 적절한 면제 조항이 포함돼 있다. 연간 매출 기준액 1억 달러, 연간 R&D 또는 자본 지출 10억 달러 이상 기업들이 적용 대상이라고 앤트로픽은 말했다.
더불어 앤트로픽은 AI 개발자들이 화학적, 생물학적 위험을 평가하고 완화하는 방법을 제시하는 보안 개발 프레임워크를 구축해야 한다고 강조했다. 이같은 투명성 접근 방식이 AI 모델을 훈련하는 방식에 대한 기준을 설정하는 데 도움이 될 수 있다는 설명이다.
앤트로픽은 "안전하고 책임감 있는 개발 없이는 단 한 번의 치명적인 실패만으로도 수십 년 동안 발전이 중단될 수 있다"라며 "우리가 제안하는 투명성 프레임워크는 실질적인 첫걸음이다"라고 밝혔다.
AI포스트(AIPOST) 유진 기자 aipostkorea@naver.com