클로드 개발사 앤트로픽이 정부를 향해 효과적인 인공지능(AI) 규제 프레임워크를 개발하는 등 긴급하게 조치를 취할 것을 촉구했다.
앤트로픽은 1일(현지시간) 공식 뉴스룸을 통해 "점점 더 강력해지는 AI 시스템은 과학적 진보를 가속화하고, 새로운 의료 치료법을 개발하고, 경제를 성장시킬 잠재력을 가지고 있다"라면서 "하지만 AI는 상당한 위험이 따른다. 정부는 18개월 동안 AI 정책에 대해 긴급하게 조치를 취해야 한다"라고 밝혔다.
그러면서 앤트로픽은 AI의 위험을 사전에 예방할 수 있는 창구가 빠르게 닫히고 있다고 경고했다. 앤트로픽은 "지난해 AI 시스템은 수학, 대학원생 수준의 추론, 컴퓨터 코딩 및 기타 많은 기능에서 극적으로 발전했다"면서 "그러나 이러한 광범위한 기능의 진전은 사이버 보안, 생물학 등 분야에서 AI를 오용하거나 파괴적 응용 프로그램이 등장할 우려가 있다"라고 덧붙였다.
이어 앤트로픽은 "내년에 정책 입안자, AI 산업, 안전 옹호자, 시민 사회, 입법자들이 함께 협력해 광범위한 이해 관계자들이 동의할 수 있는 효과적인 규제 프레임워크를 개발하는 것이 중요하다"라며 "미국에서는 연방 차원에서 이를 수행하는 것이 이상적이고, 긴급한 상황으로 인해 개별 주에서 개발해야 할 수도 있다"라고 강조했다.
앤트로픽은 캘리포니아주에서 통과시킨 일명 AI 규제법 'SB1047'에 대해 전반적으로 긍정적이지만 불완전했고, 관계자들의 지지를 얻지 못했다라고 평가했다.
앤트로픽은 "연방법이 AI 재앙적 위험을 규제하는 데 이상적인 수단이 될 것이이다"라며 "전국적으로 통일되고 생물 테러나 사이버 보안과 같은 위험에 대한 연방 정부의 전문성을 활용할 수 있기 때문이다. 또한 다른 국가와의 협상에서 연방 정부의 입지를 강화할 것이다"라고 밝혔다.
AI포스트(AIPOST) 조형주 기자 aipostkorea@naver.com