'킬 스위치' AI 규제 법안 발의되자…기업들 "제정되면 실리콘밸리 떠나겠다" 반발

미국 캘리포니아주 의회에서 인공지능(AI) 안전과 관련, 새 규제 법안이 발의됐다. 법안에는 신기술로 인한 잠재적인 위험을 완화하기 위해 설계된 킬 스위치(기기를 비활성화하는 장치) 등이 담겼다. 이에 일부 기업들은 실리콘밸리를 완전히 떠나겠다며 크게 반발하고 있는 상황이다. 

7일(현지시간) 파이낸셜타임스, 뉴욕포스트 등 외신보도에 따르면 스캇 위너(Scott Wiener) 캘리포니아주 상원의원은 AI 기업들이 기술의 위험을 사전에 방지하기 위해 안전장치를 마련해야 한다는 것을 골자로 한 AI 규제 법안을 발의했다. 이른바 '첨단 AI 시스템을 위한 안전과 보안 혁신법'이다. 

이 법안은 지난달 주 상원을 통과했다. 오는 8월 하원 표결을 앞두고 있다. 저명한 AI 연구자들이 지지하고 있는 해당 법안은 AI 관련 기업이 새로 신설되는 주정부 기관에 '위험한 능력'을 가진 모델을 개발하지 않겠다고 약속하도록 되어 있다. 

개발자들은 안전 테스트 결과를 주정부에 보고해야 하고, 킬 스위치도 도입해야 한다. 이를 위반하는 기업은 처벌받을 수 있다. 이를 놓고 실리콘밸리 기업들은 새로운 법안이 제정되면 캘리포니아를 떠나겠다고 반발하고 있다. 실리콘밸리 내 주요 벤처캐피털 관계자는 "캘리포니아를 완전히 떠나는 것에 대해 고민하는 기술 스타트업 창업자들이 있다"라고 말했다. 

이어 그는 "그러한 문의에 대해 남아서 싸우라고 조언하고 있다"라며 "그러나 이는 오픈소스와 스타트업 생태계에 냉각을 가져올 것이고 일부 창업자들은 회사를 떠나기로 선택할 것"이라고 덧붙였다. 실현되지 않을 수도 있는 가상의 상황에 대한 두려움 때문에 개발자들의 혁신을 억제한다는 게 일부 기업들의 입장이다. 

구글과 바이두에서 AI 프로젝트를 이끌고 아마존 이사회에도 참여하는 AI 분야 세계적 석학인 앤드류 응(Andrew Ng) 스탠퍼드대 교수는 "혁신을 억압하는 규제를 만든다면 이보다 좋은 방법은 없을 것"이라고 지적했다.

메타의 생성 AI 수석 제품관리자인 아룬 라오(Arun Rao)는 엑스(X)를 통해 법안은 실행 불가능하다며 "캘리포니아에서 오픈소스를 종료할 것"이라고 밝혔다. 이어 그는 "AI 산업을 파괴하고 기업을 몰아냄으로, 초래하는 경제적 손실이 클 것"이라고 강조했다. 

이와 관련, 오픈AI의 초기 투자자인 일론 머스크 테슬라 최고경영자(CEO)는 AI를 인류에 대한 '실존적 위험'이라고 말한 바 있다. 더불어 전현직 오픈AI 직원들은 이번 주 공개서한을 통해 "첨단 AI 기업이 충분한 정부의 감독을 받지 못하고 있으며, 기술이 인류에 심각한 위험을 초래할 수 있다"고 경고한 바 있다.