"자녀 위험 감지되면 부모에 알림"…오픈AI, 챗GPT에 10대 대상 '자녀 보호' 기능 출시

챗GPT 개발사 오픈AI는 10대 청소년 이용자들을 위한 '자녀 보호' 기능을 출시했다고 29일(현지시간) 밝혔다. 

오픈AI는 "이날부터 모든 챗GPT 사용자에게 제공되는 자녀 보호 기능을 통해 부모들은 자신의 계정을 자녀의 계정과 연결하고, 안전하고 연령에 맞는 환경을 위한 설정을 맞춤 설정할 수 있다"라고 발표했다. 

이는 미 캘리포니아주 한 10대 부모가 아들이 극단적 선택을 위한 방법을 탐색하는 데 챗GPT가 적극 도왔다며 오픈AI를 상대로 소송을 제기한 지 한 달만이다. 최근 연방거래위원회(FTC)가 오픈AI를 포함한 여러 기술 기업을 대상으로 AI 챗봇이 청소년들에게 미치는 악영향에 대해 조사 중이다. 

오픈AI에 적용되는 자녀 보호 기능은 부모가 자녀의 챗GPT 사용 방식을 제한할 수 있다는 게 핵심이다. 자녀 보호 기능을 설정하려면 부모 또는 보호자가 자녀에게 계정 연결 초대장을 보내야 한다. 이에 자녀가 수락하면 부모는 자신의 계정에서 자녀의 설정을 관리할 수 있다. 

자녀도 부모를 연결하도록 초대할 수 있다. 계정 연결이 완료되면 부모는 계정 설정의 간편한 관리 페이지에서 자녀의 챗GPT 이용 환경을 맞춤 설정할 수 있다. 자녀가 계정 연결을 해제하면 부모 계정에 알림이 발송된다. 

10대 사용자의 계정에는 추가 콘텐츠 보호 기능이 자동으로 적용된다. 부모는 자녀가 다이어트, 성, 폭력적 발언과 같은 주제에 관련된 콘텐츠 노출을 줄인 챗봇을 사용하도록 설정할 수 있다. 더불어 부모는 자녀가 특정 시간대에는 서비스를 사용하지 못하도록 차단할 수 있다. 

자녀가 심리적 위기에 처했을 가능성을 감지하면 챗GPT는 부모에게 알림을 보낸다. 이 알림은 이메일이나 문자 메시지 또는 챗GPT 앱 알림을 통해 전달된다. 이미지 생성 기능을 제거하면, 자녀들은 챗GPT에서 이미지를 만들거나 편집할 수 없다. 

미국의 시민단체 커먼센스미디어의 AI 프로그램 담당 수석이사인 로비 토니는 "이러한 자녀 보호 기능은 부모가 십 대 자녀의 챗GPT 사용을 관리하는 좋은 시작점이다. 자녀 보호 기능은 십 대 자녀를 온라인에서 안전하게 보호하는 데 있어 중요한 부분 중 하나일 뿐이다"라며 "책임감 있는 AI 사용에 대한 지속적인 대화가 병행될 때 가장 효과적"이라고 했다. 

오픈AI 청소년 복지 책임자 로렌 조나스는 "오픈AI 이 문제에 대해 오랫동안 긴박감을 느껴왔다. 자녀 보호 기능과 같은 도구를 빠르게 구축하고자 노력 중이다"라고 밝혔다.