승객 안전 지키라고 AI 카메라 달아놨더니, 성별·연령·감정 수집…英 기차역 AI '논란'

승객들의 안전을 위해 영국 주요 기차역에 설치된 인공지능(AI) 카메라가 승객들의 연령, 성별 등 정보를 수집했던 것으로 밝혀져 논란이 커지고 있다. 심지어 승객들이 기분이 좋은지, 슬픈지, 배가 고픈지 등 감정까지 분석했던 것으로 드러나 충격을 주고 있다. 

영국 매체 데일리메일은 영국 철도 공기업인 '네트워크 레일(Network Rail)'은 2022년부터 런던 유스턴역, 리즈역, 글래스고역, 레딩역 등과 같은 기차역에서 AI 카메라 시스템을 설치해 시범 운영하고 있었다고 시민단체 빅브러더워치(BBW)가 입수한 문서를 인용해 19일(현지시간) 보도했다.

AI 카메라 시스템은 기차역 내부에서 발생할 수 있는 절도, 무단침입 등 범죄를 비롯 과밀, 미끄러짐 등 사고를 예방하기 위해 설치됐다. 그러나 해당 시스템은 설치 목적과 달리 승객의 성별, 연령대 등 인구통계학적 세부정보를 수집한 것으로 드러났다. 

데이터는 아마존 인식 소프트웨어로 전송된 것으로 알려졌다. 승객들의 동의를 받지 않고, 향후 광고 수입 증대를 위한 데이터로 활용하기 위해 수집한 것이 아니냐는 의혹이 나왔다. 심지어 운영 초기에는 승객의 성별과 연령뿐만 아니라 기분이 좋은지, 슬픈지, 배가 고픈지 등 감정까지 분석했던 것으로 드러났다.

이같은 사실은 시민단체 빅브러더워치(BBW)의 정보 공개 청구로 알려졌다. 빅브러더워치의 연구조사 총괄인 제이크 허트퍼트(Jake Hurfurt)는 "네트워크 레일은 영국의 통근하는 사람들을 대상으로 신뢰할 수 없는 감정 인식 기술을 사용할 권리가 없다"라며 "AI 감시는 오남용시 사생활을 위험에 빠뜨릴 것"이라고 밝혔다. 

네트워크 레일 대변인은 "우리는 보안을 매우 중요하게 생각하며 승객 및 철도 인프라를 범죄 및 기타 위협으로부터 보호하기 위해 역 전체에 걸쳐 다양한 첨단 기술을 사용하고 있다"라며 "기술을 배포할 때 경찰 및 보안 서비스와 협력해 적절한 조치를 취하고 감시 기술 사용과 관련 법률을 준수한다"라고 말했다. 

한편 AI 카메라 시스템은 범죄 예방이라는 순기능도 있었다. 자전거 절도가 빈번하게 발생하던 레딩역에 카메라를 설치한 이후 절도 건수가 72%나 급감했다고 한다.