북한 해커들이 오픈AI·앤트로픽 기업들의 인공지능(AI) 모델을 활용해 해킹 수법을 고도화하고 있다. 최근 생성형 AI로 만든 딥페이크 이미지로 사이버 공격을 나선 사례도 국내에서 처음으로 확인됐다.
15일 보안 전문기업 지니언스 보고서에 따르면, 북한 정찰총국 산하 해커조직으로 알려진 ‘김수키(Kimsuky)’는 챗GPT로 만든 가짜 군공무원증을 사용해 군 관계 기관을 대상으로 스피어 피싱(특정 표적을 겨냥한 사이버 공격)을 시도했다.
김수키는 군무원증 시안 검토를 요청하는 메일에 악성 파일을 심어 보냈다. 이메일에 첨부한 '공무원증 초안' 파일은 AI로 합성한 딥페이크 이미지다. 군무원증은 법적으로 엄격히 보호되는 공적 신분증이다. 실제와 동일하거나 유사한 형태로 제작해 사본을 만드는 것은 명백한 위법 행위다.
이 때문에 신분증 사본 제작을 요청하면 챗GPT는 "불가능하다"라는 답변을 내놓는다. 북한 해커들은 AI 모델이 반응할 수 있도록 역할을 설정하는 방식으로 딥페이크 이미지를 획득한 것으로 추정된다. "합법적인 목적의 시안 작성이나 샘플 용도의 디자인 제작”을 요청하는 방식으로 제작했을 것이라는 분석이다.
북한이 AI를 범죄에 악용한 건 이번이 처음이 아니다. 앤트로픽이 지난달 공개한 위협 인텔리전스 보고서에 따르면 북한 공작원들은 클로드를 사용해 미국의 포춘 500(Fortune 500) 기술 기업에서 가짜 원격 고용 직위를 확보한 것으로 전해졌다.
이들은 AI를 활용해 그럴듯한 전문 경력을 가진 가짜 신원을 만들었다. 또 클로드로 취업 지원 과정에서 기술 평가를 수행하는가 하면, 채용 후에는 실제 기술 업무를 AI로 수행했다.
이 계획이 국제 제재를 무시하고 북한 정권의 외화벌이 수단으로 설계됐다고 앤트로픽은 밝혔다. 앤트로픽은 해당 활동을 발견하자마자 관련 계정을 즉시 차단했다. 이후 이 사기의 알려진 징후를 수집, 저장 및 상관관계 분석하는 도구를 개선했다.
지니언스 측은 "이처럼 국가 배후 위협 행위자들이 AI 서비스를 악용해 정교한 공격 활동을 수행하는 사례가 지속적으로 보고되고 있다"라며 "특히 북한 연계 공작원들이 AI를 활용해 가짜 신원과 이력서를 생성한 이후, 기술평가 및 실제 업무과정에서 AI를 이용하는 방식으로 사이버 침투 작전을 수행하고 있다"라고 밝혔다.
이어 "AI 서비스는 업무 생산성을 높이는 강력한 도구이지만, 동시에 국가 안보차원의 사이버 위협에 악용될 수 있는 잠재적 위험 요소이기도 하다"라며 "따라서, 조직내 채용·업무·운영 전반에서 AI 악용 가능성을 고려한 사전 대비와 지속적인 보안 모니터링이 필요하다"라고 제언했다.
AI포스트(AIPOST) 유형동 수석기자 aipostkorea@naver.com