북한 정부 지원을 받은 것으로 추정되는 해킹 조직이 챗GPT로 한국 군인 신분증을 딥페이크로 제작해 사이버 공격을 시도한 정황이 포착됐다. 사진은 김영운 국가수사본부 사이버테러수사대장이 지난 4월15일 서울 서대문구 국가수사본부에서 북한의 '방첩사 계엄 문건' 사칭 전자우편 발송 관련 브리핑을 하는 모습. /사진=뉴스1

북한 정부 지원을 받은 것으로 추정되는 해킹 조직이 챗GPT로 한국 군인 신분증을 딥페이크로 제작해 사이버 공격을 시도했다.

지난 14일(이하 현지시각) 블룸버그통신에 따르면 한국 사이버보안 기업 지니언스 보고서에는 '김수키'로 불리는 해킹 조직이 북한 정권 글로벌 정보 수집 임무를 수행했다는 내용이 담겼다.


김수키 해커들은 챗GPT를 이용해 한국군 신분증 초안을 제작해 피싱 이메일을 진짜처럼 보이게 꾸몄다. 해커들은 이메일을 통해 수신자 기기에서 데이터를 탈취할 수 있는 악성코드를 포함한 링크를 삽입했다.

이번 사이버 공격 피싱 대상은 한국 언론인, 연구자, 북한 인권운동가들이었으며 발신 이메일 주소는 실제 군 기관을 연상시키는 '.mil.kr'로 위장됐다. 지니언스 연구진은 챗GPT가 정부 발급 신분증 제작 요청을 처음에는 거부했지만 프롬프트(명령어)를 조작하자 이를 우회할 수 있었다고 밝혔다. 지니언스는 이번 사례가 북한 해커들이 AI를 정보 수집 활동에 적극 활용하고 있다는 최신 사례라고 밝혔다.

지난 8월 AI 기업 앤트로픽은 북한 해커들이 자사 AI 도구 '클로드'를 이용해 미국 포춘 500대 기술 기업에 원격 근무자로 위장 취업한 사례를 밝혀냈다. 해커들은 클로드를 이용해 정교한 가짜 신분을 구축하고 코딩 테스트를 통과하며 실제 업무까지 수행했다.


챗GPT 개발사인 오픈AI도 지난 2월 북한과 연계된 것으로 의심되는 계정들이 챗GPT를 이용해 허위 이력서, 자기소개서, SNS 게시물을 제작해 사람들을 모집하려 했다는 이유로 해당 계정들을 차단했다.