다음달 제22대 국회의원 총선거를 앞두고 정부와 기업은 딥페이크 차단 조치에 나섰다. 사진은 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있는 모습. /사진=뉴스1
다음달 제22대 국회의원 총선거를 앞두고 정부와 기업은 딥페이크 차단 조치에 나섰다. 사진은 경기도선거관리위원회 사이버공정선거지원단실에서 관계자들이 사이버선거범죄 근절 퍼포먼스를 실시하고 있는 모습. /사진=뉴스1


━
▶글 쓰는 순서
①총선 파고 든 '딥페이크'… AI 가짜뉴스 기승
②딥페이크 몸살에… 공동차단 나선 해외 빅테크
③총선 허위 정보… 효과적으로 대응하려면

━
오는 4월 제22대 국회의원 총선거를 앞두고 국내 양대 포털 네이버와 카카오를 비롯해 국내외 주요 정보기술(IT) 기업들이 총선에 영향을 줄 수 있는 딥페이크 차단 조치에 나섰다. 딥페이크 기술 부작용이 심각해지면서 방송통신위원회는 주요 플랫폼들에게 선제적인 자율규제를 강구할 것을 주문했다. 기업들은 유해 콘텐츠 대응책 재정비 및 공동 대응에 나서겠다고 밝혔다.
━

딥페이크 차단 '총력'

━
네이버와 카카오, 메타 등 국내외 기업들이 딥페이크 대응에 나섰다. /사진=네이버
네이버와 카카오, 메타 등 국내외 기업들이 딥페이크 대응에 나섰다. /사진=네이버

딥페이크 콘텐츠가 정치적으로 악용되는 사례가 늘면서 국내외 플랫폼·IT 기업들은 대책을 내놓고 있다.

네이버는 딥페이크에 대응하기 위해 이용자가 검색창에 유해 딥페이크 제작 관련 검색어를 입력하면 안내 문구를 표시할 계획이다. 이달부터 블로그, 카페 등에서 딥페이크 콘텐츠를 올리면 제재를 받을 수 있다는 주의 문구도 노출하고 있다. 네이버의 대화형 인공지능(AI) 서비스 클로바X도 사용자가 음란성 콘텐츠나 얼굴 합성을 요청할 경우 답변을 제공하지 않도록 했다.


네이버는 다음달 초 모바일 애플리케이션(앱)의 뉴스 탭 내에 22대 국회의원 선거에 대비한 총선 페이지를 마련한다. 총선 페이지 오픈과 함께 가짜뉴스·딥페이크 방지책도 공개할 방침이다. 앞서 네이버는 딥페이크 관련 24시간 모니터링 전담 부서를 운영하고 선거 관련 허위 정보 신고 센터를 신설하는 등 대응책을 밝혔다.

카카오는 카카오브레인의 이미지 생성 AI 모델 '칼로'에 보이지 않는 워터마크 기술 도입을 검토중이다. 비가시성 워터마크란 일반 이용자에게는 보이지 않지만, 기술적으로 AI를 활용해 만들어진 이미지임을 알 수 있게 하는 일종의 표식을 남기는 기술을 말한다.

IT업계 차원에서의 대응 방안도 추진되고 있다. 네이버, 카카오, 구글코리아, 메타, SK커뮤니케이션즈, 틱톡 등은 국회의원 및 재보궐 선거의 공정성과 신뢰성을 제고하기 위한 자율협의체를 구성한다. 공동 대응을 통해 다가오는 총선에서 딥페이크와 가짜 뉴스가 선거의 공정성을 해치는 일을 막겠다는 취지다.


한국인터넷기업협회에 따르면 이들 기업은 지난 2월16일 뮌헨안보회의(MSC)에서 발표된 기술 협정과 같은 협약문 발표에 합의했다. 협약은 선거에 영향을 미치기 위해 악의적으로 제작·편집한 딥페이크 콘텐츠를 대상으로 한다. 기업들은 ▲악의적 선거 딥페이크 관련 위험 완화를 위한 노력 ▲악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 ▲외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 빠른 시일 내에 발표할 예정이다.
━

정부·AI 툴·포털·이용자 네 박자 맞아야

━
/사진=이미지투데이
/사진=이미지투데이

중앙선거관리위원회 딥페이크 전단팀은 72명이다. 이들이 딥페이크 게시물 모니터링, 감별, 분석 및 삭제 등을 맡고 있지만 3단계에 걸친 선별 작업은 많은 시간이 소요된다. 실효성에 우려가 제기되는 배경이다.

정부 차원에서도 대책 마련에 나서고 있다. 방송통신위원회는 지난 2월23일 국내외 플랫폼 사업자들과 딥페이크 허위 정보 대응 관련 자율규제 강화를 위한 회의를 열었다. 네이버, 카카오, 구글, 메타 등 플랫폼 기업 관계자들이 참석했다. AI 생성물 표시, 탐지 모니터링, 삭제·차단 조치 등과 관련된 자율규제 현황과 강화 방안 등에 관련된 의견을 나눴다.

딥페이크 악용 관련 처벌 기준을 강화해야 효과적으로 문제 요소를 차단할 수 있다는 의견이 많다. 현재는 딥페이크 음란물이나 가짜뉴스를 만들거나 유포해 입건되더라도 실제 처벌 수위가 낮아 범죄 근절 효과가 없다는 것이다.

김명주 서울여대 정보보호학과 교수(바른AI연구센터장)는 "딥페이크 콘텐츠 제작 단계에서는 AI 제작물에 대한 라벨링이 중요하고 무분별한 확산을 막기 위해선 인터넷 포털 기업들의 역할이 크다"며 "AI 시대에선 유권자들도 보이스피싱을 경계하듯 콘텐츠의 출처를 확실하게 확인해볼 필요가 있다"고 했다.

딥페이크 처벌과 관련해선 "법원에서 처벌된 딥페이크 관련 사건 70여건 중 절반 이상은 집행유예가 선고됐다"면서 "초범인 경우에도 양형 기준을 무겁게 강화하는 등 처벌 수위를 높여야 효과가 있을 것이다"고 했다.