엑스(옛 트위터)가 인공지능(AI)이 만든 딥페이크 성 착취물을 단속하기 위한 별도 센터를 신설하기로 했다. 사진은 엑스 로고. /사진=로이터
엑스(옛 트위터)가 인공지능(AI)이 만든 딥페이크 성 착취물을 단속하기 위한 별도 센터를 신설하기로 했다. 사진은 엑스 로고. /사진=로이터

인공지능(AI)을 활용한 딥페이크 문제가 사회문제로 떠오르면서 사회관계망서비스(SNS) 엑스(옛 트위터)가 단속에 나섰다.

30일(현지시각) 블룸버그와 로이터통신 등 외신은 엑스가 아동 성 착취물 등 불법 콘텐츠를 단속하는 '신뢰와 안전 센터'를 텍사스주에 신설한다고 보도했다. 이를 위해 콘텐츠 관리자 100명을 정규직으로 채용할 예정이다.


엑스의 비즈니스 운영 책임자인 조 베나로치는 로이터통신과의 인터뷰를 통해 "범죄자들이 우리 플랫폼(엑스)을 이용해 아동 성범죄 콘텐츠를 배포하거나 이에 관여하는 것을 막기 위해 투자를 하는 것이 중요하다"고 말했다.

이번 발표는 팝가수 테일러 스위프트의 딥페이크 음란 이미지가 엑스를 통해 유포된 직후 나왔다. 엑스는 뒤늦게 문제 계정 및 이미지들을 삭제하고 '테일러 스위프트' 검색을 막았지만 이미 해당 이미지는 페이스북·텔레그램 등 다른 SNS로 퍼진 상태였다.

블룸버그는 린다 야카리노 엑스 최고경영자(CEO)가 이달 31일 참석할 예정된 미 상원 사법위원회의 '온라인 아동 성착취물 위기'에 관한 청문회를 염두에 두고 센터 설립을 발표했다고 분석하기도 했다. 청문회에는 메타와 스냅, 틱톡, 디스코드 등 다른 주요 기술기업 CEO들도 출석할 예정이다.


한편 미 의회에서는 최근 AI로 만든 딥페이크에 대한 우려가 커지면서 규제 필요성이 대두되고 있다. 엑스의 소유주인 일론 머스크 테슬라 CEO는 2022년 10월 트위터 인수 당시 '언론의 자유' 명목으로 유해 콘텐츠를 단속하는 직원들을 대량 해고한 바 있다.