인도네시아 통신·디지털부가 일론 머스크의 인공지능 기업 xAI가 운영하는 그록 서비스에 대한 접속 차단 조치를 발표했다. /사진=뉴시스

인도네시아 정부가 일론 머스크의 인공지능(AI) 기업 xAI가 운영하는 챗봇 그록(Grok)의 접속을 전격 차단했다. 이는 국가 차원에서 내린 첫 공식 제재로, 정부는 AI를 악용한 음란물 생성 문제를 원인으로 지목했다.

10일(현지시각) 가디언 등 외신에 따르면 인도네시아 통신·디지털부는 이날 성명을 통해 그록 서비스에 대한 접속 차단 조치를 발표했다.


정부는 "동의 없는 성적 딥페이크 등 AI를 활용한 음란 콘텐츠 생성은 인권과 인간의 존엄, 디지털 공간 내 시민 안전을 심각하게 위협하는 행위"라고 차단 배경을 설명했다. 인도네시아 정부는 이번 사태와 관련해 소셜미디어 엑스(X·옛 트위터) 관계자들을 소환해 구체적인 재발 방지 대책을 논의할 방침이다.

세계 최대 무슬림 인구 국가인 인도네시아는 온라인상 외설물 유통을 법적으로 엄격히 금지하고 있다. 최근 그록을 이용해 여성의 신체를 노출하거나 미성년자를 성적으로 묘사하는 이미지가 무분별하게 생성·유포되자 즉각적인 칼을 빼 든 것으로 풀이된다.

그록을 향한 규제 움직임은 전 세계적으로 확산하는 추세다. 영국 규제 당국은 벌금 부과를 포함한 강력한 제재를 검토 중이다. 앤서니 앨버니지 호주 총리 역시 "동의 없는 성적 착취물 생성은 혐오스러운 일"이라며 비판 수위를 높였다. 호주 온라인 안전 당국(eSafety Commissioner)도 그록을 활용한 착취적 이미지 생성 신고가 늘고 있다며 법적 대응을 예고했다.


논란이 커지자 xAI 측은 서둘러 수습에 나섰다. 회사 측은 보호 장치 미비로 성적 이미지가 생성되는 문제를 인정하고, 최근 무료 이용자의 이미지 생성 및 편집 기능을 중단하고 유료(프리미엄) 이용자에게만 제한적으로 기능을 제공하기로 했다.

일론 머스크 테슬라 최고경영자(CEO) 또한 엑스를 통해 "그록을 이용해 불법 콘텐츠를 제작할 경우 불법 콘텐츠를 직접 게시한 것과 동일한 법적 책임을 지게 될 것"이라고 경고했다.