영국 정부가 올가을 인공지능(AI) 규제에 관한 세계 첫 정상회의를 개최할 계획이라고 밝힌 가운데, 영국의 유명 비영리재단인 인터넷감시재단(IWF)은 AI 생성 아동 성 학대 이미지 문제 해결에 대해서도 논의해달라고 촉구했다.
전 세계에서 온라인 아동학대 콘텐츠를 적극적으로 검색할 수 있는 허가를 받은 단체 3곳 중 하나인 IWF는 온라인 내 관련 콘텐츠를 적발해 제거한다.
그런데 현재 AI로 생성한 학대 이미지가 증가하고 있다는 지적이다.
IWF는 최근 들어 AI 생성 이미지에 관한 데이터 기록을 시작했다. 그 결과 전 세계 소아성애자들이 여러 아동 성 학대 이미지를 공유하고 있으며, 때로는 실제 사진처럼 사실적인 이미지도 있음이 밝혀졌다.
수지 하그리브스 IWF 대표는 “현재 AI로 생성한 아동 성 학대 이미지가 엄청나게 많은 건 아니”라면서도 “분명한 점은 범죄자들이 향후 전례 없이 많은 양의 관련 이미지를 만들어 낼 가능성이 있다는 것”이라고 지적했다.
IWF 측은 BBC에 5세 정도 된 여아들이 나체로 성적인 자세를 취하는 이미지 등 모자이크 처리된 아동 성 학대 이미지 일부를 보여줬다.
지난 5월 24일부터 AI 생성 이미지를 기록하기 시작한 IWF는 6월 30일 자 기준으로 사이트 29개를 조사해 AI 생성 이미지 등 여러 사진을 공유하는 7곳을 적발했다.
IWF는 정확한 이미지 수를 밝히진 않았으나, 이러한 불법 사이트에선 실제로 촬영된 아동 성 학대물과 더불어 AI 생성 이미지 수십 장도 뒤섞여 공유되고 있었다고 전했다.
이러한 이미지 중 일부는 IWF의 ‘카테고리 A’로 분류됐다. 삽입 등 가장 적나라한 학대 장면을 담은 경우다.
전 세계 대부분 국가가 아동 성 학대물 촬영 등을 법적으로 금지하고 있다.
하그리브스 대표는 “현재 발전하는 AI 기술보다 (법 제도가) 앞설 기회가 눈앞에 찾아왔다”면서 “입법 기관은 (AI 생성 아동 성 학대물에 대해) 고려해야 한다. 이 새로운 위협에 맞서 적합하게 조처해야 한다는 것”이라고 주장했다.
한편 지난달 리시 수낙 영국 총리는 세계 최초로 AI 규제에 관한 정상회담을 개최할 계획이라고 밝힌 바 있다.
영국 정부는 여러 전문가와 국회의원을 불러 모아 AI의 위험성에 대해 논의하고, 어떻게 국제 사회가 힘을 합쳐 이러한 위험성을 낮출 수 있는지 살피겠다고 약속했다.
한편 IWF 소속 분석가들은 ‘스스로 생성한’ 성 학대물 또한 최근 증가하고 있다고 지적했다. 소아성애자의 강요로 아동이 자기 모습을 담은 영상이나 사진을 촬영해 전송한 학대물을 뜻한다.
아울러 IWF는 현재 AI 생성 이미지가 전체 온라인 아동 성 학대물에서 차지하는 비율은 아직 낮지만, 증가하는 추세라며 우려했다.
지난해 기준 IWF는 아동 성 학대물을 담은 웹페이지 25만여 개를 기록하고 폐쇄하고자 노력한 바 있다.
또한 IWF 분석가들은 소아성애자들의 온라인상 대화도 녹음했다. 이들은 실제 사진과 유사한 이미지를 만드는 방법을 공유하고 있었다. AI 이미지 생성 프로그램을 속여 아동 성학대물을 그리게 하는 방법, 오픈소스 AI 모델에서 안전 장치를 제거하는 방법 등 각종 팁이 공유되고 있었다.
대부분의 AI 이미지 생성 프로그램엔 금지어 등이 지정돼 있다. 사용자들이 이러한 특정 단어나 문구를 넣어 콘텐츠를 생성하지 못하게 막는 안전 장치다. 그러나 오픈소스 프로그램의 경우 별도의 비용 없이 다운받아 사용자가 원하는 대로 수정할 수 있다.
이 중에서도 가장 인기 있는 오픈소스 AI 프로그램은 ‘스테이블 퓨전’으로, 지난해 8월 독일 AI 전문가팀이 온라인에 공개한 코드이다.
한편 BBC는 ‘스테이블 퓨전’을 사용해 어린 여아들의 성적인 사진을 만든다는 제작자와 접촉할 수 있었다.
일본 출신의 이 남성은 자신의 이 “귀여운” 이미지들은 정당하다고 주장했다. “역사상 최초로 실제 아이들을 착취하지 않고 만들어낸 이미지”라는 것이다.
그러나 이러한 AI 생성 이미지는 실제로 심각한 해를 끼칠 가능성이 있다는 게 전문가들의 지적이다.
‘미 연방보안관’ 소속 성범죄자 및 소아성애자 전문가인 마이클 부르크 박사는 “AI 생성 이미지가 소아성애를 부추기고, 강화하며, 이에 따라 전 세계 어린이들에게 더 큰 위해를 가할 것이라고 확신한다”고 설명했다.
한편 ‘스테이블 디퓨전’의 주요 개발자 중 하나인 비요른 오머 교수는 해당 프로그램을 오픈 소스로 공개한 결정을 옹호했다. 오머 교수는 BBC와의 인터뷰에서 해당 프로그램 덕에 여러 사업체가 덕을 봤으며, 이후 파생 연구 수백 개가 이어졌다고 주장했다.
그러면서 이는 오픈 소스화 결정이 옳았음을 보여주는 증거이며, AI 생성 이미지 관련 연구나 개발 중단이 옳은 해결책은 아니라고 설명했다.
“AI 발전이 전 세계에서 일어나고 있는 글로벌 현상임을 직시해야 한다”는 오머 교수는 “현재 여기서 기술 개발을 멈춘다고 해서 비민주적인 국가 등 다른 나라에서 진행 중인 연구가 중단되는 것은 아니다. 다만 빠르게 발전하고 있는 AI 기술 관련 (위험) 완화 조치를 찾아야 할 때”라고 지적했다.
한편 ‘스테이블 디퓨전’의 출시 전 개발 자금을 지원한 기업이자 더 발전된 버전을 구축하는 기업 중 가장 눈에 띄는 ‘스테빌리티 AI’ 사는 BBC와의 인터뷰는 거절했으나, 과거 불법적이거나 부도덕한 목적으로의 AI 모델 사용을 금지한다고 밝힌 바 있다.
댓글0