어제 여학생 20여명의 성 착취물을 만든 고교생이 경찰에 붙잡혔다는 충격적인 뉴스가 보도되었다. 이는 최근 연이어 발생하고 있는 딥페이크 기술을 악용한 사건들 중 하나로, 우리 사회에 경각심을 불러일으키고 있다. 딥페이크(deepfake)는 인공지능(AI)과 딥러닝 기술을 결합하여 사람의 얼굴과 음성을 교묘하게 합성하는 기술이다. 이 기술이 처음 등장했을 때는 다양한 분야에 혁신적으로 활용될 것이라는 기대를 모았지만 현실에서는 반대의 모습을 보여주고 있다. 이 기술이 성범죄의 도구로 전락해 심각한 사회문제로 부각되고 있는 것이다.

딥페이크 성범죄는 피해자의 인권을 짓밟고 삶을 파괴하는 중대한 범죄다. 특히 우려되는 점은 10대 미성년자가 가해자인 경우가 증가하고 있다는 사실이며, 범죄의 심각성은 그 피해 양상에서 더욱 분명히 드러난다. 구체적으로 피해자의 얼굴이 포르노 영상에 합성되거나, 실제로 하지도 않은 말을 한 것처럼 조작되는 등 피해자의 정체성과 존엄성을 훼손하고 있다. 뿐만 아니라 이렇게 조작된 영상은 온라인에 한 번 유포되면 빠르게 확산되고 완전한 삭제가 불가능하여 피해자는 지속적으로 2차, 3차 피해에 노출될 수밖에 없는 구조이다. 

딥페이크 성범죄의 확산은 과거 소라넷과 N번방 사건 등 디지털 성범죄의 연장선상에 있다고 볼 수 있다. 그 당시의 충격이 아직 가시지 않은 상태인데 사회적 경각심은 쉽게 느슨해지고, 그 틈을 타 딥페이크와 같은 새로운 형태의 성범죄가 양산되고 있다. 이제는 그 대상이 유명인과 같은 특정인에 국한되지 않고 우리 주변의 평범한 이웃들까지도 잠재적인 피해자가 될 수 있는 불안한 환경이다. 누구나 자신의 이미지가 무단으로 조작되어 악용될 수 있다는 공포에 시달리고 있는 것이다.

이같은 위험성을 인식한 세계 여려 나라들은 발 빠르게 ‘딥페이크 방지 및 처벌’을 위한 관련법을 추진하고 있는 상황이다. 지난달 미국캘리포니아 주의회는 딥페이크 아동 성 착취물을 제작하거나 배포, 소지하는 행위를 불법으로 규정한 법안을 통과시켰다. 또한, 영국도 지난 4월 관련 법안을 통과시켰다. 반면 우리나라의 ‘성폭력범죄의 처벌 등에 관한 특례법’은 일부 법의 사각지대가 존재해 실효성 있는 처벌이 어려운 실정으로 많은 피해자가 법의 보호를 받지 못하고 있다. 

이에 대한 법적 한계를 보완하기 위해 규제를 강화하려는 노력이 이루어지고 있지만, 법적 규제 강화만으로 근본적인 대책이 되기 어렵다는 지적이 있다. 왜냐하면 기술은 더 정교하고 빠르게 발전할 것이며, 이에 따라 범죄 수법 또한 더욱 교묘해질 것이 뻔하기 때문이다. 결국 기술의 발전은 범죄에 이용되기 쉬운 양날의 검이 되었다. 따라서 범죄에 대한 처벌이 엄격해야 하는 것과 함께 다각도의 대응책이 마련되어야 한다.

먼저, 기술적 방어 수단을 개발하여 위험을 관리하고 교육과 홍보를 통한 예방책이 함께 이루어져야 한다. 소셜 미디어와 같은 플랫폼 기업들의 책임을 강화해야 하며, 불법적이고 유해한 딥페이크 콘텐츠의 유통을 막고, 유사시 신속한 조치를 취할 수 있도록 대비해야 한다. 이와 함께 기술의 개발 과정에는 윤리적 고려가 필수적이다. 기술의 오용을 방지할 수 있는 안전장치를 고민하지 않는다면 인공지능 기술은 혁신의 도구가 아닌 범죄의 도구가 될 뿐이다. 위험을 최소화할 수 있는 법적, 윤리적 프레임워크 구축이 시급한 이유다.

또한, 우리사회는 ‘피해자가 되지 말라’, ‘조심하라’는 등의 소극적 메시지에서 벗어날 때다. 이러한 메시지는 피해자에게 죄책감을 갖게하고, 범죄의 책임을 피해자에게 돌리는 것이다. 결과적으로 이는 피해자의 권리를 제한하고 근본적인 문제 해결을 방해하는것이나 다름없다. 이제는 피해자 대상의 소극적 예방 교육에서 벗어나 가해자와 잠재적 가해자 중심의 적극적인 교육으로의 전환이 필요하다. 

범죄의 책임은 전적으로 가해자에게 있음을 명확히 하는 가해자 중심의 교육이 되어야만 문제의 근원을 다루게 된다. 성범죄는 가해자의 왜곡된 인식과 행동에서 비롯되므로 이를 교정하는 것이 효과적인 예방 방법인 것이다.  우선적으로 청소년을 대상으로 한 딥페이크 기술의 위험성을 알리고 이 기술이 어떻게 악용될 수 있는지 인지하도록 하여, 중대한 범죄 행위임을 인식시켜야 한다. 어른 세대의 책무는 청소년들이 디지털 시대의 위험으로부터 자신을 보호하고, 동시에 온라인 환경에서 윤리의식을 갖춘 모범적인 일원으로 자라날 수 있게 이끌어야 하는 것이다. 

우리 사회는 더 이상 딥페이크 범죄를 ‘남의 일’로 치부하며 방관할 수 없다. 지금 이 순간에도 누군가는 첨단기술을 악용하여 무고한 이들의 삶을 파괴하고 있다. 방심하는 순간 피해자는 계속 생겨날 것이다. 기술이 인간을 위협하는 도구가 아닌 인간의 안전과 복지를 위한 수단이 되어야 하지 않겠는가.

[편집자 주] 칼럼니스트의 칼럼 내용은 개인적이고 주관적인 의견 표명으로서 본사의 편집 방향이나 방침과 항상 일치하지 않을 수도 있음을 알립니다.