지난 8월, 한국 사회는 충격적인 디지털 성범죄 사건으로 뒤흔들렸다. 텔레그램을 통해 전국 100여 개의 교육기관과 군부대를 대상으로 딥페이크 음란물이 무차별적으로 유포됐다.
이 사건은 AI 기술, 특히 딥페이크 기술의 오남용이 얼마나 심각한 사회적 문제를 야기할 수 있는지를 여실히 보여줬다. 최근 3년간 경찰에 신고된 딥페이크 성범죄 피해자의 59.8%가 10대 청소년이었으며, 2년 만에 3.4배나 증가했다.
AI의 사용규제는 단순히 기술 제한이 아닌 사회의 안전과 윤리를 지키기 위한 필수적인 과제다. 규제를 통해 범죄를 예방하고 사회적 안전을 확보할 수 있다는 점은 분명히 긍정적이다.
규제가 아주 엄격하거나 복잡하면 사용자는 이를 피하려고 노력할 것이고, 결국 법의 빈틈을 만들어낼 수 있다. 규제의 공정성도 중요한 문제다. 규제가 특정 집단이나 개인에게 과도하게 불리하게 작용해서는 안 된다.
결론적으로 AI 서비스에 대한 규제는 필요하지만, 그 범위와 방법에 있어 신중한 접근이 필요하다. 규제는 사회적 안전을 확보하면서도 사용자의 권리와 창의성을 억제하지 않는 방향으로 설정해야 한다.
최근 미국 일간지 월스트리트저널(WSJ)은 "한국이 딥페이크 음란물에 가장 취약한 국가"라고 지적했다. 정치적 싸움에 시간을 낭비하지 말고, 국민에게 필요한 법을 제때 마련하기를 기대해 본다.