'1984'는 '빅브라더'가 모든 시민을 감시하는 디스토피아 세계를 그린 작품이다. 이 소설을 지금 시대를 기준으로 다시 읽어보면, 소설 속 상상이 현실로 굳어져 가는 느낌을 지울 수가 없다.
중국 정부는 전국에 수억대의 CCTV를 설치하고 AI 얼굴 인식 기술을 접목해 '천망'(天網, Skynet)이라는 시스템을 운영하고 있다. 이 시스템은 범죄자를 찾는 데 활용되지만, 동시에 일반 시민들의 일거수일투족을 감시하는 도구가 되고 있다.
서방 국가도 예외는 아니다. 미국의 여러 도시에서는 경찰이 범죄 예방을 위해 AI 얼굴 인식 기술을 사용하고 있다. 2019년 5월 샌프란시스코는 공공기관의 얼굴 인식 기술 사용을 금지하는 조례를 통과시켰으며, 이후 오클랜드, 버클리 등 다른 도시로 확산됐다.
빅데이터를 활용한 개인 정보 수집도 심각한 문제다. 2018년 페이스북-케임브리지 애널리티카 스캔들은 수천만 명의 페이스북 사용자 정보가 정치적 목적으로 악용된 사건이다. 결국 2019년 7월, 미국 연방거래위원회(FTC)는 페이스북에 역대 최대 규모인 50억 달러의 벌금을 부과했다.
우리나라에서도 카카오페이가 고객 개인신용정보를 동의 없이 알리페이에 제공했다는 논란이 있었다. 금감원 발표에 따르면 4천45만여명의 고객정보와 542억 건의 거래 정보가 포함됐다고 한다.
AI 기술의 발전을 막을 수는 없다. 지금 필요한 것은 기술의 발전과 개인의 프라이버시 사이의 균형이다. 시민들의 인식 제고, 기업들의 책임 있는 자세, 정부의 명확한 법적 규제 마련이 함께 이루어져야 한다.