문제의 게시물에는 ‘어떻게 만든 사진인지 궁금하다’는 댓글이 쏟아졌다. 범죄를 희화화한 행위에 대한 경계심 대신 모방 심리가 발동된 것이다. 대출금회수 실제로 네이버 등 포털사이트에서는 ‘낯선 사람 침입 AI 이미지 만드는 법’ 같은 게시물을 다수 찾아볼 수 있다.
더 자극적 위험한 콘텐츠 경쟁
곽금주 서울대 심리학과 교수는 “인간은 무엇인가를 만들고 조작하려는 욕구가 있다”며 “특히 AI를 활용하면 특별한 기술 없이도 전문가 수준의 콘텐츠를 생산할 수 있어 모방 심리를 자극해 더 위험한 콘텐츠도 양산될 수 있다”고 지적했다.
AI 몰카 콘텐츠의 시작은 미국의 메신저 스냅챗 플러스가 유료로 제공하는 AI 사진 편집 기능인 것으로 추정된다. 이후 구글의 최신 AI 모델인 제미나이의 이미지 생성 기능이 접목되고 접근성이 좋아지면서 세계적인 트렌드가 된 것으로 보인다. AI 장난이 폭발적 관심을 끌고 있다는 점은 통계로도 확인할 수 있다. 시장조사업체 시밀러웹에 따르면 제미나이의 지난 9월 월간 방문자는 전월보다 46% 증가한 11억명으로 집계됐다. 전문가들은 10월엔 방문자 규모가 더 커졌을 것으로 예상하고 있다.
부모가 깜짝 놀라서 경찰에 신고
선 넘은 장난 탓에 경찰이 출동하는 일도 빈번해지고 있다. 최근 BBC에 따르면 영국 도싯에서는 10대 소녀가 부모에게 ‘모르는 남자가 집에 들어왔다’며 AI 조작 사진을 보냈고 놀란 부모가 신고해 경찰이 출동하는 소동이 벌어졌다.
한국도 관련 신고가 점차 늘어나는 추세다. 최근 온라인에는 노숙자 침입 AI 조작 사진을 엄마에게 보냈다가 경찰이 출동했다는 사연이 재미있는 해프닝처럼 올라오기도 했다. 한 경찰 관계자는 “AI 조작 사진 탓에 신고가 접수되는 사례가 늘고 있다”며 “경찰 자원이 낭비되면 실제 범죄 대응에 공백이 발생할 수 있다”고 우려했다. AI 조작 사진이 온라인에 퍼지면서 이를 사회적 문제로 인식해야 한다는 목소리도 커지는 분위기다. 최근 일부 연예인은 AI 조작 사진으로 타격을 입기도 했다. 배우 이이경은 한 외국 팬이 음란 대화를 조작해 올린 사진 탓에 곤욕을 치렀다. 한 50대 여성은 상대를 배우 이정재로 착각하게 만드는 AI 조작 사진에 속아 로맨스스캠(연애 빙자 사기)에 휘말리면서 수억원을 빼앗겼다.
전문가 “현실·허구 경계 사라져”
해외도 마찬가지다. 최근 영국 일간 가디언에 따르면 한 영국인은 에어비앤비를 통해 미국 뉴욕의 한 아파트를 임차했다가 집주인으로부터 한국 돈 2000만원 상당의 배상청구서를 받았다. 집주인은 부서진 커피 테이블, 소변으로 얼룩진 매트리스 등의 사진을 보내 피해를 봤다고 주장했지만 모두 AI 조작 사진이었다.
AI 기술이 무분별하게 방치된다면 언젠간 현실과 허구의 경계가 사라질 수 있다고 전문가들은 경고하고 있다. 허위 정보 확산과 여론 왜곡을 초래할 수 있다는 것이다. 특히 “AI니까 괜찮다”는 태도는 디지털 윤리의 후퇴를 불러올 수 있다는 지적이 나온다. 곽 교수는 “무분별한 합성이 일반화되면 초상권과 사생활 침해 등 사회적 파문을 불러올 수밖에 없다”고 경고했다. 하지만 이 같은 현상을 다루는 법이나 제도는 여전히 미비한 상황이다. 경찰 관계자는 “관련 법안이 논의되고 있지만 ‘장난 수준의 합성물’은 처벌 기준이 모호해 난감한 경우가 많다”며 “AI 관련 윤리 교육 등이 이뤄져야 할 것”이라고 말했다. 박민지 기자 pmj@kmib.co.kr GoodNews paper ⓒ 국민일보(www.kmib.co.kr), 무단전재 및 수집, 재배포 및 AI학습 이용 금지
> 커뮤니티 > Q&A
