샌프란시스코 검사, 애플·구글에 '누디파이' 앱 제거 촉구

얼굴 합성 앱의 민낯, 비동의 누드 이미지 생성 도구

데이비드 치우 샌프란시스코 검사가 7월 17일 애플과 구글에 중단 명령 편지를 보내, AI 기반 ‘누디파이’ 앱 13종을 즉각 퇴출하라고 요구했다. 앱스토어에서 8개, 구글 플레이에서 5개가 문제로 지목됐다. 이들 앱은 겉보기에는 평범한 얼굴 합성 앱이지만, 실제로는 사진 속 실제 인물의 옷을 벗겨내 비동의 누드 이미지를 생성한다. 치우 검사는 “불법적이고 해롭며 전혀 용납할 수 없는 행위”라고 못 박았다.

“수백만 달러 챙기며 방조”… 플랫폼 책임론 부상

치우 검사는 애플과 구글이 해당 앱의 인앱 결제 수수료로 수백만 달러를 벌어들였다고 지적하며, 사실상 불법 콘텐츠 유통을 “방조(aiding and abetting)”했다고 비판했다. 단순히 앱을 삭제하는 데 그치지 않고, 개발자와의 계약 해지와 수익 배분 중단까지 요구한 배경이다. 기술 투명성 프로젝트(TTP) 보고서에 따르면, 이들 앱 상당수는 ‘모두를 위한 등급(E for Everyone)’을 받아 어린이도 내려받을 수 있었다. 앱스토어에서 적극적으로 홍보되는 사례도 포착됐다. 수익을 올리는 동안 연령 제한조차 제대로 작동하지 않았다는 점에서, 플랫폼의 책임 방기가 도마 위에 오른 셈이다.

반복되는 퇴출, 허술한 심사 구조

애플과 구글 모두 포르노 콘텐츠를 금지하는 심사 규정을 두고 있다. 구글 대변인은 이번에 지목된 5개 앱을 포함해 누드화 기능이 있는 앱 “수백 개”를 이미 삭제했다고 밝혔다. 애플은 지난 6월, 개발자 책임을 강화하는 쪽으로 앱스토어 가이드라인 문구를 개정했다. 하지만 AI 모델이 클라우드에서 작동하는 경우가 많아, 앱 자체의 코드나 설명만으로는 실제 기능을 걸러내기 어렵다. 연구자 제보가 있어야만 사후 대응하는 소극적 태도가 반복되는 이유다. 심사 기준을 아무리 강화해도, 앱 등록 단계에서 숨겨진 기능을 찾아내지 못하면 퇴출과 재등록이 끝없이 반복될 수밖에 없다.

법적 압박이 몰고 올 파장

치우 검사는 이미 16개의 딥페이크 웹사이트를 상대로 소송을 제기한 이력이 있다. 이번에는 모바일 생태계의 게이트키퍼인 애플과 구글을 정조준했다. 플랫폼 사업자가 유통 채널로서 법적 책임을 질 수 있다는 선례가 남으면, 향후 유사 소송이 잇따를 가능성이 크다. 특히 아동 보호와 디지털 성범죄 이슈가 겹치며 의회 차원의 규제 논의도 급물살을 탈 전망이다. 다만 앱스토어 심사를 아무리 강화해도, 오픈웹이나 사이드로딩을 통한 유통까지 통제하기는 어렵다. 기술적 조치만으로는 한계가 분명하며, 사회적 인식과 법적 제재가 함께 가야 하는 이유다.

참고 링크

• Apple and Google Hit With Demand to Pull AI 'Nudify' Apps - MacRumors
• Apple and Google ordered by San Francisco attorney to take action against 'nudify' apps - Engadget