메타 감독위원회, 악성 딥페이크 관련 정책 검토

메타 플랫폼스 주식회사의 감독위원회가 음란 딥페이크 관련 정책을 검토한다.

메타 감독위원회는 회사의 인공지능(AI) 생성 딥페이크 대응 방식을 조사하고 있다고 16일(현지시각) 밝혔다.

딥페이크는 딥러닝(Deep Learning)과 페이크(Fake)의 합성어로 AI 스스로 외부 데이터를 조합·분석해 학습하는 딥러닝 기술을 활용해 실제 사람의 얼굴이나 특정 부위를 실존 인물이 아닌 거짓 인물과 합성하는 기술을 말한다.

최근 조 바이든 미국 대통령의 목소리를 모방한 조작된 오디오나 세계적 팝스타 테일러 스위프트의 이미지를 악의적으로 합성한 음란 이미지 등의 AI 생성 콘텐츠가 온라인상에 확산되면서 메타를 포함한 소셜 미디어 회사들은 이러한 악성 딥페이크에 대응하기 위해 노력하고 있다.

메타 감독위원회는 페이스북에 게시된 두 장의 AI 생성 누드 사진이 메타의 콘텐츠 정책에 따라 삭제돼야 하는지 검토할 예정이다.

감독위원회가 검토하는 사진 두 장은 각각 다른 두 여성 유명인의 딥페이크 사진인 것으로 알려졌다.

감독위원회는 피해 유명인이 누구인지 밝히지 않을 것이라고 했다.

법률·인권 전문가 등으로 구성된 메타 감독위원회는 페이스북과 인스타그램에서 내린 콘텐츠 관련 결정을 검토한다.

메타는 감독위원회의 권고를 받아들일 필요는 없지만 60일 이내에 응답해야 한다.

헬레 토닝 슈미트 메타 감독위원회 공동 의장은 "딥페이크 음란물은 온·오프라인에서 여성을 표적으로 삼고 위협하는 데 점점 더 많이 사용되고 있다"며 "회사의 정책과 집행이 이 문제를 해결하는 데 효과적인지 확인하는 것이 중요하다"고 말했다.