딥페이크와 법 — 가짜 영상이 진짜 피해를 낼 때, 법은 무엇을 처벌하나

열여섯 살 후배의 얼굴

2023년 2월부터 3월 사이, 서울에 사는 한 피고인이 인스타그램에서 모은 중학교 후배의 얼굴 사진을 트위터에서 알게 된 이름 모를 사람에게 넘겼습니다. 후배는 열여섯 살이었습니다. 피고인은 그 얼굴을 다른 여성의 몸과 합친 성적 합성물을 만들어 달라고 다섯 차례 의뢰했고, 만들어진 사진을 받았습니다. 검사는 이것을 미성년자를 성적으로 착취하는 영상물을 만든 죄로 기소했습니다. 2024년 5월 1심인 서울서부지방법원은 이 공소사실을 유죄로 보았고, 다른 죄와 합쳐 징역 3년에 집행유예 5년을 선고했습니다. 2024년 11월 2심인 서울고등법원은 같은 행위를 다른 법의 다른 죄로 처벌했습니다 (서울고등법원 2024노1823). 2025년 8월 대법원이 그 판단을 유지했습니다 (대법원 2024도17801).

딥페이크(deepfake)는 인공지능으로 실제 사람의 얼굴이나 몸, 목소리를 다른 영상에 합성하거나 새로 지어내, 그 사람이 하지 않은 일을 한 것처럼 보이게 만든 영상·사진·음성입니다. 같은 2024년, 한국 사회는 딥페이크 성범죄 사태를 겪었습니다. 그 사태 뒤로 동의 없는 합성 성적 이미지가 범죄로 인식되는 과정을 추적한 연구가 있습니다. 여러 주체가 이 문제를 범죄로 인정받도록 밀어 올렸고, 법 조항 강화와 피해자 지원, 인공지능 관리 체계 개혁이 빠르게 시작됐습니다. 국경을 넘는 적발과 나라 사이의 공조는 여전히 장벽으로 남았습니다 (DOI: 10.1080/01924036.2025.2596578).

딥페이크라는 말은 2017년 한 토론 사이트에 인공지능으로 조작한 성적 영상이 올라오면서 퍼졌습니다. 2020년 논문 기준으로도 온라인에 도는 딥페이크의 다수는 성적인 것이었는데, 공적 관심은 정치인을 흉내 내 허위정보를 퍼뜨리는 영상 쪽에 쏠렸습니다 (DOI: 10.1080/23268743.2020.1757499). 2021년 캐나다 정책 검토 기준으로도 온라인에서 발견되는 딥페이크 대부분이 성적인 것이고, 거기 등장하는 사람이 제작과 공개에 동의한 경우는 드뭅니다 (DOI: 10.1089/cyber.2020.0272).

2017년 12월부터 2026년 1월까지 심사를 거친 영어 학술논문 54편을 훑은 범위 종설도 같은 어긋남을 적습니다. 허위정보를 앞세우는 틀과 유명인 중심의 틀이 평범한 사람의 피해와 구제 수단의 불평등을 자주 가려 왔다는 것입니다 (PMID 42745201). 통념대로라면 딥페이크는 진짜냐 가짜냐의 문제이고, 탐지 기술이 가짜를 가려내면 해결됩니다. 피해가 실제로 쌓인 자리는 그 틀이 잘 비추지 않는 곳에 있습니다.

이 글은 한국의 법률과 판결을 중심에 놓고 씁니다. 영국·미국·유럽연합·오스트레일리아 등 다른 나라의 규제는 쇼트리스트 논문이 서술한 만큼만 견줍니다. 법학 논문은 심사를 거치기 전에 공개 저장소에 먼저 올라오는 일이 잦아서, 그런 자료는 그때마다 등급을 적습니다.

가짜라고 적어 놓아도

미국 성인 대표표본에게 딥페이크 영상을 보여 주고 얼마나 잘못됐는지를 물은 실험이 있습니다. 동의 없이 만든 성적 딥페이크는 극도로 해롭다고 평가됐고, 응답자 대다수는 만든 사람을 형사처벌하기를 원했습니다. 성적 딥페이크에 「허구」라는 표시를 붙여도 잘못됐다는 판단은 줄지 않았습니다. 성적이지 않은 딥페이크는 달랐습니다. 허구라고 표시하거나 본래 명예를 떨어뜨리는 행동을 담지 않았을 때 잘못됐다는 판단이 크게 줄었습니다. 후속 실험에서 응답자들은 딥페이크 성적 영상을 만들고 퍼뜨리는 일을, 실제로 찍힌 성적 영상을 동의 없이 퍼뜨리는 일만큼 해롭고 도덕적으로는 조금 더 비난받을 일로 판단했습니다 (DOI: 10.2139/ssrn.3781968, 심사 전 공개본). 미국 한 나라에서 사람들의 인식을 잰 연구입니다. 그 범위 안에서, 허구라는 표시가 판단을 바꾸지 못했다는 것은 성적 딥페이크의 잘못이 보는 사람이 속았는지와 따로 판단된다고 읽을 수 있습니다.

이미지 기반 성적 학대(image-based sexual abuse)는 남의 나체나 성적인 사진·영상을 동의 없이 찍거나 만들거나 퍼뜨리는 일을 한데 묶어, 성폭력의 한 형태로 보는 개념입니다. 이 개념을 새로 제시한 2016년 논문은 피해를 이렇게 적습니다. 몸과 마음의 병, 그리고 존엄과 사생활과 성적 자기결정의 상실이 개인에게 닥치고, 이것이 사회 전체에 미치는 문화적 피해로 합쳐진다는 것입니다 (DOI: 10.1093/ojls/gqw033). 2017년 논문은 「복수 포르노」라는 말이 헤어진 연인의 보복만 비추게 만들어 입법을 조각조각 내 왔다고 지적하고, 이런 행위를 다른 성폭력과 이어진 하나의 연속선으로 보자고 제안했습니다 (DOI: 10.1007/s10691-017-9343-2). 딥페이크 성적 합성물은 이 연속선 안에 들어옵니다. 세 나라 6천여 명 설문과 100건 넘는 면담을 바탕으로 한 연구서는 그 목록에 인공지능으로 만든 딥페이크 성적 영상을 넣고, 가해의 지배적 동기로 권력과 통제를 꼽습니다 (DOI: 10.4324/9781351135153).

피해가 어떤 모양인지는 청소년 쪽 근거가 가장 구체적입니다. 10~24세를 다룬 실증연구 12편을 묶은 체계적 종설은 공포·불안·우울·자살 생각 같은 심리적 고통, 따돌림과 피해자 탓하기, 전학이나 실직 같은 학업·직업의 단절을 보고합니다. 저자들은 이 결과가 이미지 기반 성적 학대와 신체적 성적 학대 사이의 닮은 점을 보여 준다고 결론짓습니다 (PMID 40709226). 이 종설은 딥페이크만 따로 본 것이 아니고, 이미지 기반 성적 학대 전체를 다룹니다.

딥페이크에 한정한 앞의 범위 종설은 피해가 시간 위에서 쌓인다고 봅니다. 만들어지고, 퍼지고, 눈에 띄고, 다시 돌아오는 단계마다 고통·낙인·관계와 직업에 생길 수 있는 손실·스스로 말을 줄이는 일·절차의 부담이 더해진다는 것입니다. 같은 종설은 두 가지 빈칸도 적습니다. 피해자를 중심에 둔 실증연구가 드물고, 대응책의 효과를 직접 평가한 연구는 거의 없습니다 (PMID 42745201).

얼마나 흔한지도 있습니다. 10개국 1만 6천여 명을 조사한 연구에서 응답자의 2.2%가 딥페이크 성적 합성물의 피해를, 1.8%가 가해 행동을 했다고 답했습니다 (DOI: 10.1145/3613904.3642382). 이 비율의 분모는 열 나라 응답자 전체이고, 초록은 그 열 나라가 어디인지 밝히지 않습니다. 한국 수치로 읽으면 안 됩니다.

미국 응답자들에게 성적 딥페이크의 잘못은 동의 없이 성적 대상이 되었다는 데 있었고, 가짜라는 표시로 줄지 않았습니다. 피해 연구들도 피해를 존엄과 사생활과 성적 자기결정의 상실로 적습니다.

법이 고르는 질문 — 진짜처럼 보이는가, 동의했는가

같은 가짜를 두고 법마다 묻는 질문이 다릅니다. 겉모습과 기만을 묻는 법이 있고, 동의를 묻는 법이 있습니다. 영국과 미국의 규정을 견준 한 논문은 그 갈림을 「존엄 대 기만」이라고 부릅니다 (DOI: 10.2139/ssrn.7530380, 심사 전 공개본). 이 논문에 따르면 미국 연방법인 Take It Down Act는 두 가지를 요구합니다. 해를 끼치려는 의도가 있어야 하고, 위조물이 진짜 영상과 구별할 수 없을 정도여야 합니다. 저자는 앞의 요건이 「풍자였다」는 빠져나갈 구멍을 열고, 뒤의 요건은 잘못의 중심을 피해자가 당한 침해에서 보는 사람이 당한 기만으로 옮겨 놓는다고 비판합니다. 저자에 따르면 그 결과 조잡하게 만든 합성물의 피해자는 보호 밖에 남습니다. 이 논문이 보기에 영국은 2023년 온라인안전법과 2003년 성범죄법 제66B조를 통해 성적 자기결정을 권리로 보는 쪽으로 방향을 틀었고, 동의 없이 공유한 것 자체가 책임의 근거가 됩니다. 저자가 보기에 두 나라 모두 비어 있는 자리가 있습니다. 올린 사용자는 책임을 지는데, 학대물을 만드는 도구를 개발한 쪽은 대체로 규제 밖에 있다는 것입니다.

한국의 성폭력처벌법 제14조의2는 이 갈림에서 동의 쪽에 서 있습니다. 허위영상물은 사람의 얼굴·신체·음성을 담은 영상물 등을 그 사람의 의사에 반하여 성적 욕망이나 수치심을 일으킬 수 있는 형태로 편집·합성·가공한 것을 가리키는, 한국 성폭력처벌법의 용어입니다. 성폭력처벌법의 정식 이름은 「성폭력범죄의 처벌 등에 관한 특례법」입니다. 이 조항은 딥페이크 피해가 늘어나는데 이전 규정으로는 처벌하기 어렵거나 처벌이 약하다는 이유로 2020년 3월에 새로 생겼습니다 (서울고등법원 2024노1823). 조문이 묻는 것은 대상자의 의사와 그 형태입니다. 진짜와 구별할 수 없어야 한다는 요건은 조문에 없습니다. 앞의 사건이 적용한 개정 전 조문은 반포할 목적으로 이런 편집을 한 사람을 5년 이하의 징역이나 5천만 원 이하의 벌금으로 처벌했습니다 (성폭력처벌법 제14조의2, 2024년 10월 16일 개정 전 조문 — 문언은 2024년 1월 25일 시행판과 같음). 2024년 10월 16일 시행된 개정판은 이 목적 요건을 빼고 형을 7년 이하의 징역이나 5천만 원 이하의 벌금으로 올렸습니다 (성폭력처벌법 제14조의2, 2024년 10월 16일 시행).

피해자가 미성년자이면 법이 하나 더 겹칩니다. 「아동·청소년의 성보호에 관한 법률」, 줄여서 청소년성보호법입니다. 아동·청소년성착취물은 아동·청소년이, 또는 아동·청소년으로 명백하게 인식될 수 있는 사람이나 표현물이 등장해 성적 행위를 하는 내용을 담은 영상·화상 등을 가리키는 청소년성보호법의 용어입니다. 2020년까지는 「아동·청소년이용음란물」이라고 불렀습니다. 이름이 바뀐 것은 이것이 그 자체로 성착취와 성학대를 뜻한다는 점을 분명히 하려는 것이었습니다 (서울고등법원 2024노1823). 이것을 만든 사람은 무기 또는 5년 이상의 징역을 받습니다 (대법원 2024도17801). 이 정의가 묻는 것은 등장인물이 아동·청소년으로 명백하게 인식되느냐는 겉모습입니다. 대상자가 동의했는지는 이 정의에 들어 있지 않습니다. 한국 안에서도 법마다 묻는 질문이 다릅니다. 앞의 사건에 적용된 개정 전 조문 기준으로, 허위영상물 편집의 상한이 5년인데 이쪽은 하한이 5년입니다. 그 사건에서 어느 법을 적용하느냐가 그래서 컸습니다.

한 사건을 따라가 보기

서울고등법원 사건으로 돌아갑니다. 법원이 푼 쟁점은 두 개였습니다. 첫째, 실존하는 아동의 얼굴을 다른 사람의 몸과 합친 사진을 「아동·청소년이 등장하는」 성착취물로 볼 수 있는가. 둘째, 그렇지 않다면 「아동·청소년으로 명백하게 인식될 수 있는 표현물이 등장하는」 성착취물인가.

첫째 질문에서 법원은 얼굴이 인격을 나타내는 가장 중요한 신체 부위 가운데 하나라는 점을 인정했습니다. 그래서 이것을 「아동·청소년이 등장」하는 경우로 볼 여지가 없지는 않다고 적었습니다. 그러고는 반대 이유를 다섯 가지 들었습니다. 그 첫째가 죄형법정주의입니다. 죄형법정주의(principle of legality)는 무엇이 범죄이고 어떤 벌을 받는지를 미리 법률로 정해 두어야 한다는 원칙으로, 형벌 조항을 피고인에게 불리한 쪽으로 넓혀 읽는 것도 이 원칙이 막습니다. 법원은 둘째와 셋째 이유로 조문이 두 종류를 나눠 둔 점, 입법과 개정의 경과로 보아 「아동·청소년이 등장」은 실존 인물이 등장하는 경우로 한정된다는 점을 들었습니다. 넷째 이유는 합성사진에는 피해 아동에 대한 직접적인 성적 착취나 성적 학대가 없어 실존 아동이 등장하는 경우와 질적으로 다르다는 것이었습니다. 다섯째는 허위영상물 처벌 조항이 있으니 처벌의 공백이 생길 우려가 없다는 것이었습니다 (서울고등법원 2024노1823).

둘째 질문에서 법원은 사회 평균인의 눈으로 객관적으로 보았을 때 외관상 의심의 여지 없이 아동·청소년으로 인식되어야 한다는 기준을 썼습니다. 그리고 이 사진들이 그 기준에 못 미친다고 판단했습니다. 합성된 몸은 발육 상태로 보아 아동·청소년이라고 보기 어려웠습니다. 사진 여러 장에서는 얼굴과 몸의 비율이나 피부색이 맞지 않는 등 각기 다른 사람의 것을 합쳤다는 사실을 비교적 쉽게 알아볼 수 있었습니다. 더 정교하게 합성된 한 장도 등장인물이 아동·청소년임을 알 수 있는 정보가 화면에 없었습니다 (서울고등법원 2024노1823). 1심이 유죄로 본 청소년성보호법 위반 부분은 여기서 무죄로 판단됐습니다. 아래의 다른 죄가 유죄로 인정됐기 때문에, 판결 맨 앞의 결론에 따로 무죄를 적지는 않았습니다.

처벌은 다른 길로 왔습니다. 검사는 2심에서 같은 행위를 허위영상물 편집죄로도 걸어 두었습니다. 첫 번째 죄명이 인정되지 않으면 이것으로 판단해 달라는 방식입니다. 피고인은 이 공소사실을 자백했고, 법원은 피해자의 의사에 반해 성적 욕망이나 수치심을 일으킬 수 있는 형태로 합성물을 만든 사실을 유죄로 인정했습니다. 이 사건에 함께 걸린 다른 죄까지 합쳐 형은 징역 2년 6개월에 집행유예 3년이 됐습니다 (서울고등법원 2024노1823).

상고는 2심 판결에 불복해 대법원에 판단을 구하는 것입니다. 검사가 상고했고, 2025년 8월 대법원은 관여 대법관의 일치된 의견으로 상고를 기각했습니다 (대법원 2024도17801).

대법원은 이 기회에 기준을 세웠습니다. 실존 아동의 얼굴을 합성한 사진이나 딥페이크 영상은 창작자가 만들어 낸 아동의 이미지에 해당해 실제 인물인 아동이 등장한 것으로 볼 수 없으므로, 「아동·청소년이 등장하는」 성착취물에는 해당하지 않습니다. 다만 그 내용이 아동의 성적 행위를 표현하면 「아동·청소년으로 명백하게 인식될 수 있는 표현물」이 등장하는 성착취물에는 해당할 수 있습니다. 그 판단에는 인물의 외모와 신체 발육 상태, 인물의 실제 나이나 신원, 합성물의 출처나 제작 경위, 배경과 상황 설정을 전체적으로 고려해야 합니다.

원심은 위 칸 법원이 다시 들여다보는, 바로 아래 칸에서 내려진 판결입니다. 대법원에게 원심은 서울고등법원 판결이었습니다. 대법원은 다른 한 장, 곧 피해자 사진을 배경으로 다시 찍은 사진을 원심이 「아동·청소년이 등장하는 경우」라고 설명한 부분은 적절하지 않다고 하면서도, 모든 사진이 성착취물에 해당한다고 보기 어렵다는 결론은 정당하다고 보았습니다 (대법원 2024도17801).

이 사건을 처음부터 다시 따라가면 이렇습니다. 첫 쟁점인 「등장」 여부는 죄형법정주의와 조문의 구분, 입법 경과라는 법리로 갈렸습니다. 둘째 쟁점에서 판단을 가른 것은 성인으로 보이는 몸과, 미성년자임을 알려 줄 정보가 없다는 점이었습니다. 몇 장에서 쉽게 보인 합성 흔적도 그 사정에 들었지만, 흔적이 거의 없는 정교한 한 장도 같은 결론이었습니다. 대법원이 세운 판단 요소도 외모와 신체 발육 상태, 실제 나이나 신원, 출처나 제작 경위, 배경과 상황 설정입니다. 이 사건에서 청소년성보호법의 문턱을 넘지 못한 합성물은 대상자의 의사를 묻는 허위영상물 조항으로 처벌됐습니다. 그 조항은 진짜처럼 보이는지를 묻지 않았습니다. 형의 무게는 달라졌습니다. 이 사건에 적용된 개정 전 조문 기준으로, 하한 5년의 조항에서 상한 5년의 조항으로 옮겨 갔기 때문입니다.

실존하지 않는 아이 — 헌법재판소가 본 것

2026년 6월 24일, 법률이 헌법에 맞는지 가리는 헌법재판소가 같은 날 두 사건을 결정했습니다. 두 사건 모두 만화를 다뤘고, 등장인물 가운데 실존하는 아이는 없었습니다. 위헌법률심판 제청은 재판을 하던 법원이 그 재판에 쓰는 법 조항이 헌법에 어긋나는 것 같다며 헌법재판소에 판단을 요청하는 절차입니다. 2022헌가8은 아동·청소년인 등장인물이 성적 행위를 하는 만화 파일 82개를 포인트를 받으려고 올리고 13개를 내려받아 가지고 있던 사람의 재판에서, 제주지방법원이 이 제청을 해 온 사건입니다 (헌법재판소 2022헌가8). 2023헌바263은 아동·청소년으로 명백하게 인식될 수 있는 캐릭터가 성적 행위를 하는 성인용 만화를 아홉 차례 제작해 외국 사이트에 올려 배포·판매한 사람이 낸 사건입니다. 이 사람은 재판 중에 제청을 신청했다가 법원이 받아들이지 않자 헌법재판소에 직접 심판을 청구했습니다 (헌법재판소 2023헌바263).

두 사건 모두 재판관 전원의 일치된 의견으로 합헌이었습니다. 헌법재판소의 이유는 규제의 목적이 음란물을 만드는 과정에서 아이가 입는 침해를 막는 데 한정되지 않는다는 것이었습니다. 아동·청소년을 성적 대상으로 삼는 표현물은 보는 사람에게 성에 대한 왜곡된 인식과 비정상적 태도를 만들고, 아동·청소년을 상대로 한 성범죄를 부를 수 있다는 전제입니다. 표현의 자유는 내 생각을 말하거나 보여 줄 수 있는 권리입니다. 헌법재판소는 음란한 표현도 그 보호 영역에 들어간다고 하면서, 이 조항으로 표현이 받는 제약은 중대하지 않은 반면 아이를 지키는 공익은 비교할 수 없이 중대하다고 판단했습니다 (헌법재판소 2023헌바263). 단순히 가지고 있는 행위에 대해서는 일종의 수요 창출로서 공급과 확산을 부추긴다는 점을 들어, 1년 이상의 징역이 지나치게 무겁지 않다고 보았습니다. 하한이 1년이라 집행유예가 가능하다는 점도 이유에 들었습니다 (헌법재판소 2022헌가8).

두 결정 모두 딥페이크를 직접 말한 대목이 있습니다. 2023헌바263은 실존 아동의 이미지를 쓴 딥페이크 영상 등이 실존 아동의 인간의 존엄과 가치를 침해하는 것으로서 그 자체로 성적 침해와 착취의 기록이라고 볼 수 있으므로 개인적 법익 침해가 존재한다고 적었습니다 (헌법재판소 2023헌바263). 2022헌가8은 이렇게 적었습니다. 인공지능 기술의 발달로 누구나 간단한 명령어만으로 이런 이미지를 쉽게 만들 수 있게 됐고, 실존 아동의 이미지를 활용한 딥페이크 영상 등이 급증하고 있다는 것입니다. 그리고 딥페이크 영상 등은 이미지가 쓰인 실존 아동의 인간의 존엄과 가치를 침해하는 것으로서 그 자체로 성적 학대와 착취의 기록이 된다고 적었습니다 (헌법재판소 2022헌가8).

반대쪽 논거는 사건을 헌법재판소로 보낸 제주지방법원이 적었습니다. 가상의 성착취물과의 접촉이 실제 성범죄로 이어지는지 그 인과관계에 의문이 있다는 것, 만화나 애니메이션은 외국에서 적법하게 유통되는 경우가 있다는 것, 책이나 종이에 그린 만화는 단순히 가지고 있어도 처벌받지 않는다는 것입니다. 실존하는 아이가 등장하지 않으면 직접적인 성착취나 2차 피해 같은 개인의 피해가 생길 여지가 없으니 죄의 무게가 더 가볍다는 주장도 했습니다 (헌법재판소 2022헌가8). 헌법재판소는 이 주장들을 받아들이지 않았습니다.

학계에서는 이 구분을 처벌의 경계로 삼자는 주장도 나옵니다. 헌법재판소와 반대 방향입니다. 포르투갈 형법을 분석한 논문은 가상 아동 성적 표현물을 둘로 나눕니다. 실제 아이의 이미지를 일부라도 쓴 것과 처음부터 끝까지 가상인 것입니다. 저자는 실제 아이의 이미지를 쓴 쪽만 아이의 발달 조건을 침해하므로 범죄로 다뤄야 한다고 봅니다 (DOI: 10.15388/teise.2025.134.4). 인공지능으로 만든 이미지 기반 성적 학대 연구 28편을 묶은 범위 종설도 같은 경계를 관찰합니다. 식별 가능한 아이가 등장하는 합성물은 사람을 중심에 둔 피해 틀과 겹치고, 식별 가능한 아이가 없는 완전한 합성물은 그 틀 밖의 별도 범주로 다뤄집니다 (DOI: 10.1016/j.chbr.2026.101306).

이 절의 한국 자료를 나란히 놓으면 서술이 엇갈리는 자리가 하나 보입니다. 서울고등법원은 합성사진에 직접적인 성적 착취나 학대가 없어 실존 아동이 등장하는 경우와 질적으로 다르다고 적었습니다 (서울고등법원 2024노1823). 헌법재판소는 딥페이크 영상이 그 자체로 성적 학대와 착취의 기록이 된다고 적었습니다 (헌법재판소 2022헌가8). 두 문장은 서로 다른 질문에 답한 것입니다. 하나는 형벌 조항의 문언을 좁게 읽는 자리였고, 다른 하나는 가상 이미지 규제가 왜 필요한지를 설명하는 자리였습니다. 그래도 딥페이크가 피해자에게 무엇을 하는지를 두 기관이 다른 말로 적어 둔 것은 사실입니다.

아동 영역에서 한국 법은 실제 아이가 찍혔는지를 묻지 않습니다. 대신 아동·청소년으로 명백하게 보이는지를 묻고, 실존하는 아이가 없는 그림까지 처벌하는 조항이 합헌이며, 남은 다툼은 어디까지 넓혀도 되느냐입니다.

어디까지 처벌하나 — 만든 사람, 퍼뜨린 사람, 가진 사람, 본 사람

성인 피해자 쪽에서 법이 가장 크게 갈리는 자리는 만들기만 하고 퍼뜨리지 않은 경우입니다. 2025년에 공개된 영국 프리프린트는 2023년 온라인안전법이 동의 없는 성적 딥페이크의 배포를 범죄로 만들었지만, 성적 만족이나 이후의 범죄를 위해 만들기만 하는 행위는 여전히 합법이라고 비판합니다. 저자들은 피고인의 의도 대신 동의의 부재에 초점을 둔 엄격책임 모형을 제안합니다 (DOI: 10.20944/preprints202507.1645.v1, 프리프린트). 이것은 그 공개 시점의 영국 법에 대한 서술입니다. 뉴질랜드 법학지의 한 논문은 개인과 사회가 입는 피해를 근거로 별도의 형사 조항을 두라고 권고합니다 (DOI: 10.26686/vuwlr.v56i2.10758). 앞의 포르투갈 논문은 성인 피해자에 대해서는 기존의 컴퓨터 사기·불법 촬영·명예훼손 조항이 이 피해를 제대로 담지 못하는 공백이 있다며 새 범죄를 제안합니다. 같은 논문은 형법을 지나치게 넓히거나 성범죄를 도덕주의로 접근하는 데는 경계해야 한다고 적습니다 (DOI: 10.15388/teise.2025.134.4).

한국은 이 자리를 2024년 10월에 바꿨습니다. 앞의 사건들이 적용한 개정 전 조문은 「반포등을 할 목적으로」 편집한 사람만 처벌했습니다 (성폭력처벌법 제14조의2, 2024년 10월 16일 개정 전 조문 — 문언은 2024년 1월 25일 시행판과 같음). 2024년 10월 16일 시행된 개정판에서는 그 목적 요건이 빠져, 퍼뜨릴 목적이 없어도 대상자의 의사에 반해 만들면 7년 이하의 징역이나 5천만 원 이하의 벌금입니다. 퍼뜨린 사람의 형도 5년 이하에서 7년 이하로 올랐고, 영리를 목적으로 정보통신망을 이용해 퍼뜨린 사람은 7년 이하의 징역에서 3년 이상의 유기징역으로 바뀌었습니다. 새로 생긴 제4항은 그런 편집물이나 복제물을 소지·구입·저장하거나 시청한 사람을 3년 이하의 징역이나 3천만 원 이하의 벌금으로 처벌합니다 (성폭력처벌법 제14조의2, 2024년 10월 16일 시행). 성인 피해자의 합성물도 이제 가지고 있거나 보기만 해도 처벌 대상입니다. 이 개정은 2024년 사태 뒤 법 조항을 강화하는 개혁이 빠르게 시작됐다는 시기와 겹칩니다 (DOI: 10.1080/01924036.2025.2596578). 그 초록은 어느 조문이 어떻게 바뀌었는지까지는 말하지 않습니다.

새 처벌 조항부터 만들기보다 있는 규칙을 먼저 집행하자는 시각도 있습니다. 실증연구를 체계적으로 검토하고 각국의 정책·법률 문서를 분석한 2024년 논문은 딥페이크에 대한 걱정의 상당 부분이 근거보다 경보에서 나온다고 봅니다. 그렇다고 피해를 가볍게 보지는 않습니다. 저자들은 딥페이크 기술이 지금으로서는 완전히 새로운 규제 문제를 만들기보다는 동의 없는 성적 영상과 허위정보 같은 기존 문제를 키운다고 결론짓습니다. 그래서 기존 규칙을 제대로 감독하고 집행하는 일과, 필요한 조정을 신중하게 따지는 일이 중요하다고 말합니다 (DOI: 10.1177/14614448241253138). 처벌이 억지력을 내는지도 아직 열려 있습니다. 앞의 10개국 조사에서 이 문제를 겨냥한 법이 있는 나라의 응답자도 가해와 피해를 보고했고, 저자들은 이것을 그 법들이 가해를 막기에 충분하지 않다는 신호로 읽습니다 (DOI: 10.1145/3613904.3642382). 한 시점의 설문이라 법이 생기기 전과 후를 견준 것은 아닙니다.

허위영상물 사건에서도 형사재판의 기본 보장은 그대로 적용됩니다. 허위영상물 편집·반포 등의 혐의로 기소된 다른 피고인 사건에서 대법원은 1심과 2심이 국선변호인 없이 재판을 진행했다며 원심판결을 깨고 사건을 돌려보냈습니다. 피고인이 다른 사건으로 구속되어 있었으니 변호인 없이는 재판을 열 수 없는 사건이었다는 이유입니다 (대법원 2024도5566).

지우는 일은 누구 몫인가

처벌은 가해자를 겨눕니다. 피해자 쪽에서는 퍼진 이미지를 내리는 일이 도움을 구하게 만드는 이유로 꼽힙니다. 이미지 기반 성적 학대 피해자의 도움 요청을 다룬 연구 81편을 묶은 범위 종설은 그 동기로 정의를 바라는 마음과 함께 동의 없이 퍼진 이미지의 삭제를 듭니다. 이 연구들은 주로 영어권 서구 나라에서 이뤄졌습니다 (PMID 39427323). X(옛 트위터)에서 신고 경로별로 삭제 속도를 잰 감사 연구가 있습니다. 연구진은 인공지능으로 만든 나체 이미지 50장을 올리고, 절반은 「비동의 나체」 위반으로, 절반은 저작권 침해로 신고했습니다. 저작권으로 신고한 이미지는 25시간 안에 모두 내려갔습니다. 비동의 나체로 신고한 이미지는 3주가 넘도록 한 장도 내려가지 않았습니다 (DOI: 10.1145/3816990). 한 플랫폼에서 이미지 50장으로 잰 결과입니다. 그 조건에서는 피해자의 동의 침해보다 저작권이 더 빨리 통했습니다. 연구진은 동의 없는 성적 이미지의 삭제를 규율하는 표적 입법이 필요하다고 결론짓습니다.

미국의 Take It Down Act는 48시간 안에 삭제하도록 의무를 두었고, 영국 온라인안전법은 플랫폼에 사전 안전 의무를 지웁니다. 저자는 영국의 실체적 정의와 미국의 처리 속도를 합친 혼합 모형에, 암호학적 출처 표준과 도구 개발자까지 미치는 책임을 더하자고 권합니다 (DOI: 10.2139/ssrn.7530380, 심사 전 공개본). 세계 최초의 온라인 안전 규제기관으로 불리는 오스트레일리아 eSafety 위원회를 사례로 본 논문은 신고를 받아 삭제하는 이 기관의 접근에 상당한 문제가 있다고 결론짓습니다 (DOI: 10.1080/10383441.2025.2504791).

피해물이 놓인 자리 자체도 있습니다. 인공지능으로 만든 비동의 성적 이미지를 올려 둔 공개 사이트 88곳을 찾은 연구에서, 그중 38곳은 합성 이미지만 다루는 곳이었습니다. 이 사이트들의 웹 호스팅과 전송망 같은 기반시설은 세계 최대 인터넷 기업 몇 곳이 대고 있었고, 대부분은 검색으로 찾아졌습니다 (DOI: 10.54501/jots.v3i4.348). 공개 저장소 두 곳에서 실존 인물을 겨냥한 딥페이크용 변형 모델 3만 5천 개가량을 찾은 연구도 있습니다. 2022년 11월 이후 내려받기는 1,500만 회에 가까웠고, 그 모델의 96%가 여성을 겨냥했습니다 (DOI: 10.1145/3715275.3732107). 만든 회사에 제조물 책임을 묻자는 제안은 여기서 나옵니다. 사용자는 찾아내기 어렵고 플랫폼은 미국 통신품위법 제230조로 책임을 피하니, 안전장치 없이 위험한 도구를 내놓은 생성형 인공지능 개발사에 설계 결함 책임을 지우자는 것입니다 (DOI: 10.2139/ssrn.6445584, 심사 전 공개본).

한국에서 이 일을 실제로 하는 사람들의 목소리도 있습니다. 딥페이크 성적 학대에 맞서 온 한국의 활동가와 피해 경험자 10명이 참여한 설계 워크숍에서, 참여자들은 게시물이 무엇인지 분류하기 모호하다는 점, 증거를 모으기 어렵다는 점, 감시하는 동안 일이 늘고 신변이 위험해진다는 점을 꼽았습니다. 이들은 데이터가 누구의 것인지와 플랫폼의 책임을 함께 논의해야 한다고 강조했습니다 (DOI: 10.1145/3772318.3790902). 피해가 퍼지고 다시 돌아오는 단계마다 쌓인다면 (PMID 42745201), 피해의 크기를 정하는 데는 처벌 조항과 함께 삭제 경로도 몫을 합니다.

정치 딥페이크와 표현의 자유

동의의 축은 성적 딥페이크에서는 잘 들어맞습니다. 후보자의 가짜 연설 영상에서는 사정이 다릅니다. 여기서 법이 다루는 대상은 거짓된 정치적 발언이기 때문입니다. 2024년 기준 미국에서는 20개 주가 후보자에 관한 가짜 사진·영상·음성의 확산을 막는 법을 통과시켰습니다. 이 법들을 검토한 논문은 미국 연방대법원의 앨버레즈 판결 이래 거짓된 정치적 발언이 수정헌법 제1조의 강한 보호를 받는다고 정리합니다. 저자들은 사전 억제, 선거운동 규칙, 패러디·풍자 예외, 의무 고지 같은 조항 대부분이 상당한 헌법상 장애에 부딪힌다고 보고, 대안으로 인공지능 회사의 디지털 워터마크와 유통 서비스의 표시를 제안합니다 (DOI: 10.2139/ssrn.4830972, 심사 전 공개본).

반론도 미국 안에서 나옵니다. 명예훼손으로 판정된 선거 딥페이크의 재게시를 막는 판결 후 금지명령은, 이를 사전 억제로 보는 곳에서도 좁게 짜면 가장 엄격한 위헌심사를 통과할 수 있다는 주장입니다. 저자는 이런 명령을 검열과 구별해, 증명된 거짓이 민주적 선택을 왜곡하지 못하게 막는 구제라고 부릅니다 (DOI: 10.2139/ssrn.6998321, 심사 전 공개본). 앞의 미국 인식 실험의 저자들은 성적 딥페이크 금지는 동의 없는 성적 영상 금지와 같은 헌법적 취급을 받아야 하고, 성적이지 않은 딥페이크는 아마 명예훼손법으로만 다룰 수 있을 것이라고 봅니다 (DOI: 10.2139/ssrn.3781968, 심사 전 공개본).

두 종류가 완전히 따로 노는 것도 아닙니다. 트위터 자료로 둘의 관계를 살핀 2020년 논문은 성적 딥페이크와 정치 딥페이크가 비판적인 목소리를 침묵시키는 비슷한 방식으로 작동한다고 보고, 이 기술이 여성을 불균형하게 겨냥하게 만드는 불평등을 다뤄야 한다고 권고합니다 (DOI: 10.1080/23268743.2020.1757499). 이 절의 법 근거는 모두 미국 것이고, 한국의 선거 딥페이크 규정은 이 글의 자료에 없습니다.

눈으로 가릴 수 있는가

통념의 다른 절반은 탐지가 답이라는 믿음입니다. 사전등록한 행동 실험 하나(N=210)가 사람의 눈을 직접 시험했습니다. 참가자들은 딥페이크를 믿을 만하게 가려내지 못했고, 딥페이크에 대한 인식을 높여 주거나 금전 보상을 걸어도 판별 정확도는 오르지 않았습니다. 틀리는 방향도 한쪽으로 치우쳤습니다. 진짜를 가짜로 보는 쪽보다 딥페이크를 진짜 영상으로 착각하는 쪽이 많았고, 참가자들은 자기 판별 능력을 실제보다 높게 평가했습니다. 저자들은 사람들이 「보는 것이 믿는 것」이라는 어림법을 쓰면서 낮은 판별 능력을 과신하고, 이 조합이 딥페이크에 특히 휘둘리기 쉽게 만든다고 결론짓습니다 (DOI: 10.1016/j.isci.2021.103364). 그 실험의 영상과 참가자라는 조건 안에서 나온 단일 실험의 결과입니다. 심사 수준을 확인하기 어려운 학술지에 실린 서술형 종설 하나는 법정 증거의 관점에서 2020년부터 2026년 9월까지의 문헌을 훑어 이렇게 정리합니다. 이 종설도 사람은 딥페이크를 가려내는 일을 자주 잘 못하고, 자기가 얼마나 못하는지도 잘 모릅니다. 맥락, 반복, 이미 가진 믿음, 감정, 출처 표시, 경고가 정확도와 판단 쏠림을 흔듭니다. 기계 탐지기는 같은 조건의 시험에서는 도움 없는 사람보다 낫지만, 압축되거나 처음 보는 생성기로 만들었거나 일부러 손을 댔거나 데이터 분포가 바뀌면 정확도가 떨어집니다. 탐지기가 낸 점수는 그 자체로 진본임을 증명하지 못합니다 (DOI: 10.33545/26649799.2026.v8.i9a.511). 저자의 결론은 눈으로 보고 확신하는 것이 출처를 보여 주고 검증된 분석을 거치는 일을 대신할 수 없다는 것입니다.

출처 증명(provenance)은 영상이 어느 카메라에서 찍혀 어떤 편집을 거쳐 퍼졌는지를 기록으로 따라가, 그 영상이 손대지 않은 것인지를 확인하는 방식입니다. 인권·시민 저널리즘 네트워크의 활동을 정리한 2021년 글은 이런 기반이 멀리 있는 사람이 현장 영상을 제대로 해석하게 돕는다고 봅니다. 같은 글은 위험도 적습니다. 출처 기록이 취약한 목격자를 겨누는 데 쓰일 수 있고, 사생활이나 기술 접근의 이유로 기록이 없는 영상이 오히려 신뢰를 잃을 수 있습니다 (DOI: 10.1177/14648849211060644).

거짓말쟁이의 배당(liar's dividend)은 가짜를 만들 수 있다는 사실이 널리 알려진 덕분에, 진짜 증거를 앞에 둔 사람이 가짜라고 우겨 빠져나갈 수 있게 되는 이득입니다. 실증 없이 개념으로 논증한 2026년 논문은 피해를 둘로 나눕니다. 가짜를 진짜로 믿게 되는 기만의 피해와, 조작이 가능하다는 사실만으로 진짜를 믿지 않게 되는 회의의 피해입니다. 저자는 기존 연구를 종합하면 회의의 피해가 더 크고 고치기 어렵다고 주장합니다. 특정 가짜 하나보다 가짜가 있다는 일반적 인식에서 생기고, 정정한 뒤에도 남기 때문입니다 (DOI: 10.68854/mesw8r14). 앞의 법정 종설도 경고가 경계심을 높이는 한편 진짜 자료를 깎아내리는 거짓말쟁이의 배당 효과를 낼 수 있다고 적습니다 (DOI: 10.33545/26649799.2026.v8.i9a.511). 슬로바키아·인도·미국·튀르키예의 선거 사례를 다룬 튀르키예어 책의 한 장은 정치인들이 이 기술을 실제 추문을 덮는 방패로도 쓴다고 논하고, 미디어 문해력 교육이 오히려 냉소와 제도 불신을 키울 수 있다는 결과도 소개합니다 (DOI: 10.58830/ozgur.pub1099.c4387).

이 절의 근거는 단일 실험 하나를 빼면 대부분 개념 논문과 서술형 종설과 책의 한 장입니다. 앞에서 본 2024년 체계적 검토는 딥페이크에 대한 걱정이 근거보다 경보에서 나오는 경우가 많고, 우리가 아직 모르는 것이 많다고 적었습니다 (DOI: 10.1177/14614448241253138). 진짜를 아무도 믿지 못하게 된다는 데까지 가는 근거는 이 자료에 없습니다. 확인되는 것은 눈으로 보는 판단이 약하고, 그 약함을 기록과 검증으로 메우자는 제안이 여럿이라는 점입니다.

대법원이 합성물을 판단할 때 고려하라고 꼽은 요소에는 인물의 실제 나이나 신원, 합성물의 출처나 제작 경위가 들어 있습니다 (대법원 2024도17801). 화면만 봐서는 알 수 없고 기록으로 확인해야 하는 사실들입니다.

아직 정하지 못한 것

첫째는 처벌의 끝자리입니다. 한국은 2024년 10월부터 성인 피해자의 허위영상물도 만들기만 하거나 소지·시청하는 일까지 처벌합니다. 이 조항은 헌법재판소의 판단을 받은 적이 없습니다. 실존 아동이 없는 그림을 만들고 가지는 일도 처벌하며, 이쪽은 헌법재판소가 구 청소년성보호법 제11조를 심판대상으로 삼아 합헌으로 보았습니다. 그 사건을 보낸 법원은 인과관계를 의심했고 포르투갈의 한 논문은 완전한 가상물을 범죄에서 빼자고 주장합니다. 성인 피해자가 만들기만 한 합성물을 어떻게 할지는 나라마다 다릅니다. 한국은 처벌하고, 2025년 프리프린트 시점의 영국은 처벌하지 않았습니다.

둘째는 피해를 무엇으로 부를지입니다. 서울고등법원은 합성사진에 직접적인 성적 착취나 학대가 없다고 적었고, 헌법재판소는 딥페이크가 그 자체로 성적 학대와 착취의 기록이 된다고 적었습니다. 두 서술은 다른 질문에 답한 것이지만, 앞의 사건에서 그 판단의 한 갈래는 개정 전 조문 기준으로 하한 5년의 조항과 상한 5년의 조항을 가르는 데 쓰였습니다.

셋째는 법이 피해를 줄이는지입니다. 법이 있는 나라에서도 가해와 피해가 보고됐고, 대응책의 효과를 직접 평가한 연구는 거의 없습니다. 삭제 경로는 한 감사 연구에서 동의보다 저작권에 더 빨리 반응했습니다.

넷째는 정치 딥페이크와 표현의 자유입니다. 미국에서는 거짓된 정치적 발언의 헌법적 보호가 강해서, 성적 딥페이크에서 통하는 동의의 논리가 그대로 옮겨지지 않습니다.

다섯째는 진위 판정 자체입니다. 사람의 눈은 약하고 기계 탐지기는 조건이 바뀌면 흔들립니다. 출처 기록은 대안이지만 기록이 없는 진짜 영상을 의심받게 만들 수 있고, 한 개념 논문은 진짜를 믿지 않게 되는 회의의 피해가 가짜가 있다는 인식 자체에서 생겨 정정한 뒤에도 남고, 그래서 탐지 능력보다 출처 기반이 더 중요하다고 주장합니다 (DOI: 10.68854/mesw8r14). 진짜를 가짜라 우기는 거짓말쟁이의 배당은 그 회의를 이용합니다.

딥페이크를 진위의 문제로만 보면 탐지 기술이 이기는 날 문제가 끝나야 합니다. 법은 같은 가짜를 두고 다른 질문을 합니다. 미국 연방법은 이 글이 인용한 논문의 평가로는 아직 진짜와 구별되지 않는가와 해칠 의도에 묶여 있고, 한국 청소년성보호법은 아동·청소년으로 명백하게 보이는가를 묻습니다. 영국 법과 2020년에 생긴 한국 성폭력처벌법 제14조의2는 대상자의 동의를 묻습니다. 이 글이 따라간 사건에서도 합성 흔적이 보인 사진이든 거의 보이지 않은 사진이든, 처벌은 대상자의 의사를 묻는 그 조항에서 내려졌습니다. 남은 질문은 어디까지를 처벌하고 무엇을 표현으로 남겨 둘지, 그리고 지우는 책임을 누가 질지입니다. 같은 시리즈의 「얼굴인식과 감시 — 국가가 얼굴로 사람을 찾을 때, 법은 무엇을 정하지 못했나」와 「AI와 저작권 — 생성AI는 '학습'인가 '표절'인가」도 이어 읽을 수 있습니다.

판결문

• 서울고등법원 2024노1823 (2024년 11월 1일) — 16세 후배의 얼굴로 만든 성적 합성물 제작 의뢰 사건 — 실존 아동 얼굴 합성물은 「아동·청소년이 등장하는」 성착취물이 아니고, 이 사건 사진들은 「명백하게 인식될 수 있는 표현물」에도 해당한다고 보기 어렵다며 그 부분을 이유에서 무죄로 보고, 항소심에서 추가된 허위영상물 편집죄를 유죄로 인정(1심 서울서부지법 2024고합93 파기, 징역 2년 6개월·집행유예 3년).
• 대법원 2024도17801 (2025년 8월 14일) — 위 사건의 상고심 — 실존 아동의 얼굴을 합성한 사진·딥페이크 영상은 「아동·청소년이 등장하는」 성착취물이 아니나 「명백하게 인식될 수 있는 표현물」에는 해당할 수 있다는 기준과 판단 요소를 제시하고, 원심 결론을 유지해 검사의 상고를 기각(관여 대법관 일치).
• 헌법재판소 2023헌바263 (2026년 6월 24일) — 아동·청소년으로 명백하게 인식될 수 있는 캐릭터가 등장하는 성인용 만화의 제작·배포·영리 판매 처벌 조항 — 명확성원칙·표현의 자유·평등원칙 위반이 아니라며 합헌(재판관 전원 일치).
• 헌법재판소 2022헌가8 (2026년 6월 24일) — 제주지방법원이 제청한 같은 종류 만화의 영리 목적 배포·소지 처벌 조항 — 책임과 형벌의 비례원칙·평등원칙 위반이 아니라며 합헌(재판관 전원 일치). 딥페이크 영상 등은 그 자체로 성적 학대와 착취의 기록이 된다고 서술.
• 대법원 2024도5566 (2024년 7월 11일) — 허위영상물 편집·반포 등 사건 — 피고인이 다른 사건으로 구금된 상태였다면 필요적 변호사건이므로 국선변호인 없이 진행한 원심은 위법하다며 파기환송(관여 대법관 일치).

법령

• 성폭력범죄의 처벌 등에 관한 특례법 제14조의2(허위영상물 등의 반포등) — 2024년 10월 16일 개정 전 조문(판결문 사건에 적용된 문언. 대조본은 2024년 1월 25일 시행판): 반포등 목적 편집 5년 이하·반포 5년 이하·영리 반포 7년 이하. 2024년 10월 16일 시행판(개정판, 2026년 10월 2일 시행 현행과 문구 동일): 목적 요건 삭제·편집 7년 이하·반포 7년 이하·영리 반포 3년 이상·소지·구입·저장·시청 3년 이하 또는 3천만 원 이하(제4항 신설).

근거 논문

등급(심사 전 공개본·프리프린트)은 본문에 그때마다 표시했다.

• "From grassroots advocacy to AI governance: lessons from South Korea's 2024 deepfake sexual abuse crisis" (2025) — DOI: 10.1080/01924036.2025.2596578 — 2024년 한국 사태 뒤 동의 없는 합성 성적 이미지가 범죄로 인식되고 법 강화·피해자 지원·AI 거버넌스 개혁이 빠르게 시작됨. 국경 넘는 적발·공조는 장벽.
• "'A Deepfake Porn Plot Intended to Silence Me'" (2020) — DOI: 10.1080/23268743.2020.1757499 — 도는 딥페이크 다수는 성적이나 공적 관심은 정치 딥페이크에. 둘은 비판적 목소리를 침묵시키는 비슷한 방식으로 작동.
• "The Real Threat of Deepfake Pornography: A Review of Canadian Policy" (2021) — DOI: 10.1089/cyber.2020.0272 — 온라인 딥페이크 대부분이 성적이고 등장인물의 동의는 드묾. 캐나다 법에 명확한 구제 없음.
• "Sexualized Deepfake Abuse as Image-Based Sexual Abuse: A Scoping Review" (2026) — PMID 42745201 — 54편. 허위정보·유명인 프레임이 일상 피해를 가림. 피해는 순환 단계마다 누적. 피해자 중심 실증·개입 효과 평가 드묾.
• "Deepfake Privacy: Attitudes and Regulation" (2021, 심사 전 공개본) — DOI: 10.2139/ssrn.3781968 — 미국 대표표본. 성적 딥페이크는 허구 표시해도 잘못됨 판단이 줄지 않음(비성적은 줄어듦). 복수 포르노만큼 해롭고 조금 더 비난받을 일.
• "Image-Based Sexual Abuse" (2016) — DOI: 10.1093/ojls/gqw033 — 개념 정립. 몸과 마음의 병, 존엄·사생활·성적 자기결정 상실이 문화적 피해로 합쳐짐.
• "Beyond 'Revenge Porn': The Continuum of Image-Based Sexual Abuse" (2017) — DOI: 10.1007/s10691-017-9343-2 — 복수 포르노 틀은 입법을 조각냄. 다른 성폭력과의 연속선으로 이해하자.
• "Image-based Sexual Abuse" (2020, 연구서) — DOI: 10.4324/9781351135153 — 세 나라 6천여 명 설문·100건 넘는 면담. 딥페이크 포함. 지배적 동기는 권력과 통제.
• "Outcomes of image-based sexual abuse among young people: a systematic review" (2025) — PMID 40709226 — 10~24세 12편. 심리적 고통·따돌림·학업·직업 단절. 신체적 성적 학대와의 닮은 점.
• "Non-Consensual Synthetic Intimate Imagery: Prevalence, Attitudes, and Knowledge in 10 Countries" (2024) — DOI: 10.1145/3613904.3642382 — 1만 6천여 명. 피해 2.2%·가해 1.8%. 법이 있는 나라에서도 보고 → 억지에 불충분.
• "Dignity vs. Deception" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.7530380 — 미국 Take It Down Act(구별 불가능성·해칠 의도, 48시간 삭제) 대 영국(동의 기반, 사전 안전 의무). 두 나라 공통의 도구 공백.
• "Artificial Intelligence and Sexual Offences: An Analysis of Deepfake Pornography in Light of Criminal Law" (2025) — DOI: 10.15388/teise.2025.134.4 — 포르투갈. 실제 아이 이미지를 쓴 가상물만 범죄로. 성인 피해는 공백이라 새 범죄 제안하되 과잉 형사화·도덕주의 경계.
• "AI-generated image-based sexual abuse: A scoping review" (2026) — DOI: 10.1016/j.chbr.2026.101306 — 28편. 식별 가능한 아이 등장 합성물과 완전한 합성물은 다른 범주로 다뤄짐. (쇼트리스트의 서평 의심 표시는 논문번호 쪽수로 판단 — 초록은 원저)
• "The Weaponisation of Artificial Intelligence (AI)… NCIDs" (2025, 프리프린트) — DOI: 10.20944/preprints202507.1645.v1 — 영국 온라인안전법은 배포만 처벌하고 만들기는 합법. 동의 부재에 초점 둔 엄격책임 모형 제안.
• "Fake Images, Real Harm: A Case for Criminalising Non-consensual Intimate Deepfakes" (2026) — DOI: 10.26686/vuwlr.v56i2.10758 — 뉴질랜드에 별도 형사 조항 권고.
• "What we know and don't know about deepfakes" (2024) — DOI: 10.1177/14614448241253138 — 체계적 검토. 걱정의 상당 부분은 경보주의. 새 문제보다 기존 문제를 키움. 기존 규칙 집행과 신중한 조정.
• "The Help-Seeking Behavior of Victims of Image-Based Sexual Harassment and Abuse: A Scoping Review" (2025) — PMID 39427323 — 81편. 도움 요청의 동기로 정의와 삭제, 장벽으로 수치심·부정적 반응 두려움. 주로 영어권 서구 표본.
• "Reporting Non-Consensual Intimate Imagery: An Audit Study of Deepfakes" (2026) — DOI: 10.1145/3816990 — X에 50장. 저작권 신고 25시간 내 100% 삭제, 비동의 나체 신고 3주 넘게 0%.
• "Online safety regulation of deepfake abuse: a case study on Australia's eSafety Commissioner" (2025) — DOI: 10.1080/10383441.2025.2504791 — 신고·삭제 접근에 상당한 문제.
• "The Backbone of Abuse" (2026) — DOI: 10.54501/jots.v3i4.348 — 공개 사이트 88곳(38곳 합성 전용). 대형 인터넷 기업이 기반시설을 대고 대부분 검색으로 찾아짐.
• "Deepfakes on Demand" (2025) — DOI: 10.1145/3715275.3732107 — 공개 변형 모델 약 3만 5천 개, 내려받기 약 1,500만 회, 96%가 여성 겨냥.
• "Deepfake Liability" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.6445584 — 사용자·플랫폼 책임의 한계. 생성형 AI 개발사에 제조물 책임(설계 결함) 제안.
• "Deepfake, Real Harm: A Participatory Approach…" (2026) — DOI: 10.1145/3772318.3790902 — 한국 활동가·피해 경험자 10명. 분류 모호·증거 수집 장벽·감시 부담과 신변 위험. 데이터 소유·플랫폼 책임 논의 필요.
• "The Right to Lie with AI?" (2024, 심사 전 공개본) — DOI: 10.2139/ssrn.4830972 — 미국 20개 주 법. 앨버레즈 이래 거짓 정치 발언 강한 보호. 대부분 헌법상 장애. 워터마크·표시 대안.
• "Surviving Strict Scrutiny" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.6998321 — 좁게 짠 판결 후 금지명령은 엄격심사 통과 가능.
• "Fooled twice: People cannot detect deepfakes but think they can" (2021, 단일 실험) — DOI: 10.1016/j.isci.2021.103364 — 사전등록 실험 N=210. 판별 불가, 인식 제고·금전 보상 효과 없음, 진짜 쪽으로 치우친 편향과 과신. (서평 의심 표시는 논문번호 쪽수 — 원저 실험)
• "Deepfake evidence and the reliability of perceptual judgement in court" (2026, 서술형 종설) — DOI: 10.33545/26649799.2026.v8.i9a.511 — 사람 판별 약하고 보정 안 됨. 탐지기는 조건 변화에 약화, 점수는 진본을 스스로 증명 못 함. 경고의 배당 효과. 출처와 검증된 분석.
• "Deepfakes… authenticity infrastructure responses" (2021) — DOI: 10.1177/14648849211060644 — 출처 기반의 효용과 위험(취약한 목격자 겨냥, 기록 없는 영상의 신뢰 하락).
• "Synthetic Media and the Epistemics of Public Communication" (2026, 개념 논문) — DOI: 10.68854/mesw8r14 — 기만의 피해와 회의의 피해. 회의의 피해가 더 크다고 저자가 주장.
• "Deepfake Teknolojisi ve Siyasi Güven Krizi" (2025, 책의 장) — DOI: 10.58830/ozgur.pub1099.c4387 — 선거 사례. 정치인의 방패 사용, 미디어 문해력 교육의 역효과 결과 소개.