수사기관용 암호 열쇠 — 현관 매트 밑에 둔 열쇠는 누가 찾게 되나

영장이 있으면 열리던 문

미국 법원이 2016년 2월 16일 애플에 명령을 내렸습니다. 미국 캘리포니아주 샌버너디노에서 총격을 벌인 범인 가운데 한 명이 쓰던 아이폰의 보안 기능을 우회하라는 명령이었습니다. 애플은 거부했습니다. 휴대전화 한 대의 잠금을 깨는 일은 잠금 전반의 안전을 무너뜨리지 않고는 할 수 없다는 것이 애플의 주장이었습니다. 애플은 모든 휴대전화를 열 수 있는 열쇠가 생기면 정부와 다른 누군가가 그것으로 사용자를 추적하거나 데이터를 들여다볼 수 있다고 공개적으로 호소했습니다. 미국 정부는 미국 연방수사국(FBI)이 외부 업체를 고용해 그 휴대전화에 접근한 뒤 소송을 거둬들였습니다 (DOI: 10.1017/s0002930000016894).

수사기관 쪽에서 보면 요구는 단순했습니다. 범인의 휴대전화 한 대, 법원이 허락한 한 대만 열자는 것입니다. 전화 도청도 오래 그렇게 해 왔습니다. 판사가 영장을 내주면 수사기관은 통신망에서 그 전화의 통화를 들었습니다. 그러니 영장이 있을 때만 열리는 수사기관 전용 열쇠를 하나 더 만들어 두면 된다는 생각은 자연스럽습니다. 주인의 사생활은 평소대로 지키고, 법이 정한 예외에서만 문을 여는 것입니다.

이 다툼에는 물음이 둘 걸려 있습니다. 하나는 암호화가 수사를 실제로 얼마나 막느냐이고, 다른 하나는 「그때만」 열리는 문을 기술로 만들 수 있느냐입니다. 이 글은 둘을 다 보되, 주로 뒤의 물음을 따라갑니다. 영장을 언제 내줄지, 그런 열쇠를 법으로 요구할지는 정치와 법이 정할 일이고, 이 글은 그 답을 정하지 않습니다.

영장이 있어도 들리지 않는 통신

수사기관이 이 열쇠를 원하는 데는 근거가 있습니다. 2012년 무렵 강한 암호화는 데이터와 음성 통신에서 빠르게 흔해지고 있었습니다. 통신사나 인터넷 회사의 망에서 엿듣는 전통적인 도청은 점점 이런 암호화된 통신에 부딪혔고, 그만큼 효력을 잃었습니다 (DOI: 10.1093/idpl/ips025). 영장이 있어도 도청으로 얻는 것이 알아볼 수 없는 암호문뿐인 통신이 늘었다는 뜻입니다.

메신저에서는 이 변화가 한꺼번에 왔습니다. 널리 쓰이는 한 메신저는 2016년 초 모든 사용자에게 종단간 암호화를 걸었습니다. 「암호화 — 내용은 잠가도 드나든 기록은 남는다」의 정의로, 종단간 암호화는 보내는 사람의 기기에서 잠그고 받는 사람의 기기에서만 열어, 그 사이를 건네주는 서버도 내용을 읽지 못하게 하는 방식입니다. 수사 현장을 다룬 한 논문은 이 조치가 세계 곳곳의 수사관을 곧바로 어둠 속에 두었다고 적었습니다. 그 뒤로 통신망을 도청해서 얻을 수 있는 것은 메타데이터, 곧 누가 누구와 언제 주고받았는지 같은 내용 둘레의 정보에 그쳤습니다 (DOI: 10.1016/j.fsidi.2021.301132).

같은 논문의 결론은 그 어둠에서 끝나지 않습니다. 저자들은 도청에 용의자 기기 속 메신저 기록의 복호화, 공개 정보 분석, 웹 접속 분석을 엮는 방법을 제안했습니다. 시험한 여러 상황에서 이 방법으로 음성 메시지를 포함한 대화 내용과 위치까지 실시간으로 얻을 수 있었고, 저자들은 수사기관이 이 방법으로 입지를 되찾을 수 있다고 결론지었습니다. 초록이 든 수단에는 용의자 기기의 기록과 계정에 대한 접근이 들어 있습니다 (DOI: 10.1016/j.fsidi.2021.301132). 도청만으로는 어두워졌지만, 기기와 계정에 손이 닿는 수사에서는 다른 길이 있었다는 뜻입니다.

깜깜해짐(going dark)은 법적으로 감청이 허락돼도 암호화 때문에 통신이나 기기의 내용을 실제로는 읽지 못하게 되는 상황을 수사기관 쪽에서 부르는 이름입니다. 대응책은 크게 두 갈래로 나뉩니다. 암호에 수사기관의 접근을 의무로 넣는 길과, 수사기관이 대상의 기기에 들어가는 일을 법으로 허용하는 길입니다 (DOI: 10.47152/rkkp.60.1.4). 앞의 길에 붙은 이름이 이 글의 주제입니다. 예외적 접근(exceptional access)은 평소에는 주인만 여는 암호를, 법이 정한 예외에서는 수사기관도 열 수 있게 설계 단계에서 만들어 두는 장치입니다.

도청이 효력을 잃은 자리를 무엇이 메웠는지도 갈립니다. 2012년의 같은 논문은 정부의 접근이 새롭지만 제한된 방법, 특히 클라우드에 저장된 기록에 점점 기대게 된다고 보았습니다. 그런 기록을 가진 나라와 못 가진 나라도 갈려, 못 가진 쪽은 가진 쪽의 협조에 기대게 된다고 적었습니다 (DOI: 10.1093/idpl/ips025). 반대쪽에서, 2015년의 한 보고서는 그사이 수사기관이 훨씬 많은 양의 데이터에 접근할 새롭고 더 효과적인 수단을 찾았다고 평가했습니다 (DOI: 10.1093/cybsec/tyv009). 어두워진 자리와 다른 길이 열린 자리가 함께 있다는 데까지는 두 문헌이 겹칩니다. 얼마나 어두워졌는지는 아래 「연구가 엇갈리는 이유」에서 다시 봅니다.

클리퍼 칩 — 열쇠 사본을 실어 보내는 칩

미국 정부는 1990년대에 예외적 접근을 공식 표준으로 만들려 했습니다. 키 맡기기(key escrow)는 데이터를 여는 열쇠의 사본을 정부 같은 제3자에게 미리 맡겨 두는 방식입니다. 미국 정부가 내놓은 「키 맡김 암호 표준(Escrowed Encryption Standard)」은 이 방식을 칩에 담았고, 흔히 클리퍼 칩이라고 불렸습니다. 정부의 기밀이 아닌 통신과 민간의 통신·데이터를 보호하려는 암호 칩이었습니다 (DOI: 10.1145/191177.191193).

구조는 이렇습니다. 두 칩이 대화를 시작할 때, 이번 대화에 쓸 열쇠를 정하면서 「수사기관 접근 필드」라는 꼬리표를 함께 주고받습니다. 이 꼬리표 안에는 그 대화 열쇠의 사본이 암호화된 채 들어 있습니다. 그 사본을 풀 열쇠를 정부 쪽에 맡겨 두는 것이 「키 맡김」이라는 이름의 뜻이었습니다. 수사기관이 그 사본을 풀면 대화의 평문, 곧 암호를 걸기 전의 원래 내용을 읽을 수 있게 하려는 장치였습니다. 칩은 공개되지 않은 기밀 암호 방식을 썼고, 뜯어 고치기 어렵게 만든 하드웨어에 담겼습니다. 설계의 여러 부분은 이 꼬리표를 보내지 않고서는 칩을 쓸 수 없게 하려는 것이었습니다 (DOI: 10.1145/191177.191193).

1994년의 한 분석이 이 보장을 시험했습니다. 분석은 공개된 규약과 시제품 장치를 살펴, 올바른 꼬리표를 보내지 않고도 칩끼리 암호 통신을 하는 방법들을 찾았습니다. 쉬운 방법은 규칙을 어기기로 한 두 사람 사이에서만 통했습니다. 더 복잡한 방법은 규칙을 어기는 쪽 혼자서도, 규칙대로 쓰는 정상 사용자와 통신할 수 있게 했습니다. 분석은 이런 실패에 대비해 배치된 구조를 더 튼튼하게 만들 방법도 함께 제시했습니다 (DOI: 10.1145/191177.191193). 클리퍼 칩에서, 수사기관이 언제든 열 수 있다는 보장은 열리기를 원하지 않는 쪽이 피해 갈 수 있는 보장이었습니다.

이 논쟁은 20여 년 뒤 다시 돌아왔습니다. 1993년의 클리퍼 칩 논쟁과 2016년의 애플 대 FBI 사건에서 오간 말을 견주면, 예외적 접근을 주장하는 쪽의 논거는 두 사건 사이에 크게 이어졌고 비판하는 쪽의 논거는 그보다 다양했습니다 (DOI: 10.17645/mac.v5i1.805).

현관 매트 밑 열쇠 — 1997년과 2015년의 두 보고서

정부 기관들은 1997년에 이르는 몇 해 동안 새 기술 환경에서 은밀한 감시를 이어 가려고 「키 복구」·「키 맡기기」·「믿을 만한 제3자」 암호화 같은 요구를 내놓았습니다. 그해의 한 보고서가 이 계열의 요구를 한데 모아, 정부가 암호 열쇠에 접근하게 하는 시스템의 기술적 위험과 비용, 함의를 정리하려 했습니다 (DOI: 10.7916/d8gm8f2w).

2015년, 컴퓨터 과학자와 보안 전문가들이 다시 모였습니다. 그 가운데 많은 사람이 1997년 연구에 참여했던 이들입니다. 이들이 낸 보고서의 제목이 「현관 매트 밑 열쇠(Keys under doormats)」입니다. 보고서의 결론은 이렇습니다. 수사기관의 예외적 접근 요구가 일으킬 수 있는 피해는 20년 전보다 오늘이 더 클 것이고, 인터넷이 근본적으로 불안전해서 생기는 경제적·사회적 비용이 커지는 만큼 온라인 보안의 역학을 바꾸는 제안은 조심스럽게 다뤄야 한다는 것입니다 (DOI: 10.1093/cybsec/tyv009).

저자들이 든 이유 하나는 설계 관행과 부딪힌다는 것입니다. 전방향 비밀성(forward secrecy)은 오래 쓰는 키가 나중에 털려도 과거 통신은 풀 수 없게 하는 성질입니다. 보고서는 예외적 접근이 개발자들에게 이 설계 관행을 거꾸로 돌리도록 강요한다고 썼습니다. 이 관행은 시스템이 뚫렸을 때 사용자 사생활이 입는 피해를 줄이려는 것입니다. 또 수백만 개의 앱과 세계로 이어진 서비스로 이뤄진 오늘의 인터넷은 너무 복잡해서, 새 수사 요구가 예상하지 못했고 찾아내기도 어려운 문제를 들여올 가능성이 크다고 보았습니다 (DOI: 10.1093/cybsec/tyv009).

첫째 이유를 메시지 한 통에 대 보면 이렇습니다(보고서가 한 말은 앞 문단까지이고, 아래 풀이는 교과서 설명입니다). 전방향 비밀성을 건 메신저는 열쇠를 쓰고 나면 곧 버립니다. 그래서 몇 달 뒤 누군가 오래 쓰는 키를 훔쳐도, 그사이 길 위에서 녹음해 둔 지난 대화의 암호문을 열 열쇠는 이미 어디에도 없습니다. 예외적 접근은 그 반대를 요구합니다. 영장이 언제 나오든 수사기관이 대화를 열 수 있으려면, 지난 대화의 열쇠를 다시 꺼낼 수 있는 오래 남는 열쇠가 어딘가에 맡겨져 있어야 합니다. 그 열쇠가 맡겨진 자리는 시스템이 뚫렸을 때 많은 사용자의 지난 대화가 함께 털리는 자리이기도 합니다. 보고서가 그 관행의 목적을 「뚫렸을 때 피해를 줄이는 것」으로 적은 까닭이 여기에 닿습니다.

맡겨 둔 열쇠를 누가 쥐느냐도 오래된 반론입니다. 1997년의 한 암호 논문은 키 맡기기에 대한 주요 반론 하나를 이렇게 적었습니다. 개인의 사생활이 수사기관에 대한 지나치게 큰 신뢰에 기대게 되고, 오늘의 정부가 믿을 만해도 내일 믿을 수 없는 정부로 바뀌면 그 정부가 모든 사용자의 열쇠를 한꺼번에 복구할 수 있다는 것입니다 (DOI: 10.1145/266420.266439).

암호를 건드리지 않고 먼저 보기 — 기기 쪽 검사

키 맡기기가 세계 곳곳의 반발에 부딪힌 뒤, 열쇠를 맡기지 않는 다른 방식이 제안됐습니다 (DOI: 10.48550/arxiv.2106.09820). 기기 쪽 검사(client-side scanning)는 메시지나 사진이 암호화되기 전에 사용자의 기기 안에서 그 내용을 살펴, 찾는 대상과 맞을 때만 밖으로 알리는 방식입니다. 찾는 대상이 발견되면 그 존재와 출처가 수사기관에 드러나고, 그렇지 않으면 정보가 기기 밖으로 거의 나가지 않습니다. 지지하는 쪽은 이것이 암호화와 공공 안전 사이의 다툼을 푸는 해법이라고 주장합니다. 종단간 암호화를 그대로 두면서 중대 범죄도 수사할 수 있다는 것입니다 (DOI: 10.1093/cybsec/tyad020).

이 검사의 핵심 도구는 사진을 비교하는 특별한 해시입니다. 해시는 「블록체인이란 무엇인가 — 아무도 관리하지 않는 장부가 성립하는 이유」가 설명했듯 아무리 긴 글이든 정해진 길이의 짧은 값 하나로 줄여 놓은 것입니다. 보통의 해시는 글자 하나만 바뀌어도 전혀 다른 값이 나옵니다. 지각 해시(perceptual hash)는 사진을 짧은 값으로 줄이되, 눈으로 보기에 비슷한 사진끼리는 비슷한 값이 나오게 만든 해시입니다. 이미 알려진 불법 사진 목록의 해시와 내 사진의 해시를 맞대 보면, 사진 자체를 보지 않고도 비슷한지 가릴 수 있습니다 (DOI: 10.14722/ndss.2024.241401). 아동 성 착취물이 대표적인 표적으로 꼽혔습니다. 2021년에는 애플이 사진을 클라우드에 올리기 전에 기기에서 검사하는 방식을 공개했고, 보안·사생활·표현의 자유에 위험을 만든다는 비판을 널리 받았습니다 (DOI: 10.1109/sp46215.2023.10179349; DOI: 10.1145/3531146.3533073).

공격 연구가 곧 뒤따랐습니다. 아래 결과는 모두 연구진이 자기 실험 환경에서 낸 것이고, 실제 사용자를 상대로 일어난 사고를 센 것은 아닙니다.

첫째는 피해 가기입니다. 한 프리프린트(공개 서버 판본)에서는 시스템 내부를 모르는 조건에서도, 이미지 내용을 유지한 채 99.9%가 넘는 이미지에서 피해 가기 공격이 성공했습니다 (DOI: 10.48550/arxiv.2106.09820). 찾으려는 사진을 조금만 손봐도 목록에 걸리지 않을 수 있다는 뜻입니다.

둘째는 일치 조작입니다. 애플이 공개한 검사 엔진을 분석한 연구에서는, 이미지를 살짝 바꾸는 것만으로 해시 값을 조작해 일치를 억지로 만들거나 막을 수 있었습니다. 저자들은 이 결과로 볼 때 불법 사진을 숨기는 일부터 죄 없는 사용자에게 누명을 씌우는 일까지 가능하다고 보았습니다. 해시 값만으로 기기에 든 데이터에 대해 추론하는 것도 여전히 가능했습니다. 저자들은 지금 형태의 이 기술이 대체로 튼튼한 기기 쪽 검사에 쓰일 준비가 되지 않았고, 사생활 관점에서는 쓰지 말아야 한다고 결론지었습니다 (DOI: 10.1145/3531146.3533073).

셋째는 숨은 목적입니다. 지지하는 쪽은 이 기술이 「이미 알려진 불법 사진 찾기」라는 좁은 범위만 다루니 위험이 작다고 주장해 왔습니다. 그런데 해시 알고리즘을 공급하는 쪽은 불법 사진 찾기 성능을 그대로 두면서, 특정 인물의 얼굴을 알아보는 두 번째 목적을 숨겨 넣을 수 있었습니다. 이 모델은 표적 인물을 67%의 경우에 알아봤고, 그 숨은 목적은 목록에 불법처럼 보이는 사진 한 장을 넣는 것으로 켜졌습니다. 저자들은 이런 시스템이 수십억 대의 기기를 표적 인물을 찾는 도구로 바꿀 수 있다는 우려를 제기했습니다 (DOI: 10.1109/sp46215.2023.10179310).

넷째는 장소 감시입니다. 해시 목록을 오염시켜 특정 장소를 찍은 사진을 가려내게 한 실험에서, 목록의 0.2%를 오염시켜 30%가 넘는 감시 성공률이 나왔습니다 (DOI: 10.14722/ndss.2024.241401). 이런 검사 설계에서는 해시 목록이 사용자에게 공개되지 않으므로 (DOI: 10.1109/sp46215.2023.10179349), 목록을 쥔 쪽이 실제로 무엇을 찾는지 사용자는 알 수 없습니다.

한 보안 학술지 논문의 저자들은 이런 사정을 모아 이렇게 주장했습니다. 기기 쪽 검사는 효과적인 범죄 예방도, 감시를 막는 일도 보장하지 않는다는 것입니다. 이 방식은 실패할 수 있고, 회피될 수 있고, 남용될 수 있으며, 수사기관에 주는 도움은 기껏해야 문제가 많다고 저자들은 보았습니다 (DOI: 10.1093/cybsec/tyad020).

느슨하게 하면 감시가, 빡빡하게 하면 회피가

이 공격들이 왜 함께 문제가 되는지는 사진 한 장으로 따라가 볼 수 있습니다.

불법 사진 한 장이 목록에 올라 있습니다. 누군가 그 사진을 조금 잘라 내고 밝기를 바꿔 보냅니다. 해시가 이것도 같은 사진으로 알아보게 하려면, 「비슷하다」고 판정하는 문턱을 넓혀야 합니다. 그런데 앞의 프리프린트의 계산으로는, 공격을 더 어렵게 만들 만큼 문턱을 넓히면 하루에 10억 장이 넘는 이미지가 걸려 복호화돼야 할 가능성이 컸습니다. 저자들은 이것이 사생활에 대한 강한 우려를 낳는다고 적었습니다 (DOI: 10.48550/arxiv.2106.09820).

살짝 바뀐 사진까지 잡는 더 튼튼한 탐지는 문턱을 넓히는 쪽과 방향이 같습니다. 장소 감시 실험은 불법 사진을 더 튼튼하게 찾아내는 설정일수록 대부분의 조건에서 장소 감시에 쓰일 가능성도 커진다는 것을 보였습니다 (DOI: 10.14722/ndss.2024.241401). 반대로 문턱을 좁히면, 첫째 공격처럼 살짝 손본 사진이 그대로 빠져나갑니다.

두 실험을 이어 보면, 문턱을 넓히면 걸리는 사진과 감시의 여지가 대부분의 조건에서 늘고, 좁히면 살짝 손본 사진이 빠져나가는 구조가 드러납니다. 다만 이것은 연구진이 고른 알고리즘과 데이터로 잰 결과를 우리가 이어 본 것이고, 어느 한 실험이 문턱 하나로 세 결과를 함께 잰 것은 아닙니다. 문턱과 공격의 관계가 모든 설계에서 같다는 것까지 보인 연구도 없습니다.

열쇠 대신 다른 길 — 합법 해킹과 제한적 접근

암호에 문을 내지 않는 다른 길로 가장 자주 거론되는 것 가운데 하나는 수사기관이 직접 들어가는 방식입니다. 합법 해킹(lawful hacking)은 수사기관이 법이 정한 권한에 따라 대상의 컴퓨터나 휴대전화에 침입하는 도구를 써서, 그 안의 내용에 접근하는 수사 방법입니다. 암호를 약하게 하지 않고도 수사기관이 찾는 정보를 얻을 수 있다는 점이 지지 논거로 거론됩니다. 이 길을 다룬 2020년 논문의 저자는 이런 수사가 점점 연결되는 사회에서 필수적인 것으로 보인다고 하면서도, 이미 여러 나라가 관련 법을 만들고 있으니 규제 방식마다 다른 보안·사생활 위험을 이해해야 한다고 적었습니다 (DOI: 10.36645/mtlr.26.2.exploring).

이 길에도 반대가 있습니다. 다섯 나라의 정부 해킹 현황을 살핀 개관에 따르면, 수사기관과 정부 기관은 나라와 국민을 지키려면 이런 도구가 필요하다고 주장합니다. 많은 비정부기구와 시민사회 단체는 그 방법이 지나치게 침해적이라고 반대하고, 암호 표준을 약하게 하고 인터넷의 안전을 위험에 빠뜨릴 수 있다고 우려합니다 (DOI: 10.1109/access.2018.2871762). 원격 감시에서는 수사기관이 오랜 기간 대상 기기에 제한 없이 접근할 수 있다는 위험도 지적됩니다. 그래서 내용 전체 대신 복호화에 필요한 열쇠만 뽑아 오고, 암호화된 통신은 따로 도청해서 그 열쇠로 푸는 범주가 제안됐습니다. 기기에서 가져오는 데이터를 최소한으로 줄이려는 설계입니다 (DOI: 10.1016/j.fsidi.2024.301796).

예외적 접근을 아예 비싸게 만드는 제안도 있습니다. 출발점은 당국에 어느 정도의 접근을 허용하면서도 실제로는 무제한 접근이 되지 않게 하는 시스템을 만들기 어려웠다는 것입니다. 이 설계는 새로운 제3자를 두지 않고, 정부가 표적 메시지를 복구할 수는 있되 메시지마다 큰 계산 비용을 치르게 합니다. 연구진의 초기 분석으로는 메시지 하나에 1,000달러에서 100만 달러의 비용을 물릴 수 있었고, 연구진은 이 설계를 흔히 쓰는 여러 암호 도구에 쉽게 덧붙일 수 있다고 보였습니다 (DOI: 10.1109/eurosp.2018.00028). 이 설계가 겨냥하는 보장은 「비싸게만」 열리는 것입니다. 비용을 치르는 쪽이면 누구든 열 수 있다는 점에서 「수사기관만」과는 다른 보장이고, 많이 열수록 비싸지니 대량 감시에는 쓰기 어렵게 하려는 것입니다.

열쇠의 일부만 맡기는 생각은 이보다 오래됐습니다. 1997년의 논문은 정부가 남은 부분을 계산으로 찾아야 하게 하는 「부분 키 맡기기」를 공개키 환경으로 넓혔습니다. 동시에 다른 제안들이 정부가 예정보다 일찍 열쇠를 찾아내는 문제를 안고 있어서 보통의 키 맡기기보다 나을 것이 없다는 것도 보였고, 자기 방식은 이 문제를 겪지 않는다고 적었습니다 (DOI: 10.1145/266420.266439).

기기 쪽 검사를 고치려는 연구도 이어집니다. 외부 단체가 해시 목록을 승인했는지, 합법적인 특정 사진이 목록에 없는지를 누구나 확인하고, 잘못 걸린 사용자에게 나중에 알리는 암호 규약이 제안됐습니다. 저자들은 목록에 대한 신뢰와 구현에 대한 신뢰가 기술만으로 완전히 풀리지는 않지만, 암호로 개선할 여지는 있다고 적었습니다 (DOI: 10.1109/sp46215.2023.10179349). 한 체계적 고찰은 지금 배포된 방식이 대개 종단간 암호화의 어느 한 면을 희생한다고 정리했습니다. 사용자가 직접 신고하는 방식과 메타데이터 분석은 사생활을 대체로 지키지만 사용자의 참여에 기대고, 기기 쪽 검사처럼 더 자동화된 방식은 사생활을 해칠 수 있고 회피에도 약하다는 것입니다. 이 고찰은 새로 나온 암호 기법들을 평가하며 종단간 암호화를 약하게 하지 않는 방향도 함께 짚었습니다 (DOI: 10.1109/isdfs65363.2025.11012061).

이 절의 제안들, 곧 열쇠만 뽑아 오는 범주, 비용을 물리는 설계, 부분 키 맡기기, 공개 검증 규약은 모두 연구진의 제안이고, 실제로 배포돼 검증된 결과는 아닙니다.

연구가 엇갈리는 이유

네덜란드의 공개 판결 자료가 「깜깜해짐」 주장을 시험하는 데 쓰였습니다. 이 분석은 그 주장이 아직 실증 근거로 뒷받침되지 않았다는 데서 출발했습니다. 법정에 온 사건에서, 네덜란드 법원은 종단간 암호화에 기댄 범죄자도 그렇지 않은 범죄자만큼 유죄 판결로 이끈 것으로 보였습니다. 그러나 저자들은 자기 자료로는 종단간 암호화가 수사 단계에 미친 영향은 결론 내릴 수 없다고 밝혔습니다 (DOI: 10.1186/s40163-023-00185-4). 수사가 막혀 기소조차 못 한 사건은 이 자료에 들어오지 않는다는 뜻입니다. 이 연구가 보여 주는 것은 한 나라에서 법정에 온 사건의 결과까지입니다.

엇갈림의 첫째 이유는 재는 자리가 다르다는 데 있습니다. 열쇠 추출을 다룬 고찰은 기기 압수와 도청 같은 고전적 수단이 무력해졌다고 적었고 (DOI: 10.1016/j.fsidi.2024.301796), 앞의 메신저 포렌식 논문은 여러 수단을 엮어 대화 내용을 되찾았다고 보고했습니다 (DOI: 10.1016/j.fsidi.2021.301132). 판결 자료는 법정까지 간 사건의 결과를 봅니다. 셋은 서로 다른 단계와 조건을 잽니다.

둘째 이유는 무엇을 위협으로 놓느냐입니다. 1998년의 한 법학 논문은 범죄 수사와 해외 정보 수집의 필요를 앞세웠습니다. 키 복구는 구현하기 어렵고 비용이 크며 시민 자유 단체의 공격을 받고 있지만, 수사기관의 필요를 채우려면 비용 효율적인 타협이 필요하다는 것입니다. 저자는 그 체계가 기존의 전자 감시법을 따른다면 개인의 사생활과 정부의 이익을 균형 있게 맞출 수 있다고 보았고, 암호화가 흔해지기 전에 의회와 대통령이 서둘러 키 복구 법을 만들어야 한다고 촉구했습니다 (DOI: 10.1080/13600869855487). 1997년의 부분 키 맡기기 논문은 정부가 열쇠를 남용할 위험을 출발점으로 인정하고, 그 위험을 줄이는 형태를 찾습니다. 정치적 논쟁으로 사용자와 수사기관 사이의 갈등이 사라지지는 않으니, 현실적인 질문은 어떤 형태가 사생활을 가장 잘 보장하느냐라는 것입니다 (DOI: 10.1145/266420.266439). 2015년 보고서와 기기 쪽 검사를 비판한 논문은 여기에 남겨 둔 열쇠나 검사 장치를 노리는 제3의 공격자까지 함께 놓고 따집니다. 2016년의 애플 대 FBI 사건을 클리퍼 칩 논쟁과 견준 연구는 이 논쟁을 사이버 범죄와 국가 해킹의 위협까지 포함한 더 넓은 보안의 관점에서 다뤄야 한다고 결론지었습니다 (DOI: 10.17645/mac.v5i1.805).

셋째 이유는 기술 밖에 있습니다. 해시 목록을 누가 정하고 누가 감시하느냐는 앞의 검증 규약 연구가 적었듯 기술만으로 완전히 풀리지 않습니다 (DOI: 10.1109/sp46215.2023.10179349). 법도 이 자리를 메우려 해 왔습니다. 미국·영국·캐나다·호주·뉴질랜드 다섯 나라의 정보 공동체, 흔히 「파이브 아이즈」라 불리는 쪽이 2023년 기준 지난 10년 동안 이 문제를 「깜깜해짐」이라 불러 왔고, 여러 관할권이 종단간 암호화에 대한 접근을 제한하는 법을 통과시켰습니다 (DOI: 10.1007/s10676-023-09707-9). 호주의 2018년 「통신 및 기타 법률 개정(지원과 접근)법」은 이른바 「체계적 약점」을 만들지 못하게 하는 제한을 두었습니다. 한 법학 분석은 이 제한이 가장 노골적인 전면적 뒷문은 막지만 모든 보안 우려를 푸는 만병통치약은 아니고, 내용과 절차가 복잡해 실제 효과가 떨어질 가능성이 크다고 결론지었습니다 (DOI: 10.1016/j.clsr.2022.105659). 2026년의 한 학생 법학 학술지 논문은 아동 성 착취물 탐지를 자율에서 의무로 바꾸려는 유럽연합의 규제안을 분석하며, 이 안이 아직 풀리지 않은 보안 취약점을 무시한 채 믿을 만한 검사 기술이 있다고 전제한다고 비판했습니다 (DOI: 10.15168/tslr.v8i1.3967).

기기 쪽 검사의 찬반 가설을 나란히 놓고 견주려 한 연구는 아동 성 착취물에 맞설 최선의 방법에 대해 아직 합의가 없다고 적었습니다. 저자들은 자기들의 권고도 이 논쟁의 「정답」이나 최종 결과로 여기지 않는다고 밝혔습니다 (DOI: 10.1145/3655693.3655712).

기술이 답할 수 있는 몫

처음의 통념은 「영장이 있을 때만 열리는 열쇠를 만들면 된다」였습니다. 이 문장에는 두 몫이 섞여 있습니다. 「영장이 있을 때」는 언제 문을 열어도 되는지를 정하는 법의 몫입니다. 「그때만 열린다」는 그 밖에는 아무도 열지 못하게 하는 기술의 몫입니다.

1994년의 클리퍼 칩 분석부터 2015년의 「현관 매트 밑 열쇠」 보고서와 2020년대의 기기 쪽 검사 공격 연구까지, 이 연구들이 의문을 던진 것은 뒤쪽 몫입니다. 클리퍼 칩의 꼬리표는 피해 갈 수 있었고, 보고서는 맡겨 둔 열쇠가 「털려도 지난 대화는 안전하다」는 설계와 부딪힌다고 보았으며, 암호 앞에서 먼저 보는 검사는 실험에서 회피와 감시에 열렸고 저자들은 누명까지 가능하다고 보았습니다. 그 몫을 만들려는 제안도 이어지고 있습니다.

수사기관의 어려움 쪽에도 근거가 있습니다. 전통적인 도청은 효력을 잃었고, 메신저를 도청해서 얻는 것은 2016년 이후 메타데이터에 그쳤습니다. 기기와 계정에 손이 닿는 수사에서는 대화 내용을 되찾았다는 보고도 있습니다. 그 어려움이 판결 결과까지 바꿨는지는 한 나라의 법정 자료가 바뀌지 않은 쪽을 가리켰지만, 그 자료는 수사 단계를 보지 못했습니다.

그래서 이 근거들이 그은 경계는 이렇습니다. 이 글이 모은 분석에서 「수사기관만」 열 수 있다는 보장은, 클리퍼 칩과 지각 해시에서 저자들이 반례를 찾았습니다. 메시지마다 비용을 물리는 설계는 「수사기관만」 대신 「비싸게만」 열리게 하려는 방향이고, 아직 제안 단계입니다. 그사이 수사기관이 쓸 다른 길로 합법 해킹이 여러 나라에서 법의 틀을 얻고 있고, 그 길도 자기 위험을 안고 있습니다. 어느 위험을 받아들일지는 기술 바깥에서 정해집니다.

종단간 암호화가 무엇을 숨기고 무엇을 남기는지는 「암호화 — 내용은 잠가도 드나든 기록은 남는다」가 다룹니다. 숨은 얼굴인식 목적처럼, 국가가 얼굴로 사람을 찾을 때 법이 무엇을 정했고 무엇을 정하지 못했는지는 「얼굴인식과 감시 — 국가가 얼굴로 사람을 찾을 때, 법은 무엇을 정하지 못했나」로 이어집니다.

근거 논문

• "Constructing Norms for Global Cybersecurity" (2016) — DOI: 10.1017/s0002930000016894 — 2016년 2월 16일 미국 법원이 애플에 샌버너디노 총격범의 아이폰 5C 보안 기능 우회를 명령, 애플 거부(한 대를 깨면 암호 전반의 안전이 무너진다는 주장), FBI가 외부 업체로 접근한 뒤 정부가 소송 철회.
• "From real-time intercepts to stored records: why encryption drives the government to seek access to the cloud" (2012) — DOI: 10.1093/idpl/ips025 — 강한 암호화 확산으로 전통적 도청이 효력을 잃고, 정부 접근이 클라우드 저장 기록 쪽으로 옮겨 간다.
• "Identifying interception possibilities for WhatsApp communication" (2021) — DOI: 10.1016/j.fsidi.2021.301132 — 2016년 초 한 메신저의 전면 종단간 암호화가 수사관을 어둠 속에 두었고, 도청은 메타데이터로 제한됐다. 도청·기기 기록 복호화·공개 정보·웹 접속 분석을 엮은 방법으로 시험 상황에서 대화 내용·음성 메시지·위치를 실시간으로 얻었고, 수사기관이 입지를 되찾을 수 있다고 결론.
• "COMMUNICATIONS ENCRYPTION AS AN INVESTIGATIVE OBSTACLE" (2022) — DOI: 10.47152/rkkp.60.1.4 — 종단간 암호화가 합법적 도청 능력을 막는 「깜깜해짐」 문제, 대응은 의무적 예외적 접근과 합법화된 표적 해킹 두 갈래.
• "Protocol failure in the escrowed encryption standard" (1994) — DOI: 10.1145/191177.191193 — 클리퍼 칩(EES)은 대화 열쇠의 암호화 사본을 담은 수사기관 접근 필드를 주고받는다. 올바른 필드 없이 통신하는 기법 두 부류를 찾았고, 구조를 보강할 기법도 제시.
• "Clipper Meets Apple vs. FBI—A Comparison of the Cryptography Discourses from 1993 and 2016" (2017) — DOI: 10.17645/mac.v5i1.805 — 예외적 접근 지지 논거는 두 사건 사이에 크게 이어졌고 비판 논거는 더 다양했다. 사이버 범죄·국가 해킹을 포함한 넓은 보안 관점이 필요하다고 결론.
• "The Risks of Key Recovery, Key Escrow, and Trusted Third-Party Encryption" (1997) — DOI: 10.7916/d8gm8f2w — 정부 기관의 키 복구·키 맡기기·제3자 암호화 요구가 가진 기술적 위험·비용·함의를 정리.
• "Keys under doormats: mandating insecurity by requiring government access to all data and communications" (2015) — DOI: 10.1093/cybsec/tyv009 — 1997년 연구 참여자 다수를 포함한 전문가 집단: 예외적 접근의 피해는 20년 전보다 클 것, 전방향 비밀성 관행을 거꾸로 돌리게 강요, 복잡한 인터넷에서 예상 못 한 문제를 들일 것. 수사기관은 그사이 더 많은 데이터에 접근할 새 수단을 찾았다.
• "Verifiable partial key escrow" (1997) — DOI: 10.1145/266420.266439 — 키 맡기기의 주요 반론(오늘의 정부가 믿을 만해도 내일의 정부가 모든 키를 복구할 수 있다). 부분 키 맡기기를 공개키로 확장하고 기존 제안의 조기 복구 문제를 보임. 현실적 질문은 사생활을 가장 잘 보장하는 형태를 찾는 것.
• "Bugs in our pockets: the risks of client-side scanning" (2024) — DOI: 10.1093/cybsec/tyad020 — 기기 쪽 검사는 범죄 예방도 감시 방지도 보장하지 않으며, 실패·회피·남용될 수 있고 수사 지원은 기껏해야 문제가 많다는 저자들의 주장(논증 글).
• "Experimental Analyses of the Physical Surveillance Risks in Client-Side Content Scanning" (2024) — DOI: 10.14722/ndss.2024.241401 — 지각 해시는 두 이미지가 시각적으로 비슷한지 가린다. 해시 목록 0.2% 오염으로 30% 넘는 장소 감시 성공률, 더 튼튼한 탐지일수록 대부분의 설정에서 감시 가능성 증가(실험).
• "Public Verification for Private Hash Matching" (2023) — DOI: 10.1109/sp46215.2023.10179349 — 2021년 애플 클라우드 사진 검사 제안이 보안·사생활·표현의 자유 위험으로 비판받음. 목록 승인·특정 콘텐츠 비포함·오탐 통지의 공개 검증 규약 제안, 신뢰 문제는 기술만으로 완전히 풀리지 않지만 암호적 개선 여지는 있다.
• "Adversarial Detection Avoidance Attacks: Evaluating the robustness of perceptual hashing-based client-side scanning" (2021, 프리프린트) — DOI: 10.48550/arxiv.2106.09820 — 블랙박스 조건에서 99.9% 넘는 이미지가 내용을 유지한 채 회피 공격 성공. 공격을 어렵게 할 만큼 문턱을 넓히면 하루 10억 장 넘게 걸려 복호화될 것.
• "Learning to Break Deep Perceptual Hashing: The Use Case NeuralHash" (2022) — DOI: 10.1145/3531146.3533073 — 이미지를 살짝 바꿔 해시 일치를 강제·방지할 수 있어 숨기기부터 누명까지 가능, 해시로 데이터 추론도 가능. 지금 형태로는 대체로 튼튼한 기기 쪽 검사에 준비되지 않았고 사생활 관점에서 쓰지 말아야 한다는 저자 결론.
• "Deep perceptual hashing algorithms with hidden dual purpose: when client-side scanning does facial recognition" (2023) — DOI: 10.1109/sp46215.2023.10179310 — 불법 콘텐츠 탐지 성능을 유지한 채 표적 인물 얼굴인식(67%)을 숨겨 넣을 수 있고, 불법처럼 보이는 사진 한 장으로 켜진다.
• "Exploring Lawful Hacking as a Possible Answer to the "Going Dark" Debate" (2020) — DOI: 10.36645/mtlr.26.2.exploring — 합법 해킹은 수사기관이 침입 도구로 시스템 내용에 접근하는 것. 가장 많이 제안되는 대안 가운데 하나이고 연결된 사회에서 필수적으로 보이지만, 규제 방식별 보안·사생활 위험을 이해해야 한다.
• "A Comprehensive Overview of Government Hacking Worldwide" (2018) — DOI: 10.1109/access.2018.2871762 — 다섯 나라의 정부 해킹 현황. 수사기관은 필요를 주장하고, 시민사회는 침해성과 암호 표준 약화·인터넷 안전 위험을 우려.
• "Key extraction-based lawful access to encrypted data: Taxonomy and survey" (2024) — DOI: 10.1016/j.fsidi.2024.301796 — 종단간 암호화로 고전적 합법 접근(압수·도청)이 무력해졌다. 원격 감시의 장기·무제한 접근 위험을 줄이려 열쇠만 추출하는 범주 제안.
• "Crypto Crumple Zones: Enabling Limited Access without Mass Surveillance" (2018) — DOI: 10.1109/eurosp.2018.00028 — 새 제3자 없이 메시지별 계산 비용을 물리는 제한적 접근 설계. 초기 분석상 메시지당 1,000달러에서 1,000,000달러(선행 비용 별도), 흔한 암호 도구에 쉽게 덧붙일 수 있다.
• "Reconciling Safety and Privacy: A Systematic Review of Moderation in End-to-End Encrypted Messaging" (2025) — DOI: 10.1109/isdfs65363.2025.11012061 — 배포된 방식은 대개 종단간 암호화의 어느 면을 희생한다. 사용자 신고·메타데이터는 사생활을 지키나 참여에 기대고, 기기 쪽 검사는 사생활을 해치고 회피에 약하다. 새 암호 기법을 평가하며 종단간 암호화를 약화하지 않는 방향을 제시.
• "Going dark? Analysing the impact of end-to-end encryption on the outcome of Dutch criminal court cases" (2023) — DOI: 10.1186/s40163-023-00185-4 — 법정에 온 사건에서 네덜란드 법원은 종단간 암호화 사용 피고인도 비사용자만큼 유죄 판결을 끌어낸 것으로 보였다. 수사 단계 영향은 결론 불가.
• "Encryption: A 21st Century National Security Dilemma" (1998) — DOI: 10.1080/13600869855487 — 키 복구는 어렵고 비싸지만 수사기관 필요를 채울 비용 효율적 타협이 필요하며, 기존 전자 감시법을 따르면 사생활과 정부 이익의 균형이 가능하다는 주장, 암호화가 흔해지기 전에 서둘러 입법하라는 촉구.
• "Specifying a principle of cryptographic justice as a response to the problem of going dark" (2023) — DOI: 10.1007/s10676-023-09707-9 — 파이브 아이즈 정보 공동체가 지난 10년간 종단간 암호화를 「깜깜해짐 문제」로 불러 왔고, 여러 관할권이 접근을 제한하는 법을 통과시켰다.
• "Decrypting Australia's 'Anti-Encryption' legislation: The meaning and effect of the 'systemic weakness' limitation" (2022) — DOI: 10.1016/j.clsr.2022.105659 — 호주 2018년 지원과 접근법의 「체계적 약점」 제한은 노골적 전면 뒷문은 막지만 만병통치약은 아니며, 복잡성으로 실효가 떨어질 가능성.
• "Chat Control and the Repercussions of Mandatory Communication Detection" (2026, 학생 법학 학술지) — DOI: 10.15168/tslr.v8i1.3967 — EU 아동 성 착취물 규제안(자율→의무 탐지)은 믿을 만한 검사 기술을 전제하면서 풀리지 않은 보안 취약점을 무시한다는 비판.
• "Towards arbitrating in a dispute - on responsible usage of client-side perceptual hashing against illegal content distribution" (2024) — DOI: 10.1145/3655693.3655712 — 아동 성 착취물 대응의 최선책에 합의가 없다. 경쟁 가설 분석으로 논의를 정리하되 자기 권고를 정답으로 여기지 않는다.