얼굴인식과 감시 — 국가가 얼굴로 사람을 찾을 때, 법은 무엇을 정하지 못했나

단서로 들여온 것이 이유가 될 때

미국 법정에 올라온 얼굴인식 사건 네 건을 나란히 읽은 논문이 있습니다. 딜런, 윌리엄스, 파텔, 마일스 사건입니다. 저자는 네 건에서 되풀이되는 문제가 결함 있는 알고리즘 하나가 아니라 서로 맞물린 위험들의 사슬이라고 적습니다 (DOI: 10.2139/ssrn.7356558, 심사 전 공개본).

사슬의 고리는 이렇습니다. 찾으려고 시스템에 넣는 조회 사진의 품질이 낮은 것. 인구집단별로 성능이 다른 것. 닮았다는 수치를 같은 사람일 확률로 오해하는 것. 기계의 답을 먼저 믿고 시작하는 습관. 후속 확인 절차가 특정인을 암시하는 것. 수사 쪽이 자료를 피고 쪽에 다 보여 주지 않는 것. 제조사가 속을 공개하지 않는 독점 시스템. 지나치게 넓은 얼굴 데이터베이스입니다.

이 논문은 윌리엄스 사건을 오인 대조가 사람에게 무엇을 하는지 보여 주는 사례로 듭니다. 오인 대조는 엉뚱한 사람이 같은 사람으로 짚인 일입니다. 이 사건은 다른 증거로 확인하는 보강 수사를 의무로 두면 왜 가치가 있는지도 보여 준다고 합니다. 딜런 사건에서는 다른 것을 봅니다. 정밀해 보이는 점수 하나가 수사관을 그 자리에 붙들어 둘 수 있다는 것입니다. 그와 어긋나는 사실이 앞에 있어도 그렇습니다.

같은 문제를 절차의 언어로 적은 논문은 한 발 더 나갑니다. 저자는 서두에서 기술적 오류와 고르지 않은 성능이 중요하지만 이 논문의 주된 관심사는 아니라고 밝힙니다. 저자가 들여다보는 것은 제도와 절차의 위험입니다. 수사 단서를 만들라고 들여온 도구가 이미 신원을 확정한 것처럼 취급될 때를 봅니다. 그러면 잠정적인 후보 하나가 실행 가능한 혐의로 승격될 수 있습니다. 영장은 법원이 체포나 수색을 허가하는 문서입니다. 그 승격은 근거가 충분히 검증되기 전에 영장 청구를 받치는 데 쓰일 수 있습니다. 그렇게 되면 실패한 것은 잘못된 출력 하나가 아닙니다. 위법한 체포와 부당한 구금이고, 저자는 이것을 헌법적 실패라고 부릅니다 (DOI: 10.2139/ssrn.6505861, 심사 전 공개본).

생체정보(biometric data)는 얼굴·지문·홍채처럼 몸의 생김새에서 뽑아낸, 그 사람을 가리키는 정보입니다. 비밀번호는 새어 나가면 바꾸면 되지만 얼굴은 바꿀 수 없습니다. 한국 헌법학 지면의 한 논문이 짚는 것이 정확히 이 성질입니다. 얼굴을 포함한 생체정보는 기존의 개인정보와 달리 바뀌지 않습니다. 그래서 유출로 인한 침해가 막대하다는 것입니다 (DOI: 10.35901/kjcl.2022.28.4.535).

읽기 전에 세 가지를 밝혀 둡니다. 첫째, 이 글은 얼굴로 감정을 읽어 내겠다는 기술을 다루지 않습니다. 다루는 것은 신원 식별, 곧 이 얼굴이 누구인가 하나입니다. 둘째, 인용하는 연구의 등급이 고르지 않습니다. 법학 논문은 심사를 거친 지면보다 공개 저장소에 먼저 올라오는 일이 잦습니다. 결론을 떠받치는 인용 여럿이 그렇습니다. 아래 수치는 전부 그 보고서가 그 조건에서 관측한 값이라 조건을 함께 적습니다.

셋째, 어느 나라의 법 이야기인지입니다. 판결과 법령은 미국(법정 사건·캘리포니아주 입법), 영국(브리지스 판결), 유럽연합(인공지능법), 유럽인권재판소(글루힌 대 러시아), 한국(개인정보 보호법)의 것을 다룹니다. 브라질과 캐나다는 논문이 든 사례로만 나옵니다. 초록이 밝히는 경우에는 어느 나라 이야기인지 적고, 밝히지 않으면 밝히지 않았다고 적습니다.

'정확도'라는 말에는 빈칸이 네 개 있다

미국 국립표준기술연구소(NIST)는 개발사들이 제출한 얼굴인식 알고리즘을 같은 조건에서 돌려 봅니다. 결과는 정기적으로 갱신되는 공개 웹페이지에 올립니다. 이 글이 인용한 NIST 보고서들에서 먼저 눈에 띄는 것이 있습니다. '얼굴인식의 정확도'라는 하나의 숫자는 없다는 점입니다. 보고서는 무엇을 하는 중인가에 따라, 어떤 사진인가에 따라 갈라집니다.

1대1과 1대다는 같은 작업이 아니다

1대다 검색(one-to-many search)은 얼굴 한 장을 데이터베이스에 든 수많은 얼굴과 차례로 견주어 닮은 후보들을 뽑아 오는 작업입니다. 반면 1대1 대조는 두 장이 같은 사람인지만 확인하는 작업입니다. 공항 게이트에서 여권 사진과 지금 얼굴이 같은지 확인하는 것이 1대1입니다. 카메라에 찍힌 얼굴 하나를 수백만 장의 면허증 사진과 맞춰 보는 것이 1대다입니다.

NIST가 1대다 검색을 다룬 보고서는 이 작업을 둘로 나눕니다. 긍정 식별은 찾는 사람이 데이터베이스 안에 있으리라 기대하는 경우입니다. 사무실에 들어가는 직원이 그렇습니다. 부정 식별은 반대로 그 사람이 거기 없으리라 전제하는 경우입니다. 강박적 도박자가 카지노에 들어오는지 가려내는 일이 그렇습니다. 보고서는 이 구분이 유용한 이유를 이렇게 설명합니다. 두 응용은 엉뚱한 사람을 짚는 오류와 있는 사람을 놓치는 오류를 견디는 정도가 서로 다르기 때문입니다 (DOI: 10.6028/nist.ir.8381). 같은 알고리즘이어도 무엇을 실패로 셀지가 달라집니다.

"정확도 99퍼센트"라는 문장을 들었다면 먼저 채워야 할 빈칸이 최소 넷입니다. 1대1인가 1대다인가. 어떤 사진들로 쟀는가. 같다고 선언할 문턱을 어디에 두었는가. 견주는 데이터베이스는 얼마나 큰가.

점수는 확률이 아니다

빈칸을 다 채워도 오해가 하나 남습니다. 시스템이 내놓는 것이 실제로 무엇인가입니다. 유사도 점수(similarity score)는 두 얼굴이 얼마나 닮았는지를 시스템이 매긴 숫자일 뿐, 두 얼굴이 같은 사람일 확률이 아닙니다. 체중계가 가리키는 눈금이 건강 점수가 아닌 것과 같습니다. 앞에서 본 논문이 위험의 사슬에 넣은 항목 하나가 정확히 이것입니다. 닮았다는 수치가 신원 확률로 오해되는 것입니다.

기계가 판정하는 것은 신원이 아니라 닮음입니다. 닮음을 신원으로 바꾸는 일은 사람이 합니다.

오류는 고르게 흩어지지 않는다

2019년 NIST는 인구집단별 성능 변이를 정량화한 보고서를 냈습니다. 그 후속인 공개 초안이 그사이 밝혀진 것을 요약합니다. 이 대목은 가장 조심해서 읽어야 합니다. 오류의 방향에 따라 원인이 다르다고 말하기 때문입니다.

사실은 서로 다른 데서 나온 두 흔적을 같은 데서 나왔다고 잘못 말한 비율, 이것이 위양성률입니다. 얼굴인식에서는 다른 사람인데 같은 사람이라고 말한 비율입니다. 반대로 같은 사람인데 다른 사람이라고 놓쳐 버린 비율, 이것이 위음성률(false negative rate)입니다. 얼굴이 있는데 못 찾는 쪽의 실패입니다.

NIST의 요약은 이렇습니다. 위음성 쪽의 집단 사이 불평등은 상당 부분 특정 집단을 잘 못 찍은 데서 옵니다. 특히 어두운 피부의 얼굴이 노출 부족으로 찍히는 문제입니다. 해결책은 두 가지입니다. 나쁜 화질을 더 잘 견디는 알고리즘을 쓰는 방법이 있습니다. 더 좋은 방법은 더 나은 카메라와 촬영 환경으로 찍는 단계 자체를 고치는 것입니다. 반면 훨씬 큰 위양성 쪽 변이는 고품질 사진에서도 나타납니다. 이쪽은 알고리즘을 만드는 쪽이 줄여야 한다고 합니다 (DOI: 10.6028/nist.ir.8429.ipd, 공개 초안). 조건이 하나 있습니다. 이 보고서가 지표를 표로 만든 대상은 1대1 대조 트랙에 제출된 알고리즘들입니다.

이 대목을 반으로 자르면 어느 쪽으로든 거짓이 됩니다. 앞쪽만 남기면 "카메라만 좋아지면 된다"가 되고, 뒤쪽만 남기면 "얼굴인식은 원래 인종차별적이다"가 됩니다. 보고서가 말한 것은 두 문제가 서로 다르고 다른 곳에서 고쳐야 한다는 것입니다.

개선도 함께 보고되고 있다

편향을 줄이려는 시도들도 숫자를 내놓고 있습니다. 그 숫자를 같이 적지 않으면 그것도 잘라내기입니다. 한 연구는 정확도와 공정성이 맞거래 관계라는 널리 퍼진 가정을 반박한다고 적습니다. 방법은 이렇습니다. 불확실한 예측을 골라 사람 전문가에게 정답 표시(라벨)를 받고 이어서 학습시킵니다. 이렇게 둘을 동시에 개선했다는 것입니다.

FairFace 데이터셋에서 정확도는 92.58퍼센트에서 96.47퍼센트로 올랐습니다. 편향 정도를 나타내는 지표는 3.86에서 1.16으로, 약 70퍼센트 줄었습니다. 특히 흑인 여성에 대한 정확도가 80.2퍼센트에서 90.86퍼센트로 올랐습니다 (DOI: 10.37284/eaje.9.1.4850). 이것은 단일 연구가 특정 데이터셋에서 특정 방식으로 낸 값입니다. "편향이 해결되었다"가 아니라 "이 조건에서는 이만큼 줄었다"입니다.

한계를 더 분명히 적은 보고도 있습니다. 집단 간 성능 차이를 학습 과정에서 줄이려는 기법(공정성 정규화)을 넣은 프리프린트가 그렇습니다. 인종 하위집단 사이의 최대-최소 정확도 격차는 18~27퍼센트 줄고, 표준편차는 12~20퍼센트 낮아졌습니다. 그러면서도 저자들은 격차를 완전히 없애지는 못했다고 결론짓습니다. 직관에 어긋나는 결과도 있습니다. 비교한 두 기준 모델 가운데 더 깊은 망이 오히려 집단 간 분산이 더 컸습니다. 저자들은 모델 용량이 인구집단 불균형을 증폭할 수 있다고 시사합니다 (DOI: 10.21203/rs.3.rs-8330446/v1, 프리프린트).

앞 절에서 세운 규칙을 이 숫자들에도 대 봅니다. 이 보고들의 초록은 어떤 작업의 정확도인지 밝히지 않습니다. 1대1 대조인지 1대다 검색인지 말이 없습니다. 같다고 선언할 문턱을 어디에 두었는지도 없습니다. 채워진 빈칸은 데이터셋 이름 하나뿐입니다. "정확도 99퍼센트"에 물었던 질문이 개선을 보고하는 쪽에도 똑같이 남아 있습니다.

오류가 체포가 되는 길

다음에 보는 논문들이 법의 문제로 짚는 것은 "알고리즘이 얼마나 틀리나"가 아닙니다. 법이 내놓는 답은 사람이 마지막에 확인하게 하면 된다는 것입니다. 다음에 볼 연구서의 한 장은 이렇게 적습니다. 알고리즘에 기반한 경찰 활동에서 의미 있는 인간의 개입은 법적 요구사항이라는 것입니다 (DOI: 10.1093/9780191979927.003.0010). 어느 나라 법인지는 초록에 없습니다.

그 요구가 현장에서 어떻게 작동하는지 들어가 본 연구가 있습니다. 경찰의 얼굴인식 운용에 드물게 허용된 현장 접근을 바탕으로, 현장을 직접 관찰해 쓴 민족지 연구입니다. 저자는 인간의 개입이 일어나느냐만이 아니라 그 판단이 어떤 성격의 것이냐도 풀리지 않은 핵심 질문이라고 적습니다. 관찰된 결정 지점은 통제실의 정보 부서일 때도, 거리의 개입 팀일 때도 있었습니다. 그렇게 제각각인 배치를 가로질러 뚜렷이 식별되는 것이 하나 있었습니다. 저자는 그것을 개입 추정이라고 부릅니다. 재량이 알고리즘의 의심 판정에 넘어갔다는 것입니다. 재량은 상황을 보고 스스로 정할 여지를 말합니다. 그 판정이 정확한지와 무관하게 그랬습니다 (DOI: 10.1093/9780191979927.003.0010).

이름을 붙여 둡니다. 기계가 먼저 내놓은 답을 사람이 검토의 출발점이자 기본값으로 삼아 버리는 습관, 이것을 자동화 편향(automation bias)이라고 합니다. 내비게이션이 이상한 길을 가리켜도 일단 그쪽으로 핸들을 꺾어 본 적이 있다면 그것입니다.

같은 연구서의 결론은 더 셉니다. 효능과 인종적 공정성과 공공 안전에 관해 되풀이되는 주장들은 자세히 뜯어보면 근거가 부족했습니다. 사람이 최종 확인을 한다는 안전장치의 역할 자체도 무력화되고 있었다는 것입니다. 다만 진단에서 끝나지 않습니다. 저자는 경찰의 얼굴인식 사용에 맞춘 인권 실사 프레임워크를 따로 만들어 제시합니다. 권리 침해 위험을 미리 살피는 틀입니다 (DOI: 10.1093/9780191979927.001.0001).

그 끝에 무엇이 남는지 봅니다. 시 단위 경찰기관 연구를 실무자용으로 요약한 브리핑은 이렇게 적습니다. 얼굴인식을 상시 사용한 기관은 흑인과 백인 사이의 체포 격차가 더 컸고, 특히 성인 체포에서 그랬습니다. 그리고 곧바로 한정합니다. 이 연구는 얼굴인식 소프트웨어가 단독으로 그 격차를 일으켰다는 것을 보이지 않습니다. 더 그럴듯한 우려는 이 기술이 이미 있는 격차를 깊게 만든다는 쪽입니다. 어떻게 그리고 어디에 쓰이느냐에 따라서입니다. 브리핑의 권고는 짧습니다. 얼굴인식을 단독 증거가 아니라 수사 단서로 취급하고, 보강 수사와 기록, 감독, 훈련, 정기 감사를 규칙으로 두라는 것입니다 (DOI: 10.22215/apb.v3i3.6097).

브라질을 사례로 삼은 인권법 논문의 주장은 더 불편합니다. 기술적으로 정확한 시스템이더라도 차별적 결과를 낳을 수밖에 없다는 것입니다. 특정 인종을 겨냥해 온 치안과 구조적 불평등이 있는 맥락에 놓이면 그렇습니다. 저자는 규모와, 알고리즘 판정에 이의를 제기하기 어렵다는 점을 근거로 듭니다. 공공장소에서 실시간으로 얼굴만 보고 사람을 골라내는 방식은 그래서 구별되는 종류의 차별 피해를 만든다고 적습니다 (DOI: 10.1017/bhj.2026.10047).

그리고 반대 방향의 보고

여기서 멈추면 한쪽만 본 것입니다. 미국 508개 도시 경찰기관의 2016년부터 2020년까지를 다룬 연구가 있습니다. 이 연구는 얼굴인식 사용이 경찰 관련 사망의 상당한 감소와 직접 연관된다고 보고합니다. 특히 백인 주민에서 그렇습니다. 고정 카메라 밀도만으로는 독립적 연관이 거의 없었습니다. 얼굴인식과 결합되면 카메라가 늘어날수록 흑인 주민이 연루된 사망이 꾸준히 감소하는 것으로 예측되었습니다.

저자들은 우려되는 맞거래도 함께 적습니다. 얼굴인식 사용은 경찰관이 폭행당하는 비율의 상승과 상관이 있었습니다. 얼굴인식이 쓰이는 환경에서 고정 카메라를 더 늘리면 그 위험은 더 올랐습니다. 그리고 경찰관 몸에 다는 바디캠이 포화되면 백인 주민에게서 나타난 그 사망 보호 효과가 약해졌습니다. 결론은 이 기술의 공공 안전 편익이 카메라 구성과 배치에 관한 거버넌스 선택에 달려 있다는 것입니다 (DOI: 10.2139/ssrn.6753771, 심사 전 공개본).

이것은 관측 연구이고 저자들도 연관의 언어로 씁니다. 그래도 논쟁의 한쪽 끝에 이런 보고가 있다는 사실은 지울 수 없습니다.

동의 — 카메라 앞을 지나는 사람에게 동의를 물을 수 있는가

개인정보 법제가 오래 기대 온 문이 하나 있습니다. 동의입니다. 내 정보를 쓰려면 내가 허락해야 한다는 원칙입니다. 「잊혀질 권리 — 인터넷은 잊지 않는다」가 다룬 것도 한번 공개된 정보를 거둘 수 있느냐는 문제였습니다. 그런데 이 문이 얼굴 앞에서는 제구실을 하지 못한다는 논의가 이어집니다.

프라이버시 법의 동의를 정면으로 검토한 논문은 두 방식을 나란히 놓고 둘 다 실패한다고 적습니다. 하나는 미국에서 주로 쓰는 고지·선택 방식입니다. 기업이 개인정보 처리 방침을 게시해 둡니다. 사람들이 거래를 이어 가거나, 거부(옵트아웃)를 하지 않으면 동의한 것으로 봅니다. 다른 하나는 유럽연합 일반개인정보보호법(GDPR)의 명시 동의 방식입니다. 사람이 자발적으로 적극 동의해야 합니다.

고지·선택 쪽에서는 실제 동의의 증거가 없고 사람들은 압박받거나 조종당합니다. 명시 동의 쪽도 규모에서 무너집니다. 전문가조차 알고리즘이 그 데이터로 무엇을 할지 알지 못하고, 수천 곳에서 오는 요청은 감당이 안 됩니다. 저자의 결론은 프라이버시에서의 동의가 대부분 허구라는 것입니다. 다만 저자는 거기서 문을 닫지 않습니다. 동의를 아주 약하고 제한된 라이선스로 격하한 위에 네 가지 의무를 얹자고 제안합니다. 적절하게 동의를 받을 의무, 합리적 기대를 저버리지 않을 의무, 충실 의무, 불합리한 위험을 피할 의무입니다 (DOI: 10.2139/ssrn.4333743, 심사 전 공개본).

얼굴에서는 그 실패가 구조적이라는 논문도 있습니다. 공공 인프라에 얼굴인식이 깔린 뒤를 다룬 이 논문은 고지·동의 패러다임의 구조적 붕괴라는 표현을 씁니다. 비대칭적인 권력과 기능의 확장 때문에 그런 환경에서의 동의는 허울이 되었다는 것입니다.

이 논문도 대안을 내놓습니다. 생체정보를 준공공재, 곧 공공재에 가까운 자산으로 보고 위험 배분과 수익 공유를 묶는 민관 협력 모델입니다. 저자 스스로 가설이라고 적습니다 (DOI: 10.62517/jel.202614123).

한국은 어디쯤인가

한국은 개인정보 보호법으로 생체정보를 민감정보로 보호합니다. 민감정보는 일반 개인정보보다 처리를 까다롭게 제한하는 정보입니다. 앞서 인용한 헌법학 논문은 그 틀을 인정하면서도 개선이 필요하다고 봅니다. 짚는 곳은 셋입니다. 민감정보를 예외적으로 처리하게 하는 규정은 더 구체적이어야 합니다. 손해배상 규정은 개선되어야 합니다. 얼굴인식 기능이 붙은 지능형 CCTV에 대한 규정은 새로 마련되어야 합니다. 저자는 미국 일리노이주의 생체정보 프라이버시법을 대조 사례로 듭니다. 그 법을 위반한 페이스북이 6억 5천만 달러의 손해배상 책임을 졌다는 점도 함께 소개합니다 (DOI: 10.35901/kjcl.2022.28.4.535).

자동화된 결정 일반에 관해서는 한국 개인정보 보호법에 제37조의2가 신설되었습니다. 사람이 개입하지 않은 시스템의 결정을 다루는 조항입니다. 이 조항을 유럽 일반개인정보보호법 제22조와 비교한 논문은 세 군데에서 보호 수준이 낮다고 지적합니다.

첫째, 한국법은 일반적 금지가 아니라 거부권을 줍니다. 원칙적으로 막는 방식이 아니라 당사자가 이의를 내야 작동하는 방식입니다. 그래서 그 권리를 행사하지 못하는 사람을 보호하는 데 한계가 있습니다. 둘째, 시스템 전체 수준에서 완전히 자동화된 상태를 규율합니다. 그래서 여러 단계에 걸친 프로파일링에는 규제 공백이 생깁니다. 프로파일링은 개인의 특성을 분석해 평가하는 것입니다. 셋째, 설명을 요구할 권리에도 한계가 남아 있습니다 (DOI: 10.1057/s41599-024-03470-y).

이 조항은 얼굴인식을 겨냥해 만든 것이 아닙니다. 그러나 카메라가 얼굴을 골라내고 사람이 그 뒤에 붙는 구조가 정확히 다단계입니다. 이 글은 지적된 공백이 얼굴인식에도 닿을 수 있다고 읽습니다. 다만 이 조항이 수사기관의 얼굴인식에 적용되는지는 인용한 초록이 다루지 않습니다.

영국 브리지스 판결 — 이긴 소송과, 판결이 남긴 여지

영국에서 나온 브리지스 판결을 한 논문은 이 기술에 대한 세계 최초의 성공한 법적 도전이라고 소개합니다 (DOI: 10.52214/stlr.v22i2.8666). 남웨일스 경찰의 실시간 얼굴인식 운용을 다툰 사건입니다. 지나가는 사람의 얼굴을 바로 대조하는 운용입니다. 영국 항소법원은 2020년 8월 그 운용이 위법이라고 판단했고, 이유는 셋이었습니다.

첫째, 유럽인권협약 제8조가 보장하는 사생활 존중의 권리를 침해했습니다. 유럽인권협약은 유럽 국가들이 맺은 인권 조약입니다. 침해로 본 까닭은 법에 적절한 근거가 없었기 때문입니다. 둘째, 영국 2018년 데이터보호법 제64조에 따른 데이터 보호 영향평가가 부실했습니다. 시스템이 처리하는 개인들의 권리와 자유에 대한 위험을 평가하지 않았기 때문입니다. 셋째, 영국 2010년 평등법 제149조가 부과한 공공기관 평등의무를 이행하지 않았습니다. 그 소프트웨어가 성별과 인종에 관해 편향되어 있는지 여부를 평가하지 않았기 때문입니다 (DOI: 10.1111/1468-2230.12623).

세 번째 이유는 다시 읽어 볼 만합니다. 법원이 위법이라고 한 근거는 "편향되어 있다"가 아니라 "편향되어 있는지 확인하지 않았다"였습니다. 이 판결에서 법이 기술에 요구한 것의 모양이 여기 있습니다.

그런데 판결이 남긴 여지를 더 크게 보는 논문이 있습니다. 이 논문에 따르면 법원은 공공장소의 얼굴인식이 법집행 목적을 달성하는 수용 가능한 수단이라고 보았습니다. 아주 많은 사람을 식별하고 추적하는 경우도 포함된다고 논문은 적습니다. 경찰이 쓰는 기술의 투명성도 요구하지 않았다고 합니다. 저자는 이 판결이 단기적으로는 경찰 재량의 변화를 요구하는 안심할 만한 판결이지만, 장기적으로는 오히려 확장을 정당화한다고 결론짓습니다 (DOI: 10.52214/stlr.v22i2.8666).

유럽인권재판소도 답을 냈습니다. 유럽인권협약 위반 여부를 심리하는 재판소입니다. 글루힌 대 러시아 사건에서 재판소는 협약 제8조(사생활)와 제10조(표현의 자유) 위반을 인정했습니다. 이 사건을 분석한 논문은 형사 절차에서 얼굴인식을 쓰면 사생활 권리에 대한 간섭이 생긴다고 확인합니다. 그 간섭이 정당화되는지는 사안마다 답이 다를 수 있다고 합니다. 다만 그 논문이 다룬 나라의 헌법도 유럽인권협약도 형사 절차에서의 얼굴인식 사용을 그 자체로 금지하지는 않는다고 적습니다 (DOI: 10.59295/spd2024j.10, 학술대회 논집). 이것은 사용 자체를 금지하지 않는다는 일반론이고, 이 사건에서 위반이 인정되었다는 점은 그대로입니다. 어느 나라 헌법인지는 초록이 밝히지 않습니다. 한국 헌법에 대한 판단이 아닙니다.

유럽연합 인공지능법 제5조 — 금지와, 금지에 딸린 예외

이 글이 다루는 법 가운데 금지를 조문에 명시한 것은 유럽연합 인공지능법 제5조입니다. 이 조항이 금지한 행위 하나를 먼저 풀어 둡니다. 원격 생체식별(remote biometric identification)은 상대가 협조하지 않아도, 대개 멀리서, 몸의 특징을 데이터베이스와 견주어 그가 누구인지 알아내는 것을 말합니다. 지문은 손가락을 대야 찍히지만 얼굴은 대지 않아도 찍힙니다.

제5조는 인간의 존엄과 자율과 기본권에 양립할 수 없는 여덟 가지 관행을 금지합니다. 이 조항을 분석한 논문은 그것을 어떤 안전장치를 붙이든 상관없는 절대적 금지라고 소개합니다. 같은 초록은 분석에서 활용 가능한 예외와 경계 사례도 다룬다고 밝힙니다 (DOI: 10.2139/ssrn.6973579, 심사 전 공개본). 두 말이 한 초록 안에 같이 있는 것입니다.

인공지능법을 다룬 책의 한 장이 그 둘을 갈라 줍니다. 이 장은 제5조의 금지를 전면 금지와 조건부 금지로 나눕니다. 법집행 목적으로 공중이 접근할 수 있는 공간에서 하는 실시간 원격 생체식별은 절대 금지가 아닙니다. 조건과 안전장치와 회원국의 승인 절차가 딸린 "복잡한 체제"입니다 (DOI: 10.1093/law/9780198925705.003.0003). 그 조건이 구체적으로 무엇인지는 이 글이 인용한 두 초록 어디에도 없습니다. 확인할 수 있는 것은 조건이 딸려 있다는 사실까지입니다.

여덟 가운데 얼굴이나 몸의 특징에 걸리는 것은 넷입니다. 무차별 스크래핑, 직장과 학교에서의 감정 인식, 민감한 속성에 따른 생체 분류, 실시간 원격 생체식별입니다. 그중 신원 식별에 직접 걸리는 것은 둘입니다. 하나는 얼굴 데이터베이스를 만들려고 이미지를 무차별적으로 긁어 오는 것입니다. 다른 하나는 방금 본 실시간 원격 생체식별입니다. 이 금지들은 2025년 2월 2일부터 적용되었습니다. 제재는 2025년 8월 2일부터 집행할 수 있게 되었습니다. 상한은 3,500만 유로 또는 전 세계 연매출의 7퍼센트 중 높은 쪽입니다 (DOI: 10.2139/ssrn.6973579, 심사 전 공개본).

금지를 명시한 규정조차 금지와 예외를 함께 담았습니다. 그 예외를 어떻게 볼 것이냐에서 논문들의 처방이 갈립니다.

한쪽은 예외를 없애라고 합니다. 앞서 본 브라질 논문은 유럽의 예외 조항을 복제하지 말라고 합니다. 저자의 결론은 구조적 불평등이 큰 나라가 전면 금지를 도입해야 한다는 것입니다. 범위는 법집행 목적의 실시간 원격 생체식별에 한합니다. 어떤 기술적 관행은 평등과 비차별이라는 헌법적 보장과 본래적으로 양립할 수 없다는 이유입니다 (DOI: 10.1017/bhj.2026.10047).

다른 쪽은 전면 금지에 반대합니다. 영국 법집행기관의 실시간 얼굴인식을 검토한 논문은 점진적 접근을 제안합니다. 한꺼번에 뜯어고치는 규제 변화 대신 기존 법 틀을 조금씩 고치자는 것입니다. 구체적으로는 대조할 얼굴 목록을 규율하는 국가 차원의 규칙을 둡니다. 배치에는 공간적·시간적·맥락적 제한을 겁니다. 근거는 비례성과 필요성 평가, 곧 목적에 견줘 과하지 않은지와 꼭 필요한지입니다. 여기에 투명성 절차를 더합니다.

같은 논문은 투명성 절차 대신 택할 수 있는 길도 내놓습니다. 투명성이 효과를 해치지 않는 경우에만 공개적 사용을 범죄 억제와 공공 안전 확보에 한정하는 것입니다. 이렇게 한정하면 법집행기관은 수사에서 주로 은밀한 감시를 쓰게 됩니다. 긴급한 경우를 제외하고 사전 사법 승인을 받은 감시입니다 (DOI: 10.1017/s0008197323000454).

그 사이에 무슨 일이 있었는지도 기록돼 있습니다. 캐나다 언론의 보도를 분석한 논문이 출발점을 이렇게 적습니다. 2020년 1월 한 미국 신문이 클리어뷰 AI를 보도했습니다. 클리어뷰 AI는 인터넷에서 긁어모은 수십억 장의 이미지로 데이터베이스를 만든 미국 회사였습니다. 아무런 공적 검토 없이 미국에서만 600곳이 넘는 경찰 기관을 고객으로 확보한 상태였습니다. 공적 검토가 이루어지기 전에 배치가 앞서 있었던 것입니다.

저자들은 뒷맛도 적습니다. 언론과 경찰의 복잡한 관계가 비판을 누그러뜨렸습니다. 그 자리에 덜 논쟁적인 다른 얼굴인식 용도들이 정당화될 여지가 생겼다는 것입니다 (DOI: 10.2139/ssrn.7308163, 심사 전 공개본).

캘리포니아 — 바디캠 얼굴인식 금지가 영구에서 3년으로 줄어든 까닭

미국 캘리포니아주의 입법 과정에서 나온 사례입니다. 2019년 캘리포니아는 경찰이 바디캠 영상에 얼굴인식을 쓰는 것을 3년간 금지하는 법을 통과시켰습니다. 이 한시 금지는 2023년 1월 1일에 기한이 끝났고 연장은 이뤄지지 않았다고 알려져 있습니다. 원래는 영구 금지로 발의된 법안이었습니다. 왜 3년으로 줄었는지를 입법 문서와 업계 보고서와 언론 보도로 추적한 연구가 있습니다.

초기에 의원들과 시민사회는 이 기술이 소수자와 유색인에 대한 차별을 악화시킬 수 있다고 비판했습니다. 그런데 비판자들은 이후 금지의 명분을 기술 자체의 낮은 정확도 쪽으로 옮겼습니다. 그러자 제조사와 경찰 로비를 포함한 찬성 측이 반박할 수 있게 되었습니다. 이 기술은 사람보다 정확하고, 앞으로 더 좋아질 것이라는 반박입니다. 저자들은 그 반박이 영구 금지의 필요를 약화시켰다고 봅니다.

저자들은 결론짓습니다. 알고리즘 통치, 곧 알고리즘으로 사람을 관리하는 방식에 대한 반대는 기술 중심이 아니라 생명정치적이어야 효과가 있다는 것입니다. 풀어 쓰면, 기계가 얼마나 잘 맞히느냐보다 몸과 인구를 어떻게 다스리느냐를 논점으로 삼아야 효과가 있다는 뜻입니다 (DOI: 10.16997/book55.m).

이 사례에서 정확도는 논쟁의 무기로 쓰기에 나쁜 축이었습니다. 상대편이 "곧 좋아진다"고 받아칠 수 있는 축이기 때문입니다.

여론 연구가 묘한 단서를 보탭니다. 미국 성인 전국 표본을 쓴 조사가 있습니다. 얼굴인식 지지는 공공 안전에 대한 믿음과 프라이버시 우려 양쪽 모두에 영향받는다고 보고합니다. 프라이버시 우려의 효과는 치안 맥락과 경찰 신뢰에 따라 달라집니다 (DOI: 10.1177/00111287221150172).

크라우드소싱 표본, 곧 온라인으로 모은 참가자를 쓴 연구의 실험도 눈에 띕니다. 참가자 496명에게 얼굴인식의 인구집단별 편향 정보를 보여 주었더니 반대가 늘었습니다. 그 효과는 이념 성향에 거의 좌우되지 않았습니다. 다만 같은 논문은 이념 성향이 애초의 수용도를 예측한다는 것도 보고합니다. 우익 권위주의와는 양의 방향, 자유지상주의와는 음의 방향이었습니다 (DOI: 10.1177/09636625221113131).

이 글이 두 기록을 겹쳐 읽은 결론은 이렇습니다. 편향 정보를 접하면 반대가 늘 수 있다는 실험이 한 건 있습니다. 그런데 알려 주는 내용이 "정확도"일 때 그 태도는 기술 개선에 인질로 잡힙니다. 기술이 좋아지면 반대가 설 자리를 잃는다는 뜻입니다.

아직 정하지 못한 것

법이 정하지 못한 것을 이제 목록으로 적을 수 있습니다.

첫째, 기계가 만든 단서가 절차 안에서 어떤 지위를 갖는가입니다. 네 사건을 종합한 논문의 결론이 여기에 있습니다. 미국 법정에서 얼굴인식이 갖는 정당성은 알고리즘이 후보를 만들어 낼 수 있느냐보다 다른 것에 훨씬 더 크게 달려 있다는 것입니다. 그 후보가 만들어진 뒤 법적 절차가 그것을 따져 물을 수 있는 상태로 보존하느냐입니다. 저자는 조건부 사용 모델을 제안합니다. 얼굴인식은 수사 단서로 남고 체포나 유죄의 단독 근거가 되지 않습니다. 검색의 실질적 세부는 공개되고, 독립적인 증거가 영장보다 먼저 있어야 합니다. 오류가 가장 위험해지는 때를 저자는 이렇게 적었습니다. 단서가 이후 수사 단계를 오염시키고, 재판 전에 시야에서 사라질 때입니다.

둘째, 감시의 피해를 무엇으로 셀 것인가입니다. 국제인권법은 권리를 제한하는 조치를 세 단계로 심사합니다. 법에 근거가 있는가, 정당한 목적을 좇는가, 민주사회에서 필요한가를 묻습니다. 앞의 민족지 연구서에서 이 심사를 대입한 장은 이렇게 지적합니다. 이 기술은 사생활만이 아니라 표현의 자유와 집회의 자유와 차별 금지를 동시에 건드립니다. 그러면서 복합 인권 침해라는 개념을 제안합니다. 위축효과는 감시받는다는 느낌에 사람들이 권리를 행사하는 행동을 스스로 줄이는 효과입니다. 이 효과는 여러 권리를 한꺼번에 건드리므로 하나씩 세어서는 포착할 수 없다는 것입니다. 같은 장은 새로 주장되고 있는 권리 하나도 소개합니다. 사람에게 판단받을 권리입니다 (DOI: 10.1093/9780191979927.003.0004).

셋째, 공적 공간에 모이는 일 자체에 무슨 일이 일어나는가입니다. 공공장소 얼굴인식이 평화적 집회와 정치적 시위에 미치는 위축효과를 다룬 한 장이 있습니다. 이 장은 감독과 책임 장치가 부재한다는 점을 지적하며, 국가 권력이 크게 강화되었다고 적습니다. 그 공백은 법적 구속력이 있는 인권 의무로 메우자고 주장합니다. 정부와 그 감시를 돕는 기술 회사 양쪽을 구속하는 의무입니다 (DOI: 10.2139/ssrn.5333821, 심사 전 공개본). 여기서 피해자는 잘못 잡힌 사람이 아니라 나가지 않기로 한 사람입니다. 그리고 나가지 않은 사람은 통계에 잡히기 어렵습니다.

이 셋을 관통하는 질문은 「알고리즘이 형을 정한다 — AI 재범 예측은 공정한가」가 재범 예측 도구를 놓고 묻는 질문과 같습니다. 기계의 출력이 사법 절차 안에서 사실로 취급되는 순간은 정확히 언제이고, 누가 그것을 뒤집을 수 있는가. 얼굴인식에서 그 순간은 재판정이 아니라 훨씬 앞, 수사관의 화면 앞에서 옵니다.

그래서 이 글이 열었던 문장으로 돌아갑니다. 단서가 이유가 되는 순간에 실패하는 것은 알고리즘이 아닙니다. 단서와 이유 사이에 있어야 할 검증 단계가 실패합니다. 그 단계는 카메라가 좋아져도, 데이터셋이 균형을 찾아도, 위양성률이 내려가도 저절로 생기지 않습니다. 그 단계를 절차가 보존해야 한다는 것이 네 사건을 종합한 논문의 결론입니다.

그리고 법이 아직 정하지 못한 것은 이 기술이 정확한가가 아닙니다. 정확해졌을 때 무엇을 해도 되는가입니다. 반대의 근거를 정확도에 걸어 두면, 정확도가 충분히 좋아진 날 그 반대는 스스로 무너집니다. 그날 남아 있어야 할 질문은 다릅니다. 이 나라는 거리를 걷는 사람이 이름 없이 지나갈 수 있는 곳이기를 바라는가. 그건 알고리즘이 답할 수 있는 질문이 아닙니다.

근거 논문

등급(심사 전 공개본·프리프린트·공개 초안)은 본문에 그때마다 표시했다.

• "Use of Facial Recognition in Court" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.7356558 — 네 사건 종합. 문제는 위험의 사슬이고, 법정에서의 정당성은 사후 이의제기 가능성에 달렸다.
• "When a Lead Becomes Probable Cause" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.6505861 — 단서 도구가 신원 확정처럼 취급되면 잠정 후보가 영장 청구를 받칠 수 있다는 위험.
• "Face Recognition Vendor Test Part 7" (2021) — DOI: 10.6028/nist.ir.8381 — 1대다 검색의 긍정 식별과 부정 식별은 오류 감내가 다르다(공항 환승 맥락).
• "Face Recognition Vendor Test Part 8" (2022, 공개 초안) — DOI: 10.6028/nist.ir.8429.ipd — 위음성 불평등은 촬영 탓이 크고, 훨씬 큰 위양성 변이는 고품질 사진에서도 남는다(1대1 트랙).
• "Improved AI-Based FR… Demographic Biasness" (2026) — DOI: 10.37284/eaje.9.1.4850 — 정확도-공정성 맞거래 가정 반박. FairFace 92.58%→96.47%, 편향 지표 3.86→1.16, 흑인 여성 80.2%→90.86%.
• "Fairness Regularization in CNNs" (2025, 프리프린트) — DOI: 10.21203/rs.3.rs-8330446/v1 — FairFace·AffectNet. 격차 18~27% 감소하나 없애지는 못했고 더 깊은 망이 분산이 컸다.
• "Human–Technology Interaction… Surveillance Operations" (2025) — DOI: 10.1093/9780191979927.003.0010 — '개입 추정'. 재량이 정확성과 무관하게 알고리즘 판정에 양도되었다.
• "Facial Recognition Surveillance" (2025) — DOI: 10.1093/9780191979927.001.0001 — 경찰 운용에 드물게 접근한 민족지 연구서. 효능·공정성 주장의 근거 부족. 인권 실사 프레임워크 제시.
• "Human Rights Law Considerations… Public Surveillance" (2025) — DOI: 10.1093/9780191979927.003.0004 — 인권 3단계 심사, 복합 인권 침해, '사람에게 판단받을 권리'.
• "Facial Recognition in Policing: Racial Disparities" (2026, 실무자용 브리핑) — DOI: 10.22215/apb.v3i3.6097 — 상시 사용 기관일수록 흑백 체포 격차가 컸다. 단독 인과는 보이지 않는다.
• "FRT in the Global Divide" (2026) — DOI: 10.1017/bhj.2026.10047 — 기술적으로 정확해도 인종화된 치안 맥락에서는 차별적 결과. 법집행 목적 실시간 생체식별의 전면 금지 주장.
• "Police FRT… Racial Differences in Police Lethality" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.6753771 — 508개 도시 관측. 사망 감소와 연관되나 피습률 상승·바디캠 포화 시 효과 약화.
• "Murky Consent" (2023, 심사 전 공개본) — DOI: 10.2139/ssrn.4333743 — 고지·선택도 명시 동의도 실패하고 동의는 대부분 허구다. 대안은 네 가지 의무.
• "Beyond Consent" (2026) — DOI: 10.62517/jel.202614123 — '고지와 동의' 패러다임의 구조적 붕괴. 대안은 준공공재 민관 협력 모델(저자가 가설이라 적음).
• "얼굴인식기술과 개인정보자기결정권 보호" (2022) — DOI: 10.35901/kjcl.2022.28.4.535 — 생체정보는 바뀌지 않아 유출 피해가 크다. 지능형 CCTV 규정 필요.
• "Automated decision-making in South Korea" (2024) — DOI: 10.1057/s41599-024-03470-y — 제37조의2는 일반 금지가 아니라 거부권. 다단계 프로파일링 공백과 설명요구권의 한계.
• "Automatic Facial Recognition… Police Surveillance" (2021) — DOI: 10.1111/1468-2230.12623 — 브리지스 판결의 세 위법 사유.
• "Burning Bridges" (2021) — DOI: 10.52214/stlr.v22i2.8666 — 세계 최초의 승소. 다만 법원은 다수의 식별·추적조차 수용 가능한 수단으로 보았다.
• "Using FRT to prevent and fight crime" (2025) — DOI: 10.59295/spd2024j.10 — 글루힌 대 러시아. 사생활권 간섭이나, 그 나라 헌법도 협약도 형사 절차의 사용을 그 자체로 금지하진 않는다.
• "Prohibited AI Practices Under Article 5" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.6973579 — 여덟 금지 중 신원 식별에 걸리는 것이 둘. 절대 금지를 말하면서 활용 가능한 예외도 적는다.
• "Chapter II: Prohibited AI Practices" (2026) — DOI: 10.1093/law/9780198925705.003.0003 — 전면 금지와 조건부 금지를 가른다. 실시간 생체식별은 조건·안전장치·회원국 승인이 딸린 체제.
• "Regulating Live FRT in Public Spaces" (2023) — DOI: 10.1017/s0008197323000454 — 전면 금지 대신 점진적 조정. 명부 규칙, 공간·시간·맥락 제한, 사전 사법 승인.
• "'Not Ready for Prime Time'" (2021) — DOI: 10.16997/book55.m — AB-1215가 영구 금지에서 3년으로 축소된 경위. 명분이 정확도로 옮겨 가자 무너졌다. 반대는 생명정치적이어야.
• "Journalism as Catalyst for Police Governance Reform" (2026, 심사 전 공개본) — DOI: 10.2139/ssrn.7308163 — 2020년 1월 클리어뷰 AI 보도. 미국에서만 600곳 넘는 경찰 기관이 고객. 비판이 누그러지며 덜 논쟁적인 용도가 정당화.
• "FRT in Policing: A National Survey" (2023) — DOI: 10.1177/00111287221150172 — 공공 안전 믿음과 프라이버시 우려가 모두 지지에 영향하고, 후자는 맥락에 따라 달라진다.
• "The role of ideological dimensions…" (2022) — DOI: 10.1177/09636625221113131 — 크라우드소싱 표본. 이념이 수용도를 예측하나, 편향 정보 실험(496명)은 이념과 무관하게 반대를 늘렸다.
• "Power and Protest" (2025, 심사 전 공개본) — DOI: 10.2139/ssrn.5333821 — 집회·시위 위축효과와 감독·책임 장치의 부재. 기업·정부를 구속하는 강행적 인권 의무 주장.