채점자도 언어모델이다 — 그 판정을 어디까지 믿을 수 있는가
같은 질문을 쉰 번
답 두 개를 나란히 놓고 "어느 쪽이 낫냐"고 물었다. 같은 질문, 같은 채점자, 같은 설정으로 쉰 번. 채점자는 언어모델이었다.
평균 13.6%에서 승자가 뒤집혔다. 질문의 28%는 뒤집힘이 20%를 넘었고 어떤 질문 하나는 56%였다 — 논문 제목이 "동전 던지기 심판?"인 이유다. 두 채점자 중 하나는 먼저 제시된 답을 72% 골랐고, 뜻이 같고 표현만 다른 지시문으로 바꾸자 다수결 결과가 25%의 사례에서 달라졌다. 서로 다른 두 채점자의 판정은 76%만 겹쳤고, 무작위성을 끄는 설정도 흔들림을 없애지는 못했다. 쉰 번짜리 기준 판정을 95% 확률로 되찾으려면 평균 열한 번을 반복해 다수결로 가야 했다. 시험한 채점자 둘이 모두 한 회사 모델이라 회사를 가로지르는 재현은 남았다고 저자들이 직접 적는다 (arXiv:2606.13685, 프리프린트).
사람이 채점하기엔 양이 너무 많아서 채점 자체를 다른 언어모델에게 맡기는 방식, 이것을 LLM 심판이라고 한다. 답 두 개 중 나은 쪽을 고르게 하거나 답 하나에 점수를 매기게 한다. 그 점수가 가는 곳은 세 군데 — 공개 순위표, 모델을 학습시킬 때 쓰는 점수판, 배포 전 안전 검사 (arXiv:2606.13685).
이 시리즈에서 검색을 붙이는 처방을 다룬 편과 긴 작업을 맡긴 편은 각각 이 자리에서 멈췄다. 사람이 다 못 읽으니 판정을 다시 언어모델에게 맡긴다고 적고, 믿을 수 있는지는 열어 둔 채였다.
두 가지만 미리. 이 글은 어느 모델이 좋은 심판인지 고르지 않는다. 모델 이름은 그 논문이 그때 시험한 대상일 뿐이고 반년이면 낡는다. 그래서 덜 변하는 축 — 채점자가 무엇에 흔들리고 어느 쪽으로 쏠리는가 — 에 지면을 쓴다. 그리고 인용의 다수가 심사를 거치지 않은 공개본이다. 하중이 큰 대목에 등급을 붙였다.
채점자를 재는 자는 대부분 남의 창고에서 왔다
터키어 서사 데이터셋 하나에서 벌어진 일이다. 장면마다 창작 기법 여섯 가지가 쓰였는지를 자동으로 붙여 둔 표가 있었고, 연구자들은 거기에 사람이 동의하는지를 물었다. 감정을 사물로 바꿔 보여 주는 기법, 이 한 항목에서 갈렸다. 장면 100개 가운데 기계 채점자 다섯이 양성으로 센 개수가 0, 1, 40, 72, 78이었다. 같은 100개를 본 사람의 답은 9였다.
그런데 기계와 사람의 판정이 그냥 겹친 비율은 74.7%에서 84.5% 사이였다. 이 숫자가 왜 거짓말인지가 이 글의 문법이다.
두 채점자가 같은 대상에 같은 판정을 내린 비율에서, 아무렇게나 찍어도 우연히 맞았을 몫을 빼고 남긴 값, 이것을 카파라고 한다. 100장면 중 양성이 9개뿐이면 둘 다 눈 감고 "아니다"만 해도 90% 넘게 겹친다. 그 몫을 빼면 여섯 기계 채점자 중 다섯의 카파가 0.004, 0.015, 0.000, 0.019, 0.027 — 우연과 구별되지 않았다. 저자들은 겉보기 일치를 한쪽 답이 많은 데서 나온 산물이라고 적는다 (DOI: 10.2139/ssrn.7217178, 워킹페이퍼). 같은 교정을 앞 절의 76%에도 해 볼 수 있다. 카파로 고치면 0.51 — 우연은 아니지만 절반 남짓이다 (arXiv:2606.13685).
저자들은 이 결과를 하나의 이야기로 정리하기를 일부러 거부한다. 살아남는 해석이 둘이라는 것이다 — 그 기법이 정말로 기계가 잡기 어려운 추론적 성질이거나, 아니면 그 정의가 아직 누구도 일관되게 적용할 만큼 정밀하지 않거나(후자라면 사람도 못 맞힌 것이 된다). 둘을 가르려면 독립된 두 번째 사람 채점자가 필요한데 없고, 그래서 주장하지 않는다고 적는다.
사람 채점자끼리도 완전히 맞지는 않는다. 2024~2025년 임상 언어모델 연구 66편을 훑은 리뷰가 여기를 겨눴다. 상당수가 사람 채점자 사이의 일치도를 아예 보고하지 않았고, 보고한 경우 카파는 흔히 0.40에서 0.80 사이였다. 그렇다면 "전문가 수준"에 도달했다는 많은 모델들은 전문가 기준선에 내재한 잡음을 근사하고 있는 것일 수 있다는 게 저자들의 문장이다. 지금의 표준으로는 사람을 넘어섰다는 주장을 뒷받침할 수 없다고 결론을 닫는다 (DOI: 10.21203/rs.3.rs-10047888/v1, 프리프린트·리뷰).
이 글이 모은 연구가 채점자를 재려고 꺼내 든 도구는 대부분 남의 창고에서 왔다. 카파, 급내상관, 일반화가능도 이론, 다국면 라쉬 모형, 신호탐지이론 — 사람 채점자의 관대함과 엄격함을 재려고 심리측정학이 쌓아 온 것들이다. 자를 새로 만든 게 아니라 재는 대상이 바뀌었다. 예외는 한 갈래, 모델 내부를 직접 들여다보는 쪽이고 뒤에서 본다.
현장에 대 봤다. 르완다 보건요원들이 올린 임상 질문의 답을 언어모델 심판 다섯과 임상의 여섯이 열한 개 항목으로 채점했다. 가장 잘한 심판이 사람과 대등한 판정을 낸 항목은 열한 개 중 네 개였고, 여럿을 묶어 배심으로 만들자 하나 늘었다. 어떤 모델은 일관되게 후했고 어떤 모델은 일관되게 박했다. 입력 언어를 키냐르완다어로 바꾸자 성능과 비용 효율이 함께 떨어졌다 (DOI: 10.1038/s41746-026-02992-w, 심사 지면). 같은 연구의 공개본은 한 문장을 더 붙인다 — 필요한 것은 더 나은 심판만이 아니라, 임상 AI 평가에서 "옳음"을 무엇으로 볼 것인가에 대한 근본적인 재고일 수 있다. 지금 그 기준이 서로 크게 어긋나는 임상의 채점에 놓여 있기 때문이다 (DOI: 10.1101/2025.10.27.25338910, 프리프린트).
흔들리는 축은 이미 목록으로 나와 있다
자리. 답 두 개를 나란히 놓고 고르게 했을 때 내용과 상관없이 앞이나 뒤에 놓인 쪽으로 기우는 성향, 이것을 위치 편향이라고 한다. 앞에서 본 "먼저 제시된 답을 72%"가 그것이다. 여섯 개 모델로 답 쌍 11,520개를 채점한 연구는 두 답을 조각내 맞춰 붙인 뒤 채점시키는 완화법을 제안한다. 일관성이 평균 47.46% 상대 개선됐고 한 모델에서는 일관성이 98%까지 올랐다. 다만 이 초록은 교정 이전의 절대 일관성을 밝히지 않는다 (arXiv:2310.01432, 프리프린트).
채점 지시문의 문구. 중환자 진료 보고서 90건에 지시문 설계만 세 가지로 바꿔 봤더니, 셋 다 임상의 점수와 "상당한" 일치를 보였지만 그중 하나는 일치도가 0.94에서 0.82로 떨어졌다(급내상관, p<0.001). 임상의 평균과의 편차도 0.1에서 4.7까지 벌어졌다 (DOI: 10.5114/ait/221943, 심사 지면). 채점자 넷을 네 벤치마크에 걸어 흔들어 본 도구 연구는 더 담백하다 — 이 도구로 시험한 심판 가운데 한결같이 신뢰할 만한 것은 없었다. 저자들이 예비 실험이라 부른 대목에서 흔들림은 서식 변경, 바꿔 쓰기, 장황함의 증감, 정답 라벨 뒤집기에서 나왔다 (arXiv:2603.05399, 프리프린트).
온도는 뜻밖에 거의 기여하지 않는다. 채점자 4종 × 지시문 3종 × 온도 6단계 × 씨앗 3개를 교차시켜 관측 64,800건을 만든 연구가 분산의 출처를 분해했다. 문항 난이도가 74.6~93.0%로 압도적, 문항과 채점자의 상호작용이 2.65~14.75%로 그다음, 온도의 기여는 사실상 0이었다 (DOI: 10.2139/ssrn.6432598, 워킹페이퍼). 앞 절의 "무작위성을 꺼도 흔들림이 남는다"와 부딪히는 듯 보이지만, 한쪽은 두 답 중 고르기이고 한쪽은 문서 분류 주석이다. 과제가 다르면 흔들림의 출처도 다르다.
형식과 문체. 여기서 방향이 처음 또렷하게 보인다. 사람의 선호를 대신 맞히도록 학습시킨 채점 모델들에게 길이·구조·전문용어·아부·모호함을 부풀린 짝을 물었더니 60%가 넘는 사례에서 부풀린 쪽을 선호했다. 결정적인 것은 상관의 부호다. 이 다섯 특징은 사람의 선호 라벨과는 약한 음의 상관(평균 -0.12), 강한 채점 모델의 라벨과는 중간 세기의 양의 상관(평균 +0.36)이었다. 사람은 조금 밀어내는데 기계 채점자는 끌린다는 뜻이다. 저자들의 처방은 어긋남을 39.4%에서 32.5%로, 부풀림 선호를 20.5%에서 10.0%로 줄였을 뿐 없애지는 못했다 (arXiv:2506.05339, 프리프린트).
일부러 노린 문구. 짧은 문구 하나를 답 뒤에 붙이는 것만으로 심판이 점수를 부풀리게 만들 수 있다는 연구가 2024년에 나왔다. 심판 모델을 모를 때는 대리 모델을 먼저 공격해 얻은 문구를 옮겨 붙였는데, 그러고도 채점 대상 글이 무엇이든 최고점이 나오는 지경까지 부풀었다. 그리고 심판은 점수를 매기게 할 때가 둘 중 고르게 할 때보다 이 공격에 훨씬 취약했다 (arXiv:2402.14016, 프리프린트).
영국 금융감독 원칙을 168개 시나리오로 옮긴 벤치마크에서, 정상 입력에 가장 강했던 1,200억 개 규모 심판은 규제 키워드를 채워 넣은 입력에서 정확도를 0.74에서 0.27로 잃었다. 저자들은 이것을 "준법 연극"이라 부른다. 같은 갈래에서 다른 계열 심판과의 일치는 카파 0.16이었고, 저자들은 이 값으로 실패가 자료가 아니라 모델에 있다고 짚는다 (arXiv:2608.14329, 프리프린트).
자기 답에 후한가 — 그리고 그게 잘못인가
2024년의 한 측정이 이 분야의 기본 문장을 만들었다. 한 모델이 자기 답에 뚜렷하게 후한 점수를 줬다는 것이다.
채점을 맡은 모델이 자기가 만든 답에 남이 만든 답보다 후한 점수를 주는 성향, 이것을 자기선호 편향이라고 한다. 그런데 같은 연구가 원인을 뜻밖의 곳에서 찾았다. 모델에게 덜 낯선 글 — 그 모델이 다음 단어를 잘 맞히는 글 — 이면 사람보다 유의하게 높은 점수를 줬는데, 그 글을 자기가 썼는지와 무관했다. 저자들의 해석은 자기애가 아니라 익숙함이다 (arXiv:2410.21819, 프리프린트).
여기서 갈림이 나온다. 자기 답을 더 좋게 보는 것이 틀린 일인가. 수학·사실지식·코드처럼 정답을 확인할 수 있는 과제로 이 물음을 나눈 연구가 있다. ① 강한 모델일수록 자기선호가 컸지만 그 선호의 상당 부분은 실제로 더 나은 답을 고른 것이었다 — 대체로 정당했다. ② 그러나 채점자가 생성자로서 틀렸을 때 유해한 자기선호가 남았고, 강한 모델일수록 자기가 틀렸을 때 그것을 알아보지 못했다. ③ 채점 전에 길게 생각하게 하면 그 유해한 몫이 줄었다 (arXiv:2504.03846, 프리프린트).
②는 채점 규칙을 객관적으로 못 박아도 살아남았다. 프로그램으로 확인할 수 있는 채점표에서, 생성자가 실제로 실패한 항목을 심판이 통과로 잘못 표시할 가능성이 자기 출력일 때 50% 넘게 더 높아질 수 있었다. 주관적 채점표를 쓰는 의료 대화 벤치마크에서는 점수를 최대 10점까지 밀었다 — 최상위 모델을 줄 세울 때 승부를 가를 폭이다. 여럿 묶으면 줄었지만 사라지지는 않았다 (arXiv:2604.06996, 프리프린트).
반대쪽 증거가 세 갈래로 들어와 있고, 이쪽을 빼면 글이 거짓이 된다.
첫째, 정답을 기계가 확정해 주는 자리에서는 안 나왔다. 모델이 초안을 쓰고, 규칙 검사기가 그 초안이 지시를 어겼음과 어떤 수정이 그것을 고침을 확인해 준 뒤 그 수정을 받을지 물었다. 자기 초안일 때와 남의 초안을 처음 볼 때의 거부율 차이는 -5.1%포인트, 95% 신뢰구간 [-12.9, +2.7] — 검출되지 않았다. 저자들은 표본 크기상 약 13%포인트보다 작은 효과는 배제할 수 없다고 못 박고, 예비 실험의 신호 하나는 규모를 키우자 재현되지 않았다고 적는다. 남은 관찰은 질적인 것뿐이다 — 저자가 검증된 수정을 거부할 때 그 이유의 97%는 취향이 아니라 결함 지적이었다 (arXiv:2606.20093, 프리프린트).
둘째, 문체를 지우면 대체로 사라진다 — 그런데 이름표만으로 되돌아온다. 열 개 모델에게 자기 문체가 묻지 않는 대상을 채점시켰다. 눈을 가리고 채점의 질과 채점자의 엄격함을 통제하자 자기선호는 네 축 중 세 축에서 사라졌고, 나머지 한 축에서는 뒤집혔다 — 심판이 자기 것을 덜 독창적이라고 봤다. 그런데 질이 같은 것끼리 놓고 이름표만 붙이자 — 어느 모델인지 말하지 않고도 — 자기 것이라는 딱지에 점수가 올라가고 남의 것이라는 딱지에 내려갔다, 실제 출처와 무관하게. 바뀐 것은 이름표뿐인데 점수가 움직였다 (arXiv:2608.18091, 프리프린트).
셋째, 분야를 옮기면 방향이 뒤집힐 수 있다. 퀘벡 프랑스어 자동차보험 법률 질문에서 심판 52개를 전문가 기준표와 대조한 연구다. 가장 강한 심판조차 전문가 기준과의 일치가 중간 수준이었고 심판끼리 자주 어긋났다. 그리고 일반 분야에서 보고된 AI 편애와 반대로, 이 심판들은 굳이 따지자면 AI가 쓴 답에 더 엄격했다 — 저자들이 붙인 이 유보는 효과가 크지 않다는 뜻이다 (DOI: 10.21203/rs.3.rs-10304807/v1, 프리프린트).
편향의 이름이 자기애는 아니었다. 익숙한 글에 후하고, 출처 딱지에 반응하고, 자기가 틀렸을 때 못 알아보는 것이다. 세 번째가 가장 나쁘다 — 심판이 가장 필요한 순간이 바로 그 순간이라서다.
흔들림에 방향이 있다
에세이 1,726편을 여덟 개 모델과 사람 전문가가 함께 채점한 연구가 잘 가려내는 능력과 점수를 매기는 기준의 위치를 심리측정 방식으로 분리했다. 결과는 둘 다였다. 사람의 변별력 추정치가 모델의 약 두 배였고, 모델들은 가운데로 몰리고 점수 폭을 좁혀 최상위 등급을 체계적으로 주지 않았다. 낮은 일치도는 못 가려낸 탓이기도 하고 기준선이 옮겨 간 탓이기도 하다는 것이 저자의 결론이다 (DOI: 10.1177/01466216261471171, 심사 지면).
같은 압축이 다른 자리에서도 나왔다. 설문 응답을 모델로 만든 뒤 같은 계열 모델이 그 응답을 숫자 척도에 올리는 순환을 사전등록 실험으로 검사한 연구다. 모델이 자기 글을 스스로 점수화하면 오차 분산이 네 배로 압축됐고(0.21 대 0.87) 방향이 일정한 치우침이 남았다. 저자들이 제안한 독립적 대안은 정확도에서 오히려 뒤졌고(65% 대 87%), 자기 기여는 정확도 우위가 아니라 방법론적 독립성이라고 적는다 (DOI: 10.2139/ssrn.6208718, 워킹페이퍼).
치우침의 부호는 모델마다 다르다. 채점자 효과를 다국면 라쉬 모형으로 잰 연구는 열 개 모델 중 몇몇이 낫다는 결과를 얻고도, 이 결과를 모델 간 우열이나 순위로 읽지 말라고 명시한다 — 표본이 작기 때문이다 (DOI: 10.1111/emip.70018, 심사 지면).
그리고 이 "방향"이 은유가 아닐 수 있다. 심판 일곱, 편향 유형 일곱, 벤치마크 아홉에 걸쳐 모델 내부 상태를 들여다본 연구다. 편향이 걸린 입력들은 유형마다 고유한 저차원 방향으로 밀려나 있었고, 그 방향으로 내부 상태를 밀자 점수가 양쪽으로 움직였다 — 깨끗한 입력에 편향된 채점을 재현할 수도, 편향된 입력에 원래 채점을 되돌릴 수도 있었다. 무작위 방향은 한 자릿수 작은 변화만 냈다. 이 사영만으로 처음 보는 벤치마크 세 개에서 심판의 실패를 미리 짚어 냈다 (arXiv:2607.11871, 프리프린트). 앞 절에서 말한 예외가 이것이다 — 심리측정학 창고에 없던, 채점자를 재는 새 계기다. 같은 도구를 고치는 쪽으로 쓴 연구는 부당한 자기선호를 최대 97%까지 줄였지만, 그 벡터가 정당한 자기선호 위에서는 불안정했다고 곧바로 덧붙인다 (arXiv:2509.03647, 프리프린트).
심판끼리 맞는 것은 맞다는 뜻이 아니다
취약점 패치 922건을 여덟 개 모델에게 고치게 한 뒤, 두 심판의 판정을 실제로 코드를 돌린 결과와 맞대 봤다. 두 심판은 기능 축에서 서로 카파 0.75로 잘 맞았는데, 실행 결과와 맞대자 카파 0.26 이하였다.
두 성질을 갈라야 이 숫자가 읽힌다. 같은 것을 다시 재도 같은 값이 나오는가 — 이 성질을 신뢰도라고 한다. 그 값이 이름표에 적힌 그것을 실제로 재는가 — 이 성질을 타당도라고 한다. 자를 생각하면 쉽다. 재는 족족 27센티미터면 신뢰도가 높고, 그 물건이 실제로 30센티미터라면 타당도는 0이다. 저자들의 문장이 이 절의 제목이다 — 심판끼리의 일치가 재는 것은 신뢰도지 타당도가 아니다. 두 심판 모두 실행이 확인해 주는 것보다 훨씬 많은 "과잉 수정"을 신고했고(정밀도 5~10%), 자바 코드에서는 두 추정이 갈라져 어느 하나도 믿을 수 없게 됐다 (DOI: 10.3390/jcp6050153, 심사 지면).
왜 심판끼리는 잘 맞는가. 심판 42개를 여덟 개 언어·네 개 영역에 걸어 각도로 잰 연구가 이 물음을 잡는다. 심판들이 동의하는 이유는 둘일 수 있다 — 품질을 같이 포착했거나, 같은 맹점을 공유하거나. 일치도 숫자만으로는 못 가른다. 주관적 채점표에서 심판들은 사람들끼리만큼 서로 잘 맞았지만, 사람과의 일치는 사람들끼리 일치의 58~66%에 그쳤고 사람이 무게를 두지 않는 축에 몰렸다. 가장 뼈아픈 대목은 처방을 겨눈다 — 심판을 여럿 묶으면 사람의 축이 아니라 심판들이 공유하는 축으로 수렴했다. 다만 반대쪽 조건도 보고한다. 정답을 확인할 수 있는 채점표 하나에서는 그 간극이 대부분 닫혔다 (arXiv:2606.03043, 프리프린트). 앞의 분산 분해 연구가 같은 구별에 독립으로 닿는다 — 채점표 지시문은 모델 간 일관성만 높이고 사람 라벨과의 일치는 늘 높이지 않았고, 저자들은 이것을 표준 지표가 뭉개 버리는 신뢰도-타당도 구별이라 부른다 (DOI: 10.2139/ssrn.6432598, 워킹페이퍼).
정답을 아예 쥐여 주면 어떨까. 금융 보고서에서 질문 258개를 뽑고 그래프로 검증된 정답을 만든 뒤 심판을 여러 조건으로 세워 봤다. 정답을 쥔 엄격한 심판도 5.9%에서 그 정답과 어긋났고(오승인 2.9%), 정답 없이 판정한 심판은 22.3%였다. 그리고 원문 전체를 주되 정답은 주지 않은 심판은 일치가 54.3%에 그쳤고, 틀린 답 셋 중 하나를 통과시켰다(33.1%). 오승인은 정확한 값 찾기(50%)와 여러 단계를 거치는 조회(46%)에 몰렸다 — 정확도가 가장 중요한 바로 그 유형들이다. 이 논문이 자기 대안을 파는 연구라는 점은 감안해야 한다 (DOI: 10.2139/ssrn.6482162, 워킹페이퍼).
점수가 무엇을 재는가라는 더 넓은 물음은 이 시리즈에서 벤치마크 점수를 다룬 편이 따로 다뤘다. 여기서는 채점자 자신에 대해서만 쓴다.
맡길 수 있는 자리와 없는 자리
인용한 논문 중 "심판을 쓰지 마라"고 적은 것은 없다. 갈리는 것은 자리다.
순위는 버티고 문턱은 무너진다 — 다만 둘 다 심판끼리 잰 값이다. 네트워크 보안 조치 계획을 여섯 모델에게 평가시킨 연구는 두 숫자를 나란히 낸다. 심판들의 순위 상관은 0.875로 강했는데, "배포해도 되는가"라는 문턱 판정의 일치는 카파 0, 우연과 같았다. 이 0.875도 심판끼리의 일치다 — 사람이 매긴 순위와 맞대 본 값이 아니다. 같은 연구에서 프로그램으로 돌린 검사는 지어낸 식별자가 하나도 없었다 (DOI: 10.2139/ssrn.6910008, 워킹페이퍼). 앞의 취약점 패치 연구가 내린 처방도 정확히 같은 모양이다 — 코드는 돌려서 재고, 심판은 모델을 줄 세우는 데만 쓰라 (DOI: 10.3390/jcp6050153, 심사 지면).
방향과 상대값으로 읽고 절대 비율로 읽지 않는다. 가장 완결된 사례가 임상에서 나왔다. 근거가 부족할 때 과신하지 말라는 지시문을 붙였더니 위험한 과신 답변이 49.3%에서 24.7%로 줄었다(짝지어 잰 감소 폭 24.7%포인트, 95% 신뢰구간 [21.8, 27.7]). 방향은 모델과 표현을 바꿔도 유지됐다. 그런데 크기는 심판에 달려 있었다 — 다른 계열 심판은 방향에 동의하면서 효과를 거의 절반으로 깎았다(13.1%포인트). 눈을 가린 임상의 셋은 기준이 된 그 심판을 잡아야 할 것은 거의 다 잡되(1.00) 멀쩡한 것도 자주 걸러 내는(0.55) 선별 도구이지, 눈금이 맞은 계기가 아니라고 규정했다. 대가도 있었다. 같은 지시문이 정답 진단률을 80.3%에서 50.3%로 떨어뜨렸는데, 손실이 한 모델에서는 거의 0이고 다른 모델에서는 58%포인트였다. 그렇다고 개선이 심판이 만든 착시였던 것은 아니다. 발판을 맞춰 세운 대조 조건에서 실제 행동 변화가 확인됐고 심판의 순환이 아니었다는 것이 저자들의 문장이다. 그다음 결론은 그대로 옮길 값어치가 있다. 심판이 잰 안전 효과는 방향과 상대값으로, 사람 검토에 앵커를 걸어, 유용성과 함께 보고해야 하며 눈금이 맞은 절대 비율로 보고해서는 안 된다. 그리고 임상 배포 준비를 입증하지 않는다고 못 박는다 (arXiv:2607.18086, 프리프린트).
결정론적으로 확인되는 것은 결정론적으로 확인한다. 소프트웨어 시험 자동화를 다룬 연구는 이 경계를 설계로 못 박았다. 언어모델은 시험할 시나리오를 넓히는 데는 쓸모 있지만 판정자로는 위험하다 — 불가능한 상태를 지어내고, 의미를 오독하고, 약한 증거를 과장한다. 그래서 모델은 초안은 써도 관측값, 통과·실패 판정, 배포 가능 선언은 쓰지 못한다 (DOI: 10.2139/ssrn.7173619, 워킹페이퍼·단일 사례연구).
심판 자체가 공격 표면이 된다. 사람이 검증한 라벨 6,642건으로 안전성 평가를 감사한 결과, 공격 실험 특유의 분포 이동 — 모델마다 다른 문체, 출력 왜곡, 시나리오마다 다른 모호함 — 이 겹치면 심판 성능이 자주 우연에 가까운 수준까지 떨어졌다. 그리고 많은 공격이 유해한 내용을 끌어낸 게 아니라 심판의 허점으로 성공률을 부풀리고 있었다. 공격이 오른 게 아니라 자가 흔들린 것일 수 있다 (arXiv:2603.06594, 프리프린트).
일치도를 올리는 처방은 타당도를 올리는 처방이 아니다. 세 모델이 독립 채점 → 근거 교환 → 재확인의 3라운드를 도는 방식을 두 코퍼스에서 시험한 연구가 좋은 예다. 모델 간 불일치가 모든 문항에서 유의하게 줄었고 한 코퍼스에서는 변동계수가 7.29%에서 2.78%로(61.9% 상대 개선) 떨어졌다. 여기서 멈추면 안 된다. 사람 기준 점수와의 정렬은 과제에 따라 달랐고 한 코퍼스에서는 순위 대응이 오히려 조금 나빠졌다. 그리고 두 코퍼스 모두에서 숙의 뒤 점수가 체계적으로 올라갔다. 저자들은 이 상향이 사람 기준에 맞춘 선형 보정으로 되돌릴 수 있다고 덧붙인다 (DOI: 10.21203/rs.3.rs-10367743/v1, 프리프린트).
값싼 개입도 있다. 지시문에 등급별 예시 답안을 넣자 사람과의 일치가 사람들끼리의 일치에 가까워졌고 (DOI: 10.35542/osf.io/cbhgz_v1, 프리프린트), 점수만 뱉게 하지 말고 이유를 쓰게 하면 사람 채점과의 상관이 일관되게 올랐다 (arXiv:2310.05657, 프리프린트). 채점 전에 길게 생각하게 하면 유해한 자기선호가 줄었고 (arXiv:2504.03846), 심판을 오답을 잡아내는 능력으로 고르기, 권위 있는 참조 자료 주기, 강한 심판 몇을 묶기가 각각 위험한 오승인을 줄였다 (DOI: 10.21203/rs.3.rs-10304807/v1, 프리프린트). 확신이 낮을 때 판정을 미루고 더 강한 심판에게 넘기면, 강한 단일 모델이 80% 사람 일치에 거의 도달하지 못하던 자료에서도 작은 모델로 그 선을 넘길 수 있었다 — 대신 판정을 포기하는 몫을 받아들여야 한다 (arXiv:2407.18370, 프리프린트).
형식을 바꿔 피하는 길도 없다. 점수 매기기는 문구 공격에 더 취약했고 (arXiv:2402.14016), 둘 중 고르기는 반복 사이에 크게 흔들렸다 (arXiv:2606.13685). 한쪽이 안전한 형식이라는 결론은 이 글이 모은 연구 가운데 없다.
지금 확실한 것과 그렇지 않은 것
① 한 번의 채점은 흔들린다. 같은 질문 쉰 번에 승자가 평균 13.6% 뒤집혔고 기준 판정 회복에 평균 열한 번이 필요했다. 다만 두 심판이 한 회사 모델이라 회사를 가로지르는 재현은 남았다 (arXiv:2606.13685, 프리프린트).
② 겉보기 일치는 능력의 증거가 아니다. 겉보기 일치가 74.7~84.5%인 자리에서 여섯 채점자 중 다섯의 카파는 0.027 이하였고 (DOI: 10.2139/ssrn.7217178, 워킹페이퍼), 사람끼리의 카파도 흔히 0.40에서 0.80이었다 (DOI: 10.21203/rs.3.rs-10047888/v1, 프리프린트).
③ 흔들림은 잡음이 아니라 방향을 가진 치우침이다. 가운데로 몰리고 최상위 등급을 주지 않으며 변별력이 사람의 약 절반이었고 (DOI: 10.1177/01466216261471171, 심사 지면), 편향은 내부에서 유형별 방향으로 나타났다 (arXiv:2607.11871, 프리프린트).
④ 자기선호는 있지만 단순하지 않다. 상당 부분이 정당했고 (arXiv:2504.03846), 검증기가 정답을 확정하면 검출되지 않았으며 (arXiv:2606.20093), 눈을 가리면 대체로 사라졌다가 이름표만으로 돌아왔다 (arXiv:2608.18091). 셋 다 프리프린트다.
⑤ 심판끼리의 일치는 신뢰도지 타당도가 아니다. 심판끼리 카파 0.75로 맞던 판정이 실행과는 0.26 이하였으며 (DOI: 10.3390/jcp6050153, 심사 지면), 여럿을 묶으면 사람의 축이 아니라 심판들이 공유하는 축으로 수렴했다 (arXiv:2606.03043, 프리프린트).
확실하지 않은 것도 분명하다.
정답이 무엇인지부터 미정인 자리가 있다. 사람 채점자들이 크게 어긋나는 영역에서는 "옳음"의 정의부터 다시 세워야 한다는 것이 임상 쪽 저자들의 제안이고 (DOI: 10.1101/2025.10.27.25338910, 프리프린트), 터키어 연구가 해석을 고르기를 거부한 것도 같은 이유다 (DOI: 10.2139/ssrn.7217178, 워킹페이퍼).
묶고 숙의시키고 미는 개입이 타당도까지 올린다는 증거는 얇다. 이 글이 모은 연구에서 이 셋은 일치도를 올렸다는 보고는 여럿이지만 사람과의 정렬까지 올랐다는 보고는 드물었다. 오히려 앙상블은 심판의 공유 축으로 수렴했고 (arXiv:2606.03043), 숙의는 점수를 체계적으로 밀어 올렸으며 (DOI: 10.21203/rs.3.rs-10367743/v1), 방향 벡터는 정당한 자기선호 위에서 불안정했다 (arXiv:2509.03647). 반면 예시 답안·이유 쓰게 하기·상위 심판으로 넘기기는 사람과의 일치를 올렸다.
심판을 지우자는 결론이 아니다. 인용한 연구 대부분은 심판을 계속 쓰되 자리를 좁히자고 적는다. 방향 읽기와 1차 선별은 근거가 곧다 — 안전 효과를 방향과 상대값으로 보고하라는 것도, 심판을 민감도 1.00·특이도 0.55의 선별 도구로 규정한 것도 같은 논문의 문장이다 (arXiv:2607.18086). 줄 세우기는 조건부다. "심판은 순위에만"은 저자의 처방이지 순위의 타당도를 잰 결과가 아니고, 앞에서 본 0.875도 심판끼리의 값이다. 이 글이 모은 연구 가운데 순위를 사람 기준과 직접 맞대 본 것은 숙의 연구 하나뿐이고, 거기서도 한 코퍼스는 유지, 다른 코퍼스는 소폭 악화였다 (DOI: 10.21203/rs.3.rs-10367743/v1). 조건은 셋이다 — 한 번의 채점으로는 안 되고, 자기선호가 최상위 순위를 가를 수 있으며, 심판은 최상위 등급 자체를 잘 주지 않는다. 통과·실패, 배포 가능, 안전율 몇 퍼센트는 아직 아니다. 그 경계를 지키는 값은 대체로 더 나은 심판이 아니라 사람 앵커와 결정론적 검사로 치른다.
근거 논문
- "The Coin Flip Judge? Reliability and Bias in LLM-as-a-Judge Evaluation" (2026, 프리프린트) — arXiv:2606.13685 — 쌍대 선호가 반복 사이 평균 13.6% 뒤집힘, 교차 심판 76%(κ=0.51), 복원에 11회
- "Inter-Rater Reliability of LLM and Rule-Based Annotation ..." (2026, 워킹페이퍼) — DOI: 10.2139/ssrn.7217178 — 겉보기 일치 74.7~84.5%인데 카파 0.004~0.027, 두 해석 병존을 명시
- "A Review of a Hybrid Evaluation Framework for Clinical AI" (2026, 프리프린트·리뷰) — DOI: 10.21203/rs.3.rs-10047888/v1 — 연구 66편 리뷰. 사람끼리 카파 0.40~0.80, "전문가 기준의 잡음을 근사"
- "Human evaluators vs. LLM-as-a-Judge in global health" (2026, 심사 지면) — DOI: 10.1038/s41746-026-02992-w — 심판 5 대 임상의 6. 11개 항목 중 4개만 대등, 배심으로 1개 추가
- (위 연구의 공개본, 2025, 프리프린트) — DOI: 10.1101/2025.10.27.25338910 — "옳음" 개념의 근본적 재고가 필요하다는 문장이 여기 있다
- "Split and Merge: Aligning Position Biases in LLM-based Evaluators" (2023, 프리프린트) — arXiv:2310.01432 — 답 쌍 11,520개. 일관성 47.46% 상대 개선·98%, 교정 전 값은 초록에 없음
- "Effect of evaluation prompt strategies ... in critical care" (2026, 심사 지면) — DOI: 10.5114/ait/221943 — 지시문 3종. 급내상관 0.94 대 0.82, 편차 0.1 대 4.7
- "Judge Reliability Harness: Stress Testing the Reliability of LLM Judges" (2026, 프리프린트) — arXiv:2603.05399 — 서식·바꿔쓰기·장황함·라벨 뒤집기에 흔들림, 한결같은 심판 없음
- "Generalizability Theory for LLM-as-Evaluator Reliability" (2026, 워킹페이퍼) — DOI: 10.2139/ssrn.6432598 — 관측 64,800건. 문항 난이도 74.6~93.0%, 온도 기여 사실상 0
- "Flattery, Fluff, and Fog: Idiosyncratic Biases in Preference Models" (2025, 프리프린트) — arXiv:2506.05339 — 부풀린 쪽 선호 60% 초과, 사람 라벨 -0.12 대 채점 모델 라벨 +0.36
- "Is LLM-as-a-Judge Robust? Universal Adversarial Attacks ..." (2024, 프리프린트) — — 짧은 공격 문구로 점수 부풀리기, 절대 점수가 쌍대 비교보다 취약
