📚 시리즈
언어모델은 놀라운 일을 해내는데, 그 능력이 정확히 무엇인지는 만든 사람들도 합의하지 못한다. 이 시리즈는 주장 대신 측정된 것을 본다 — 이 기계가 무엇을 딛고 올라섰는지, 왜 없는 사실을 지어내는지, '생각한다'는 말이 어디까지 근거가 있는지, 잘 묻는 법이 정말 효과가 있는지. 마지막에는 재는 자 자체를 의심한다. 답이 갈리는 자리는 갈린 채로 남긴다.
6편
로그인하면 이 시리즈를 오디오로 변환해 처음부터 끝까지 이어 들을 수 있어요. 오프라인 재생도 됩니다.
시작하기 →
1989년 우편번호를 읽던 신경망에서 2021년 단백질 구조까지 — 참고문헌이 실제로 그려 놓은 사슬을 따라간다

토큰·다음 토큰 예측·어텐션·규모의 법칙·정렬, 그리고 가중치를 안 바꾸고도 달라지는 맥락 내 학습 — 이 분야의 논문을 읽기 위해 먼저 세워야 할 다섯 개의 기둥과, 아직 비어 있는 하나의 자리

AI가 자신 있게 틀리는 이유, 최근 논문으로.

사고연쇄는 추론인가 패턴 흉내인가, 양쪽 논문을 공정하게.

'단계별로 생각해'부터 '공손하게 말하기'까지, 벤치마크가 말하는 것.

오염·포화·틀린 정답·구인타당도·채점자·재현성 — 언어모델을 재는 자를 여섯 개의 축으로 뜯어본다. "재는 일이 어렵다"와 "잴 수 없다"는 다르다