시리즈 · 컴퓨터과학·AI
인공지능과 언어모델 2부 — 맡겼을 때 드러나는 것들
1부가 말하는 기계를 재는 법이었다면, 2부는 그 기계에 일을 맡겼을 때 무엇이 드러나는지다. 모델이 도구를 쥐고 스스로 움직이기 시작하면 1부에서 재던 성질들이 그대로 따라오지 않는다. 각 편은 하나의 실패 지점을 붙잡고 묻는다 — 무엇을 맡겼고, 그 맡김이 어디서 끊겼는가.
2편
로그인하면 이 시리즈를 오디오로 변환해 처음부터 끝까지 이어 들을 수 있어요. 오프라인 재생도 됩니다.
시작하기 →차례
- 1남이 써 둔 문장이 내 지시가 될 때 — 프롬프트 인젝션언어모델은 읽으라고 준 자료와 하라고 시킨 지시를 같은 통로로 받는다. 그래서 남이 자료 안에 미리 적어 둔 문장이 사용자의 지시인 척 작동할 수 있고, 모델에게 도구를 쥐여 주는 순간 그 문제는 '이상한 답변'에서 '읽기·쓰기·실행'으로 커진다. 이 편은 이것을 환각·탈옥과 갈라 놓은 다음, 방어 논문들이 '무엇을 막았다고 말하는가'를 공격 성공률·오차단율·정상 과제 성능 세 숫자로 함께 읽는다. 인용 26건 중 20건이 심사를 거치지 않은 공개본(프리프린트·SSRN 워킹페이퍼)이고, 등급은 문장 안에 표기했다.논쟁2026년 9월 8일
- 2
AI 코딩 생산성 — 속도가 올랐는데 무엇이 줄었나한 해쯤 시차를 두고 나온 통제 실험 두 편이 정반대 부호를 냈다. 한쪽(개발자 16명·246과제·성숙한 오픈소스 프로젝트)에서는 완료 시간이 19% 늘었고, 다른 쪽(구글 엔지니어 96명·엔터프라이즈급 과제)에서는 약 21% 줄었다 — 다만 신뢰구간이 크고, 도구를 만든 회사가 잰 사내 연구다. 더 무거운 것은 앞 실험의 참가자들이 시작 전 24% 단축을 예측했고, 246개 과제를 다 끝낸 뒤에도 여전히 자기가 20% 빨라졌다고 추정했다는 점이다. 근거 등급은 문장마다 밝혔다.논쟁2026년 9월 8일