
Paperis 아티클
CPU와 메모리 — 비워지는 책상, 남는 서고
CPU는 메모리에서 명령어를 차례로 가져와 풀고 실행하기를 되풀이한다. 메모리는 전원이 꺼지면 비워지고 저장장치는 남으며, 빠를수록 작고 비싼 기억장치들이 층을 이뤄 자주 쓰는 것을 CPU 가까이에 둔다.
CPU와 메모리 — 비워지는 책상, 남는 서고
사양표의 두 숫자
새 휴대폰을 고르며 사양표를 보면 비슷하게 생긴 숫자 둘이 나란히 적혀 있습니다. 이를테면 「램 8GB」와 「저장 공간 256GB」입니다. 둘 다 기가바이트로 적혀 있어서 같은 것을 두 번 잰 것처럼 보입니다.
두 숫자는 서로 다른 부품의 크기입니다. 하나는 지금 하는 일을 펼쳐 두는 자리의 크기이고, 다른 하나는 사진과 앱을 오래 넣어 두는 자리의 크기입니다. 전원이 꺼지면 앞의 자리는 비워지고 뒤의 자리는 그대로 남습니다. 이 글은 그 차이에서 출발해 컴퓨터가 어떤 부품으로 이루어지는지, 일을 처리하는 부품이 어떤 순서로 움직이는지, 기억하는 자리가 왜 여러 층으로 나뉘는지를 따라갑니다.
길잡이로는 도서관 열람실 하나를 들고 갑니다. 열람실 책상에 한 사람이 앉아 일합니다. 책상은 좁지만 손이 바로 닿고, 서고는 넓지만 다녀오려면 한참 걸립니다. 열람실이 문을 닫으면 책상 위는 깨끗이 치워지고, 서고의 책은 그대로 남습니다. 이 글에서 책상에 앉은 사람은 CPU이고, 책상은 메모리이며, 서고는 오래 보관하는 자리입니다.
만질 수 있는 것과 적어 둔 것
휴대폰을 쥐면 유리와 금속이 손에 닿습니다. 화면에는 사진 앱이 떠 있고, 손가락으로 밀 때마다 다음 사진이 나옵니다. 앱도 사진도 손으로 만질 수는 없지만, 둘이 하는 일은 다릅니다. 앱은 무엇을 할지 정해 둔 쪽이고, 사진은 그 앱이 꺼내 보여 주는 재료입니다 (OpenStax Introduction Computer Science 5.1). 휴대폰은 손에 닿는 유리·금속과 칩 같은 쪽과, 앱·사진처럼 손에 닿지 않는 쪽으로 나뉩니다 (OpenStax Foundations Information Systems 1.1). 하드웨어(hardware)는 컴퓨터에서 손으로 만질 수 있는 부품이고, 소프트웨어(software)는 그 부품이 할 일을 적어 둔 프로그램(program)입니다. 프로그램은 컴퓨터가 할 일을 순서대로 적어 둔 명령의 묶음입니다.
하드웨어는 맡은 일에 따라 네 갈래로 나눠 볼 수 있습니다. 일을 처리하는 부품, 지금 쓰는 것을 올려 두는 부품, 오래 보관하는 부품, 바깥과 주고받는 부품입니다.
첫째는 일을 처리하는 부품입니다. CPU(central processing unit)(중앙처리장치)는 프로그램의 명령을 차례로 가져와 계산하고 처리하는 부품입니다. 프로세서라고도 부릅니다 (OpenStax Introduction Computer Science 5.1). 열람실에서는 책상에 앉아 일하는 사람입니다.
둘째는 지금 쓰는 것을 올려 두는 부품입니다. 메모리는 계산에 쓸 데이터(data)를 담아 두었다가 필요할 때 내주는 칩입니다. 메모리에는 데이터와 함께 프로그램의 명령도 담깁니다 (OpenStax Introduction Computer Science 5.1). 전원이 꺼지면 메모리의 내용은 사라집니다 (OpenStax Introduction Computer Science 5.5). 사양표의 「램」이 바로 이 메모리입니다. 램이라는 이름은 아무 자리나 순서와 상관없이 꺼내 쓸 수 있는 메모리라는 뜻의 영어 머리글자입니다 (OpenStax Introduction Computer Science 5.5). 열람실에서는 책상입니다.
셋째는 오래 보관하는 부품입니다. 저장장치(storage)는 전원을 꺼도 내용을 그대로 간직하도록 프로그램과 데이터를 오래 보관해 두는 부품입니다. 사양표의 「저장 공간」이 이것입니다. SSD나 하드디스크가 이 일을 맡는데, 둘 다 메모리보다 느립니다 (OpenStax Introduction Computer Science 5.5). 열람실에서는 서고입니다.
넷째는 바깥과 주고받는 부품입니다. 사진을 찍으면 렌즈 앞의 장면이 휴대폰 안으로 들어오고, 안에 있던 사진은 화면에 빛으로 떠오릅니다. 입출력 장치(input/output device)는 바깥에서 들어오는 것을 컴퓨터 안의 0과 1로 바꿔 들이고, 안의 0과 1을 사람이 보고 들을 수 있는 꼴로 바꿔 내보내는 장치입니다. 들어오는 것이든 나가는 것이든 컴퓨터 안에서는 모두 0과 1로 다뤄집니다 (OpenStax Introduction Computer Science 5.1). 열람실로 치면 바깥과 책을 주고받는 창구입니다.
그럼 앱 하나를 열 때 이 넷은 어떻게 움직일까요? 아이콘을 누르면 서고에서 책을 꺼내 오듯, 앱의 프로그램과 데이터가 저장장치에서 메모리로 복사됩니다. CPU는 그 뒤로 메모리에서 읽어 가며 일합니다. 저장장치에서 바로 일하기에는 너무 느리기 때문입니다 (OpenStax Introduction Computer Science 5.1). 사양표의 「램」은 책상의 넓이이고, 「저장 공간」은 서고의 넓이입니다.
지시서도 책상 위에
열람실 사람이 무슨 일을 어떤 순서로 할지는 지시서 한 장에 적혀 있습니다. 그 지시서도 서고에서 꺼내 책상에 올린 종이입니다. 컴퓨터에서도 같은 일이 일어납니다.
그럼 컴퓨터의 지시서는 무엇으로 되어 있을까요? 0과 1로 나타낸 줄입니다. 컴퓨터 안에서는 프로그램도 사진도 0과 1의 줄로 담기고, 프로그램 쪽의 줄은 몇 칸씩 끊어 읽으면 한 토막이 명령 하나가 됩니다 (OpenStax Introduction Computer Science 5.1). 메모리 칩 안에서는 이 0과 1이, 아주 작은 부품 하나가 전기를 머금은 상태와 머금지 않은 상태에 붙인 이름입니다 (OpenStax Introduction Computer Science 5.5). 명령어(instruction)는 CPU가 한 번에 알아보고 처리하도록 0과 1로 나타내 정해 둔 일의 단위입니다. 명령어 하나가 하는 일은 대개 작습니다. 두 수를 더하거나, 두 수를 견주거나, 메모리의 한 자리에서 수를 가져오는 정도입니다 (OpenStax Introduction Computer Science 5.1; OpenStax Introduction Computer Science 5.4). CPU 계열마다 알아보는 명령어의 목록이 정해져 있어서, 한 계열을 위해 만든 명령어를 다른 계열은 알아보지 못할 수 있습니다 (OpenStax Introduction Computer Science 5.2).
명령어를 담은 0과 1은 사진을 담은 0과 1과 같은 메모리에 함께 놓입니다 (OpenStax Introduction Computer Science 5.5). 저장 프로그램 방식(stored-program concept)은 프로그램을 데이터와 똑같이 메모리에 넣어 두고, CPU가 거기서 명령어를 차례로 꺼내 읽어 가게 하는 컴퓨터 설계 방식입니다. 이런 컴퓨터의 기본 짜임은 CPU와 그 명령어 목록, 그리고 메모리입니다 (DOI: 10.1002/0471497398.mm869). 지시서만 바꿔 끼우면 같은 사람이 전혀 다른 일을 하듯, 같은 휴대폰이 앱만 바꿔 열어도 사진첩이 되고 계산기가 됩니다.
프로그램을 메모리에 담는다는 생각은 여러 겹의 개념이 약 10년에 걸쳐 여러 사람의 이바지로 조금씩 모양을 갖춘 것입니다 (DOI: 10.1007/978-3-319-22156-4_3).
가져오고, 풀고, 실행하고
계산기 앱에서 두 수를 넣고 「=」를 누르면, 답이 뜨기까지 CPU 안에서는 명령어 여러 개가 차례로 처리됩니다. 명령어 하나가 처리되는 길을 따라가 봅니다.
첫 걸음은 가져오기입니다. CPU는 메모리에서 다음 명령어를 CPU 안으로 가져와 레지스터에 둡니다 (OpenStax Introduction Computer Science 5.1). 레지스터(register)는 CPU 안에 있는, 지금 다루는 명령어나 수 하나를 잠깐 쥐고 있는 아주 빠른 저장 칸입니다. 레지스터 한 칸에는 한 가지만 담깁니다 (OpenStax Introduction Computer Science 5.4). 열람실 사람이 지시서에서 한 줄을 옮겨 적어 손에 쥔 쪽지입니다.
둘째 걸음은 풀기입니다. CPU는 가져온 명령어의 0과 1을 읽어 그것이 어떤 일인지 가려냅니다. 셋째 걸음은 실행입니다. 「=」를 눌렀을 때라면 두 수를 실제로 더하는 일이 여기서 일어나고, 그 답은 레지스터에 남거나 메모리로 돌아갑니다 (OpenStax Introduction Computer Science 5.1).
마지막으로 다음 명령어로 넘어갑니다. CPU에는 다음에 읽을 명령어가 메모리 어디에 있는지 적어 두는 레지스터가 따로 있고, 명령어 하나를 마칠 때마다 그 칸이 다음 자리를 가리키도록 바뀝니다 (OpenStax Introduction Computer Science 5.4). CPU는 이 일을 프로그램이 끝날 때까지 이어 갑니다 (OpenStax Introduction Computer Science 5.1). CPU가 하는 일은 메모리에서 명령어를 가져오고, 무슨 일인지 풀고, 실행하는 순환의 되풀이입니다 (OpenStax Introduction Computer Science 5.6; DOI: 10.1002/0471497398.mm869).
박자를 맞추는 시계
CPU 사양에는 흔히 클록의 빠르기를 나타내는 숫자가 붙습니다. 클록(clock)은 CPU 안의 회로들이 한 걸음씩 함께 나아가도록 박자를 맞춰 주는 신호입니다. 박자가 빠를수록 더 빠른 CPU라고 여기기 쉽지만, 클록 숫자만으로는 빠르기를 가를 수 없는 까닭이 적어도 셋 있습니다.
첫째, 박자 한 번에 해내는 일의 양이 설계마다 다릅니다. 열람실 사람이 지금 줄을 처리하면서 눈으로는 벌써 다음 줄을 읽어 두듯, 오늘날의 CPU는 한 명령어를 처리하는 동안 다음 명령어를 미리 가져오고, 여러 명령어를 한꺼번에 처리하기도 합니다 (OpenStax Introduction Computer Science 5.6).
둘째, 클록을 마냥 올릴 수는 없었습니다. 2004년 무렵부터는 클록을 더 올리면 전력 소모가 크게 늘었고, 그 뒤로 칩은 한 칩 안에 CPU를 여럿 넣는 쪽으로 갔습니다 (OpenStax Introduction Computer Science 5.6). 코어(core)는 한 칩 안에 여럿이 함께 들어 있는, 저마다 명령어를 처리하는 CPU 하나하나입니다. 오늘날 쓰는 프로세서에는 이런 코어가 여럿 들어 있습니다 (OpenStax Introduction Computer Science 5.6). 클록이 왜 그 무렵 더 오르지 못했는지는 「왜 클럭은 4GHz에서 멈췄나 — 다크 실리콘과 전력의 벽」이 자세히 다룹니다.
셋째, 명령어와 데이터가 늦게 오면 CPU는 기다려야 합니다 (OpenStax Introduction Computer Science 5.5). 손이 아무리 빨라도 지시서와 자료가 책상에 늦게 오면 일은 멈춥니다. 클록 숫자 하나만으로 어느 컴퓨터가 더 빠른지 가를 수는 없습니다.
책상은 비워지고, 서고는 남는다
노트북 배터리가 다 닳아 꺼지는 순간, 메모리에 담겨 있던 것은 모두 사라집니다 (OpenStax Introduction Computer Science 5.5). 반면 저장장치에 넣어 둔 파일(file)은 다시 켜도 남아 있습니다. 휘발성(volatility)은 전원이 끊기면 담아 둔 내용이 사라지는 성질입니다. 메모리는 휘발성이고, 저장장치는 휘발성이 없습니다 (OpenStax Introduction Computer Science 5.5).

이제 사양표로 돌아갈 수 있습니다. 「램」의 숫자는 한꺼번에 펼쳐 둘 수 있는 양이고, 메모리가 작으면 컴퓨터가 할 수 있는 일이 줄고 전체 성능도 떨어집니다 (OpenStax Introduction Computer Science 5.5). 「저장 공간」의 숫자는 사진과 앱을 얼마나 넣어 둘 수 있는지입니다. 그리고 메모리의 용량과 빠르기는 서로 다른 숫자입니다. 그동안 메모리의 용량은 빠르기보다 훨씬 빨리 늘었습니다 (OpenStax Introduction Computer Science 5.5).
가까울수록 작고 빠르다
열람실 사람은 오늘 자주 펼칠 몇 장을 책상 앞쪽, 팔만 뻗으면 닿는 곳에 따로 펼쳐 둡니다. 책상 전체를 뒤지는 것보다 빠르기 때문입니다. 컴퓨터도 같은 일을 합니다.
그럼 아예 책상을 서고만큼 넓히면 어떨까요? 손 닿는 자리는 마련하기 비싸고 문을 닫으면 치워지며, 서고는 싸고 오래가지만 멉니다. 컴퓨터의 기억장치도 같아서, 빠르고, 싸고, 꺼져도 남는 이 셋을 한꺼번에 갖춘 것은 아직 없습니다 (OpenStax Introduction Computer Science 5.5). 그래서 컴퓨터는 여러 종류를 섞어 씁니다. 기억 계층(memory hierarchy)은 빠르지만 작고 비싼 기억장치를 CPU 가까이에, 느리지만 크고 싼 기억장치를 멀리 두어 층층이 쌓은 배치입니다.
가장 가까운 층은 CPU 안의 레지스터입니다. 그다음 층이 캐시입니다. 캐시(cache)는 프로세서 안이나 바로 곁에 두는, 작지만 빠른 저장 공간으로, 곧 다시 쓸 데이터를 가져다 둡니다. 캐시는 CPU와 같은 칩 위의 좁은 자리에 들어가야 해서 메모리보다 훨씬 작습니다 (OpenStax Introduction Computer Science 5.5). 그 바깥이 메모리이고, 가장 바깥이 저장장치입니다.

열람실 사람은 필요한 장을 먼저 책상 앞쪽에서 찾고, 거기 없을 때만 책상을 뒤집니다. CPU도 필요한 것을 먼저 캐시에서 찾고, 거기 없을 때만 메모리로 갑니다. 앞쪽에서 찾는 일이 잦을수록 기다림은 짧아집니다 (OpenStax Introduction Computer Science 5.5).
자주 쓰는 것을 가까이 두는 이 층 덕분에 컴퓨터는 빠르게 돕니다. 다만 프로세서의 빠르기가 메모리의 빠르기보다 훨씬 빨리 늘면서 둘 사이의 틈이 점점 벌어졌고, 1990년대 초 무렵부터는 그 틈이 성능을 막는 병목이 되었습니다 (OpenStax Introduction Computer Science 5.5). 이 틈은 「계산보다 나르기가 느리다 — 메모리 병목과 HBM」에서 이어집니다.
사진 앱을 여는 순간
지금까지의 부품을 한 장면에 모아 봅니다. 휴대폰에서 사진 앱 아이콘을 누릅니다. 저장장치에 있던 앱의 프로그램과 사진 데이터가 메모리로 복사됩니다 (OpenStax Introduction Computer Science 5.1). CPU는 다음 명령어와 필요한 데이터를 먼저 캐시에서 찾고, 없으면 메모리에서 가져옵니다 (OpenStax Introduction Computer Science 5.5). 가져온 명령어와 수는 레지스터에 들어가고, CPU가 풀고 실행한 결과는 레지스터에 남거나 메모리로 돌아갑니다. 화면에 사진을 띄우는 일은 안의 0과 1을 화면의 빛으로 바꿔 내보내는 입출력 장치의 몫입니다 (OpenStax Introduction Computer Science 5.1).
그때 배터리가 다 닳아 휴대폰이 꺼지면, 캐시와 메모리에 펼쳐 두었던 것은 모두 사라집니다. 저장장치에 넣어 둔 사진은 다시 켜도 그대로 있습니다 (OpenStax Introduction Computer Science 5.5). 책상은 비워지고, 서고는 남습니다.
책상 비유가 놓치는 것
열람실은 길잡이일 뿐이라 실제와 어긋나는 데가 셋 있습니다.
첫째, 책상은 문 닫을 때의 규칙 때문에 치워지지만, 메모리는 아무도 치우지 않아도 전기가 끊기면 스스로 내용을 잃습니다 (OpenStax Introduction Computer Science 5.5).
둘째, 열람실 사람은 지시서를 읽고 뜻을 이해하지만, CPU는 이해하지 않습니다. 이 「풀기」를 흔히 「이해한다」고도 부르지만, 실제로 일어나는 일은 가져온 0과 1의 짜임을 그 CPU가 알아보는 명령어 목록에 맞춰 보고, 나머지 부품에 정해진 동작을 하라는 신호를 내는 것입니다 (OpenStax Introduction Computer Science 5.2). CPU가 하는 일은 대개 작은 명령어를 아주 빠르게, 아주 많이 되풀이하는 것입니다.
셋째, 층 사이의 경계는 이미 흐려지고 있습니다. 새로운 기억 기술들이 이웃한 층 사이의 빠르기와 크기 차이를 좁히고 있고 (DOI: 10.1145/3410048.3410098), 「메모리는 잠깐, 저장장치는 오래」라는 구분도 미래의 기술에서는 흐려질 수 있습니다 (OpenStax Introduction Computer Science 5.5).
어디를 더 볼까
- 메모리와 CPU를 이루는 아주 작은 스위치가 궁금하다면 「트랜지스터는 스위치다 — 전기로 여닫는 아주 작은 수도꼭지」.
- 칩 이름에 붙는 「몇 나노」가 무엇을 재는지는 「「3나노」는 무엇의 길이인가 — 34평형 집을 줄자로 재면」.
- 클록이 더 오르지 못한 까닭은 「왜 클럭은 4GHz에서 멈췄나 — 다크 실리콘과 전력의 벽」.
- 프로세서와 메모리 사이의 틈이 요즘 AI 칩에서 어떤 문제가 되는지는 「계산보다 나르기가 느리다 — 메모리 병목과 HBM」.
- 이 시리즈의 다른 편 가운데, 글자·그림·소리를 0과 1로 나타내는 법은 「비트와 데이터 — 솟은 점과 평평한 자리, 손끝이 아는 약속」이, 사람이 쓴 프로그램이 CPU가 그대로 실행하는 기계어(machine code)로 번역되는 과정은 「프로그램과 프로그래밍 언어 — 사람이 쓰는 악보, 구멍대로 치는 피아노」가, 여러 프로그램이 한 메모리를 나눠 쓰는 법과 컴퓨터를 켤 때 일어나는 일은 「운영체제 — 먼저 출근하는 관리인, 번갈아 쓰는 회의실」이 다룹니다.
근거 논문
- "Introduction to Computer Science — 5.1 Computer Systems Organization" (2024) — OpenStax Introduction Computer Science 5.1 — 컴퓨터는 하드웨어와 소프트웨어(프로그램과 데이터)로 이루어지고, 프로그램과 데이터는 0과 1로 저장되며, 아이콘을 누르면 실행 파일이 저장장치에서 메모리로 올라가고 CPU가 명령어를 가져와·풀고·실행해 결과를 레지스터나 메모리에 둔다. 입출력 장치·메모리(RAM)·프로세서의 역할.
- "Introduction to Computer Science — 5.5 Memory Hierarchy" (2024) — OpenStax Introduction Computer Science 5.5 — 하나의 기술로 빠르고 크고 싸고 지속되는 기억장치를 만들 수 없어 기억 계층을 둔다. 캐시(SRAM)·메모리(DRAM)는 휘발성, 저장장치(SSD·HDD)는 지속성. 메모리(DRAM)의 1과 0은 작은 부품(커패시터)이 전기를 머금었는지로 나타낸다. 캐시를 먼저 보고 없으면 다음 층으로 간다. 프로세서-메모리 속도 격차(메모리 벽).
- "Introduction to Computer Science — 5.6 Processor Architectures" (2024) — OpenStax Introduction Computer Science 5.6 — 프로세서는 명령어마다 가져오기·풀기·실행을 되풀이한다. 오늘날 설계는 다음 명령어를 미리 가져오고 여러 명령어를 한꺼번에 처리한다. 2004년 무렵부터 클록을 올리면 전력이 크게 늘어 한 칩에 코어를 여럿 넣는 쪽으로 갔다.
- "Introduction to Computer Science — 5.4 Machine-Level Program Representation" (2024) — OpenStax Introduction Computer Science 5.4 — 레지스터는 CPU 안의 아주 빠른 저장 칸으로 한 칸에 한 항목을 담고, 다음에 실행할 명령어의 자리를 가리키는 레지스터가 명령어마다 갱신된다. 명령어는 데이터 옮기기·계산 등을 한다.
- "Introduction to Computer Science — 5.2 Computer Levels of Abstraction" (2024) — OpenStax Introduction Computer Science 5.2 — 명령어 집합은 프로세서 계열마다 알아보는 명령어의 목록이며, 계열이 다르면 목록도 다르다. 풀기는 명령어를 받아 나머지 부품을 움직일 신호를 내는 일이다.
- "Foundations of Information Systems — 1.1 Introduction to Information Systems" (2025) — OpenStax Foundations Information Systems 1.1 — 하드웨어는 데이터를 모으고 처리하고 저장하는 물리적 장치, 소프트웨어는 하드웨어 위에서 돌아 특정 일을 하게 하는 프로그램.
- "Fundamentals of the Stored Program Digital Computer" (2005) — DOI: 10.1002/0471497398.mm869 — 저장 프로그램 컴퓨터의 공통 기본 구조는 CPU·명령어 집합·메모리이며, 가져오고 실행하는 순차 동작이 그 바탕이다(핸드북 장).
- "The Stored-Program Universal Computer: Did Zuse Anticipate Turing and von Neumann?" (2015) — DOI: 10.1007/978-3-319-22156-4_3 — 저장 프로그램 개념은 여러 겹으로 약 10년에 걸쳐 천천히 나타났고, 튜링·추제·에커트·모클리·폰 노이만의 이론적 기여를 분석한다(역사 장).
- "Optimal Data Placement for Heterogeneous Cache, Memory, and Storage Systems" (2020) — DOI: 10.1145/3410048.3410098 — 새 기억 기술이 기억 계층의 이웃한 층 사이에 있던 뚜렷한 지연·용량 차이를 흐리고 있어, 캐싱을 여러 층에 걸친 데이터 배치 문제로 다시 봐야 한다.