컴퓨터의 기억력, 메모리 반도체는 어떻게 작동할까?

손가락 한 마디 크기의 칩 하나에 수십억 개의 트랜지스터가 빼곡히 들어차 있다. 스마트폰을 켜는 순간, 이 작은 실리콘 조각이 수천 개의 앱 데이터를 동시에 처리하면서도 손바닥 위에서 조용히 작동한다. 메모리 반도체가 없으면 현대 컴퓨팅은 문자 그대로 멈춘다. 그런데 이 칩이 실제로 어떻게 '기억'을 하는지 아는 사람은 생각보다 많지 않다.

반도체 제조 공장 클린룸 전경
Photo by Brecht Corbeel on Unsplash

메모리 반도체란 정확히 무엇인가?

기억을 저장하는 방식의 차이

메모리 반도체는 디지털 데이터를 전기 신호 형태로 저장하고 읽어내는 집적회로다. 핵심은 '0'과 '1'이라는 두 가지 상태를 물리적으로 구현하는 방법에 있다. 트랜지스터가 전류를 통과시키면 '1', 차단하면 '0'으로 표현된다. 이 단순한 원리가 수십억 번 반복되면서 문자, 영상, 음악 같은 복잡한 정보가 만들어진다.

메모리는 크게 두 가지로 나뉜다. 전원이 꺼지면 데이터가 사라지는 휘발성 메모리와, 전원 없이도 데이터를 유지하는 비휘발성 메모리다. PC의 RAM이 전자에 해당하고, SSD나 USB 드라이브에 쓰이는 낸드 플래시가 후자에 해당한다. 이 두 종류는 작동 원리부터 완전히 다르다.

RAM 메모리 모듈 근접 촬영
AI Generated · Google Imagen

DRAM은 어떻게 데이터를 저장할까?

커패시터와 트랜지스터의 조합

DRAM(Dynamic Random Access Memory)은 가장 널리 쓰이는 휘발성 메모리다. 각 메모리 셀은 트랜지스터 하나와 커패시터 하나로 구성된다. 커패시터는 일종의 미세한 전하 저장 탱크로, 전하가 채워진 상태가 '1', 비어 있는 상태가 '0'을 나타낸다.

여기서 반직관적인 사실이 하나 있다. 커패시터는 전하를 영구적으로 유지하지 못한다. 수십 밀리초마다 전하가 자연스럽게 새어 나가기 때문에, DRAM은 끊임없이 데이터를 다시 써주는 '리프레시' 작업을 반복해야 한다. 이 작업이 초당 수천 번씩 이루어진다. 전원이 끊기면 리프레시가 멈추고, 데이터는 사라진다.

DRAM의 '동적(Dynamic)'이라는 이름은 바로 이 끊임없는 리프레시 동작에서 나왔다. 기억하는 것이 아니라, 계속 기억하려고 노력하는 구조다.

왜 DRAM이 메인 메모리로 쓰일까?

DRAM의 셀 구조는 트랜지스터 하나와 커패시터 하나, 딱 두 개의 소자로 이루어져 있다. 덕분에 같은 면적에 엄청나게 많은 셀을 집적할 수 있다. 현재 양산되는 DRAM 칩 하나에는 수십억 개의 셀이 들어간다. 속도와 집적도의 균형이 메인 메모리 용도에 딱 맞아떨어진다.

반면 SRAM(Static RAM)은 트랜지스터 여섯 개로 셀 하나를 구성한다. 리프레시가 필요 없어 훨씬 빠르지만, 면적을 많이 차지하고 가격이 비싸다. 그래서 SRAM은 CPU 내부의 캐시 메모리처럼 소용량 고속 영역에만 쓰인다. 노트북을 쓰다 보면 CPU 캐시 크기가 성능에 생각보다 큰 영향을 미친다는 걸 느낄 수 있다.

DRAM 메모리 셀 구조 다이어그램
AI Generated · Google Imagen

낸드 플래시는 어떻게 데이터를 영구 보존할까?

플로팅 게이트의 비밀

낸드 플래시 메모리는 '플로팅 게이트(floating gate)'라는 독특한 구조를 사용한다. 일반 트랜지스터에는 게이트가 하나인데, 낸드 플래시 셀에는 게이트가 두 개 층으로 쌓여 있다. 아래쪽 플로팅 게이트는 절연층으로 완전히 둘러싸여 있어 전자가 빠져나가지 못한다.

데이터를 쓸 때는 높은 전압을 가해 전자를 절연층 너머로 터널링시켜 플로팅 게이트에 가둔다. 이 전자들이 갇혀 있는 한 데이터는 유지된다. 전원이 꺼져도 절연층이 전자를 붙잡고 있기 때문에 비휘발성이 가능한 것이다. 이론적으로 수년에서 수십 년까지 데이터가 유지된다.

SLC, MLC, TLC, QLC — 셀 하나에 얼마나 담을까?

초기 낸드 플래시는 셀 하나에 1비트만 저장했다(SLC). 그런데 플로팅 게이트에 갇힌 전자의 양을 세밀하게 조절하면 전압 레벨을 여러 단계로 구분할 수 있다. 이를 이용해 셀 하나에 2비트(MLC), 3비트(TLC), 4비트(QLC)를 저장하는 기술이 차례로 등장했다.

셀당 비트 수가 늘어날수록 같은 면적에 더 많은 데이터를 담을 수 있어 가격이 내려간다. 하지만 전압 레벨 구분이 정교해질수록 오류 가능성도 높아지고 쓰기 속도도 느려진다. 고성능 서버용 SSD에 여전히 SLC나 MLC를 쓰는 이유가 여기에 있다. 소비자용 SSD 대부분은 TLC를 쓴다.

낸드 플래시의 수명은 '쓰기 횟수'로 측정된다. TLC 셀은 대략 수백에서 수천 번의 쓰기 사이클 후 신뢰성이 떨어지기 시작한다 — 이것이 SSD가 HDD와 다른 방식으로 노화되는 이유다.
데이터센터 서버 랙과 SSD 스토리지
AI Generated · Google Imagen

3D 낸드와 HBM — 메모리 기술은 어디로 가고 있나?

위로 쌓는 3D 낸드

평면에서 셀을 더 작게 만드는 방식은 물리적 한계에 부딪혔다. 셀 간격이 너무 좁아지면 전자 간섭이 심해져 오류가 늘어난다. 그래서 반도체 업계는 셀을 수평으로 줄이는 대신 수직으로 쌓기 시작했다. 3D 낸드는 셀 레이어를 수십 층에서 현재는 200층 이상까지 쌓아 올린 구조다.

삼성전자가 2013년 세계 최초로 3D V-낸드를 양산하면서 업계 판도가 바뀌었다. 층수를 늘릴수록 용량이 늘고 비트당 원가가 낮아진다. 다만 층수가 늘어날수록 제조 공정의 복잡도도 기하급수적으로 올라간다는 것이 업계의 공공연한 고민이다.

AI 시대의 메모리, HBM

HBM(High Bandwidth Memory)은 AI 가속기 붐과 함께 주목받기 시작한 메모리 기술이다. DRAM 칩 여러 장을 수직으로 쌓고, 실리콘 관통 전극(TSV)으로 연결해 데이터 전송 대역폭을 극적으로 높인 구조다. 일반 GDDR 메모리 대비 대역폭이 수배에서 수십 배에 달한다.

AI 모델 학습에 쓰이는 GPU가 처리해야 하는 데이터량이 폭발적으로 늘면서, 연산 속도보다 메모리 대역폭이 병목이 되는 상황이 자주 발생한다. HBM은 이 병목을 해소하기 위해 설계된 솔루션이다. SK하이닉스의 HBM3E가 엔비디아의 H100 GPU에 탑재되면서 HBM이 반도체 시장의 핵심 키워드로 떠올랐다.

(Opinion: 메모리 반도체 기술의 발전 속도는 종종 CPU 발전 속도보다 더 결정적인 영향을 미친다. AI 시대에 연산 능력보다 데이터를 얼마나 빠르게 옮기느냐가 더 중요한 제약이 되고 있다는 사실은, 하드웨어 설계의 패러다임이 근본적으로 바뀌고 있다는 신호다.)
HBM 메모리 칩 스택 오버헤드 촬영
AI Generated · Google Imagen

자주 묻는 질문

RAM이 많으면 컴퓨터가 빨라지나요?

RAM이 부족하면 운영체제가 저장장치를 임시 메모리처럼 사용하는 '스왑'이 발생하고, 이때 속도가 급격히 느려진다. RAM을 늘리면 이 병목이 해소되어 체감 속도가 크게 올라간다. 다만 이미 충분한 RAM이 있다면 추가 증설의 효과는 미미하다. 현재 사용 중인 작업 환경에서 RAM 사용률이 80% 이상이라면 증설을 고려할 만하다.

SSD는 왜 오래 쓰면 느려지나요?

낸드 플래시는 데이터를 덮어쓰기 전에 반드시 해당 블록을 먼저 지워야 한다. SSD가 꽉 차기 시작하면 새 데이터를 쓰기 전에 기존 데이터를 정리하는 '가비지 컬렉션' 작업이 빈번해지면서 쓰기 속도가 떨어진다. SSD 용량의 약 20~30%를 항상 여유 공간으로 남겨두면 이 현상을 상당히 줄일 수 있다.

RAM과 VRAM은 다른 건가요?

VRAM(Video RAM)은 GPU에 탑재된 메모리로, 기본 원리는 DRAM과 같지만 그래픽 처리에 최적화된 고대역폭 설계를 사용한다. 시스템 RAM이 CPU와 데이터를 주고받는다면, VRAM은 GPU가 렌더링에 필요한 텍스처, 프레임 버퍼 등을 저장하는 공간이다. AI 작업에서 VRAM 용량이 부족하면 모델 자체를 GPU에 올리지 못해 작업이 불가능해진다.

메모리 반도체 기술은 결국 '같은 공간에 더 많이, 더 빠르게'라는 단 하나의 명제를 향해 수십 년간 달려왔다. 그런데 지금은 그 명제 자체가 바뀌고 있다. AI 연산의 병목이 처리 속도가 아니라 데이터 이동 속도로 옮겨가면서, 메모리는 단순한 저장 공간이 아니라 컴퓨팅 아키텍처의 중심축이 되었다. 칩 하나의 물리적 한계가 AI의 지능 수준을 결정하는 시대가 이미 시작됐다.

반도체 웨이퍼 빛 반사 수직 구도
Photo by Jakob Owens on Unsplash

Related Posts

댓글

이 블로그의 인기 게시물

닭이 먼저? 알이 먼저? 우주 최대 미스터리: 은하 vs 블랙홀

AI 시대의 숨은 비용: 데이터센터는 왜 '전기 먹는 하마'가 되었나?

가치를 높이기 위해 돈을 태운다? 암호화폐 '소각'의 모든 것