Curiologist K

스마트폰 하나에 들어 있는 AI 칩은 1초에 수조 번의 연산을 처리한다. 그런데 그 칩이 일반 CPU와 근본적으로 다른 방식으로 설계됐다는 사실을 아는 사람은 많지 않다. AI 칩은 단순히 '더 빠른 프로세서'가 아니다. 연산의 종류 자체가 다르고, 그에 맞게 하드웨어 구조도 완전히 다르게 설계된다. Photo by Brecht Corbeel on Unsplash AI 칩이란 무엇인가? 일반 CPU와 무엇이 다른가 CPU가 못하는 것 일반 CPU는 '범용 프로세서'다. 문서 작성, 웹 브라우징, 게임 — 뭐든 처리할 수 있도록 설계됐다. 하지만 그 유연성의 대가로, 한 번에 처리할 수 있는 연산의 수가 제한된다. 고급 CPU도 보통 수십 개의 코어를 가지는 데 그친다. AI 학습에 필요한 연산은 성격이 완전히 다르다. 수백만 개의 숫자를 동시에 곱하고 더하는 '행렬 연산'이 핵심이다. 이 작업은 순서대로 처리할 필요가 없다. 동시에, 병렬로 처리하면 된다. CPU는 이 구조에 맞지 않는다. GPU가 먼저였다 흥미롭게도 AI 칩의 역사는 게임에서 시작됐다. 그래픽 처리를 위해 설계된 GPU는 수천 개의 작은 코어를 가지고 있어 병렬 연산에 강했다. 2012년 딥러닝 연구자들이 GPU로 이미지 인식 모델을 훈련시키면서 성능이 폭발적으로 향상됐고, 그게 현재 AI 붐의 기술적 출발점이 됐다. 당시 연구자들이 게임용 그래픽 카드로 AI를 돌렸다는 사실은 지금 돌아보면 꽤 아이러니하다. GPU가 AI를 구한 게 아니라, AI가 GPU의 진짜 용도를 발견한 것이다. 병렬 연산이라는 구조적 특성이 두 분야를 연결했다. AI Generated · Google Imagen AI 칩은 어떻게 작동하는가? 핵심 구조 설명 텐서 코어와 행렬 연산 현대 AI 칩의 핵심은 '텐서 코어(Tensor Core)'라고 불리는 연산 유닛...