비전문가를 위한 인공지능(AI) 작동 원리: AI는 어떻게 생각하고 학습할까?
AI는 '생각'하지 않는다. 적어도 우리가 생각이라고 부르는 방식으로는. 그런데도 AI는 암 진단 이미지를 분석하고, 법률 문서를 요약하고, 당신이 다음에 볼 영상을 정확히 예측한다. 이 모순처럼 보이는 현상 뒤에는 놀랍도록 단순한 수학적 원리가 숨어 있다.
AI가 실제로 무엇인지 — 오해 없이 설명하면
AI는 규칙을 외우는 게 아니라 패턴을 찾는다
많은 사람들이 AI를 거대한 백과사전처럼 상상한다. 모든 답이 미리 저장되어 있고, 질문이 들어오면 꺼내 주는 방식. 하지만 현대 AI는 그렇게 작동하지 않는다. 대신 수백만 개의 예시를 보면서 그 안에서 반복되는 패턴을 스스로 찾아낸다.
고양이 사진을 인식하는 AI를 예로 들어보자. 개발자가 '귀가 뾰족하면 고양이'라는 규칙을 직접 입력하지 않는다. 대신 수십만 장의 고양이 사진과 '이것은 고양이다'라는 정답 레이블을 함께 보여준다. AI는 그 데이터에서 스스로 특징을 추출한다.
이 방식을 '머신러닝(machine learning)'이라고 부른다. 그리고 그 안에서도 인간의 뇌 구조를 모방한 방식을 '딥러닝(deep learning)'이라고 따로 부른다. 오늘날 우리가 접하는 대부분의 AI — 챗봇, 이미지 생성기, 번역기 — 는 딥러닝 기반이다.
AI가 학습하는 방법 — 오답에서 배우는 구조
가중치와 오차: 학습의 핵심 메커니즘
딥러닝의 핵심은 '인공 신경망(artificial neural network)'이다. 이름은 거창하지만 구조는 단순하다. 숫자를 받아서 계산하고, 다음 층으로 넘기는 노드(node)들이 여러 층으로 쌓여 있다. 각 연결에는 '가중치(weight)'라는 숫자가 붙어 있다.
처음에 이 가중치들은 무작위로 설정된다. AI가 처음 예측을 내놓으면 당연히 틀린다. 그러면 '얼마나 틀렸는가'를 계산하는 오차 함수가 작동한다. 이 오차를 줄이는 방향으로 가중치를 조금씩 조정하는 과정을 수백만 번 반복한다. 이것이 '역전파(backpropagation)'다.
비유하자면 이렇다. 다트를 처음 던지면 과녁을 벗어난다. 얼마나 벗어났는지 보고, 다음 번엔 조금 더 왼쪽으로, 조금 더 위로 조정한다. 이걸 수백만 번 반복하면 결국 과녁 중심을 맞히게 된다. AI의 학습도 본질적으로 이 과정이다.
AI의 '학습'이란 결국 수백만 개의 숫자를 조금씩 조정하는 반복 과정이다. 신비로운 지능이 아니라, 정교한 수치 최적화다.
학습 데이터가 전부다
AI의 성능은 알고리즘만큼이나 데이터에 달려 있다. 편향된 데이터로 학습하면 편향된 결과가 나온다. 실제로 일부 얼굴 인식 AI가 특정 인종의 얼굴을 더 잘 인식하는 문제가 보고된 적 있다. 학습 데이터에 그 인종의 사진이 더 많이 포함되어 있었기 때문이다.
데이터의 양도 중요하지만 질이 더 중요하다. 잘못 레이블된 데이터 1만 개는 정확히 레이블된 데이터 1천 개보다 오히려 해롭다.
GPT 같은 언어 AI는 어떻게 문장을 만들까?
'다음 단어 예측'이라는 단순한 원리
ChatGPT나 다른 대형 언어 모델(LLM)의 작동 원리를 들으면 처음엔 실망할 수 있다. 핵심은 '다음에 올 단어가 무엇일 확률이 가장 높은가'를 계속 계산하는 것이다. 문장을 '이해'하는 게 아니라, 통계적으로 가장 그럴듯한 단어를 이어 붙인다.
그런데 이 단순한 원리를 인터넷 전체 텍스트에 가까운 방대한 데이터로 학습시키면 놀라운 일이 생긴다. 문법, 논리 구조, 심지어 특정 분야의 전문 지식처럼 보이는 패턴까지 자연스럽게 흡수된다. 규모가 임계점을 넘으면 단순한 단어 예측기가 갑자기 추론처럼 보이는 행동을 하기 시작한다.
이것이 AI 연구자들도 완전히 설명하지 못하는 '창발(emergence)' 현상이다. 작은 모델에서는 보이지 않던 능력이 모델이 충분히 커지면 갑자기 나타난다. 왜 그런지는 아직 명확하지 않다.
트랜스포머: 현대 AI의 실제 엔진
2017년 구글 연구팀이 발표한 '트랜스포머(Transformer)' 구조는 현대 AI의 판도를 바꿨다. 핵심 아이디어는 '어텐션(attention)' 메커니즘이다. 문장 안에서 어떤 단어가 다른 어떤 단어와 관련이 깊은지를 동시에 계산한다.
'은행에 갔다'라는 문장에서 '은행'이 금융 기관인지 강둑인지는 앞뒤 문맥에 달려 있다. 트랜스포머는 문장 전체를 한꺼번에 보면서 이 관계를 파악한다. 이전 방식은 단어를 순서대로 하나씩 처리했기 때문에 긴 문장에서 앞부분을 '잊어버리는' 문제가 있었다.
트랜스포머 이전의 AI는 긴 문장의 앞부분을 잊어버렸다. 어텐션 메커니즘은 그 망각 문제를 구조적으로 해결했다.
AI가 잘하는 것과 못하는 것 — 솔직한 현실
AI가 실제로 강한 영역
AI는 패턴 인식에서 인간을 압도한다. 수천 장의 의료 이미지에서 미세한 이상 징후를 찾거나, 수백만 건의 거래 데이터에서 사기 패턴을 감지하는 일은 인간이 따라가기 어렵다. 반복적이고 대규모이며 명확한 정답이 있는 작업일수록 AI가 유리하다.
언어 처리도 마찬가지다. 번역, 요약, 코드 작성 보조처럼 방대한 텍스트 패턴을 활용하는 작업에서 현재 AI는 상당한 수준에 도달했다.
AI가 여전히 취약한 영역
AI는 '왜'를 모른다. 인과관계를 진짜로 이해하지 못하고, 상관관계를 학습할 뿐이다. 학습 데이터에 없던 완전히 새로운 상황에 맞닥뜨리면 엉뚱한 답을 자신 있게 내놓는다. 이것을 '환각(hallucination)'이라고 부른다.
상식 추론도 약하다. 어린아이도 아는 '물은 위에서 아래로 흐른다'는 물리적 직관을 AI는 텍스트 패턴으로만 학습했기 때문에 실제 물리 세계와 연결된 추론에서 실수한다. 몸이 없고, 세계를 직접 경험한 적이 없기 때문이다.
(Opinion: AI가 '의식이 있는가'라는 질문은 지금 당장 실용적으로 중요하지 않다. 더 중요한 질문은 'AI가 틀렸을 때 우리가 그것을 알아챌 수 있는가'다. 현재 시스템은 틀린 답을 맞는 답과 구별하기 어려운 방식으로 제시한다는 점이 진짜 문제다.)
자주 묻는 질문
AI는 스스로 생각할 수 있나요?
현재의 AI는 '생각'이라고 부를 수 있는 내적 경험이나 의도가 없다. 입력값에 대해 수학적 계산을 수행하고 출력값을 내놓는 시스템이다. 생각처럼 보이는 결과물을 만들어내지만, 그 과정에서 이해나 의식이 개입하는지는 현재 과학으로 확인할 수 없다.
AI 학습에는 얼마나 많은 데이터가 필요한가요?
작업의 복잡도에 따라 크게 다르다. 간단한 이미지 분류는 수천 장으로도 가능하지만, GPT 같은 대형 언어 모델은 수천억 개 이상의 텍스트 토큰으로 학습한다. 흥미롭게도 데이터가 무조건 많다고 좋은 것은 아니다. 데이터의 다양성과 품질이 양만큼 중요하다.
AI가 학습한 내용을 잊어버릴 수도 있나요?
있다. 이것을 '파국적 망각(catastrophic forgetting)'이라고 부른다. AI가 새로운 작업을 학습하면 이전에 학습한 내용을 덮어쓰는 현상이다. 인간의 뇌는 새로운 것을 배워도 오래된 기억을 비교적 잘 유지하지만, 인공 신경망은 이 부분에서 구조적으로 취약하다. 이를 해결하기 위한 '지속 학습(continual learning)' 연구가 활발히 진행 중이다.
AI가 무서운 이유는 AI가 너무 똑똑해서가 아니다. AI가 틀렸을 때 우리가 그것을 알아채기 어렵다는 점, 그리고 AI의 자신감 있는 어조가 정확성과 아무 관계가 없다는 점 때문이다. 수백만 번의 가중치 조정 끝에 나온 숫자들이 만들어내는 출력값을 우리는 '답'이라고 부르기 시작했다. 그 답을 어디까지 믿을지 결정하는 것은 여전히 인간의 몫이다.
댓글
댓글 쓰기