Blueprint · 반도체 × AI

문제를 해결하면,
새로운 문제가 시작된다

The Chain of Compute — Semiconductor × AI

트랜지스터에서 HBM·LLM까지. 각 시대가 안고 있던 문제를 어떤 원리로 해결했고, 그 해결이 어떤 다음 문제를 낳았는지를 한 줄의 사슬로 이었습니다.

문제원리해결주역다음 문제

트랜지스터의 탄생

Birth of the Transistor
1947
문제 · Problem
컴퓨터의 뇌 역할을 한 진공관은 부피가 크고, 느리고, 깨지기 쉬우며 엄청난 열을 냈다. 최초의 범용 컴퓨터 ENIAC은 방 하나를 가득 채운 1만 8천여 개의 진공관으로 동작했다.
원리 · Principle
밴드갭 · 도핑 · p-n 접합. 반도체(게르마늄·실리콘)에 불순물을 미량 첨가하면, 전기장(게이트)으로 전자의 흐름을 켜고 끌 수 있는 고체 스위치가 된다.
해결 · Solution
Bell Labs이 점접합 트랜지스터를 발명. 진공관을 대체하는 소형·저전력·고신뢰 스위치로 전자기기의 소형화가 시작됐다.
주역 · Key Players
  • Bell Labs
  • 존 바딘
  • 월터 브래튼
  • 윌리엄 쇼클리

집적회로 (IC)

Integrated Circuit
1958–59
문제 · Problem
트랜지스터 폭발로 부품 수가 늘었지만 수동 배선의 한계(Tyranny of Numbers)에 걸려 신뢰성은 떨어지고 비용은 폭등했다.
원리 · Principle
평판 공정 · 리소그래피 · 식각 · 증착. 트랜지스터와 배선을 하나의 반도체 기판 위에 한꺼번에 새겨 만든다.
해결 · Solution
킬비의 하이브리드 IC와 노이스의 평면형 단일 칩 IC. 부품과 배선을 단일 실리콘 칩에 집적해 '납땜 없는' 대량 생산의 시대를 열었다.
주역 · Key Players
  • Texas Instruments
  • Fairchild Semiconductor
  • 잭 킬비
  • 로버트 노이스

무어의 법칙 & Dennard Scaling

Moore's Law & Dennard Scaling
1965–2004
문제 · Problem
집적의 방향성과 속도를 예측할 경험칙이 필요했다.
원리 · Principle
무어의 법칙 — 트랜지스터 수가 약 2년마다 2배. Dennard Scaling — 칩이 작아져도 전압을 함께 낮추면 면적당 전력 소모는 일정하게 유지된다.
해결 · Solution
미세화(축소)가 곧 성능이자 경제성. 매 세대 클럭은 올리고 칩은 싸지며, PC와 서버 시대가 폭발적으로 성장했다.
주역 · Key Players
  • Intel
  • AMD
  • 고든 무어
  • 로버트 데나드

멀티코어 전환 & 파워월

Multicore & The Power Wall
2005–2011
문제 · Problem
단일 코어의 클럭을 더 올리지 못하게 만든 전력 벽. 빈도를 올려 성능을 끌어올리던 시대가 멈췄다.
원리 · Principle
전력은 클럭(주파수)에 대략 세제곱에 비례. 그래서 빈도를 올리는 대신 코어를 여러 개 병렬로 늘려 총 처리량(스루풋)을 키운다.
해결 · Solution
듀얼·쿼드코어 CPU로의 전환. 순차 로직에 강했던 CPU는 이제 병렬 소프트웨어의 시대로 진입했다.
주역 · Key Players
  • Intel
  • AMD
  • 산업 전반의 아키텍처 전환

GPU · CUDA 의 부상

GPU & CUDA Rising
2006–2011
문제 · Problem
그래픽과 HPC의 대규모 병렬 연산 수요에, 제어 중심의 CPU는 비효율적이었다.
원리 · Principle
SIMD / SIMT. 수천 개의 단순 코어가 하나의 명령으로 방대한 데이터를 동시에 처리. 그래픽의 픽셀 계산과 수학의 행렬곱이 본질적으로 같다.
해결 · Solution
NVIDIA가 CUDA를 발표해 GPU를 그래픽이 아닌 범용 병렬 연산(GPGPU)으로 개방. GPU가 '그림 그리는 기계'에서 '만능 연산기'로 재탄생했다.
주역 · Key Players
  • NVIDIA
  • 젠슨 황

딥러닝 빅뱅

The Deep Learning Big Bang
2012
문제 · Problem
오랜 'AI 겨울' 속 기존 알고리즘은 성능 한계에 맞닿아 있었다.
원리 · Principle
딥러닝의 핵심 연산은 행렬곱(MAC). 이는 GPU의 대규모 병렬 구조와 정확히 일치한다.
해결 · Solution
AlexNet이 GPU 2대로 학습돼 ImageNet 이미지 인식 오류율을 파괴적으로 낮췄다. 'GPU로 딥러닝을 학습한다'는 패러다임이 처음 증명됐다.
주역 · Key Players
  • ImageNet (학계)
  • NVIDIA
  • 페이페이 리
  • 제프리 힌튼
  • 알렉스 크리제프스키

HBM 등장 · Memory Wall 돌파

HBM vs. The Memory Wall
2013–2016
문제 · Problem
GDDR은 속도는 높지만 칩 바깥으로 빠져나가는 핀 수가 많아 전력 소모가 크고, 핀 수 한계로 대역폭 확장에 한계가 왔다.
원리 · Principle
낮은 클럭 · 넓은 버스. TSV(실리콘 관통 배선)로 DRAM 다이를 수직 적층하고 수천 개의 와이드 I/O로 한 번에 보낸다. 좁은 길을 빨리 가는 대신, 아주 넓은 길을 느리게 가는 것.
해결 · Solution
HBM. 압도적 대역폭에 전력은 줄이고, GPU와 한 패키지에 나란히 배치(2.5D · 인터포저)해 연산기 활용도(utilization)를 끌어올렸다.
주역 · Key Players
  • SK하이닉스
  • AMD
  • NVIDIA
  • 메모리·패키징 엔지니어링

Transformer 혁명

The Transformer Revolution
2017
문제 · Problem
RNN/LSTM 은 순차적으로 처리해 병렬화와 긴 문맥 파악에 한계가 있었다.
원리 · Principle
self-attention. 시퀀스 안의 모든 토큰 쌍 사이 관계를 한 번에(병렬로) 계산해 문맥을 파악한다. 이는 대규모 행렬곱이라 GPU에 최적화돼 있다.
해결 · Solution
“Attention is All You Need.” 어텐션으로 인코더·디코더를 통합한 Transformer. 병렬 학습이 가능해지자 '모델을 키울수록 성능이 좋아진다'는 스케일링 법칙이 발견됐다.
주역 · Key Players
  • Google
  • 아시시 바스와니 등

분산 학습 인프라 & LLM 시대

Scale-out Infrastructure & LLMs
2018–2022
문제 · Problem
모델이 단일 GPU 메모리 한계를 넘어섰다.
원리 · Principle
병렬화. 서버 안은 NVLink/NVSwitch 로, 서버 사이는 InfiniBand 로 묶어 수만 GPU를 하나의 컴퓨터처럼. 데이터·텐서·파이프라인 병렬로 모델을 쪼개 학습한다.
해결 · Solution
GPU 클러스터 + CUDA/NCCL/cuDNN 생태계. GPT-3(2020)·ChatGPT(2022)가 LLM 시대를 열었고, AI의 단위는 '칩'이 아닌 '데이터센터'가 됐다.
주역 · Key Players
  • OpenAI
  • NVIDIA
  • 샘 알트만
  • 젠슨 황

병목 시대 & 시스템 최적화

The Bottleneck Era & System Optimization
2023–현재
문제 · Problem
메모리(대역폭·용량) · 전력 · 제조의 다중 병목이 동시에 나타났다.
원리 · Principle
단순 미세화에서 '시스템·패키징 최적화'로 전환. 칩렛(chiplet)으로 쪼개고 이종집적으로 조립해 최적의 PPA(전력·성능·면적)를 만든다.
해결 · Solution
HBM3E/4, 칩렛 + CoWoS(2.5D/3D)·하이브리드 본딩, GAA 트랜지스터, 백사이드 전원, co-packaged optics, FP8/FP4 양자화로 병목을 하나씩 돌파하는 중이다.
주역 · Key Players
  • NVIDIA
  • SK하이닉스
  • 삼성전자
  • TSMC
  • AMD
  • Broadcom
  • Google
  • 팹리스·메모리·네트워크 생태계 전반

다음 프런티어

The Next Frontier
다음
문제 · Problem
미세화·메모리·전력의 물리적 한계가 종착지로 다가온다.
원리 · Principle
기존 패러다임을 넘어서는 새 구조와 새 물리. 수직 집적, 아날로그 연산, 빛으로 통신하고 연산한다.
해결 · Solution
CFET 구조, 아날로그 AI 가속기(PIM/MRAM/ReRAM), 웨이퍼 스케일 칩, 실리콘 포토닉스·광컴퓨팅, 온디바이스·물리 AI(로봇·자율주행)로 다음 반세기를 설계 중이다.
주역 · Key Players
  • TSMC
  • 삼성전자
  • Intel
  • Cerebras
  • Google
  • 오픈 경쟁