글

AI 칩은 왜 혼자 완성될 수 없나|대만 Hsinchu에서 읽는 CoWoS와 첨단 패키징 전쟁

이미지
  GPU·HBM을 하나로 연결하는 대만 CoWoS 첨단 패키징 전쟁 (출처 : AI 이미지 제공) 국가: 대만 지역·도시: 신주(Hsinchu) · 신주과학단지 / 타이난 · 자이 여행 주제: 대만 Hsinchu Science Park와 TSMC Museum of Innovation에서 출발해 TSMC의 CoWoS·SoIC·3DFabric 기술과 남부 대만의 첨단 패키징 생산거점까지 따라가며, GPU·HBM·칩렛을 하나의 고성능 AI 시스템으로 연결하는 첨단 패키징이 왜 AI 반도체 공급망의 핵심 경쟁력이 되었는지 읽는 대만 반도체 산업 여행 Ingress 지난 HBM은 왜 AI 시대의 두 번째 엔진이 되었나에서는 한국의 이천과 수원에서 출발해 HBM이 왜 AI 시대의 두 번째 엔진이 되었는지 살펴봤습니다. 그런데 여기에서 또 하나의 질문이 생깁니다. GPU가 있고 HBM도 준비됐다면 그것으로 AI 칩은 완성되는 것일까요? 그렇지 않습니다. 서로 다른 역할을 하는 고성능 연산 칩과 HBM을 아주 가까운 거리에서 연결하고, 막대한 데이터를 빠르게 주고받도록 만들며, 전력과 발열까지 감당하는 첨단 패키징(Advanced Packaging) 과정이 필요합니다. AI 반도체 시대에 패키징은 더 이상 완성된 칩을 보호하는 마지막 포장 공정 정도로 설명하기 어렵습니다. TSMC는 CoWoS를 서로 다른 칩을 하나의 인터포저 위에서 결합하는 고성능 컴퓨팅용 첨단 패키징 기술로 설명하고 있습니다. 현재 CoWoS 제품군에는 CoWoS-S·CoWoS-L·CoWoS-R이 있으며, AI와 HPC 시스템에 필요한 연산 칩과 HBM을 대규모로 통합하는 방향으로 발전하고 있습니다. TSMC 그리고 2026년 경쟁은 이미 다음 단계에 들어갔습니다. TSMC 는 2026년 북미 기술 심포지엄에서 현재 5.5배 레티클 크기의 CoWoS를 생산하고 있으며 , 2028년에는 약 10개의 대형 컴퓨트 다이와 20개의 HBM 스택을 통합할 수 있는 14배 레티클 크기 CoWoS를 ...

HBM은 왜 AI 시대의 두 번째 엔진이 되었나|이천·수원에서 Silicon Valley까지 이어지는 AI 메모리 전쟁

이미지
  한국 HBM에서 Silicon Valley AI 가속기까지 이어지는 AI 메모리 전쟁 (출처 : AI 이미지 제공)  국가: 대한민국 · 미국 지역·도시: 경기도 · 이천 · 수원 / 캘리포니아 · San Jose · Santa Clara 여행 주제: 대한민국 이천의 SK hynix 반도체 생산거점과 수원의 Samsung Innovation Museum에서 출발해 미국 San Jose·Santa Clara의 AI 가속기 생태계까지 시야를 넓히며, HBM이 단순한 메모리 부품에서 GPU·AI 가속기의 성능을 좌우하는 핵심 인프라로 성장하고 HBM4·HBM4E·첨단 패키징 경쟁이 한국과 Silicon Valley를 하나의 AI 공급망으로 연결하는 과정을 읽는 반도체 산업 여행 Ingress 지난 D-11에서는 GPU·TPU·ASIC이 왜 AI 연산시장을 나눠 갖기 시작했는지 살펴봤습니다. 그런데 AI 가속기의 성능을 이야기할 때 놓치기 쉬운 부품이 있습니다. 바로 메모리 입니다. GPU가 아무리 빠르게 계산할 수 있어도 필요한 데이터를 제때 가져오지 못한다면 연산장치는 기다려야 합니다. AI 모델이 거대해질수록 처리해야 하는 데이터는 많아지고, 가속기와 메모리 사이에서 데이터를 얼마나 빠르게 이동시킬 수 있는지가 전체 시스템의 성능을 좌우합니다. 그래서 등장한 핵심 기술이 HBM, High Bandwidth Memory 입니다. HBM은 여러 개의 DRAM 다이를 수직으로 쌓아 데이터 처리 속도와 용량을 높이는 고성능 메모리입니다. SK hynix 는 HBM을 여러 DRAM 칩을 수직 적층해 용량과 데이터 처리 속도를 크게 높인 고성능 메모리로 설명합니다. SK hynix 뉴스룸 2026년 9월 현재 경쟁은 이미 HBM3E를 넘어 HBM4와 HBM4E 로 이동했습니다. SK hynix는 HBM4 양산 출하를 진행하고 있고, 6월에는 12단 HBM4E 샘플을 주요 고객에게 공급했습니다. SK hynix 뉴스룸 Samsung Electroni...

GPU·TPU·ASIC은 왜 AI 연산시장을 나눠 갖기 시작했나|Santa Clara와 Mountain View에서 읽는 AI 가속기 기술 전쟁

이미지
  GPU·TPU·ASIC이 맞붙는 AI 가속기 기술 전쟁 (출처 : AI 이미지 제공) 국가: 미국 지역·도시: 캘리포니아 · Santa Clara · Mountain View / 워싱턴 · Seattle 여행 주제: Santa Clara의 GPU 산업 중심지에서 Mountain View의 Google AI 생태계로 이동하고, Seattle의 클라우드 산업까지 시야를 넓히며 GPU·TPU·ASIC·자체 AI 칩이 왜 하나의 승자가 모든 연산을 독점하는 대신 학습·추론·클라우드·에이전트 AI라는 서로 다른 시장을 놓고 경쟁하게 되었는지 읽는 미국 AI 반도체 산업 여행 Ingress 지난 글에서는 AI 데이터센터를 24시간 움직이기 위해 원전·SMR·가스발전·재생에너지·ESS가 벌이는 전력 기술 전쟁 을 살펴봤습니다. 그런데 아무리 많은 전력을 확보해도 데이터센터 안에서 그 전기를 실제 AI 연산으로 바꾸는 장치가 없다면 AI는 작동하지 않습니다. 그 중심에 있는 것이 AI 가속기 입니다. 한동안 AI 반도체 경쟁은 “GPU를 얼마나 많이 확보하느냐”라는 질문으로 설명되는 경우가 많았습니다. 특히 NVIDIA 의 GPU와 CUDA 생태계는 대규모 AI 학습 시장의 기준을 만드는 데 결정적인 역할을 했습니다. 하지만 2026년의 풍경은 훨씬 복잡합니다. Google 은 TPU를 세대별로 발전시키고 있고, Amazon Web Services 는 Trainium을 클라우드 AI 인프라의 핵심 칩으로 키우고 있습니다. AMD 역시 Instinct MI400 계열과 Helios 랙스케일 구조를 앞세워 GPU 경쟁을 확대하고 있습니다. 그리고 경쟁의 단위도 변했습니다. 예전에는 “어떤 GPU가 더 빠른가”가 중요한 질문이었다면, 지금은 GPU·CPU·HBM·네트워크·소프트웨어·전력·냉각을 얼마나 효율적으로 하나의 시스템으로 묶을 수 있는가 가 더 중요한 질문이 되고 있습니다. 2026년 3월 NVIDIA가 공개한 Vera Rubin 플랫폼은 GPU만이 아니...

Intel은 어떻게 반도체 제국이 되었고 왜 AI 시대에 다시 싸우고 있나|Santa Clara에서 읽는 CPU 왕국의 탄생과 전환

이미지
  Intel 반도체 제국에서 AI 시대로 이어지는 Silicon Valley의 변화 (출처 : AI 이미지 제공) 국가: 미국 지역·도시: 캘리포니아 · Mountain View · Santa Clara 여행 주제: Mountain View에서 시작된 Intel의 창업 흔적을 따라 Santa Clara의 Intel Museum까지 이동하며, 메모리 회사였던 Intel이 4004와 x86을 통해 PC 시대의 반도체 제국으로 성장하고 오늘날 AI·파운드리·첨단 패키징 경쟁 속에서 다시 기술기업의 정체성을 바꾸려는 과정을 읽는 Silicon Valley 여행 Ingress 지난 Sand Hill Road는 어떻게 벤처캐피털의 중심이 되었나|Fairchild에서 시작된 돈이 실리콘밸리의 미래를 산 길에서는 Menlo Park의 Sand Hill Road를 따라가며 기술과 돈이 어떻게 만나 Silicon Valley의 벤처 생태계를 만들었는가 를 살펴봤습니다. 그 이야기에서 빼놓을 수 없는 기업이 하나 있습니다. Intel입니다. Intel의 역사는 단순한 반도체 회사의 성공담이 아닙니다. Fairchild Semiconductor에서 성장한 Robert Noyce와 Gordon Moore가 회사를 떠나 새로운 기업을 만들고, 메모리 반도체를 개발하다 계산기용 프로젝트를 통해 마이크로프로세서라는 새로운 시장을 열었으며, 이후 x86을 통해 개인용 컴퓨터 시대의 중심으로 올라서는 과정이 모두 담겨 있습니다. Intel 공식 역사에 따르면 Robert Noyce와 Gordon Moore는 1968년 7월 18일 Intel을 설립했습니다. 두 사람은 이미 Fairchild Semiconductor 창업에 참여했던 인물들이었고, Intel은 그들이 새로운 기술에 지속적으로 투자할 수 있는 회사를 만들겠다는 생각에서 출발했습니다. Intel 공식 역사 — Intel's Founding 그러나 더 흥미로운 것은 그 다음입니다. Intel은 처음부터 CPU 회사가 아...