글

라벨이 NVIDIA인 게시물 표시

AI 데이터는 왜 전선에서 빛으로 이동하려 하나|Hsinchu와 Silicon Valley에서 읽는 Silicon Photonics·CPO 전쟁

이미지
  전기 신호에서 빛으로 이동하는 AI 데이터센터 네트워크 혁명 (출처 : AI 이미지 제공) 국가: 대만 · 미국 지역·도시: 신주(Hsinchu) · 산호세(San Jose) · 산타클라라(Santa Clara) 여행 주제: 대만 Hsinchu Science Park의 반도체 생태계에서 출발해 미국 San Jose·Santa Clara의 AI 네트워크 산업으로 이동하며, GPU와 HBM을 연결하던 AI 반도체 경쟁이 데이터센터 내부의 전기 신호 한계를 넘어 Silicon Photonics와 Co-Packaged Optics를 이용한 ‘빛의 네트워크’ 경쟁으로 확장되는 과정을 읽는 AI 인프라 산업 여행 Ingress 지난 AI 칩은 왜 혼자 완성될 수 없나에서는 대만 신주에서 CoWoS와 첨단 패키징 을 따라가 봤습니다. GPU와 HBM이 아무리 뛰어나도 서로 빠르게 연결하지 못하면 하나의 강력한 AI 가속기가 될 수 없었습니다. 그래서 반도체 경쟁의 무대가 개별 칩에서 패키지 전체로 확장됐습니다. 그런데 AI 시스템이 커지면 또 다른 문제가 시작됩니다. 하나의 패키지 안에서 GPU와 HBM을 빠르게 연결하는 데 성공했다고 해도 수백 개, 수천 개, 더 나아가 수만 개 이상의 AI 가속기를 데이터센터 규모에서 연결하려면 엄청난 양의 데이터가 서버와 랙, 스위치 사이를 계속 이동해야 합니다. 여기서 기존의 전기 신호 가 전력소비와 신호손실, 발열이라는 벽을 만나기 시작합니다. 그리고 그 벽 앞에서 다시 주목받는 기술이 Silicon Photonics, 실리콘 포토닉스 입니다. 실리콘 반도체 기술 위에서 빛을 이용해 데이터를 전달하는 방식입니다. 여기에 광학 엔진을 네트워크 스위치 ASIC 가까이에 직접 배치하는 CPO, Co-Packaged Optics 가 결합되면서 AI 데이터센터의 네트워크 구조가 다시 바뀌고 있습니다. 2026년에는 이 변화가 단순한 연구개발 단계만의 이야기도 아닙니다. NVIDIA는 Vera Rubin 플랫폼과 함께 Spe...