칩 하나로는 부족하다! 엔비디아 ‘베라 루빈’이 선언한 ‘AI 팩토리’의 시대와 한국 반도체의 기회
무한대의 연산, 그리고 물리적 한계와의 충돌 현재의 AI 산업은 매년 모델 크기가 10배씩 커지고 있습니다. 조 단위의 파라미터를 가진 오픈 월드 파운데이션 모델(Cosmos 등)을 훈련하고 추론하기 위해, 빅테크 기업들은 데이터센터에 수만 개의 GPU를 때려 넣고 있습니다. 하지만 여기서 치명적인 병목 현상(Bottleneck)이 발생합니다. 칩을 아무리 많이 연결해도, 칩과 칩 사이의 ‘통신 속도’가 느리면 데이터가 길에서 버려지고(지연), … 더 읽기