sk하이닉스 (1) 썸네일형 리스트형 세계적 한국의 HBM HBS 반도체 기술(메모리 패권, GPU 한계, HBS 미래) 엔비디아 GPU가 100만 대 설치되어 있어도 실제 가동률은 10%에 불과하다는 말을 처음 들었을 때 왜 그렇게 비효율적이지 하는 물음이 듭니다. 우리가 가진 상식으로는 "연산 칩이 많을수록 AI가 빠르다"였는데, 실상은 메모리에서 데이터가 제때 오지 않아 GPU가 대기 상태로 있는 시간이 훨씬 더 길다는 겁니다. 이 사실 하나가 AI 반도체 산업의 판도를 근본적으로 바꾸고 있습니다. 메모리 패권: AI 성능을 결정하는 건 GPU가 아니었다 일반적으로 AI 성능은 GPU 스펙이 결정한다고 알려져 있지만, 관련 자료들을 파고들수록 그 판단이 흔들렸습니다. 핵심 HBM(High Bandwidth Memory)입니다. 여기서 HBM이란 D램을 수직으로 여러 층 쌓아 올린 뒤 TSV(Through Silic.. 이전 1 다음
