엔비디아 뛰어넘을 상용화 무기! 삼성전자·SK하이닉스가 AI 반도체 패권을 쥘 수밖에 없는 이유 (feat. 김정호 카이스트 교수) 목차 서론: AI 학습 시대에서 추론 시대로의 대전환 왜 지금 메모리 반도체인가? 폭발하는 토큰과 데이터 컴퓨터 구조의 혁명: 프로세서와 메모리의 경계가 무너지다 HBM4부터 HBM8까지: 커스텀 HBM과 대한민국 반도체의 미래 결론: 단군 이래 최대의 기회, 우리가 준비해야 할 것 1. 서론: AI 학습 시대에서 추론 시대로의 대전환 인공지능(AI) 열풍이 전 세계 산업과 투자 시장을 뒤흔들고 있습니다. 많은 이들이 AI 반도체라고 하면 가장 먼저 미국의 '엔비디아(NVIDIA)'와 이들의 GPU를 떠올립니다. 하지만 AI 기술의 본질적인 알고리즘이 진화하면서, 패권의 중심이 '계산 장치(GPU)'에서 '기억 장치(메모리)'로 급격하게 이동하고 있다는 사실을 알고 계시나요? HBM(고대역폭 메모리)의 아버지라 불리는 카이스트 전기전자공학부 김정호 교수는 AI 시장이 '학습(Training)'의 시대에서 '추론(Inference)'의 시대로 대전환을 맞이했다고 진단합니다. 과거의 AI가 단순히 데이터를 암기해서 시험을 보는 구조였다면, 지금의 AI는 실시간으로 도서관(인터넷)에서 수많은 자료를 찾아와 최적의 답을 유약하고 출론하는 방식으로 바뀌었습니다. 이러한 변화는 반도체 시장의 절대 강자였던 엔비디아를 넘어, 대한민국의 삼성전자와 SK하이닉스에 전례 없는 초대형 기회를 가져다주고 있습니다. 2. 왜 지금 메모리 반도체인가? 폭발하는 토큰과 데이터 AI가 추론 중심의 에이전틱 AI(Agentic AI)로 발전하면서 입력하고 처리해야 하는 정보의 양, 즉 '토큰(Token)'의 개수가 기존보다 수천 배 이상 폭발적으로 증가했습니다. 예를 들어 사용자가 "오늘 날씨 어때?"라는 단 한 줄의 질문을 던지더라도, 최신 AI는 단순히 ...