AI 학습 이후엔 추론이 시작된다. LLM에서 LMM으로. AI가 모든 영역에서 쓰이는 세상이 도래한다. (세상의 변화를 바라보자)

이 글에서는 기술의 변화, 즉 기술 트렌드가 어떻게 변화되고 있는지 고민하고 생각해 보겠습니다.

 

최근 시장에서 가장 핫했던 키워드는 올해 초 처음 등장한 ChatGPT와 AI(인공지능)을 훈련시키는 엔비디아의 칩이었습니다. AI 학습을 위해 사용되는 엔비디아 칩에는 연산처리하는 칩과 기억하는 메모리칩이 모두 같이 구성됩니다. 이렇게 하나의 칩에 여러 개의 칩을 집적하는 기술을 칩렛이라고 합니다. 다른 종류의 칩을 하나로 합치는 이종결합이라고 부르기도 합니다.

 

이렇게 AI 학습을 위해 미국의 빅테크 기업들이 엄청난 투자를 하고 그 투자에 따라 엄청난 엔비디아의 칩이 필요해졌기 때문에 이와 관련된 HBM 관련주와 칩렛 구조를 완성해 주는 후공정 패키징 업체들이 23년 전반기와 후반기를 주도했습니다.

 

21년 1월 삼성전자가 9 만전자를 기록한 이후 Winter is coming 보고서와 함께 2년 간의 반도체 섹터는 하락사이클의 암흑기를 걷고 있었습니다. 이런 암흑기에 한줄기 빛이 바로 HBM의 등장이었습니다. 카이스트 교수님이 HBM 아이디어를 삼성전자에 먼저 전달하고자 했는데 선단공정에 집중하던 삼성전자는 관심이 없었고 SK하이닉스가 그 기술을 가져가서 개발에 집중했다고 합니다.

 

이렇게 HBM이 시장을 주도하고 있고 앞으로도 잘 되겠지만 HBM 다음의 주도 기술이 무엇일지 고민해 보겠습니다.

 

원래의 반도체 사이클이 움직인다면 기술적 난도가 높고 반도체 공정의 대부분인 선단공정인 전공정 업체들이 시세를 내고 섹터를 이끌고 갔습니다. 하지만 선단공정 기술발전 속도가 한계에 직면하면서 반도체 칩 성능을 올리는 다른 방법들을 반도체 회사들은 찾았고 후공정 패키징 기술로 이를 보완하고 반도체 성능을 높였습니다.

 

AI의 등장과 발전 및 확산으로 반도체의 새로운 먹거리와 영역이 생겨났다면 기존 메모리 반도체 산업의 사이클도 2년간의 하락을 마치고 반등하는 모습을 보이고 있습니다. 삼성전자 및 메모리 반도체 3 업체의 감산과 재고증가율 감소로 바닥을 확인하고 Spot가격이 상승하는 추세를 볼 수 있습니다. 이렇게 메모리 반도체 사이클이 상승사이클로 접어든다면 전공정 업체들도 관심을 가져야 한다고 생각합니다.

 

20년 팬데믹으로 엄청난 수요로 인해 그 이후 수요가 줄어들었던 모바일, PC 및 노트북, 서버의 교체기와 애플의 신제품 공개로 인한 수요와 화웨이의 메이트 60프로의 수요 확산 등 디바이스의 수요 확대도 기대됩니다.

 

전공정 기술 중에 최근 주목하고 핫한 기술에는 GAA기술로 여러 공정에서 새로운 기술을 도입하고 있습니다. 그중에서 관심 있는 기술은 ALD와 EUV의 활용입니다.

 

EUV 기술을 주목하는 이유는 학습 이후 추론 과정 및 온디바이스 시대가 온다면 발열(전자의 저항)이 적어야 하고 이를 위해선 전력이 적게 들어야 합니다. 즉 저전력이 필수적입니다. lpddr5 메모리가 디바이스에 실장 되려면 칩 사이즈가 작아야 합니다. 서버용 HBM3처럼 크기가 커도 상관없는 서버 분야와는 다릅니다.(서버는 X86 설계 기반이고, 모바일은 Arm기반입니다. 현재 반도체의 전설인 짐켈러와 삼성전자는 RISC-V 기반 설계를 개발하고 있습니다.)

또한 이런 인공지능은 로봇과 자율주행(전장) 영역에도 적용되고 이러한 영역의 디바이스 또한 저전력을 위해 작은 크기의 칩을 요구합니다.  

LLM을 이은 키워드는 온디바이스 AI가 될 것이라고 생각합니다.

이러한 기술의 흐름을 반영하듯 ASML은 23년을 준비기, 24년을 확산기, 25년을 폭발적 성장기라고 하였습니다. 이와 맞춰 플랜자위트에 생산능력을 2배로 늘리고 그를 위해 공장 건설 및 클린룸 설비를 준비 중입니다.

엔비디아의 GH200은 엔비디아의 CPU와 GPU NPU TPU 등 다양한 칩을 한칩에 패키징 합니다.

CPU에는 LPDDR5를 사용합니다. 모바일 수요에서 서버수요로 LPDDR5 수요 확대가 기대됩니다.

인공지능의 학습과정 다음에는 추론 과정이 있습니다.(LLM → LMM)
LMM(대규모멀티모달모델)은 LLM(대규모언어모델)과 비슷하지만, 텍스트뿐만 아니라 이미지, 오디오, 비디오와 같은 다른 형태의 데이터도 학습하고 생성할 수 있는 인공지능 모델입니다. 텍스트는 메모리를 얼마 차지하지 않지만 이미지와 오디오 비디오는 엄청난 양의 데이터를 사용하고 트래픽을 발생시킵니다.

​LLM은 주로 텍스트 데이터를 기반으로 언어를 이해하고 생성하는 데 사용되지만, LMM은 텍스트와 이미지 사이의 관계를 파악하거나, 이미지를 설명하는 텍스트를 생성하거나, 텍스트를 입력받아 이미지를 생성하는 등의 작업을 수행할 수 있습니다. 예를 들어, LLM은 '고양이가 쥐를 쫓는다'라는 문장을 입력받아 다음 단어를 예측한다. 하지만 LMM은 '고양이가 쥐를 쫓는다'라는 문장을 입력받아 이에 해당하는 이미지를 생성할 수 있다. 또한 LMM은 이미지를 입력받아 그 이미지에 대한 설명을 생성하는 것도 가능합니다.

​LLM은 GPT-3, BERT, XLNet 등과 같은 모델들이 있고, LMM은 GPT-4V, 제미니, 라바 등과 같은 모델들이 있습니다.

감산과 재고증가율의 둔화 및 하반기 소비 시즌(광군제 : 11월 11일, 블랙프라이데이 : 추수감사절 매년 11월 네 번째 주 목요일 다음 금요일) 재고 리스톡킹 기대가 됩니다.

 

최근 기사도 이러한 반도체 사이클의 반등을 보여줍니다.
- 9월 생산·소비·투자 '트리플 증가'… 지난 5월 이후 처음
- 한은 “반도체 경기 내년 회복세 확대… 우리 경제 회복 견인할 것”

반도체는 사이클입니다 DDR4 → DDR5 고부가가치 메모리로의 전환을 기대합니다.

---

시가 총위 순위의 변화는 세상 변화의 흐름을 보여준다고 생각합니다. 좋은 글이 있어서 같이 공유하고자 합니다.(출처 : 엄브렐라 리서치 텔레그램)

 

1) 미국은 MS가 애플을 넘어서느냐 마느냐의 구간, 한국은 SK하이닉스가 LG에너지솔루션을 넘어서느냐 마느냐의 구간

2) MS가 애플을 넘어선다는 의미는 1) 강력한 에져 클라우드로도 넘지 못했던 애플의 아성을 2) AI를 기반으로 한 서비스 및 수익화 전략으로 넘어설 수 있음을 의미

3) PC => 스마트폰 => 클라우드로 넘어갔던 구간에서도 클라우드가 스마트폰을 앞지르지 못했음. 이는 단순히 애플이 스마트폰에 강력한 지배력을 갖고 있을 뿐만 아니라, 애플이 갖고 있는 '반도체 설계력' 때문. 자사칩을 디자인할 수 있는 애플의 팹리스 능력이 애플 제품들의 기술적 우위를 더 견고하게 해 줄 수 있었기 때문. 아무리 클라우드가 뛰어나더라도, B2B 영역을 제외하면 애플의 제품들에게 종속되는 구조였음

4) 그러나 결국 시장이 판단하는 가치는 'AI서버'와 'AI를 응용한 수익화'로 넘어가고 있음. 자체적으로 AI를 구현할 수 있느냐 없느냐의 여부가 시장을 지배하는 다음 플랫폼이 될 것이라는 의미. 빌 게이츠는 이를 AI 비서라고 표현

5) PC => 스마트폰 => 클라우드 => AI로 넘어가는 구간에서 결국 MS가 애플을 따라잡게 된다면, AI는 클라우드와 스마트폰을 넘어선 훨씬 더 큰 시장으로 자리 잡게 될 것. AI가 스마트폰에 종속되지 않는 구조가 될 수 있는 것. 압도적 성능의 AI비서가 탑재되지 않은 스마트폰은 그저 구시대의 유물이 될 수도 있는 것. 즉, 생성형 AI로 인해 클라우드 업체들이 스마트폰 업체들에게 종속받지 않게 되는 구조

6) 우리가 생각해야 할 것은, 당장 이번주 다음 주 시장의 움직임과 이슈들도 있지만 커다란 본질의 변화를 봐야 할 것. 대텔레그램 시대에 더 많은 정보, 더 많은 노이즈와 변수들이 넘쳐나고, 공매도 금지로 인해 수급적으로 더 많은 변동성 구간에 진입했음. 그러나 그럴수록 본질에 집중하는 전략이 필요하다는 생각

7) 미국은 마이크로소프트가 무려 역사적 신고가에 도달했음. 마이크론, 인텔, AMAT, 아마존, 엔비디아가 신고가 영역 부근에 도달했으며, 네덜란드 BESI 또한 역사적 신고가에 도달

8) 이 작은 한국 시장의 수많은 유튜브, 텔레그램에서 나오는 얘기들도 좋지만, 결국 본질의 변화는 이미 진행되고 있음. 전 세계 글로벌 시총 1등이 바뀔 수 있는 구간. 그리고 그 시총 1위에 도전하는 업체(MS)가 가장 중요하게 여기는 AI서버에는 AI GPU가 들어가고, HBM이 필수적으로 탑재되는 구조..

9) 이 전에도 코멘트드렸다시피, 결국 공매도가 있건 없건 신고가에 도달할 수 있는 섹터와 산업, 혹은 기업에 집중하는 게 그 본질. 이렇다 저렇다 아무리 각자의 상황과 입장에 따라 우기고 얘기를 해도, 결국 돈의 흐름은 시대적 변화를 따라 정확하게 그 밸류를 결정해주고 있는 것. 그게 이번 미국 시가총액 사이클에서 변화가 일어날지를 보는 게 중요.

 

---

돈에는 눈이 달려있다. 돈의 흐름이 가장 똑똑하다. 돈은 성장과 수익이 있는 곳으로 흐른다.

 

돈은 다음 세상을 주도할, 세상을 변화시킬 기술에 투자된다. 새로운 기술이 나오면 기존 기술은 구식이 되고 레거시 기술이 된다. 기술은 늘 파괴적 혁신을 해왔다. 기술에 뒤쳐지는 기업은 기업의 생존에 영향을 받는다. 변하지 않으면 살아남을 수 없다.