반도체 1등의 말은 ‘법칙’이 된다 [세상의 모든 기업: 엔비디아 ③]

젠슨 황 엔비디아 CEO / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

당대를 주도한 반도체 기업의 말은 매번 ‘법칙’이 됐다. 실리콘 웨이퍼에 반도체 소자를 집어넣어 ‘집적 회로(IC)’라고 불리는 지금의 반도체를 개발한 ‘페어차일드반도체’에서는 ‘무어의 법칙(1965년)’이 나왔고, 일본 메모리 업체와의 경쟁에서 승리한 삼성전자에서는 ‘황의 법칙(2002년)’이 나왔다. 현재 반도체 업계에서 주목하는 법칙은 그래픽처리장치(GPU)로 AI 반도체 1위 기업이 된 ‘엔비디아’에서 나온 또 다른 ‘황의 법칙(2018년)’이다.

법칙은 당시 반도체 기업들이 추구해야 하는 성능 목표를 제시했지만, 시대가 변하고 방향타를 돌려야 하는 시점에서 이를 가로막는 ‘걸림돌’이 되기도 했다. AI 반도체로 승승장구하는 엔비디아는 이런 ‘법칙의 저주’에서 벗어날 수 있을까.

반도체 1등의 말은 ‘법칙이 된다! 엔비디아의 약점과 한계 그리고 엔비디아성의 ’해자‘ ｜세상의 모든 기업 ’엔비디아③‘ #엔비디아 #젠슨황 #nvidia

■ 무어의 법칙 : 인텔

우리가 흔히 말하는 ‘반도체’는 전기 신호를 켜고 끄는 (0과 1을 만들어내는) 스위치인 ‘트랜지스터’가 여러 개 모여 있는 작은 IC 칩을 말한다. 트랜지스터는 초기에 커다란 진공관 형태였지만, 1950년대 후반에 실리콘 웨이퍼의 작은 조각(다이) 위에 여러 개가 얹히는 방식으로 변한다. 당시 이런 변화를 선도한 업체가 페어차일드 반도체다.

고든 무어 인텔 공동창업자 / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

페어차일드반도체의 창업 멤버였던 고든 무어는 1965년 일렉트로닉스 매거진에 ‘IC 칩에 더 많은 소자 욱여넣기(Cramming More Components onto Integrated Circuits)’라는 글을 발표했다. 페어차일드반도체의 칩을 살펴보니 칩 하나에 집적된 트랜지스터 등 반도체 소자의 수가 1962년에는 8~10개(약 2의 3제곱), 1963년에는 15~20개(약 2의 4제곱), 1964년에는 약 30개(약 2의 5제곱), 1965년에는 50~60개(약 2의 6제곱)로, 1년마다 2배씩 늘어나는 경향을 보였으며 한동안 이런 추세가 쭉 이어질 것이라고 내다봤다. 이른바 ‘무어의 법칙’이다.

“복잡성이 매년 약 2배의 비율로 증가했습니다. 장기적으로 증가율은 좀 불확실하지만 적어도 앞으로 10년 간은 거의 일정하게 유지될 겁니다. 이는 1975년이 되면 최소 비용으로 집적회로 당 구성요소(소자)의 수가 6만5000개가 될 것을 의미합니다”

1968년 고든 무어는 회사 동료인 로버트 노이스와 인텔을 창업했고, 1975년 인텔이 만든 칩에 들어간 소자(트랜지스터, 저항기, 다이오드, 커패시터)의 수가 6만5000개가 되는지 살피는 작업에 들어갔다. 하지만 실제 집적도가 이에 미치지 못하자, 무어는 1년에 2배씩 집적도가 늘어난다는 내용을, 2년에 2배씩 늘어난다는 것으로 수정했다.

무어의 법칙대로 집적도가 2배가 되려면 반도체 선폭이 70%씩 줄어야 한다. / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

무어의 법칙은 경험으로부터 나온 경험칙이지만, 인텔을 필두로 반도체업계는 집적도가 2배가 되도록 목표를 정하고 반도체를 개발하기 시작했다. 예를 들어 1000개의 소자가 넓이 100(가로 10×세로 10)인 공간에 집적됐다면, 다음 번에는 무어의 법칙에 따라 1000개의 소자를 넓이 50(가로 7.07×세로 7.07)인 공간에 욱여넣어야 한다. 면적이 절반으로 줄면서 한변의 길이는 10에서 7.07로 약 70% 줄어든다. 업계에서 반도체 선폭을 90나노→ 65나노→ 45나노→ 28나노→ 20나노→ 14나노→ 10나노→ 7나노→ 5나노→ 3나노로 매번 약 70%씩 줄이는 것도 이 때문이다.

이제는 미세공정의 한계로 ‘무어의 법칙’이 사실상 수명을 다했다는 게 업계 정설이다. 이미 2000년대 초반부터 선폭을 줄이는 난도가 높아지면서 개발 시기가 점점 늦어졌다. 당시 PC용 중앙처리장치(CPU) 1위로 승승장구하던 인텔은 2000~2010년 PC 시대에서 모바일 시대로 넘어가는 과도기에서 CPU의 집적도를 높이는 일에 집착하다가 결국 모바일 AP 시장에 제대로 대응하지 못했다는 지적도 받는다. 무어의 법칙만 좇다가 더 큰 변화의 물결을 보지 못했다는 얘기다.

■황의 법칙 : 삼성전자

인텔이 무어의 법칙만 좇고 있던 2002년, 삼성전자의 황창규 사장이 ‘황의 법칙’을 발표했다. 당시 황 사장은 ‘모바일 시대가 도래하면, 정보 단위가 문자가 아니라 영상이나 음악이 될 것이고, 당연히 정보를 저장하는 메모리 용량이 중요하게 될 수밖에 없다’면서 “메모리가 성장하는 새로운 시장이 열릴 것이고, 반도체 메모리 용량도 매년 2배씩 늘어난다”고 주장했다. 삼성전자의 낸드플래시 메모리 용량이 2000년에 512메가비트(Mb), 2001년 1기가비트(Gb), 2002년 2Gb로 늘었다는 점도 주요 사례로 들었다.

사진 크게보기

삼성전자 낸드플래시 메모리(2003년~2015년) / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

황의 법칙 발표 이후 삼성전자는 2003년 4Gb, 2004년 8Gb, 2005년 16Gb, 2006년 32Gb, 2007년 64Gb 낸드 제품을 개발했지만, 2008년에는 황의 법칙을 따라가는 것을 포기했다. 선폭을 줄이면서 메모리 성능을 높이는 일이 어려워지자 삼성전자가 새로 개발한 방식이 낸드를 위로 쌓아 올리는 3D 낸드(V낸드)다. 업계에서는 더는 낸드의 용량이 아니라, 몇 단까지 위로 쌓을 수 있냐를 두고 치열하게 기술경쟁을 벌인다. 만약 삼성전자가 2008년에도 황의 법칙에 맞추기 위해 무리하게 128Gb 제품을 냈다면 3D 낸드가 제때 빛을 발할 수 있었을까.

■황의 법칙 : 엔비디아

GPU 1위 업체인 엔비디아의 젠슨 황 최고경영자(CEO)도 2018년 ‘황의 법칙’을 내놨다. AI를 작동시키는 실리콘 칩의 성능이 2년마다 2배 이상 높아진다는 내용이다. 미세 공정 기술뿐 아니라, 칩(GPU·CPU·메모리)간 통신 기술, 소프트웨어 기술 등 다양한 기술이 결합하면서 AI를 구동시키는 전체 시스템의 성능을 높인다는 것. 미세 공정의 한계로 ‘무어의 법칙’과 ‘황(창규)의 법칙’이 유효하지 않더라도 다른 여러 기술을 활용하면 성능 향상을 도모해볼 수 있다는 뜻이기도 하다.

엔비디아의 블랙웰 GPU (B200). 두개의 다이를 붙여 하나의 GPU를 만들었고 주변에 8개의 HBM을 배치한 뒤 하나의 칩으로 패키징한 모습. / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

지난달 초 엔비디아가 개최한 연례 개발자 회의(GTC 2024)를 보면, ‘황의 법칙’이 실제 제품에서 어떻게 구현됐는지 쉽게 알 수 있다.

①GPU나 CPU, 메모리 등은 주로 실리콘 웨이퍼의 작은 조각(다이) 하나에 소자가 집적되는 형태로 만드는데, 이번 GTC에서 엔비디아가 공개한 블랙웰 GPU(B200)은 다이 2개를 붙여 하나의 GPU로 만들었다. 덕분에 B200은 트랜지스터 수가 2080억개로, 기존 최고 성능의 GPU였던 H100보다 트랜지스터 수가 2.5배 많다. 연산 속도도 2.5배 빨라졌다.

②B200은 최신 공정인 TSMC 3나노 공정에서 이뤄지지 않았다. 전작인 H100과 같은 TSMC 4나노 공정에서 만들어졌다. 무어의 법칙 대비 ‘선폭의 중요성’이 낮아졌다는 뜻이기도 하다.

③B200 옆에는 고대역폭 D램인 HBM을 8개 붙이고 B200과 함께 포장(2.5D 패키징)했다. 이는 대규모 데이터를 고속으로 처리하는 HBM을 GPU 바로 옆에 붙이고 GPU와 HBM 사이의 통신 신호를 빠르게 연결해 AI 학습·추론 성능을 높이는 포장 방식이다.

④엔비디아는 이번 행사에서 B200 GPU 2개와 CPU 1개를 붙여서 만든 슈퍼칩 ‘그레이스 블랙웰’을 공개했는데, GPU와 CPU가 잘 통신하도록 하는 데에 ‘NV링크’라는 기술이 쓰였다. 다만 엔비디아는 CPU 설계 업체가 아니다. 엔비디아는 ‘핵심 설계도면’인 ‘반도체 IP’를 제공하는 영국업체 암(ARM)의 기술을 빌려와 슈퍼칩에 들어가는 CPU를 제작했다.

엔비디아의 그레이스 블랙웰 슈퍼칩. 그레이스 CPU 1개와 블랙웰 GPU 2개를 붙여 기판 형태로 만들었다. CPU와 GPU 간의 통신에는 ‘NV링크’라는 기술이 쓰였다. / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

다만 ‘황의 법칙’을 가능케 한 이런 기술들은 엔비디아의 경쟁자인 AMD와 인텔이 앞서 개발한 기술이기도 하다. 예컨대 HBM은 원래 엔비디아의 경쟁사인 AMD가 SK하이닉스와 함께 공동 개발해 만든 제품이다. 또 컴퓨팅 성능을 높이려면 CPU와 GPU가 호환이 잘 돼야 하는데, 경쟁사인 AMD와 인텔은 엔비디아와 달리 CPU와 GPU를 모두 개발한다. CPU 설계 역량이 부족한 엔비디아는 2020년 영국의 암(ARM)을 인수하려 했지만, 당시 엔비디아의 독점력이 강해지는 것을 우려한 미국·유럽·중국 경쟁당국 등의 반대로 인수가 무산됐다.

또 최근 AI 반도체로 주목받는 반도체가 용도에 맞게 프로그램을 할 수 있는 ‘FPGA 반도체’인데, 1위 업체인 ‘자일링스’와 2위 업체인 ‘알테라’가 각각 AMD와 인텔에 인수됐다. ‘황의 법칙’을 가능케 하는 CPU와 FPGA 관련 기술에서는 AMD와 인텔이 엔비디아보다 우위에 있다는 얘기다.

■법칙의 저주?

챗GPT 이후 생성형 AI와, 인공일반지능(AGI·인간과 유사한 능력을 갖춘 AI)에 대한 관심이 높아지면서 앞으로도 상당기간 AI 시장은 커질 전망이다. 다만 미래에 AI 시장이 원하는 반도체의 사양이 엔비디아의 고사양 GPU라는 보장은 없다. 엔비디아가 칩 성능을 2배 이상으로 높이는 ‘황의 법칙’에만 집착한다면 시대의 변화를 읽지 못할 수도 있다는 뜻이다. 앞서 CPU의 집적도와 성능에만 집착하다가 모바일 시대를 놓친 인텔의 선례도 있다.

NPU / 경향신문 공식 유튜브 채널 경향티비 ‘세상의 모든 기업’ 영상 캡처

지금은 다양한 종류의 AI 알고리즘을 빠르게 처리하는 범용성 높은 GPU가 대세이지만, GPU는 가격이 비싸고 어마어마한 양의 전력을 사용해야 하기 때문에 AI 서비스업체들은 어려움을 호소한다. 업계에서는 돈을 불태운다는 뜻의 ‘캐시 버닝’이라는 얘기까지 나온다. 이에 특정 AI 알고리즘 정도만 빠르게, 저전력, 저비용으로 처리할 수 있는 ‘NPU(신경망가속기, 신경망처리장치)’ 시장이 조금씩 열리고 있다.

지금까지는 엔비디아의 ‘쿠다’를 활용해 AI 프로그래밍을 하다 보니 어쩔 수 없이 엔비디아의 GPU를 쓰는 업체들도 있었다. 앞으로 ‘쿠다의 편리성’ 대비 ‘엔비디아 GPU 비용’이 더 크다고 판단하는 AI 업체들이 늘어난다면? 그동안 ‘해자’로 작용했던 쿠다의 영향력이 줄어들 가능성도 있다. 쿠다 만큼의 영향력은 없지만 쿠다를 대체할 만한 다양한 플랫폼들이 이미 등장하기 시작했다.

이 상황에서 중요한 건 ‘엔비디아 주식을 사느냐, 마느냐’란 질문이 아니다. 관전 포인트는 따로 있다. ‘엔비디아는 법칙의 저주에서 자유로울 수 있을 것인가?.’ 젠슨 황 CEO는 GTC 2024에서 이 질문의 답을 일부 내놓기도 했다.

경향신문 공식 유튜브 채널 ‘경향티비’의 <세상의 모든 기업>에서는 엔비디아에 대한 더 자세한 이야기를 들을 수 있다. 경향티비 <세상의 모든 기업: 엔비디아③> 영상 링크는 https://youtu.be/d36pdQRi8Tw?si=ctfoCBH_foo3zBxL

참고자료
1. 크리스 밀러(2023), <칩워>, 부키
2. 고든 무어, ‘IC 칩에 더 많은 소자 욱여넣기(Cramming More Components onto Integrated Circuits)’ 일렉트로닉스 매거진. 1965년
3. 스티븐 위트, ‘젠슨 황의 엔비디아가 AI 혁명을 주도하는 방법(How Jensen Huang’s Nvidia Is Powering the A.I. Revolution)’ 뉴요커, 2023년 11월 27일.
4. 세콰이어캐피탈 팟캐스트(2023), 하룻밤에 성공한 엔비디아의 30년 이야기(Nvidia: An Overnight Success Story 30 Years in the Making)
5. 정인성(2022), <반도체 제국의 미래>, 이레미디어
6. 석민구 외 (2023), <차세대 반도체>, 플루토