[심층기획] FSD v14 '라이트', 구형 두뇌에 새 지능을 욱여넣다 & SK하이닉스, LLM 추론의 숨은 병목을 메모리 속에서 풀다

FSD v14 '라이트', 구형 두뇌에 새 지능을 욱여넣다

테슬라 HW3 차량 심층 기획

FSD v14 '라이트', 구형 두뇌에 새 지능을 욱여넣다 — 테슬라 HW3의 마지막 승부수

2019년, 테슬라는 엔비디아의 범용 칩 대신 자체 설계한 자율주행 전용 반도체 '하드웨어 3(HW3)'를 처음으로 차량에 얹었다. 초당 144조 번의 연산(144TOPS)을 처리하는 이 칩 덕분에 테슬라는 8개 카메라 영상을 모두 실시간으로 처리할 수 있게 됐고, 이후 4년 가까이 수백만 대의 모델 3·Y·S·X에 탑재되며 완전자율주행(FSD) 기능의 심장 노릇을 해왔다. 문제는 그 사이 테슬라의 신경망 자체가 몰라보게 커졌다는 점이다. 2023년 이후 출시된 '하드웨어 4(HW4, 일명 AI4)' 차량은 HW3보다 훨씬 강력한 연산 능력을 갖췄고, 최신 버전인 FSD v14 시리즈는 처음부터 이 HW4의 성능을 전제로 설계됐다. 결과적으로 수년 전 FSD 기능을 구매하고 기다려온 HW3 차주들은 "돈은 냈는데 최신 기능은 구경도 못 한다"는 불만을 쌓아왔고, 이는 최근 테슬라를 향한 법적 압박으로도 이어지고 있다.

사진: Wikimedia Commons, CC BY-SA 4.0 (테슬라 모델 3 전방 카메라 클러스터 — FSD가 시각 정보를 받아들이는 창구)

이런 배경 속에서 지난 7월 21일, 테슬라는 소프트웨어 버전 2026.20.6.11을 HW3 차량에 광범위하게 배포하기 시작했다. 테슬라 AI 총괄 애슉 엘루스와미(Ashok Elluswamy)가 예고했던 'FSD v14 라이트'의 정식 확산으로, 흥미로운 점은 이 버전의 펌웨어 번호가 HW4용 최신 버전인 FSD v14.3.6과 사실상 동일하게 통합됐다는 사실이다. 즉 테슬라는 HW4에서 다듬어진 v14 시리즈의 주행 행동을 통째로 옮기는 대신, 이를 HW3의 훨씬 좁은 연산 예산에 맞게 압축해 이식하는 방식을 택했다. 인공지능 분야에서 흔히 '지식 증류(knowledge distillation)'라고 부르는 이 접근은, 덩치 큰 '교사' 모델이 학습한 판단 능력을 작고 가벼운 '학생' 모델에 최대한 옮겨 담는 기법이다. 이번 업데이트로 HW3 차량은 불필요한 감속이 줄고 조향이 더 매끄러워졌으며, 차선 중앙 유지와 차량 합류·보행자 대응·신호 처리·끼어들기 상황에서의 판단력이 개선됐다. 주차 시작 시 매번 브레이크를 밟아 확인하던 절차도 이제 끄고 켤 수 있게 됐다.

다만 테슬라 스스로도 인정하듯, HW3는 지식 증류를 아무리 정교하게 하더라도 HW4와 같은 수준의 완성도에는 끝내 도달할 수 없다는 물리적 한계를 안고 있다. 카메라 8개의 고해상도 영상을 실시간으로 해석해야 하는 대형 신경망을 2019년산 14나노 칩 하나에 욱여넣는 일은, 비유하자면 대학교 강의 내용을 초등학생도 이해할 수 있게 압축하면서도 핵심은 놓치지 않아야 하는 작업과 비슷하다. 그럼에도 이번 조치가 의미 있는 이유는, 테슬라가 신형 하드웨어에만 자원을 몰아주는 대신 구형 차량에도 최신 신경망의 '축소판'을 계속 공급하겠다는 신호를 보였기 때문이다. 로보택시와 사이버캡 등 신형 하드웨어 중심의 자율주행 사업이 속도를 내는 지금, 수백만 대에 달하는 HW3 차주들의 신뢰를 붙잡아 둘 수 있을지, 그리고 이번 '라이트' 버전이 향후 이어질 법적 분쟁의 향방에 어떤 영향을 줄지가 계속 지켜볼 대목이다.

SK하이닉스, LLM 추론의 숨은 병목을 메모리 속에서 풀다

'StreamDQ' HBM 근접 메모리 기술 심층 기획

SK하이닉스, LLM 추론의 숨은 병목을 메모리 속에서 풀다 — 'StreamDQ'가 그리는 새로운 HBM

거대언어모델(LLM)을 실제 서비스에 올릴 때 가장 먼저 부딪히는 문제 중 하나가 모델의 '몸집'이다. 수천억 개에 달하는 파라미터(가중치)를 원래 정밀도 그대로 GPU 메모리에 올리면 감당이 안 되기 때문에, 업계는 '양자화(quantization)'라는 기법으로 가중치의 정밀도를 낮춰 용량을 줄인 채로 저장해 둔다. 문제는 이렇게 압축해 둔 가중치를 실제 연산에 쓰려면 매번 원래 정밀도로 되돌리는 '역양자화(dequantization)' 과정을 거쳐야 한다는 점이다. 지금까지 이 작업은 GPU의 범용 연산 코어인 CUDA 코어가 도맡아 왔는데, 대규모 배치로 수많은 요청을 동시에 처리해야 하는 클라우드급 LLM 서비스에서는 이 역양자화 과정 자체가 상당한 명령어 오버헤드와 칩 내부 데이터 이동, 파이프라인 지연을 일으키는 새로운 병목으로 떠올랐다.

이미지: Wikimedia Commons, CC BY-SA 4.0 (고대역폭메모리 HBM의 적층 구조 개략도 — 로직 다이 위에 D램이 여러 층 쌓이는 형태)

SK하이닉스 연구팀(정민기, 윤대건, 안수홍, 이승용 등 10명)은 이 병목을 아예 메모리 쪽으로 옮겨버리는 방식으로 접근했다. 지난 7월, 이들은 'StreamDQ: 확장 가능한 AI 추론 가속을 위한 커스텀 HBM 내 근접 메모리 가중치 역양자화'라는 제목의 논문을 공개했다. 핵심 아이디어는 HBM(고대역폭메모리)의 가장 아래층인 '베이스 다이'에 소형 역양자화 회로 블록(DQB)을 심어 두는 것이다. GPU가 메모리에서 압축된 가중치를 읽어오는 그 순간, 회로가 곧바로 압축을 풀어 정상 정밀도의 값으로 GPU에 건네준다. 이렇게 하면 GPU 쪽 CUDA 코어가 별도로 역양자화 연산을 수행할 필요가 없어져 칩 내부 데이터 이동이 줄어들고, 특히 배치 크기가 커질 때 압축 해제된 가중치를 다시 HBM에 썼다가 재차 불러오는 비효율적인 왕복 작업도 사라진다.

연구팀이 12나노 CMOS 공정으로 실제 설계해 검증한 결과는 상당히 인상적이다. 혼합 정밀도 행렬 연산(mixed-precision GEMM)에서 최대 7.08배의 속도 향상과 90.23% 낮은 에너지 소모를 달성했으며, 이 모든 기능을 담은 DQB 회로 하나가 차지하는 면적은 0.127제곱밀리미터, 추가 전력은 0.355와트에 불과했다. 실제 LLM 추론 전체 과정으로 확장해도 효과는 뚜렷해서, 응답 지연 시간은 최대 54.68% 줄었고 토큰을 생성하는 디코드 단계의 처리량은 최대 2.20배 향상됐다. 메모리 반도체 기업이 단순히 '더 빠르고 큰 저장 장치'를 만드는 데서 나아가, 연산의 일부 기능까지 메모리 안으로 끌어들이는 이른바 '근처리 메모리(near-memory computing)' 설계에 직접 뛰어든 사례라는 점에서 주목할 만하다.

이 연구가 갖는 무게는 지금 AI 업계가 마주한 현실과 맞닿아 있다. 오픈AI, 구글, 앤스로픽 등 프런티어 모델 기업들이 매달 더 큰 모델을 쏟아내면서, 데이터센터의 전력 소비와 GPU 확보 비용은 이미 산업 전체의 최대 화두로 떠올랐다. SK하이닉스처럼 HBM을 공급하는 메모리 기업이 GPU 제조사의 영역이었던 연산 최적화에까지 손을 뻗는다는 것은, 앞으로 HBM이 단순한 '데이터 저장 창고'가 아니라 GPU와 함께 연산을 분담하는 파트너로 진화할 수 있음을 시사한다. 차세대 HBM4·HBM4E 표준 경쟁이 한창인 가운데, 이런 근접 메모리 기술이 실제 상용 제품에 얼마나 빠르게 반영될지가 앞으로 메모리 업계의 중요한 관전 포인트가 될 전망이다.