05. Agentic AI는 HBM·서버 DRAM·기업용 SSD를 더 많이 필요로 한다
AI INDUSTRY ESSAYS · 05
추론에는 HBM, 실행에는 서버 DRAM, 문맥 재사용에는 기업용 SSD가 필요합니다
2026년 10월 13일 KST 기준 · 공식 기술 문서·제품 자료·공동 연구 검토
대규모 데이터센터에서 긴 문맥과 여러 작업을 동시에 처리하는 Agentic AI는 HBM, 서버 DRAM, 기업용 SSD를 더 많이 필요로 합니다. HBM은 지금 추론하는 문맥을, 서버 DRAM은 실행 중인 작업과 확장된 문맥을, SSD는 다시 사용할 문맥과 데이터를 맡습니다. HDD 수요는 그중 얼마나 많은 데이터를 오래 보관하고 다시 불러오느냐에 달려 있습니다.
핵심 수요는 HBM·서버 DRAM·기업용 SSD입니다
활성 추론에는 HBM, 도구 실행과 문맥 확장에는 서버 DRAM, 문맥 재사용에는 기업용 SSD가 필요합니다. TLC는 잦은 갱신과 낮은 지연시간, QLC는 읽기 중심의 큰 데이터 집합, HDD는 경제적인 대용량 보관이 수요의 중심입니다. 이는 대규모 에이전트 서비스가 확대될 때의 수요 경로에 대한 판단입니다. 모든 서비스의 부품 사용량이나 세 시장의 성장률이 같은 비율로 늘어난다는 뜻은 아닙니다.
1. DRAM과 HBM부터 같은 기준으로 분류해야 합니다
HBM은 DRAM과 별개의 원리를 쓰는 저장장치가 아닙니다. 여러 DRAM 칩을 쌓고 넓은 연결 통로를 확보한 고대역폭 메모리입니다. 따라서 산업 수요를 합산할 때 ‘전체 DRAM + HBM’을 더하면 HBM을 중복 계산할 수 있습니다. 제목의 ‘서버 DRAM’과 본문의 HBM과 구분한 일반 DRAM은 데이터센터에서 쓰는 DDR5·LPDDR 계열의 시스템 메모리를 뜻합니다. [1]
SSD는 주로 NAND 플래시를 쓰는 비휘발성 저장장치입니다. TLC는 셀당 3비트, QLC는 4비트를 저장하는 방식입니다. HDD는 자성 매체에 데이터를 기록합니다. 이들은 ‘좋은 메모리에서 나쁜 메모리로 내려가는 순위’가 아니라, 속도·용량·전력·내구성과 비용을 다르게 조합하는 선택지입니다. SSD 제품의 성능도 NAND 종류 하나로 결정되지 않습니다. [7][8]
에이전틱 AI에서 맡는 대표 역할 · 실제 배치는 시스템마다 다릅니다
구분: HBM
주로 맡는 일: 가속기의 모델 연산, 활성 KV 캐시
먼저 확인할 성능: 대역폭, 가속기당 용량, 전력
수요를 늘리는 조건: 추론 가속기 확대, 긴 문맥, 높은 동시성
구분: 일반 DRAM
주로 맡는 일: CPU 작업 공간, 실행 상태, 메모리 캐시, 문맥 확장
먼저 확인할 성능: 서버당 용량, 대역폭, 전력, 연결 구조
수요를 늘리는 조건: 도구 실행·검색·샌드박스와 동시 작업 증가
구분: 기업용 TLC SSD
주로 맡는 일: 빈번한 읽기·쓰기, 빠른 재로딩, 성능 중심 캐시
먼저 확인할 성능: 지연시간, 지속 쓰기 성능, 내구성
수요를 늘리는 조건: 반복적인 상태 갱신과 지연에 민감한 데이터 접근
구분: 기업용 QLC SSD
주로 맡는 일: 읽기 중심의 큰 데이터 집합, 고밀도 저장
먼저 확인할 성능: 유효 용량, 읽기 성능, 쓰기 조건, 총비용
수요를 늘리는 조건: 자주 읽지만 덜 고쳐 쓰는 문서·데이터 증가
구분: 대용량 HDD
주로 맡는 일: 데이터 레이크, 기록·결과물, 계층형 캐시의 용량층
먼저 확인할 성능: TB당 총비용, 집합 처리량, 복구 시간
수요를 늘리는 조건: 긴 보관 기간, 큰 데이터 집합, 낮은 긴급도
여기서 KV 캐시는 모델이 앞서 읽은 문맥의 계산 결과를 재사용하기 위해 저장한 값입니다. 사용자의 업무 기록이나 데이터베이스 전체와 같은 뜻은 아닙니다. 일반 업무 데이터와 재생성할 수 있는 계산 캐시는 보관 기간과 보호 수준도 다르게 설계할 수 있습니다. [3][6]
2. 답변 길이보다 동시 작업과 문맥이 중요합니다
한 에이전트가 자료를 찾고, 파일을 열고, 코드를 실행하고, 결과를 다시 검토한다고 생각해 보겠습니다. 최종 보고서는 짧아도 그 사이에 읽은 문서, 실행 중인 프로그램, 여러 하위 에이전트의 작업 상태가 존재합니다. 실제 에이전트 프레임워크도 파일 시스템, 하위 에이전트, 문맥 요약과 외부 저장을 별도 기능으로 다룹니다. [2]
따라서 하루 생성한 토큰 수만으로 필요한 메모리 용량을 정할 수 없습니다. 같은 시점에 몇 개의 문맥이 살아 있는지, 각각 얼마나 긴지, 얼마나 오래 유지하는지가 중요합니다. 일을 순차적으로 처리하는 에이전트 100개와 한꺼번에 처리하는 에이전트 100개는 최대 메모리 요구량이 다릅니다.
일반적인 전체 어텐션 모델의 KV 캐시 용량 ≈ 2(K와 V) × 층 수 × KV 헤드 수 × 헤드 차원 × 값당 바이트 × 문맥 토큰 수 × 동시 문맥 수
규모를 보기 위한 가정으로 32개 층, KV 헤드 8개, 헤드 차원 128, 값당 2바이트를 적용하면 토큰당 KV 캐시는 131,072바이트, 즉 128KiB입니다. 이 가정의 산식은 다음처럼 연결됩니다. 특정 상용 모델의 실측치가 아니며 모델 가중치, 연산용 임시 메모리, 복제와 관리 오버헤드는 제외합니다. [3]
동일 모델 구조를 가정한 직접 계산 · 1GiB = 2³⁰바이트
문맥 길이: 32,768토큰
동시 문맥: 1개
문맥당 KV 캐시: 4GiB
합계: 4GiB
문맥 길이: 32,768토큰
동시 문맥: 16개
문맥당 KV 캐시: 4GiB
합계: 64GiB
문맥 길이: 131,072토큰
동시 문맥: 16개
문맥당 KV 캐시: 16GiB
합계: 256GiB
문맥 길이: 131,072토큰
동시 문맥: 64개
문맥당 KV 캐시: 16GiB
합계: 1TiB
문맥이 네 배 길어지고 동시 문맥도 네 배 늘면 이 예시의 KV 용량은 16배가 됩니다. 하지만 이를 모든 모델의 증가율로 사용하면 안 됩니다. 실제 KV 헤드 수, 압축 정밀도, 슬라이딩 윈도, 잠재 어텐션 구조, 캐시 공유 여부에 따라 필요량이 크게 달라집니다. 계산의 의미는 ‘AI 이용자 수’보다 더 구체적인 수요 변수를 보자는 데 있습니다.
3. HBM은 용량과 대역폭을 함께 봐야 합니다
HBM은 큰 모델의 가중치와 활성 문맥을 가속기 가까이에 두고, 연산에 필요한 데이터를 빠르게 공급합니다. 용량이 부족하면 처리할 수 있는 문맥과 동시 요청이 제한되고, 대역폭이 부족하면 연산기가 데이터를 기다릴 수 있습니다. HBM 수요를 설명할 때 ‘모델이 커지니 메모리가 더 필요하다’에서 끝내면 절반만 보는 셈입니다. [1][4]
에이전틱 AI에서는 긴 문맥과 반복 추론이 이러한 압력을 높일 수 있습니다. 다만 모든 추론이 항상 메모리 대역폭에만 묶이지는 않습니다. 입력을 한꺼번에 처리하는 단계와 새 토큰을 순차 생성하는 단계, 배치 크기와 모델 구조에 따라 연산·메모리·통신 중 병목이 달라집니다. 필요한 것은 제품의 최고 수치보다 목표 응답시간에서 실제로 처리한 업무량입니다.
캐시 일부를 DRAM이나 SSD로 옮기면 제한된 HBM을 더 효율적으로 쓸 수 있습니다. 그렇다고 SSD가 HBM을 같은 용량만큼 대체하는 것은 아닙니다. 활성 데이터를 다시 올리는 통로와 시간이 필요하기 때문입니다. 가속기 한 대가 더 많은 요청을 처리하게 되면 업무당 HBM 부담은 낮아질 수 있고, 서비스 이용 확대가 충분히 크면 전체 HBM 구매량은 동시에 늘 수 있습니다. 두 변화는 서로 모순되지 않습니다. [6]
4. 일반 DRAM은 실행하는 AI의 작업 공간입니다
AI가 생각한 뒤 행동하려면 CPU와 일반 소프트웨어가 움직입니다. 웹페이지와 파일을 처리하고, 검색 색인을 조회하고, 코드를 실행하며, 여러 작업의 진행 상태를 관리합니다. 이런 실행 환경이 동시에 늘면 일반 DRAM의 작업 공간도 중요해집니다. 모든 에이전트가 별도의 서버나 운영체제를 요구하는 것은 아니지만, 격리된 실행 환경과 살아 있는 데이터가 많아질수록 메모리 예산은 커질 수 있습니다. [2]
일반 DRAM에는 추론의 문맥 확장 역할도 있습니다. Micron은 HBM 밖으로 KV 캐시를 옮기는 LPDDR 계층을 분석했고, 삼성전자는 CXL 기반 DRAM 풀을 활용한 KV 오프로딩 실험을 공개했습니다. 이는 HBM 바깥의 메모리도 추론 효율을 좌우할 수 있다는 사례입니다. 다만 해당 백서의 성능은 특정 연결 구조·소프트웨어·캐시 적중 조건에서 나온 결과입니다. ‘CXL만 붙이면 모든 서버 성능이 오른다’는 뜻은 아닙니다. [5][12]
제품화도 진행되고 있습니다. Micron은 2026년 9월 30일 실적 발표에서 512GB DDR5 RDIMM의 샘플 공급, 고속 서버 RDIMM의 복수 고객 인증 완료, 서버용 LPDDR SOCAMM 매출의 전 분기 대비 두 배 이상 증가를 발표했습니다. 샘플 공급과 인증, 매출 증가는 서로 다른 단계의 지표입니다. 이를 모두 Agentic AI가 만든 수요라고 단정할 수는 없지만, 고용량·고효율 서버 메모리가 실제 사업으로 확대되고 있다는 근거는 됩니다. [9]
투자 관점에서 중요한 수요는 서버 대수뿐 아니라 서버당 메모리 탑재량과 전력 효율입니다. DDR5 고용량 모듈이 유리한 시스템도 있고, LPDDR 계열을 활용해 전력·면적을 줄이는 시스템도 있습니다. 메모리 풀을 여러 서버가 나눠 쓰면 과잉 탑재를 줄일 수도 있습니다. 따라서 AI 서버 증가율을 일반 DRAM 비트 수요 증가율로 그대로 대입하면 안 됩니다.
5. SSD는 TLC와 QLC의 수요가 다릅니다
SSD 수요는 ‘AI가 데이터를 많이 만든다’보다 그 데이터를 얼마나 자주 다시 읽고 고쳐 쓰는가로 나눠야 합니다. 작업 중간 상태와 캐시를 자주 갱신하는 영역에는 지속 쓰기 성능과 내구성이 중요합니다. 반면 문서 집합이나 다시 읽을 데이터가 크고 쓰기는 상대적으로 적다면 높은 저장 밀도와 읽기 성능의 가치가 커집니다.
NAND 방식은 출발점이며 최종 판단은 제품 사양과 실제 작업 부하로 합니다
비교 항목: 잘 맞는 수요
TLC 중심으로 살펴볼 영역: 잦은 상태 갱신, 쓰기가 많은 캐시, 낮은 지연시간을 요구하는 작업
QLC 중심으로 살펴볼 영역: 대용량 읽기 중심 데이터, 문서·벡터 데이터의 저장층, 재사용 데이터 집합
비교 항목: 핵심 확인값
TLC 중심으로 살펴볼 영역: 지속 쓰기 속도, 쓰기 내구성, 작은 I/O의 지연시간 분포
QLC 중심으로 살펴볼 영역: 실사용 TB당 비용, 읽기 지연·처리량, 허용 쓰기량과 쓰기 패턴
비교 항목: 오해하기 쉬운 점
TLC 중심으로 살펴볼 영역: TLC이면 모든 제품이 고내구성·최고 성능인 것은 아님
QLC 중심으로 살펴볼 영역: QLC가 읽기 전용이거나 AI에 부적합한 것은 아님
비교 항목: 구매 판단
TLC 중심으로 살펴볼 영역: 호스트 쓰기량과 증폭·여유 공간·수명 조건을 제품별 대조
QLC 중심으로 살펴볼 영역: 용량 이점이 실제 랙·전력·운영 비용 절감으로 이어지는지 확인
같은 제조 세대와 유사한 설계를 놓고 보면 셀당 비트 수를 늘리는 QLC는 밀도를 높이는 대신 쓰기와 내구성 설계의 부담이 커집니다. 그러나 컨트롤러, 병렬화, 펌웨어, 예비 공간과 제품 세대가 결과를 바꿉니다. 특정 TLC SSD의 최대 순차 속도와 다른 QLC SSD의 최대 용량만 비교해서 승자를 정할 수는 없습니다. 작은 임의 접근과 긴 연속 읽기는 서로 다른 시험입니다. [7][8]
내구성도 ‘하루 몇 번 전체를 쓸 수 있는가’를 뜻하는 DWPD만 비교하면 부족합니다. 예를 들어 가정상30TB 제품의 1 DWPD와 100TB 제품의 0.3 DWPD는 명목상 둘 다 하루 30TB의 호스트 쓰기 예산입니다. 실제 적용에는 보증 기간, 임의·순차 쓰기 조건, TBW 한도와 쓰기 증폭을 확인해야 합니다. 낮은 DWPD가 곧 낮은 절대 쓰기 허용량은 아닙니다.
실제 제품에서도 쓰기 조건에 따라 사양이 달라집니다. Micron 6600 ION의 61.44TB 이상 QLC 제품은 2026년 9월 자료에서 128KB 순차 쓰기 1.0 DWPD, 4KB 임의 쓰기 0.075 DWPD로 제시됩니다. 이는 해당 패턴의 참고용 이론 최대 내구성으로, 보증값과는 구분해야 합니다. 같은 SSD의 수치조차 이렇게 달라집니다. [8]
NVIDIA는 2026년 3월 STX·CMX를 통해 공유 플래시를 추론 문맥의 별도 계층으로 제시했습니다. 이 방향은 SSD가 단순한 모델 파일 보관 장소를 넘어 재사용할 계산 상태를 다루게 된다는 뜻입니다. 다만 발표 당시 파트너 시스템의 공급 시점은 하반기 예정이었고, 설계 발표를 전체 고객의 도입 완료로 읽어서는 안 됩니다. 어떤 시스템이 TLC와 QLC를 얼마나 탑재하는지도 별도로 확인해야 합니다. [6][13]
실제 출하도 확인할 수 있습니다. Micron은 2026년 9월 30일 발표에서 7600·9650 SSD가 주요 고객의 KV 캐시 용도로 출하 중이며, 6600 ION의 물량도 확대됐다고 밝혔습니다. 이는 특정 공급사의 제품 출하 근거입니다. AI 전체 SSD 시장의 성장률이나 각 제품의 수익성이 공개됐다는 뜻은 아닙니다. [9]
6. HDD도 AI 수요와 연결됩니다
HDD는 큰 데이터 집합을 상대적으로 낮은 비용으로 오래 보관하는 영역에서 역할을 갖습니다. 기업 문서와 원천 데이터, 로그, 결과물, 학습·평가용 데이터가 쌓이면 대용량 저장 기반이 필요합니다. 다만 모든 데이터를 장기간 보관하는 것은 아닙니다. 보관 기간과 재사용 가치가 구매 용량을 결정합니다.
최신 흐름에서 HDD를 ‘AI와 무관한 백업 장치’로만 보는 것도 정확하지 않습니다. SK hynix와 Seagate의 공동 백서는 SSD와 HDD를 함께 사용한 KV 캐시 오프로딩을 실험했습니다. 오래된 KV를 HDD에 두고, 다시 사용할 때 SSD로 불러온 뒤 후속 요청을 SSD에서 처리하는 구조입니다. 공개 구성에는 SSD 4개와 HDD 12개가 사용됐습니다. [10]
이 사례가 보여 주는 것은 HDD가 활성 추론용 HBM을 대체한다는 사실이 아닙니다. 첫 재접근의 지연을 감수하고 이후 재사용을 빠른 계층에서 처리하면, HDD를 더 큰 캐시 저장소의 용량층으로 쓸 수 있다는 가능성입니다. 해당 실험은 합성 다중 턴 작업을 사용했고, 처음 HDD에서 읽을 때의 지연과 이후 SSD 적중 때의 성능을 구분합니다. 이 결과만으로 모든 실시간 AI 서비스에 같은 이득이 난다고 말할 수는 없습니다. [10]
따라서 HDD에서 봐야 할 것은 PC용 출하 대수보다 데이터센터용 대용량 수요, 출하 바이트와 가격, 실제 저장 시스템의 비용입니다. QLC SSD가 전력·공간·성능을 포함한 총비용에서 유리해지는 영역은 HDD와 경쟁할 수 있고, SSD가 앞단의 빠른 접근을 맡아 HDD 용량층의 활용을 높이는 경우에는 서로 보완합니다.
7. 어느 수요가 가장 중요한가
활성 추론의 기반은 HBM이고, 에이전트가 작업을 이어 가면서 생기는 추가 수요는 서버 DRAM과 기업용 SSD에서 확인해야 합니다. TLC는 잦은 갱신과 빠른 재로딩, QLC는 큰 읽기 중심 데이터 집합이 핵심입니다. HDD는 보관량과 첫 재접근의 지연을 감수할 수 있는지가 구매를 결정합니다. 이는 수요가 생기는 경로의 구분이며, 시장 성장률이나 투자 수익률의 순위는 아닙니다. [6][7][10]
실제 구매의 우선순위는 서비스의 병목에 따라 달라집니다. 다음 항목은 공개 구조를 바탕으로 한 분석상의 구분입니다.
업무의 병목을 먼저 찾고 부품 수요를 연결합니다
늘어나는 업무: 긴 문맥을 가진 실시간 추론
우선 확인할 수요: HBM 대역폭·용량, DRAM 문맥 확장
이 수요가 중요한 이유: 활성 작업을 담고 목표 응답시간을 지켜야 함
늘어나는 업무: 여러 에이전트의 동시 코드·도구 실행
우선 확인할 수요: 일반 DRAM, 쓰기·지연 성능을 갖춘 SSD
이 수요가 중요한 이유: 실행 환경과 상태 갱신이 연산 외 병목이 될 수 있음
늘어나는 업무: 큰 문서 집합의 반복 검색
우선 확인할 수요: DRAM 색인·캐시와 기업용 SSD의 읽기 성능
이 수요가 중요한 이유: 원문 저장 용량과 실제 검색·회수 속도를 함께 확보해야 함
늘어나는 업무: 장시간 중단 후 재개하는 작업
우선 확인할 수요: 재사용률에 맞춘 DRAM·SSD·HDD 계층
이 수요가 중요한 이유: 보관·재로딩 비용이 다시 계산하는 비용보다 낮아야 함
늘어나는 업무: 대규모 데이터와 기록의 장기 보관
우선 확인할 수요: HDD와 고밀도 QLC SSD의 총비용 경쟁
이 수요가 중요한 이유: 낮은 접근 빈도에서는 용량과 보관비의 중요성이 높아짐
에이전틱 AI와 가장 직접적으로 연결되는 수요는 동시에 유지하는 작업 공간과 재사용할 문맥을 제시간에 공급하는 능력입니다. HBM만의 이야기보다 넓고, 모든 데이터 저장량의 증가보다 좁습니다. 저장 공간이 부족한 서비스와 네트워크가 막힌 서비스는 같은 SSD를 추가해도 결과가 다릅니다.
이 때문에 ‘AI 매출이 늘면 NAND도 같은 비율로 는다’보다 좋은 질문은 ‘완료 업무 한 건당 얼마나 많은 데이터를 남기고, 그중 얼마를 얼마나 빨리 다시 읽는가’입니다. 용량보다 처리량이 먼저 부족해 장치를 더 사는 경우도 있고, 같은 장치의 활용률을 높여 신규 구매를 늦추는 경우도 있습니다.
8. 토큰 증가율을 메모리 성장률로 바꾸면 안 됩니다
수요를 누르는 요인도 함께 존재합니다. 캐시 양자화는 값의 정밀도를 낮춰 용량을 줄이고, 캐시 공유는 같은 내용을 중복 보관하는 부담을 줄일 수 있습니다. 오래된 문맥을 요약하거나 필요할 때만 검색하면 한꺼번에 올려 둘 데이터가 줄어듭니다. 반대로 다시 읽는 비용이 크면 일정 시간 보관하는 편이 유리해집니다. [2][3]
vLLM의 프리픽스 캐싱은 같은 앞부분을 가진 요청의 KV를 재사용해 입력 처리의 반복을 줄입니다. 공식 문서는 이 기능이 입력 처리 단계의 시간을 줄이며, 새 토큰을 생성하는 단계의 시간까지 직접 줄이는 것은 아니라고 구분합니다. ‘캐시 적중률이 높다’는 사실만으로 전체 추론 시간이 같은 비율로 줄었다고 해석할 수 없습니다. [11]
재사용 캐시를 보관할 경제적 이유 = 피할 수 있는 재계산 비용 − 보관·전송·검색·운영 비용
장기 저장 용량의 기초 = 하루 신규 저장 바이트 × 보관 일수 × 보호용 추가 저장 배수
두 번째 식에서는 압축과 중복 제거 이후의 신규 저장량을 사용하고, 복제나 삭제 정책을 별도로 반영해야 합니다. 모든 생성 토큰을 영구 저장한다고 가정하면 실제보다 수요를 크게 잡을 수 있습니다. 모델이나 실행 설정이 바뀌어 기존 KV를 재사용할 수 없다면, 과거 계산 상태를 오래 저장할 가치도 낮아집니다.
메모리 효율이 좋아져 업무당 사용량이 줄어도 서비스가 싸지고 편해지면서 총사용량이 더 빠르게 증가할 수 있습니다. 그 반대도 가능합니다. 어느 효과가 큰지는 제품 발표의 최대 문맥 길이가 아니라 실제 동시 이용량·문맥 분포·반복 이용과 유료 업무의 성장에서 확인해야 합니다.
9. 부품의 수혜를 기업의 이익으로 연결하려면
부품의 역할이 중요해졌다고 그 제조사의 이익이 같은 속도로 늘어나는 것은 아닙니다. 공급 물량이 늘어도 비트당 가격이 하락할 수 있고, 고성능 제품 비중이 높아져도 수율·패키징·개발 비용이 부담이 될 수 있습니다. 고객의 인증과 실제 탑재, 공급 계약, 양산 능력과 경쟁사의 증설을 함께 봐야 합니다.
DRAM 업체에서는 HBM과 일반 DRAM을 나눠 탑재량·가격·제품 구성을 읽고, NAND 업체에서는 기업용 SSD의 매출과 출하 용량, 제품별 성능·밀도·수익성의 변화를 봐야 합니다. HDD 업체에서는 데이터센터용 출하 용량과 대당 용량, 가격과 원가를 연결해야 합니다. 어느 경우든 발표된 AI 시장 규모만으로 회사별 매출을 배분하는 방식은 근거가 약합니다.
확인할 지표도 역할별로 달라집니다. HBM은 실제 가속기 공급과 탑재량, 일반 DRAM은 서버당 용량과 실행 환경의 확대, SSD는 기업용 출하와 읽기·쓰기 작업의 증가, HDD는 대규모 보관 수요와 유효 용량의 성장을 봅니다. 같은 데이터가 여러 계층에 복제돼 있을 수 있으므로 각 층의 용량을 합산해 독립적인 최종 데이터 수요라고 부르지 않는 것도 중요합니다.
에이전틱 AI는 메모리와 저장장치를 더 다양한 방식으로 사용하게 만듭니다. 그 변화의 핵심은 가장 많은 데이터를 무조건 저장하는 데 있지 않습니다. 지금 필요한 데이터는 빠르게 공급하고, 다시 쓸 데이터는 경제적으로 남기며, 가치가 낮은 데이터는 지우는 것입니다. 어떤 부품이 이 균형을 가장 잘 해결하는지 살피면, 수요의 크기와 질을 함께 읽을 수 있습니다.
출처와 확인 기준
공식 기술 문서와 업체 공동 실험을 바탕으로 역할을 구분했습니다. 업체의 제품·성능 주장은 해당 조건의 주장으로 읽으며 시장 전체의 실측치로 사용하지 않았습니다. 본문의 KV 용량·DWPD 예시는 명시한 가정으로 직접 계산했습니다. 확인일: 2026-10-13 KST.
[1] SK hynix — Five things you need to know about SK hynix and the future of AI memory. HBM의 DRAM 적층 구조와 가속기·시스템 메모리·저장장치의 역할.
https://news.skhynix.com/en/5-things-about-skhynix/
[2] LangChain — Deep Agents overview. 실행 환경, 파일 기반 문맥 관리, 하위 에이전트와 장기 기억의 공식 구현 설명.
https://docs.langchain.com/oss/javascript/deepagents/overview
[3] Hugging Face — Unlocking Longer Generation with Key-Value Cache Quantization, 2024. KV 캐시 산식과 정밀도·속도·용량의 관계. 본문 예시는 원문 모델의 수치를 재현한 것이 아닙니다.
https://huggingface.co/blog/kv-cache-quantization
[4] Micron — Powers AI Everywhere at COMPUTEX 2026, 2026-06-01. HBM·DDR·LPDDR·데이터센터 SSD의 역할 구분. 제품별 공급 상태와 성능 조건은 발표 본문·각주 기준.
[5] Samsung — Optimizing KV Cache Offloading to CMM-D in a CXL Switch-based Memory Pool, 백서 pp.4–14. 특정 토폴로지·커널·캐시 적중 조건의 실험이며 일반 서버 전체의 성능을 뜻하지 않습니다.
[6] NVIDIA — CMX Context Memory Storage Platform, 2026-03-16. 활성 HBM, 시스템 RAM, 로컬 SSD, 공유 문맥 계층과 지속 저장의 구분.
[7] KIOXIA — QLC vs. TLC Flash Storage Technology: How to Choose, 2026-09-29. 셀당 비트 수, 밀도와 쓰기·내구성의 상충 및 작업별 선택 기준.
https://blog-us.kioxia.com/post/2026/09/29/qlc-vs-tlc-flash-storage-technology-how-to-choose
[8] Micron 공식 제품 사양: 6600 ION, Rev. C 09/2026, p.3 및 9650, Rev. B 05/2026, pp.2–3. 각각 G9 QLC와 G9 TLC. 6600 ION의 쓰기 패턴별 DWPD는 참고용 이론 최대값이며 보증값과 구분됩니다.
[9] Micron — FY2026 4분기 실적 발표, Product Highlights, 2026-09-30. 서버 DDR5의 샘플·인증, LPDDR SOCAMM 매출 증가, 7600·9650의 KV 캐시 용도 출하와 6600 ION 물량 확대에 대한 회사 발표.
[10] SK hynix·Seagate — Enabling inference at massive scale with hybrid storage for KV cache offloading, 2026, pp.7–12. SSD·HDD 공동 실험 구성, 첫 재접근과 후속 SSD 적중의 차이. 실험 구성과 확대 추정을 구분해 읽어야 합니다.
[11] vLLM — Automatic Prefix Caching. 문맥 재사용이 줄이는 입력 처리와 토큰 생성 단계의 구분. 확인 시 문서 표기일 2026-09-20.
https://docs.vllm.ai/en/stable/features/automatic_prefix_caching/
[12] Micron — LPDDR at Scale: Enabling Efficient LLM Inference Through High-Capacity Memory, 백서 pp.1–4. LPDDR의 KV 오프로딩 역할. 실제 측정 구성과 더 큰 용량의 추정치를 구분해야 합니다.
[13] NVIDIA — BlueField-4 STX Storage Architecture 발표, 2026-03-16. 파트너 시스템의 2026년 하반기 공급 계획. 발표상의 도입 예정과 실제 운영을 구분합니다.