Giáo sư KAIST Kim Jung-ho, kỹ sư được ghi nhận là người phát minh ra HBM, lập luận rằng nút thắt cổ chai mang tính định hướng của kỷ nguyên AI đã chuyển từ tính toán sang bộ nhớ — một tuyên bố được hậu thuẫn bởi biên lợi nhuận gộp 84,9% của Micron và 100 tỷ đô la các hợp đồng khách hàng đã ký.
Giáo sư KAIST Kim Jung-ho, kỹ sư được ghi nhận là người phát minh ra HBM, lập luận rằng nút thắt cổ chai mang tính định hướng của kỷ nguyên AI đã chuyển từ sức mạnh tính toán của GPU sang băng thông bộ nhớ, khi mức sử dụng GPU bị mắc kẹt ở 10% vì bộ xử lý dành phần lớn thời gian để chờ dữ liệu.
"AI chính là bộ nhớ," Kim Jung-ho, giáo sư kỹ thuật điện tại KAIST và là kiến trúc sư đằng sau đặc tả HBM đầu tiên, cho biết trong một cuộc phỏng vấn video. "Sự phát triển của máy tính AI nằm trong tay của ngành bộ nhớ."
Lập luận của Kim nhận được sự ủng hộ trên toàn bộ chuỗi cung ứng bộ nhớ. Micron Technology ghi nhận biên lợi nhuận gộp phi GAAP đạt 84,9% trong quý tài khóa thứ ba, với CEO Sanjay Mehrotra tiết lộ 16 Thỏa thuận Khách hàng Chiến lược bao phủ khoảng 20% sản lượng DRAM và một phần ba sản lượng NAND, với các nghĩa vụ thực hiện còn lại khoảng 100 tỷ đô la. Samsung Electronics và SK Hynix, hai công ty mà Kim xác định là có vị thế độc đáo để sản xuất cả DRAM và NAND, đã công bố khoản đầu tư kết hợp 800 nghìn tỷ won (518 tỷ đô la) vào bốn siêu nhà máy mới tại khu vực Honam của Hàn Quốc, nhắm mục tiêu hoàn thành vào giữa những năm 2030.
Sự thay đổi cấu trúc này đe dọa sự thống trị của Nvidia trong phần cứng AI. Kim cho biết tăng trưởng công nghệ GPU của Nvidia "gần như đã dừng lại" vì các chip không thể xếp chồng theo chiều dọc do các ràng buộc về tản nhiệt, trong khi bộ nhớ có thể. Nếu luận điểm của Kim đúng, khoảng 3 nghìn tỷ đô la vốn hóa thị trường tập trung ở các nhà sản xuất GPU có thể bắt đầu dịch chuyển sang các nhà sản xuất bộ nhớ khi khối lượng công việc AI chuyển từ huấn luyện sang suy luận.
HBM4 Đánh Dấu Sự Thay Đổi Quyền Lực Nhà Cung Cấp
Bắt đầu từ HBM4, bộ nhớ không còn là một hàng hóa tiêu chuẩn hóa. Kim cho biết mỗi khách hàng AI lớn — Nvidia, Google, AMD — hiện yêu cầu một thiết kế HBM tùy chỉnh phù hợp với kiến trúc bộ tăng tốc của riêng họ. Sự thay đổi đó đã đảo ngược mối quan hệ người mua-nhà cung cấp truyền thống. Các nhà sản xuất bộ nhớ hiện yêu cầu các thỏa thuận dài hạn và cam kết khối lượng trước khi bắt đầu phát triển, thực tế là tự định giá thay vì chấp nhận giá.
"Các công ty AI đang rất cần HBM hiệu suất cao, vì vậy họ xếp hàng chờ đợi," Kim nói. "Nhà cung cấp bắt đầu quyết định giá cả. Điều này thay đổi hoàn toàn mô hình."
Các con số chứng minh điều này. Mehrotra của Micron nói với các nhà đầu tư rằng biên lợi nhuận gộp ở mức sàn của các thỏa thuận này "sẽ vượt xa các đỉnh mà chúng tôi từng trải qua trong các chu kỳ trước." Cổ phiếu Micron đã tăng 296,9% từ đầu năm đến nay, trong khi vốn hóa thị trường của Samsung và SK Hynix đã phình to khi các nhà đầu tư định giá sức mạnh định giá bền vững.
HBF và HBS: Thập Kỷ Tiếp Theo của Kiến Trúc Bộ Nhớ
Kim đã phác thảo thêm hai kiến trúc bộ nhớ mà ông kỳ vọng sẽ định hình lại phần cứng AI trong thập kỷ tới. Kiến trúc đầu tiên, High Bandwidth Flash (HBF), xếp chồng NAND flash theo chiều dọc giống như HBM, cung cấp dung lượng gấp khoảng 10 lần với tốc độ thấp hơn — phù hợp để lưu trữ "dữ liệu nguội" mà khối lượng công việc suy luận tích lũy được. Các công ty phát triển HBF bao gồm SK Hynix, Samsung, Sandisk và Kioxia của Nhật Bản, công ty gần đây đã vượt qua Toyota về giá trị thị trường để trở thành công ty lớn nhất Nhật Bản tính theo vốn hóa thị trường.
Kiến trúc thứ hai, High Bandwidth SRAM (HBS), đại diện cho một bước đột phá triệt để hơn. Kim đề xuất chế tạo toàn bộ một tấm bán dẫn 12 inch dưới dạng SRAM — nhanh hơn DRAM khoảng 1.000 lần — sau đó xếp chồng từ 12 đến 16 lớp theo chiều dọc để đạt dung lượng 1,6 terabyte. Một GPU sẽ được đặt lên trên, với hệ thống làm mát được tích hợp vào lớp trên cùng của cấu trúc xếp chồng.
"Cấp nguồn sẽ là công nghệ khó khăn nhất," Kim nói. "Việc cung cấp hàng nghìn ampe qua cấu trúc 3D này — đó sẽ trở thành năng lực cạnh tranh cốt lõi thực sự giữa các công ty."
Luận Điểm Đầu Tư: Bộ Nhớ Thay Vì Tính Toán
Dự báo dài hạn của Kim rất rõ ràng: "Đây là kỷ nguyên của HBM, nhưng 10 năm nữa, nhu cầu thị trường về NAND flash và HBF sẽ vượt qua HBM. Samsung và SK Hynix phải chuẩn bị cho kỷ nguyên HBF."
Đối với các nhà đầu tư, luận điểm này chuyển thành sự tái định giá cấu trúc của cổ phiếu bộ nhớ. Samsung và SK Hynix được dự báo sẽ tạo ra tổng cộng 500 nghìn tỷ đến 600 nghìn tỷ won (324 tỷ đến 389 tỷ đô la) lợi nhuận hoạt động trong năm nay, theo Kim, người cho biết ông thường xuyên gặp gỡ các lãnh đạo tại cả hai công ty. "Đôi mắt của họ đang sáng lên," ông nói.
Rủi ro mang tính chu kỳ. Suy thoái bộ nhớ trước đây luôn trừng phạt các nhà sản xuất mạnh nhất. Nhưng Kim lập luận rằng các hợp đồng HBM tùy chỉnh với biên lợi nhuận sàn cao hơn các đỉnh chu kỳ trước đây cung cấp khả năng bảo vệ giảm giá chưa từng có. "Mô hình đã thay đổi," ông nói.
Bài viết này chỉ nhằm mục đích cung cấp thông tin và không cấu thành lời khuyên đầu tư.
