Tại sao Nvidia lại không đủ GPU H100 để đáp ứng nhu cầu và tiếp tục thống trị ngành T

[thegioididong]

Những thông báo gần đây từ các tổ chức nghiên cứu trong lĩnh vực Trí tuệ Nhân tạo đều chỉ ra rằng, sự phát triển và triển khai mô hình ngôn ngữ và Trí tuệ Nhân tạo đang tạo ra một cuộc "sốt GPU" chuyên biệt, đáp ứng nhu cầu tính toán vector và tensor số thực dấu phẩy động, các yếu tố quan trọng của mọi thuật toán.


Tại phía Nvidia, đơn vị đang nắm giữ lĩnh vực chip xử lý Trí tuệ Nhân tạo, đã tuyên bố rằng hiện tại dòng cung cấp chip GPU xử lý machine learning vẫn đủ để đáp ứng nhu cầu thị trường, nhưng gặp một số khó khăn nhỏ. Với tình hình đó, Microsoft, OpenAI và một số công ty công nghệ lớn khác trong lĩnh vực Trí tuệ Nhân tạo đã đề xuất các biện pháp nhằm giảm thiểu tác động tiêu cực của tình trạng thiếu hụt chip mạnh nhất hiện nay như H100 và A100.


Nvidia đã lý giải rằng gia công die chip kiến trúc Hopper để đáp ứng nhu cầu thị trường không phải là vấn đề, đặc biệt khi các con chip này được sản xuất bởi TSMC. Tuy nhiên, thách thức nằm ở quá trình biến chip GPU thành sản phẩm thương mại, còn được gọi là quá trình đóng gói. Ngoài ra, nguồn cung cấp linh kiện để hoàn thiện từng card H100 cũng đang gặp khó khăn. Nvidia đã cam kết rằng trong nửa sau năm 2023, nguồn cung cấp card H100 trên thị trường sẽ dồi dào, với mức giá dao động từ 35 đến 50 nghìn USD mỗi card.


Điều này đặt ra câu hỏi, tại sao H100 lại được các tập đoàn công nghệ đổ tiền mua đến vậy?


Trước hết, chúng ta hãy so sánh cấu hình của Hopper H100 với các thế hệ GPU xử lý dữ liệu và machine learning trước đó của Nvidia:


Dễ dàng thấy rằng một yếu tố quan trọng liên quan đến hiệu suất của Hopper H100 là khả năng huấn luyện thuật toán 16-bit, mạnh hơn 2.3 lần so với A100, và khả năng inference mạnh hơn 3.5 lần so với A100. Hai con số này đã đủ thể hiện khả năng xử lý số thực dấu phẩy của mẫu GPU này.


Câu hỏi tiếp theo, tại sao H100, mặc dù đắt đỏ, lại không đủ sẵn sàng để bán? Câu trả lời có liên quan đến một số khía cạnh của quá trình nghiên cứu và triển khai Trí tuệ Nhân tạo. Để huấn luyện mô hình ngôn ngữ GPT-4, đã có thông tin đồn đại rằng OpenAI cần từ 10 đến 25 nghìn GPU A100 kiến trúc Ampere. Khi đó, Hopper H100 chưa được ra mắt.


Trong khi đó, các startup trong lĩnh vực Trí tuệ Nhân tạo không quá nổi tiếng như Infection AI và Coreweave đã đầu tư một số lượng lớn GPU H100, với mức chi phí có thể lên tới hàng tỷ USD. Điều này rõ ràng thể hiện nhu cầu cấp thiết của thị trường Trí tuệ Nhân tạo hiện nay, khi một công ty sẵn sàng bỏ ra số tiền lớn để nghiên cứu và triển khai các mô hình AI cơ bản đến trung bình. Có nguồn tin cho rằng, Coreweave thậm chí đã sử dụng số lượng GPU H100 mua được như tài sản thế chấp để vay tiền để nghiên cứu Trí tuệ Nhân tạo, thể hiện khả năng thanh khoản của các con chip xử lý cao cấp.


Để giải quyết tình trạng thiếu hụt nguồn cung cấp, có thể sẽ có quan điểm rằng Nvidia nên tăng sản lượng wafer chip H100. Tuy nhiên, như Nvidia đã nêu, vấn đề không đơn giản như vậy.


Khác với các GPU chơi game và các GPU tiêu dùng hoặc dành cho thị trường prosumer, như RTX 4090 hoặc RTX A6000, GPU xử lý Trí tuệ Nhân tạo của Nvidia yêu cầu nhiều bước xử lý và gia công phức tạp. Đối với con chip H100 trên add-in board hoặc hệ thống siêu máy tính kết hợp 8 cụm GPU, nó phải được gia công trên tiến trình N4 của TSMC. Điều này đồng nghĩa Nvidia đang là đối tác chính của TSMC trong việc đặt hàng chip N4 lớn nhất. Trong khi đó, Apple đang tập trung tăng sản xuất hai con chip A17 Bionic và M3 trên tiến trình N3.


Sau khi sản xuất xong GPU, cần phải có bộ nhớ HBM để cung cấp dữ liệu cho GPU hoạt động. Việc tạo ra HBM đòi hỏi các thiết bị gia công bán dẫn phức tạp và đắt tiền, với số lượng đơn vị gia công chip nhớ HBM chỉ đếm trên đầu ngón tay: SK Hynix, Micron và Samsung.


Đảm bảo nguồn cung cấp chip nhớ HBM, TSMC lại gặp khó khăn tiếp theo, đó là áp dụng công nghệ Chip-on-Wafer-on-Substrate, một kỹ thuật đóng gói die chip thành phẩm dạng 2.5D để tạo ra sản phẩm thương mại. Đây là một trong những bước quan trọng nhất để tạo ra card Hopper H100. Nhưng vì sự phức tạp của quá trình này, TSMC đang không thể đáp ứng đúng hẹn đơn hàng H100 của Nvidia. Tính đến hiện tại, Nvidia phải đợi tới tháng 12 năm nay mới có thể sản xuất đủ số lượng đơn hàng đã ký kết với TSMC.

[vaithunhuyhoang]

khả năng inference mạnh hơn 3.5 lần so với A100. Hai con số này đã đủ thể hiện khả năng xử lý số thực dấu phẩy của mẫu GPU này.