Nvidia trình làng H200, chip cao cấp mới nhất để đào tạo các mô hình AI

Hôm thứ Hai, Nvidia đã công bố bộ xử lý đồ họa H200, được thiết kế đặc biệt để đào tạo và triển khai các mô hình trí tuệ nhân tạo nhằm thúc đẩy sự bùng nổ của trí tuệ nhân tạo.

GPU mới là phiên bản cải tiến từ H100, con chip mà OpenAI đã sử dụng để đào tạo mô hình ngôn ngữ tiên tiến nhất của họ mang tên GPT-4. Các doanh nghiệp lớn, startup và các cơ quan chính phủ đang cạnh tranh để có được nguồn cung chip hạn chế.

Theo ước tính của Raymond James, chip H100 có giá từ 25.000 đến 40.000 USD và cần hàng ngàn chip này làm việc cùng nhau để tạo ra các mô hình lớn nhất trong một quá trình gọi là "đào tạo".

Sự phấn khích đối với GPU AI của Nvidia đã thúc đẩy cổ phiếu của công ty tăng vọt, vốn đã tăng hơn 230% cho đến nay vào năm 2023. Nvidia dự kiến doanh thu khoảng 16 tỷ USD cho quý tài chính thứ ba, tăng 170% so với một năm trước.

Cải tiến quan trọng với H200 là nó bao gồm 141GB bộ nhớ "HBM3" thế hệ tiếp theo sẽ giúp chip thực hiện "suy luận" hoặc sử dụng một mô hình lớn sau khi được đào tạo để tạo văn bản, hình ảnh hoặc dự đoán.

Nvidia thông báo rằng H200 sẽ tăng cường sản lượng nhanh chóng, gần gấp đôi so với H100, thông tin này dựa trên kết quả thử nghiệm sử dụng Llama 2 LLM của Meta.

H200, dự kiến ra mắt trong quý 2 năm 2024, sẽ cạnh tranh với GPU MI300X của AMD. Chip của AMD, giống như H200, tích hợp bộ nhớ bổ sung so với các phiên bản trước đó, nhằm tối ưu hóa hiệu suất cho việc thực hiện suy luận trên các mô hình phần cứng lớn.​