Google cho biết siêu máy tính AI của họ nhanh hơn, xanh hơn chip Nvidia A100

Google hôm thứ Ba đã công bố thông tin chi tiết mới về các siêu máy tính mà họ sử dụng để huấn luyện các mô hình trí tuệ nhân tạo của mình, cho biết các hệ thống này vừa nhanh hơn vừa tiết kiệm điện năng hơn so với các hệ thống tương đương của Nvidia Corp ( NVDA .o) .

Google đã thiết kế chip tùy chỉnh của riêng mình được gọi là Bộ xử lý Tensor hay TPU. Thiết bị này sử dụng những con chip đó cho hơn 90% công việc của công ty về đào tạo trí tuệ nhân tạo, quy trình cung cấp dữ liệu thông qua các mô hình để làm cho chúng trở nên hữu ích trong các tác vụ như trả lời truy vấn bằng văn bản giống con người hoặc tạo hình ảnh.

Google TPU hiện đang ở thế hệ thứ tư. Google hôm thứ ba đã xuất bản một bài báo khoa học mô tả chi tiết cách họ kết nối hơn 4.000 con chip lại với nhau thành một siêu máy tính bằng cách sử dụng các công tắc quang học do chính họ phát triển để giúp kết nối các máy riêng lẻ.

Cải thiện các kết nối này đã trở thành điểm cạnh tranh chính giữa các công ty chế tạo siêu máy tính AI vì cái gọi là mô hình ngôn ngữ lớn hỗ trợ các công nghệ như Bard của Google hay ChatGPT của OpenAI đã bùng nổ về kích thước, nghĩa là chúng quá lớn để lưu trữ trên một con chip.

Google cho biết các siêu máy tính của họ giúp dễ dàng cấu hình lại các kết nối giữa các chip một cách nhanh chóng, giúp tránh các sự cố và điều chỉnh để tăng hiệu suất.

Trong bài báo, Google cho biết đối với các hệ thống có kích thước tương đương, chip của họ nhanh hơn tới 1,7 lần và tiết kiệm năng lượng hơn 1,9 lần so với hệ thống dựa trên chip A100 của Nvidia có mặt trên thị trường cùng lúc với TPU thế hệ thứ tư. .