NVIDIA ra mắt siêu máy tính AI tạo sinh nhỏ gọn và rẻ nhất

20.12.2024, 8:51 am 5

NVIDIA ra mắt siêu máy tính AI tạo sinh nhỏ gọn và rẻ nhất

 
NVIDIA ra mắt Jetson Orin Nano Super Developer Kit, nâng hiệu suất lên 68 TOPS, cải thiện 1.7 lần khả năng suy luận AI, giá chỉ 249 USD.
 
NVIDIA vừa công bố Jetson Orin Nano Super Developer Kit, phiên bản kế nhiệm của bộ công cụ Jetson Orin Nano ra mắt năm 2022. Siêu máy tính AI tạo sinh mới này có kích thước nhỏ gọn, vừa lòng bàn tay, đi kèm với module Jetson Orin Nano 8GB và bảng mạch tham chiếu (reference carrier board).
Jetson Orin Nano Super đạt hiệu suất lên tới 68 TOPS (nghìn tỷ phép tính mỗi giây), tăng 70% so với phiên bản trước. NVIDIA cũng tuyên bố thiết bị này cải thiện 1.7 lần hiệu suất suy luận AI tạo sinh và tăng băng thông lên 50%, đạt mức 102GB/s. Tần số CPU cũng tăng nhẹ từ 1.5GHz lên 1.7GHz.

NVIDIA khẳng định Jetson Orin Nano Super hỗ trợ hiệu quả các mô hình AI tạo sinh phổ biến như mô hình ngôn ngữ lớn (LLMs), mô hình ngôn ngữ thị giác và các bộ chuyển đổi thị giác (vision transformers).

Một điểm đáng chú ý là các bản cập nhật phần mềm từ Jetson Orin Nano Super cũng có thể được áp dụng cho phiên bản tiền nhiệm. Người dùng chỉ cần tải và cài đặt bản cập nhật, mặc dù NVIDIA chưa cung cấp chi tiết cụ thể về mức độ cải thiện hiệu suất.

Hiện tại, Jetson Orin Nano Super Developer Kit đã có sẵn thông qua các đại lý được NVIDIA phê duyệt, với giá chỉ 249 USD, thấp hơn đáng kể so với mức 499 USD của phiên bản trước, trở thành sản phẩm tiết kiệm nhất trong phân khúc siêu máy tính AI tạo sinh.