Close Menu
wibutechwibutech
  • Tin tức
  • Thủ thuật
    • Android
    • iOS – iPhone
    • Windows
    • MacOS
    • Khác
  • Đánh giá
    • Laptop
    • Smartphone
    • Linh kiện máy tính
    • Âm thanh
    • Phụ kiện công nghệ
    • Nhiếp ảnh
      • Máy ảnh
      • Lens
  • Phần mềm
Có gì mới

Bay Art Space: Không gian nghệ thuật thăng hoa cùng kết nối toàn diện từ ASUS ExpertWiFi

14 Tháng 4

Đánh giá Asus ExpertWiFi EBR63: Router Wi-Fi 6 phù hợp nhất cho tiệm cafe và các doanh nghiệp vừa, nhỏ

13 Tháng 3

Đánh giá ASUS ProArt Display OLED PA32UCDM: Màn hình QD-OLED 4K 240Hz đỉnh cao cho dân chuyên nghiệp và game thủ

1 Tháng 2
Facebook X (Twitter) Instagram
Facebook X (Twitter) Instagram
wibutechwibutech
  • Tin tức
  • Thủ thuật
    • Android
    • iOS – iPhone
    • Windows
    • MacOS
    • Khác
  • Đánh giá
    • Laptop
    • Smartphone
    • Linh kiện máy tính
    • Âm thanh
    • Phụ kiện công nghệ
    • Nhiếp ảnh
      • Máy ảnh
      • Lens
  • Phần mềm
wibutechwibutech
Home » NVIDIA Tăng Cường Phiên Bản Hopper, Nền Tảng Tính Toán Trí Tuệ Nhân Tạo Hàng Đầu Thế Giới

NVIDIA Tăng Cường Phiên Bản Hopper, Nền Tảng Tính Toán Trí Tuệ Nhân Tạo Hàng Đầu Thế Giới

18 Tháng 1110.973 Views
Share
Facebook Twitter LinkedIn Pinterest Email

HGX H200 Systems và Các Phiên Bản Đám Mây Sẽ Sớm Xuất Hiện Từ Các Nhà Sản Xuất Máy Chủ Và Nhà Cung Cấp Dịch Vụ Đám Mây Hàng Đầu Thế Giới

HGX H200 Systems

NVIDIA vừa công bố nền tảng tính toán trí tuệ nhân tạo (AI) hàng đầu thế giới NVIDIA HGX™ H200. Dựa trên kiến trúc NVIDIA Hopper™, nền tảng này sử dụng GPU Tensor Core NVIDIA H200 với bộ nhớ cấp tiến để xử lý lượng dữ liệu khổng lồ cho các nhiệm vụ trí tuệ nhân tạo sáng tạo và tính toán hiệu suất cao.

NVIDIA H200 là GPU đầu tiên trang bị HBM3e – bộ nhớ nhanh hơn và lớn hơn để đẩy nhanh quá trình tăng tốc trí tuệ nhân tạo sáng tạo và mô hình ngôn ngữ lớn, đồng thời thúc đẩy tính toán khoa học cho các nhiệm vụ tính toán hiệu suất cao (HPC). Với HBM3e, NVIDIA H200 cung cấp 141GB bộ nhớ tại tốc độ 4,8 terabytes mỗi giây, gần gấp đôi dung lượng và 2,4 lần băng thông so với tiền bối NVIDIA A100.

Các hệ thống được trang bị NVIDIA H200 từ các nhà sản xuất máy chủ hàng đầu thế giới và các nhà cung cấp dịch vụ đám mây dự kiến sẽ bắt đầu xuất hàng vào quý II năm 2024.

“Để tạo ra trí tuệ với trí tuệ nhân tạo sáng tạo và các ứng dụng HPC, lượng dữ liệu lớn phải được xử lý một cách hiệu quả ở tốc độ cao bằng bộ nhớ GPU lớn và nhanh”, Ian Buck, Phó Chủ tịch hyperscale và HPC tại NVIDIA nói. “Với NVIDIA H200, nền tảng siêu máy tính trí tuệ nhân tạo từ đầu đến cuối hàng đầu của ngành đã nhanh hơn để giải quyết một số thách thức quan trọng nhất trên thế giới.”

Sự Đổi Mới Và Sự Nhảy Vọt Về Hiệu Suất Vĩnh Viễn

Kiến trúc NVIDIA Hopper mang lại một sự nhảy vọt về hiệu suất không giới hạn so với người tiền nhiệm và tiếp tục đặt ra một mức tiêu chuẩn mới thông qua việc cải thiện phần mềm liên tục với H100, bao gồm việc ra mắt gần đây các thư viện mã nguồn mở mạnh mẽ như NVIDIA TensorRT™-LLM.

Việc giới thiệu H200 sẽ dẫn đến những bước nhảy vọt về hiệu suất tiếp theo, bao gồm gần gấp đôi tốc độ suy luận trên Llama 2, một mô hình LLM với 70 tỷ tham số, so với H100. Dự kiến sẽ có thêm sự lãnh đạo về hiệu suất và cải thiện với H200 thông qua các bản cập nhật phần mềm trong tương lai.

Các Dạng Hình Dạng Của NVIDIA H200

NVIDIA H200 sẽ có sẵn trong các bo mạch máy chủ NVIDIA HGX H200 với cấu hình bốn và tám lõi, tương thích với cả phần cứng và phần mềm của các hệ thống HGX H100. Nó cũng có sẵn trong NVIDIA GH200 Grace Hopper™ Superchip với HBM3e, được công bố vào tháng Tám.

Với những tùy chọn này, H200 có thể triển khai trong mọi loại trung tâm dữ liệu, bao gồm trên cơ sở, đám mây, đám mây lai và điểm cuối. Hệ sinh thái toàn cầu của đối tác sản xuất máy chủ của NVIDIA – bao gồm ASRock Rack, ASUS, Dell Technologies, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Supermicro, Wistron và Wiwynn – có thể cập nhật hệ thống hiện có của họ với H200.

Amazon Web Services, Google Cloud, Microsoft Azure và Oracle Cloud Infrastructure sẽ là những nhà cung cấp dịch vụ đám mây đầu tiên triển khai các phiên bản dựa trên H200 bắt đầu từ năm sau, cùng với CoreWeave, Lambda và Vultr.

Được hỗ trợ bởi NVIDIA NVLink™ và NVSwitch™, HGX H200 cung cấp hiệu suất cao nhất trên nhiều nhiệm vụ ứng dụng khác nhau, bao gồm đào tạo và suy luận LLM cho các mô hình lớn vượt quá 175 tỷ tham số.

Một bộ HGX H200 tám lõi cung cấp hơn 32 petaflops tính toán đào tạo FP8 và tổng cộng 1,1TB bộ nhớ băng thông cao cho hiệu suất cao nhất trong trí tuệ nhân tạo sáng tạo và ứng dụng HPC.

Khi kết hợp với CPU NVIDIA Grace™ với kết nối siêu nhanh NVLink-C2C, H200 tạo ra GH200 Grace Hopper Superchip với HBM3e – một mô-đun tích hợp được thiết kế để phục vụ các ứng dụng HPC và AI quy mô khổng lồ.

Tăng Tốc Trí Tuệ Nhân Tạo Với Phần Mềm Toàn Diện Của NVIDIA

Nền tảng tính toán tăng cường của NVIDIA được hỗ trợ bởi các công cụ phần mềm mạnh mẽ giúp các nhà phát triển và doanh nghiệp xây dựng và tăng tốc các ứng dụng sẵn sàng cho sản xuất từ trí tuệ nhân tạo đến HPC. Điều này bao gồm bộ phần mềm NVIDIA AI Enterprise dành cho các nhiệm vụ như phát triển phần mềm phát biểu, hệ thống gợi ý và suy luận quy mô lớn.

HGX H200 Nvidia NVIDIA Hopper
Share. Facebook Twitter Pinterest LinkedIn Tumblr Telegram Email
Previous ArticleXiaomi chính thức ra mắt Redmi 13C: Màn hình cực lớn, bộ 3 camera 50MP, giá chỉ từ 3,09 triệu đồng
Next Article Xiaomi ra mắt Màn hình Thông minh Xiaomi Smart Display Max 86 inch: Thông minh vượt trội, nâng tầm trải nghiệm điện ảnh tại gia, giá chưa đến 27 triệu đồng

Related Posts

Tin tức

Bảo Mật Router WiFi: TP-Link Đứng Trước Nguy Cơ Bị Cấm Bán Tại Mỹ

20 Tháng 12
Tin tức

ASUS: Kỷ niệm một năm tiếp quản dòng sản phẩm NUC, đánh dấu mốc cuộc cách mạng công nghệ AI

28 Tháng 10
Tin tức

Nâng tầm trải nghiệm gaming với sức mạnh của ASUS Tại Levelup Gaming Center

17 Tháng 63.411 Views
Tin tức

Trên Tay ASUS ProArt GeForce RTX 4080 16GB GDDR6X

10 Tháng 6
Tin tức

COLORFUL EPOCH Series AI: Đơn giản hóa sự xuất sắc

5 Tháng 69.683 Views
Tin tức

MediaTek hợp tác với Arm Total Design, giúp định hình tương lai của điện toán AI

5 Tháng 69.756 Views
Có thể bạn quan tâm
Chưa phân loại 14 Tháng 4

Bay Art Space: Không gian nghệ thuật thăng hoa cùng kết nối toàn diện từ ASUS ExpertWiFi

14 Tháng 4

Đánh giá Asus ExpertWiFi EBR63: Router Wi-Fi 6 phù hợp nhất cho tiệm cafe và các doanh nghiệp vừa, nhỏ

13 Tháng 3

Đánh giá ASUS ProArt Display OLED PA32UCDM: Màn hình QD-OLED 4K 240Hz đỉnh cao cho dân chuyên nghiệp và game thủ

1 Tháng 2

Wifi mở rộng trên các sản phẩm của ASUS – router cơ bản cũng có thể kết nối với router gaming

14 Tháng 1

Trên tay ASUS NUC 14 Pro: Mini PC nhỏ gọn với hiệu năng đáng chú ý nhờ chip Core Ultra

27 Tháng 12

Đánh giá bộ đôi sức mạnh ASUS Dual Radeon RX 7800XT và ASUS ROG Strix X870A Gaming WiFi

22 Tháng 12
Facebook X (Twitter) Instagram Pinterest
  • Home

WibuTech
Thông tin liên hệ: media.wibutech@gmail.com

Type above and press Enter to search. Press Esc to cancel.