Cận cảnh siêu máy tính AI tiền tỷ với GPU HGX H100 của Nvidia được FPT Smart Cloud trình diễn tại Techday 2024
17/04/2025
Ngày thứ 2 tại diễn đàn công nghệ quốc tế FPT Techday 2024, FPT Smart Cloud mang đến triển lãm dàn siêu chip NVIDIA HGX H100, nơi khởi nguồn của sức mạnh về xử lý dữ liệu, đào tạo thuật toán và xây dựng các giải pháp AI thông minh. Mỗi chip GPU Nvidia H100 giá khoảng 30.000 – 36.000 USD, tức chỉ tính riêng 8 GPU tích hợp trong siêu máy tính AI này đã lên tới 6 – 7 tỷ đồng.
Tại sự kiện công nghệ Techday 2024, FPT Smart Cloud vừa trưng bày một phiên bản thu gọn của siêu máy tính AI sử dụng 8 GPU NVIDIA HGX H100.Mỗi chip HGX H100 này có giá khoảng 30.000 – 36.000 USD, tức chỉ tính riêng 8 GPU tích hợp trong siêu máy tính AI nói trên đã trị giá 6 – 7 tỷ đồng.NVIDIA GPU HGX H100 là nơi khởi nguồn của sức mạnh về xử lý dữ liệu, đào tạo thuật toán và xây dựng các giải pháp AI thông minh.NVIDIA GPU HGX H100 được ra mắt vào ngày 21/3/2023, sản xuất trên quy trình 4nm.HGX H100 không chỉ đơn thuần là một “siêu GPU” với sức mạnh tính toán hàng đầu thế giới, mà còn được trang bị khối lượng bộ nhớ HBM3 khổng lồ lên tới 80GB.Con số ấn tượng này kết hợp với tốc độ băng thông bộ nhớ cực khủng 3,35 TB/giây, giúp HGX H100 trở thành một “quái vật” thực sự trong việc xử lý dữ liệu tốc độ cao.Trước đó, tập đoàn FPT đã công bố hợp tác chiến lược toàn diện với Nvidia để thúc đẩy nghiên cứu AI, cung cấp dịch vụ, giải pháp cho khách hàng Việt Nam và trên toàn cầu.Hai bên dự kiến xây dựng nhà máy trí tuệ nhân tạo (AI Factory), đào tạo nguồn nhân lực chất lượng cao và trở thành đối tác phát triển dịch vụ (Service Delivery Partner) trong mạng lưới đối tác của NVIDIA.Theo biên bản ghi nhớ lúc đó, FPT sẽ đầu tư 200 triệu USD để xây dựng AI Factory, cung cấp nền tảng điện toán đám mây phục vụ nghiên cứu phát triển AI và có chủ quyền tại Việt Nam.Nhà máy bao gồm các hệ thống siêu máy tính hoạt động trên công nghệ mới của NVIDIA, bao gồm bộ ứng dụng – khung công nghệ phát triển NVIDIA AI Enterprise và chip đồ họa GPU HGX H100 Tensor Core.Tất nhiên, hiệu năng “khủng” của HGX H100 đòi hỏi phải có hệ thống tản nhiệt đủ tối ưu đã đảm bảo khả năng hoạt động liên tục của hệ thống.Được biết, bên trên chỉ là phiên bản thu nhỏ để trưng bày. Hiện, FPT đang có hệ thống siêu máy tính để huấn luyện và chạy các tác vụ AI với gần 1.000 con chip HGX H100 như vậy.Chip NVIDIA GPU HGX H100 chủ yếu được mua bởi các công ty cung cấp dịch vụ đám mây, chuyên phát triển các mô hình ngôn ngữ lớn. Trong đó, FPT là một “ông lớn” công nghệ tại Việt Nam và đang vươn mình ra thế giới trong lĩnh vực AI. Tại Techday 2024, Chủ tịch Tập đoàn FPT Trương Gia Bình tiết lộ rằng, AI chính là chìa khóa để FPT vừa lấy được một hợp đồng trị giá 250 triệu USD.
17/04/2025
