Nvidia ประกาศเปิดตัวแพลตฟอร์ทฮาร์ดแวร์ AI ใหม่ที่ใช้ชิปแบบ Next-Gen โฆษณาว่าสามารถใช้เทรนโหลดงาน Generative AI ที่ซับซ้อนมากที่สุดได้ ใช้เติมเต็มเซิร์ฟเวอร์ประมวลผลประสิทธิภาพสูง (High-Performance Server) ได้เป็นอย่างดี
Nvidia GH200 Grace Hopper นี้ใช้ชิป HBM3e ใหม่ล่าสุด ให้แบนด์วิธหน่วยความจำเร็วกว่าชิปรุ่นปัจจุบันถึง 3 เท่า สามารถปรับแต่งให้เข้ากับความต้องการที่จำเพาะของลูกค้าได้ อย่างการจับคู่ชิปสองตัวแบบ Dual Configuration
ที่ทำให้ฮาร์ดแวร์ทำงานได้สูงถึง 8 Petaflop ดึงศักยภาพจากคอร์ Arm Neoverse ถึง 144 คอร์ และหน่วยความจำ HBM3e 282GB ได้ถึงขีดสุด สำหรับ HMB3e ทำงานได้เร็วกว่าหน่วยความจำรุ่น HBM3 ปัจจุบันถึง 50%
สามารถให้แบนด์วิธได้ที่ 10TB/sec ประมวลผลโมเดลได้ใหญ่กว่ารุ่นก่อนหน้าถึง 3.5 เท่า เหมาะอย่างยิ่งกับบริษัทที่ต้องการเทรนและปรับแต่ง LLM ขนาดใหญ่ที่อาจประกอบด้วยหลายแสนล้านพารามิเตอร์ ที่อาจพุ่งแตะระดับล้านล้านพารามิเตอร์ในอนาคตอันใกล้
อ่านเพิ่มเติมที่นี่ – ITPro
