ในการประชุม I/O ประจำปีเมื่อวันอังคารที่ผ่านมา Google ได้เปิดตัวชิปประสิทธิภาพสูงรุ่นใหม่ “Trillium” สำหรับการฝึกฝนและรันโมเดลภาษาขนาดใหญ่ (large language models) อาทิ Gemma และ Gemini
Trillium ถือเป็นรุ่นที่ 6 ของ Tensor Processing Unit (TPU) จาก Google โดยมีประสิทธิภาพด้านพลังงานดีกว่ารุ่นก่อนอย่าง TPU v5 ถึง 67% และยังเร็วกว่าเกือบ 5 เท่า ตามข้อมูลจากทางบริษัท
Google วางแผนที่จะนำ Trillium ไปใช้งานภายใน AI Hypercomputer ซึ่งเป็นสถาปัตยกรรมซูเปอร์คอมพิวเตอร์ที่ออกแบบมาสำหรับงานปัญญาประดิษฐ์ขั้นสูง นอกจากนี้ยังมีแผนที่จะนำชิปดังกล่าวออกจำหน่ายให้กับองค์กรต่างๆ ภายในปลายปีนี้
“Trillium TPUs มีประสิทธิภาพการคำนวณสูงสุดต่อชิป เพิ่มขึ้นอย่างน่าประทับใจถึง 4.7 เท่า เมื่อเทียบกับ TPU v5e เราได้เพิ่มความจุและแบนด์วิธของหน่วยความจำแบนด์วิธสูง (HBM) เป็นสองเท่า เช่นเดียวกับการเพิ่มแบนด์วิธของการเชื่อมต่อระหว่างชิป (ICI) เป็นสองเท่าเช่นกัน” Amin Vahdat ผู้จัดการทั่วไปฝ่ายระบบและปัญญาประดิษฐ์บนคลาวด์ของ Google กล่าวไว้ในบล็อก
อ่านเพิ่มเติมที่นี่ – NW
