November 27, 2024

Google เปิดตัว A3 ซูเปอร์คอมพิวเตอร์ VM ที่รองรับงานด้าน AI โดยเฉพาะ

Google Cloud เปิดตัว A3 ซูเปอร์คอมพิวเตอร์ Virtual Machine ที่งานประชุม Google I/O มุ่งเป้าไปที่การฝึกอบรมโมเดล AI ขนาดใหญ่อย่างรวดเร็ว โดยให้ประสิทธิภาพด้าน AI ได้สูงสุดถึง 26 exaFlops

“A3 GPU VM ถูกสร้างขึ้นตามวัตถุประสงค์เพื่อมอบการฝึกอบรมที่มีประสิทธิภาพสูงสุดสำหรับปริมาณงาน Machine Learning ในปัจจุบัน

อินสแตนซ์นี้ใช้พลังงานจาก GPU Nvidia H100 แปดตัว ซึ่งเป็น GPU ใหม่ล่าสุดของ Nvidia ที่เพิ่งเริ่มจัดส่งเมื่อต้นเดือนนี้ เช่นเดียวกับโปรเซสเซอร์ Xeon Scalable เจนเนอเรชั่นที่ 4 ของ Intel หน่วยความจำ 2TB และแบนด์วิธแบ่งครึ่ง 3.6 TB ระหว่าง GPU แปดตัวผ่าน NVSwitch ของ Nvidia และ NVLink 4.0 เชื่อมต่อระหว่างกัน

เมื่อรวมกันแล้ว Google อ้างว่าเครื่องเหล่านี้สามารถให้ประสิทธิภาพสูงสุด 26 exaFlops ซึ่งทำลายสถิติเก่าของซูเปอร์คอมพิวเตอร์ที่เร็วที่สุดอย่าง Frontier ไปได้

จากข้อมูลของ Google A3 เป็นการใช้งานระดับการผลิตครั้งแรกของอินเทอร์เฟซข้อมูล GPU-to-GPU ซึ่ง Google เรียกว่าหน่วยประมวลผลโครงสร้างพื้นฐาน (IPU) ช่วยให้สามารถแชร์ข้อมูลที่ความเร็ว 200 Gbps ระหว่าง GPU ได้โดยตรงโดยไม่ต้องผ่าน CPU ผลลัพธ์นี้คือแบนด์วิธของเครือข่ายที่เพิ่มขึ้น 10 เท่าสำหรับเครื่องเสมือน A3 เมื่อเทียบกับ A2 VM รุ่นก่อนหน้า

ใครอยากทดลองใช้งานเข้าไปกรอกแบบฟอร์มนี้ได้เลย

ที่มา : Networkworld