NVIDIA HGX Grace เซิร์ฟเวอร์ที่มีมากถึง 12096 Cores และ 1 TB of RAM

ที่งาน CES 2022 เมื่อต้นปีนี้เมื่อ NVIDIA เปิดเผยข่าวบางส่วนสำหรับสิ่งที่นำเสนอในวันนี้ เซิร์ฟเวอร์ใหม่ที่ใช้แพลตฟอร์ม Grace ซึ่งเป็น HPC และ AI ล่าสุด และนั่นก็คือเซิร์ฟเวอร์เหล่านี้จะกำหนดทุกส่วนของตลาดที่พวกเขาเข้ามาใหม่ตั้งแต่ NVIDIA ได้แสดงให้เห็น ศูนย์ข้อมูล HGX Grace รุ่นที่มีแผนจะรวมและ... ด้วยแกนมากกว่า 12,000 คอร์และ 1 TB ของ แรมพวกเขาจะเป็นตัวอ้างอิงในการเอาชนะ

หลายบริษัทจะให้บริการแก่ลูกค้าของตนด้วยเซิร์ฟเวอร์สี่ประเภทที่ NVIDIA ได้ออกแบบไว้: อัสซุส, Foxconn, GIGABYTE, OCT, Supermicro และ Wiwynn ซึ่งการปรับแต่งเหล่านี้จะยกระดับโมเดล Huang ทั้งสี่ประเภทให้เป็นเซิร์ฟเวอร์ธุรกิจที่แตกต่างกันมากกว่าโหล พวกเขาจะมาถึงในปี 2023 แต่เรามีหัวใจและการกำหนดค่าสูงสุดของพวกเขาทั้งหมดอยู่บนโต๊ะ: HGX เกรซ ซีพียู Superchips และ Grace Hopper Superchip

NVIDIA HGX Grace เซิร์ฟเวอร์ที่มีมากถึง 12096 Cores และ 1 TB of RAM

NVIDIA HGX Grace: เซิร์ฟเวอร์ขนาดมหึมาที่มี 12,096 Cores

เช่นเคย รายละเอียดที่ไม่ได้กล่าวไว้นั้นสำคัญที่สุด เนื่องจากเป็นการเปิดเผยข้อมูลที่บริษัทไม่ต้องการให้แสดง แม้จะอยู่ต่อหน้าเราก็ตาม เซิร์ฟเวอร์ประเภท HGX Grace แสดงถึงการก้าวกระโดดครั้งใหญ่ที่ใหญ่ที่สุดในโลกที่จำได้

NVIDIA-HGX-Grace-y-HGX-Grace-Hopper

พวกเขาจะพกซีพียู NVIDIA Grace Superchip นั่นคือโปรเซสเซอร์สองตัวเชื่อมต่อกันผ่าน NVLink C2C ตาม ARM V9 นีโอเวิร์ส และออกแบบมาสำหรับโครงสร้างพื้นฐาน AI และ HPC ดังนั้นจึงประกอบด้วยสิ่งที่ NVIDIA เรียกว่าโมดูล CPU-CPU และมีสำหรับ PCB แต่ละตัวที่รวมเข้าด้วยกันไม่น้อยกว่า แกน 144 กับ หน่วยความจำ LPDDR5X สูงสุด 1 TB ต่อแร็คและแบนด์วิดธ์ไม่น้อยกว่า 1 TB / s .

การบริโภคทั้งหมด 500 วัตต์ และสามารถระบายความร้อนด้วยอากาศหรือน้ำได้ สิ่งที่น่าประทับใจที่สุดคือ NVIDIA อนุญาตให้เซิร์ฟเวอร์ที่มีโหนดมากถึง 84 โหนดต่อแร็ค ซึ่งถือว่ายอดเยี่ยมมาก แกน 12,096 เบ็ดเสร็จ. เมื่อพิจารณาว่า HGX Grace นั้นเร็วกว่า DGX A1.5 ถึง 100 เท่า เราสามารถจินตนาการถึงสัตว์ร้ายที่ทีมสีเขียวสร้างขึ้นได้

HGX Grace Hopper: CPU และ GPU บน PCB เดียว

เซิร์ฟเวอร์ประเภทนี้เดิมพันตัวเลือกที่สองของ NVIDIA และนี่คือเราไม่มีซีพียูสองตัว แต่มีซีพียูและ GPU บนวัสดุพิมพ์เดียวกันซึ่งสื่อสารอีกครั้งโดย NVLink C2C เพื่อให้มีรูปแบบหน่วยความจำที่เชื่อมโยงกันประสิทธิภาพสูงที่จะเชื่อมต่อกันที่ 900 GB / s เร็วกว่าบัส PCIe 7 ถึง 5.0 เท่า

NVIDIA-เกรซ

สิ่งที่ NVIDIA สร้างขึ้นคือสุดยอดเซิร์ฟเวอร์มัลติทาสกิ้งที่สามารถทำงานร่วมกับกองซอฟต์แวร์ของบริษัทใด ๆ ไม่ว่าจะเป็นสำหรับ HPC, AI หรือ Omniverse ดังนั้นจึงมีหลายแง่มุม แบบแผนที่จะปฏิบัติตามนั้นง่ายที่นี่กับเหล่านี้ HGX เกรซ ฮอปเปอร์ เซิร์ฟเวอร์แต่ละแห่งจะรวม a 4nm Hopper GPU กับ Grace CPU โดยแต่ละตัวจะมีหน่วยความจำเป็นของตัวเอง โดยตัวแรกจะมีไม่ต่ำกว่า HBM80 . 3 GB และที่สอง LPDDR512X . 5 GB ใช้ได้

สิ่งนี้เพิ่มลงในแบนด์วิดท์ทั้งหมดจะทำให้เรา 3.5 TB / s ที่มีการบริโภครวมของ 1000 วัตต์ ต่อชั้นวางและมีความเป็นไปได้ที่จะระบายความร้อนด้วยอากาศหรือน้ำ NVIDIA รับรองว่า โหนด 42 ต่อแร็คสามารถติดตั้งได้ใน HGX Grace Hopper

การออกแบบเซิร์ฟเวอร์และผลงานของคุณ

จะมีการออกแบบเฉพาะสี่แบบขึ้นอยู่กับปริมาณงานที่ผู้ผลิตอาจต้องการ โดยภายในสี่ประเภทนี้แต่ละแบบสามารถกำหนดค่าและปรับแต่งได้ตามความต้องการ ซึ่งทำให้ได้ประโยชน์และราคามากมาย:

NVIDIA-GRACE-Data-Center-เซิร์ฟเวอร์

  • NVIDIA HGX เกรซฮอปเปอร์ ระบบสำหรับการฝึกอบรม AI การอนุมาน และ HPC นั้นใช้ได้กับ Grace Hopper Superchip และ NVIDIA BlueField-3
  • NVIDIA HGX เกรซ ระบบสำหรับ HPC และ Supercomputing: นำเสนอการออกแบบเฉพาะ CPU ด้วย Grace CPU Superchip, BlueField-3 และ NVIDIA GPUs
  • NVIDIA OVX ระบบสำหรับฝาแฝดดิจิทัลและเวิร์กโหลดการทำงานร่วมกันมี Grace CPU Superchip, BlueField-3 และ NVIDIA
  • NVIDIACGX ระบบสำหรับกราฟิกและการเล่นเกมบนคลาวด์มี Grace Superchip CPU, BlueField-3 และ NVIDIA A16 GPUs

อย่างที่คาดไว้ ยังไม่มีการเปิดเผยราคา เนื่องจากเราอยู่ห่างจากการเปิดตัวอย่างเป็นทางการหนึ่งปี ดังนั้นจึงเป็นที่คาดว่าในช่วงเวลานี้ NVIDIA จะเปิดเผยราคา ซึ่งจะไม่ถูกอย่างแน่นอน