การขาดแคลนกราฟิกการ์ดใหม่เกิดจาก AI หรือไม่

ความต้องการฮาร์ดแวร์ AI เพิ่มขึ้นอย่างมากในปีที่ผ่านมา โดยเฉพาะสำหรับ GPU นี่ทำให้เราสงสัยว่าเราจะเห็นก การ์ดจอขาด อีกครั้งเหมือนการขุดเมื่อไม่นานที่ผ่านมา เพื่อทำให้เรื่องแย่ลง NVIDIA ได้นำเสนอผลิตภัณฑ์เพื่อป้อนตลาดนี้ใน GTC ซึ่งทำให้หลายคนสงสัยว่าฝันร้ายกำลังจะกลับมาหรือไม่

เช่นเดียวกับทุกเดือนมีนาคม NVIDIA จัดการประชุม GTC ของตนเอง โดยมุ่งเน้นไปที่โลกของปัญญาประดิษฐ์และซูเปอร์คอมพิวเตอร์ ในนั้นไม่ได้นำเสนออะไรสำหรับพีซี แต่เป็นผลิตภัณฑ์และบริการในรูปแบบของซอฟต์แวร์และฮาร์ดแวร์ที่เกี่ยวข้องกับ AI และสำหรับอุตสาหกรรมต่างๆ อย่างไรก็ตาม ความนิยมในแอปพลิเคชัน เช่น ChatGPT, Stable Diffusion และอื่นๆ อีกมากมายที่อิงกับโมเดลภาษาขนาดใหญ่และการสร้างรูปภาพจากข้อความทำให้ความต้องการเพิ่มขึ้นในเรื่องนี้ และแน่นอนว่าคนของ Jen Hsen Huang ต้องใช้ประโยชน์จากมันไม่ทางใดก็ทางหนึ่ง แม้ว่าสิ่งที่สำคัญสำหรับเรานั้นจะส่งผลอย่างไรต่อเราและดูว่าเราจะประสบปัญหาการขาดแคลนกราฟิกการ์ดอีกหรือไม่

สรุปข้อความใดๆ ด้วย AI ของ Google Docs

NVIDIA กระโดดขึ้นไปบน ChatGPT bandwagon และเปิดตัวการ์ดกราฟิกคู่ในหลายปีมานี้

เมื่อเร็ว ๆ นี้เราได้บอกคุณว่า NVIDIA กำลังพยายามใช้ประโยชน์จากความเจริญของ AI ใหม่ด้วยสององค์ประกอบที่ชัดเจน ในด้านหนึ่ง การขายกราฟิกการ์ดเพื่อให้บริษัทขนาดใหญ่และฝ่ายบริหารสามารถตั้งค่าเซิร์ฟเวอร์ของตนเองเพื่อจัดหาหรือใช้บริการตาม Deep หรือ Machine Learning ในทางกลับกัน การสร้างเซิร์ฟเวอร์ในระบบคลาวด์เพื่อให้บริษัทขนาดเล็กและขนาดกลางสามารถเข้าถึงทรัพยากรเหล่านี้ได้

ตามลำดับและในกรณีแรกพวกเขาได้นำเสนอของพวกเขา NVIDIA H100 NVL คู่ ซึ่งประกอบด้วยกราฟิกการ์ดสองตัวที่เชื่อมต่อระหว่างกันผ่าน NVLink พวกเขาไม่ได้ใช้สถาปัตยกรรมเดียวกันกับ RTX 40 แต่เป็น H100 ที่ออกแบบมาสำหรับตลาดซูเปอร์คอมพิวเตอร์ ความพิเศษของมันคือจำนวน VRAM ที่มีทั้งหมดคือ 188 GB ของประเภท HBM3 ซึ่งหมายความว่าระบบสงวนไว้ 2 GB ต่อ GPU สำหรับงานบางอย่าง ตลาดเป้าหมายของคุณ? หนึ่งในรูปแบบภาษาที่ยอดเยี่ยมในรูปแบบ ChatGPT

สำหรับผลิตภัณฑ์ที่สองก็คือ NVIDIA DGX เมฆ ซึ่งเป็นบริการระบบคลาวด์ซูเปอร์คอมพิวเตอร์ที่ให้การเข้าถึงเซิร์ฟเวอร์ NVIDIA เพื่อให้สามารถใช้พลังของ GPU สำหรับแอปพลิเคชันที่เน้น AI เซิร์ฟเวอร์เหล่านี้จะขึ้นอยู่กับ ไมโครซอฟท์ Azure และ Google Cloud แนวคิดก็คือธุรกิจขนาดกลางและขนาดย่อมสามารถเช่าเซิร์ฟเวอร์ดังกล่าวได้

กราฟฟิคอื่นๆ NVIDIA H100 NVL Dual

จะมีปัญหาการขาดแคลนกราฟิกการ์ดสำหรับเล่นเกมหรือไม่?

อย่างที่คุณเห็น NVIDIA ไม่ได้ย้ายสต็อก RTX 40 ไปสู่ตลาด AI แทนที่จะใช้ชิปตัวอื่น H100 แน่นอนว่าเราต้องเริ่มจากข้อเท็จจริงที่ว่าทั้ง GeForce รุ่นล่าสุดสำหรับพีซีและชิปที่ทรงพลังนี้มาจากโรงหล่อเดียวกันโดยใช้โหนด N4 ของ TSMC ดังนั้น ความต้องการสิ่งหนึ่งจะส่งผลต่อความต้องการอีกสิ่งหนึ่งในทางทฤษฎี อย่างไรก็ตาม เราต้องคำนึงถึงประเด็นสำคัญหลายประการ:

  • อัตรากำไรของกราฟิกการ์ด H100 นั้นสูงกว่า RTX 40 อย่างมาก ซึ่งการ์ดกราฟิก HPC รุ่นถัดไปของ NVIDIA มีราคาสูงกว่าที่คุณจ่ายสำหรับ RTX 10 เกือบ 4090 เท่า
  • แม้จะมีความต้องการเพิ่มขึ้น แต่ก็จะไม่ใหญ่เท่ากับกรณีของการขุด ดังนั้นกราฟิกการ์ดสำหรับเล่นเกมจึงปลอดภัย

อย่างไรก็ตาม เราต้องคำนึงว่าชิป H100 มีขนาดค่อนข้างใหญ่ ซึ่งหมายความว่ามีไม่กี่หน่วยที่ออกมาต่อเวเฟอร์ และอัตราความล้มเหลวก็ค่อนข้างสูง ไม่ว่าในกรณีใด บริษัทข้ามชาติขนาดใหญ่ที่ต้องการซื้อฮาร์ดแวร์ประเภทนี้เป็นที่ต้องการอย่างมาก แค่คิดว่าสำหรับ ChatGPT 3 จำเป็นต้องใช้การ์ดกราฟิก 10,000 ใบสำหรับการฝึกอบรม AI เราไม่รู้ว่าเวอร์ชันใหม่จะมีจำนวนเท่าใด แต่แน่ใจมากกว่าใช่หลายเท่า และพวกเขาจะไม่ใช่กลุ่มเดียวที่ต้องการฮาร์ดแวร์ดังกล่าว ไม่ว่าในกรณีใด เราจะดูว่า TSMC และ NVIDIA มีความสามารถในการรองรับความต้องการนี้โดยไม่ส่งผลกระทบต่อตลาดเก่าของพวกเขาหรือไม่ แม้ว่าในปัจจุบันจะมีกำไรน้อยกว่าก็ตาม