Dell PowerEdge XE9640 เซิร์ฟเวอร์ GPU ที่ระบายความร้อนด้วยของเหลว

Dell PowerEdge XE9640 Liquid-Cooled GPU Server Deep Dive

Dell PowerEdge XE9640 เป็นเซิร์ฟเวอร์ Rack-mount ที่เร่งความเร็วด้วย GPU ขนาด 4 เท่า ซึ่งสามารถมอบพลัง AI ได้อย่างประหยัดพลังงาน เนื่องจากการระบายความร้อนด้วยของเหลว โดย XE9640 ได้รับปล่อยตัวในช่วง SC22 พร้อมกับ XE8640 และหนึ่งในรายการโปรดของเรา นั่นก็คือเซิร์ฟเวอร์ GPU 8-way XE9680 นั่นเอง ปัจจุบัน XE9640 มีวางจำหน่ายโดยทั่วไปแล้ว และเรากำลังจะพาไปเจาะลึกเกี่ยวกับฮาร์ดแวร์พื้นฐาน

ตระกูลเซิร์ฟเวอร์เร่งความเร็ว GPU ของ Dell

เซิร์ฟเวอร์ตระกูล PowerEdge XE ถูกสร้างขึ้นโดยเฉพาะสำหรับปริมาณงาน AI และ HPC ที่ซับซ้อนซึ่งต้องการประสิทธิภาพและความน่าเชื่อถือ เซิร์ฟเวอร์เหล่านี้ได้รับการออกแบบมาให้มีประสิทธิภาพสูง พร้อมขับเคลื่อนด้วยข้อมูลเชิงลึกและชาญฉลาด ปัจจุบันตระกูลเซิร์ฟเวอร์ XE ประกอบด้วย XE9680 (เราเคยบอกไปแล้วไหมว่านี่เป็นรุ่นโปรดของ Jordan เลย), XE9640, XE8640 และสุดท้าย XE8545 เธรดทั่วไประหว่างเซิร์ฟเวอร์ทั้งหมดนี้คือการออกแบบเพื่อรองรับความคิดริเริ่มด้าน AI ที่หลากหลาย พร้อมตัวเลือกการระบายความร้อนที่เหมาะสมกับลูกค้า

ผลิตภัณฑ์	วัตถุประสงค์	ประโยชน์	ใช้ในกรณี
XE9680	ออกแบบมาเพื่อเพิ่มข้อมูลเชิงลึกด้วยการเร่ง AI ที่ออกแบบมาเพื่อประสิทธิภาพสูงสุดและใช้เวลาคุ้มค่าอย่างรวดเร็วที่สุด	ใช้ประโยชน์จากประสิทธิภาพสูงสุดสำหรับ AI และ HPC ด้วย 8x NVIDIA H100 หรือ A100 Tensor Core SXM GPUs	แบบจำลองภาษาขนาดใหญ่
		การทำงานแบบระบายความร้อนด้วยอากาศอย่างอัจฉริยะ (สูงถึง 35C) ช่วยเพิ่มประสิทธิภาพการแปลงข้อมูลให้เป็นผลลัพธ์สูงสุด	การประมวลผลภาษาธรรมชาติ
			การ Training การแนะนำเครื่องยนต์ขนาดใหญ่
			การสร้างแบบจำลองและการจำลอง
			การสร้างโมเดลเสมือนจริง (Digital Twins) และการผลิต
XE8640	ขับเคลื่อนปริมาณงาน AI และ HPC พร้อมการวิเคราะห์ด้วยประสิทธิภาพที่เหนือกว่า	วิเคราะห์ข้อมูลเชิงลึกโดยอัตโนมัติด้วย GPU NVIDIA H100 4x สำหรับแอปพลิเคชันที่หลากหลาย	แบบจำลองภาษาชุดข้อมูลกลาง
		ใช้ระบบทำความเย็นด้วยอากาศ (ถึง 35C) เพื่อเพิ่มประสิทธิภาพพลังงาน	การประมวลผลภาษาธรรมชาติ
		ขยายขนาดการดำเนินการด้วยตัวเลือกการขยายแบบอัจฉริยะ	การสร้างแบบจำลองและการจำลอง
			ปัญญาประดิษฐ์ การ Training ML/DL และการประชุมทางไกล การรับรู้ภาพ
XE8545	ประสิทธิภาพเหมาะสำหรับแอปพลิเคชัน AI และกราฟิกทั่วไป	เพิ่มประสิทธิภาพการ Training และการอนุมานด้วย GPU NVIDIA A100 4x	การสร้างแบบจำลองและการจำลอง รวมถึงการวิเคราะห์แผ่นดินไหว
		การทำงานแบบระบายความร้อนด้วยอากาศ (สูงถึง 35C) ที่ช่วยให้การทำงานมีประสิทธิภาพ	ปัญญาประดิษฐ์ การ Training และการอนุมาน ML/DL การจดจำรูปภาพ และแชตบอต
		ลด TCO ด้วยโซลูชันที่มีประสิทธิภาพ/วัตต์ที่สมดุล

Dell PowerEdge XE9640 - ความหลากหลายของ GPU และการระบายความร้อนด้วยของเหลว

PowerEdge XE9640 นำเสนอระบบทำความเย็นแบบเหลวโดยตรง (DLC) ให้กับ GPUS และ CPU ซึ่งต้องขอบคุณความร่วมมือที่ลึกซึ้งกับพันธมิตร CoolIT โดยเซิร์ฟเวอร์ได้จำหน่ายพัดลมเพียงไม่กี่ตัว เพื่อให้แน่ใจว่า DRAM อุปกรณ์จัดเก็บข้อมูล และ PCIe ได้รับการไหลของอากาศและความเย็นที่เพียงพอ กล่าวคือพัดลมเหล่านี้ไม่จำเป็นต้องทำงานที่ RPM สูงสุด ซึ่งจะช่วยประหยัดพลังงานได้มากนั่นเอง
PowerEdge XE9640 ได้นำเสนอความหลากหลายของ GPU ซึ่งนำเสนอทางเลือกระหว่างโมดูล H100 SXM5 GPU 700W ที่เชื่อมต่อกับ NVIDIA 4x หรือโมดูล Intel XeLink GPU Max 1550 600W Open Compute Platform (OCP) Accelerator Module (OAM)
ด้วยเทคโนโลยีอย่าง NVIDIA NVLink และ Intel Xelink นี้เองที่ทำให้ GPUs เหล่านี้สามารถสื่อสารได้อย่างราบรื่น โดยรวบรวมหน่วยความจำและคอร์เข้าด้วยกันอย่างมีประสิทธิภาพ ความคล่องตัวนี้ทำให้เหมาะสมกับปริมาณงาน AI ที่หลากหลาย แน่นอนว่าคำถามที่ปรากฏขึ้นมาก็คือ “แล้ว AMD Instinct ล่ะ?” เนื่องจาก Dell กำลังประเมินการรองรับ GPU เพิ่มเติมอย่างต่อเนื่อง แต่กลับไม่มีโซลูชัน AMD ในเซิร์ฟเวอร์นี้เมื่อเปิดตัว

ความหลากหลายของ GPU นี้ยังช่วยให้ผู้ใช้สามารถตอบสนองความต้องการที่เพิ่มขึ้นของ generative AI การสร้างแบบจำลองทางอุตสาหกรรม และการวิจัยทางวิทยาศาสตร์ที่ล้ำสมัยด้วย ตัวอย่างเช่น ความสามารถเร่งความเร็ว Intel Data Center GPU Max ของ PowerEdge XE9640 ได้ถูกนำไปใช้ที่ Texas Advanced Computing Center (TACC) สำหรับซูเปอร์คอมพิวเตอร์ Stampede3

ในแง่ความหนาแน่นและการระบายความร้อน PowerEdge XE9640 ได้รับการออกแบบทางวิศวกรรมมาเพื่อใช้พื้นที่ในแร็คอย่างมีประสิทธิภาพ พร้อมเพิ่มความสามารถของระบบคอมพิวเตอร์อย่างเต็มรูปแบบ ด้วยโปรไฟล์ 2RU ที่กะทัดรัด ทำให้เซิร์ฟเวอร์รุ่นนี้มีความจุ GPU พื้นที่ในแร็คอย่างน่าประทับใจ ช่วยเพิ่มพื้นที่ศูนย์ข้อมูลที่มีค่าให้สูงสุด นอกจากนี้การใช้ DLC นี้ยังทำให้ PowerEdge XE9640 มีประสิทธิภาพเหนือกว่าระบบระบายความร้อนด้วยอากาศแบบเดิมในแง่ของประสิทธิภาพและความคุ้มค่า

Dell PowerEdge XE9640 – ส่วนที่เหลือของฮาร์ดแวร์

นอกเหนือจาก “แค่” GPU แล้ว วิศวกรรมที่อยู่เบื้องหลังซีรีส์ XE ยังเป็นระดับเฟิร์สคลาส เราเพิ่งโพสต์วิดีโอรีวิวของ XE9640 และ XE8640 ไปด้วย โดยวิดีโอนี้นำเสนอรายละเอียดที่ยอดเยี่ยมเกี่ยวกับการออกแบบ ตั้งแต่การเข้าถึงไดรฟ์และการกำหนดเส้นทางท่อ DLC บน XE9640 ไปจนถึงระบบระบายความร้อนแบบปิดวงจร GPU บน XE8640 และเส้นทางสำหรับการปรับปรุงในอนาคตบนเซิร์ฟเวอร์ XE ทั้งหมด ซึ่งรายการอ้างอิงอยู่ที่ด้านล่าง

นอกเหนือจาก XE9640 การถอดกรอบจะช่วยให้เข้าถึงไดรฟ์ NVMe ได้อย่างง่ายดาย สองช่องทางด้านขวาของ chassis รองรับไดรฟ์ระบบจัดเก็บข้อมูล (BOSS) ที่เพิ่มประสิทธิภาพการบูต NVMe และรวม HWRAID 1 ผ่าน SSD ขนาด 2x M.2 ในปัจจุบัน พื้นที่เก็บข้อมูลหลักถูกจัดเตรียมผ่านไดรฟ์ โดยแพลตฟอร์มดังกล่าวจะไม่รองรับ HW RAID สำหรับเบย์ U.2 NVMe แม้ว่าส่วนใหญ่จะไม่จำเป็นต้องใช้ก็ตาม เพราะกล่อง GPU เหล่านี้จำนวนมากใช้ประโยชน์จากชุดข้อมูลขนาดใหญ่จากภายนอก ซึ่งในกรณีนี้การจัดเก็บข้อมูลในระบบจัดเก็บข้อมูลภายใน (Local storage) จะไม่เป็นแหล่งข้อมูลหลักสำหรับชุดข้อมูลขนาดใหญ่

แน่นอนว่ามีตัวเลือกการขยายที่ดีที่ด้านหลังของเซิร์ฟเวอร์สำหรับมืออาชีพด้าน AI ที่ต้องการติดตั้งระบบจัดเก็บข้อมูลขนาดใหญ่ XE9640 รองรับสล็อต PCIe Gen5 4 ช่อง สูงครึ่งสองช่องและสูงเต็มสองช่อง นอกจากนี้คุณมีสล็อต PCIe Gen3 OCP NIC

เพื่อคลายความกลัวเรื่องการรั่วไหล เซิร์ฟเวอร์ระบายความร้อนด้วยของเหลวจึงมีการรายงานการตรวจจับการรั่วไหลใน iDRAC โดยวิธีการของ Dell ในการตรวจจับการรั่วไหลนั้นน่าทึ่งมาก เมื่อคุณเจาะเข้าไปในส่วนต่างๆ ของแชสซี ตัวอย่างเช่น ในภาพแผ่นระบายความร้อน CPU ด้านล่าง คุณสามารถสร้างร่องรอยทองแดงเล็กๆ น้อยๆ ในรูปแบบที่ขาดๆ หายๆ รอบๆ บล็อกน้ำทั้งหมด และหากมีน้ำหยดลงบนการเชื่อมต่อเหล่านี้ วงจรสายไฟเปิดจะตรวจจับทันที พร้อมทราบว่ามีการรั่วไหลเกิดขึ้น โดยเชือกลวดที่ถักด้วยวิธีการตรวจจับที่คล้ายกับในส่วนอื่นๆ ของตัวถัง สิ่งนี้จะมองเห็นได้ในรูปภาพบล็อกจ่ายของเหลวหลักของเรา ซึ่งมีท่อจำนวนมากที่ด้านหน้าแชสซี นอกจากนี้ CoolIT CDU และลูปที่เหลือยังมีการรายงานการตรวจจับการรั่วไหลในหลายๆ จุดตลอดการทำงานด้วย

นอกจากนี้ XE8640 และ XE9680 ที่ระบายความร้อนด้วยอากาศยังมาพร้อมกับการระบายความร้อนด้วยของเหลวของ GPU แบบวงจรปิดด้วยการตรวจจับการรั่วไหลแบบเดียวกันผ่าน iDRAC

การเพิ่มประสิทธิภาพ Power-Per-Rack

PowerEdge XE9640 ช่วยให้เหล่าลูกค้าสามารถปรับแต่งการใช้พลังงานต่อแร็คได้อย่างเหมาะสมด้วยเซิร์ฟเวอร์ 9 เครื่องต่อแร็ค การประมวลผลแบบเร่งความเร็วสูงสุดอาจต้องใช้พลังงานประมาณ 41 กิโลวัตต์ โดยใช้การกระจายพลังงาน 3 เฟสเพื่อประสิทธิภาพที่สมดุล สำหรับการปรับขนาด ศูนย์ข้อมูลสามารถปรับใช้แร็คที่มีเซิร์ฟเวอร์ PowerEdge XE9640 จำนวน 12, 18 หรือแม้แต่ 21 เครื่อง เพื่อให้ได้ระดับพลังงานประมาณ 54kW, 81kW และ 95kW ตามลำดับนั่นเอง ความสามารถในการปรับตัวนี้ช่วยให้ศูนย์ข้อมูลสามารถปรับการใช้พลังงานแร็คให้เหมาะสมตามความต้องการเฉพาะได้เป็นอย่างดี

Dell ได้รวบรวมแหล่งข้อมูลที่หลากหลายเพื่อให้ลูกค้าได้รับข้อมูลเชิงลึกที่ครอบคลุมเกี่ยวกับ PowerEdge XE9640 มากที่สุด มีวิดีโอแกะกล่องและรีวิวผลิตภัณฑ์โดยละเอียด ซึ่งวิดีโอที่แกะกล่องนี้จะแสดงการออกแบบและคุณสมบัติของเซิร์ฟเวอร์ ทำให้ลูกค้าสามารถชมความสามารถของเซิร์ฟเวอร์ได้นั่นเอง
และเพื่อเน้นย้ำถึงข้อดีของ PowerEdge XE9640 ต่อไป Dell ได้สร้างอินโฟกราฟิกที่เปรียบเทียบกับ PowerEdge XE8640 ซึ่งเป็นรุ่นที่ระบายความร้อนด้วยอากาศ โดยอินโฟกราฟฟิกนี้จะแสดงให้เห็นความแตกต่างที่โดดเด่นของ PowerEdge XE9640 โดยเฉพาะในเรื่องประสิทธิภาพของการระบายความร้อนของเหลวและความจุ GPU ต่อแร็คที่น่าประทับใจ

ความคิดเห็นสุดท้าย

PowerEdge XE9640 เป็นส่วนสำคัญของโซลูชัน Generative AI ที่กำลังขยายตัวของ Dell ซึ่งออกแบบมาเพื่อปฏิวัติปริมาณงานและส่งเสริมนวัตกรรมด้าน AI โซลูชัน Generative AI ของ Dell ได้ผสมผสานเทคโนโลยี นวัตกรรม และบริการที่ทันสมัย ซึ่งนำเสนอโดย Dell Technologies เพื่อมอบผลลัพธ์ที่ชาญฉลาดและรวดเร็วยิ่งขึ้นให้แก่ทุกคน ด้วยการควบคุมความสามารถของ generative AI องค์กรต่างๆ จึงสามารถบรรลุข้อมูลเชิงลึกใหม่ๆ พยายามเร่งการเปลี่ยนแปลง พร้อมเพิ่มประสิทธิภาพของพนักงานให้มากขึ้น

แม้ว่า XE9680 จะยังคงเป็นเซิร์ฟเวอร์ GPU ของ Dell ที่เราชื่นชอบ แต่ XE9640 ก็ได้เข้ามาอยู่ในใจเราเช่นกันจากมุมมองด้านประสิทธิภาพและการออกแบบ แชสซี 2U จะอัดแน่นไปด้วยวิศวกรรมจำนวนมหาศาล ศูนย์ข้อมูลที่มีการระบายความร้อนด้วยของเหลวจะมุ่งความสนใจไปที่กล่องประหยัดพลังงานเหล่านี้อย่างเห็นได้ชัดเลย โมดูล NVIDIA ทั้ง 4 ตัวนี้ใช้ 2800W สำหรับตัวเองเท่านั้น ดังนั้นทุกสิ่งที่ Dell ได้ทำเพื่อช่วยให้ศูนย์ข้อมูลมีแร็คที่ประหยัดพลังงานมากขึ้น จุงถือเป็นก้าวกระโดดครั้งใหญ่

ที่มา : http://bit.ly/3S84HJU
สนใจสั่งซื้อสินค้า Dell PowerEdge คลิกที่นี่ https://www.quickserv.co.th/server/DELL.html