รีวิว Dell EMC PowerEdge XE8545: เซิร์ฟเวอร์ AMD EPYC และ NVIDIA Redstone

Dell EMC PowerEdge XE8545 AMD EPYC and NVIDIA Redstone Server Review

Dell EMC PowerEdge XE8545 เป็นเครื่องโหนดใหญ่แบบสองซ็อกเก็ต โดยยังเป็นระบบ 4U ที่ดึงโปรเซสเซอร์ AMD EPYC 7003 สองตัวมาใช้ร่วมกันกับ GPUs SXM4 NVIDIA A100 ถึงสี่ตัว ซึ่งเป็นที่รู้จักกันดีในชื่อ แพลตฟอร์ม Redstone ของ NVDIA โดยมันถูกจัดอยู่เหนือ Dell EMC PowerEdge R750xa ในแสต็ก โดยเซิร์ฟเวอร์ XE8545 จึงนับเป็นเซิร์ฟเวอร์ระดับไฮเอนด์ของ Dell

ภาพรวมของฮาร์ดแวร์ Dell EMC PowerEdge XE8545

เราจะแบ่งการรีวิวออกเป็นสองช่วง คือการรีวิวภาพรวมภายนอกทั้งหมด ตามด้วยการรีวิวภายในโดยรวมทีละส่วน

ภาพรวมภายนอกของ Dell EMC PowerEdge XE8545

Dell EMC PowerEdge XE8545 เป็นเซิร์ฟเวอร์ 4U โดยหนึ่งในนวัตกรรมที่สำคัญของ Dell สำหรับการใช้งานแพลตฟอร์มนี้คือ พวกเขาสามารถทำให้แพลตฟอร์มทั้งหมดมีขนาดแชสซีเพียง 810 มม. ได้ เพื่อให้สามารถติดตั้งในแร็คเซิร์ฟเวอร์มาตรฐานส่วนใหญ่ได้ นี่คือรุ่นต่อยอดจาก PowerEdge C4140 ซึ่งมีขนาดกว่า 100 มม. และมักวางได้ไม่พอดีกับชั้นวางมาตรฐานทั่วไป แต่ในขณะเดียวกันมันก็เอาฟีเจอร์หลายอย่างออกไป เช่น แผงที่เก็บข้อมูลด้านหน้าที่เป็นระบบ Hot-swap ทั้งนี้ ไม่เพียงแต่ Dell จะพยายามสร้างแพลตฟอร์มที่ทรงพลังมากขึ้นเท่านั้น แต่ยังพยายามแพลตฟอร์มที่ปรับใช้ได้มากขึ้นด้วย

ข้างใต้เคส PowerEdge สุดหรูหรา ยังมีช่องใส่ Hot-Swap ขนาด 2.5 นิ้วหรือ 1U อีก10 ช่องตรงด้านบนของตัวเครื่อง และมีแผงพัดลมขนาด 3U ด้านล่าง สิ่งสำคัญตรงนี้ก็คือ มันมีช่องใส่ไดรฟ์ขนาด 1U ด้านบนที่ทำหน้าที่เป็นช่องทางเข้าสำหรับกระแสลมหลัก ที่ไม่ได้เพียงแต่ส่งไปยังที่เก็บข้อมูลโดยตรงเท่านั้น แต่ยังรวมถึงซีพียู AMD EPYC, หน่วยความจำ, เมนบอร์ด และส่วนขยาย PCIe อีกด้วย ส่วนพัดลมติดผนังขนาด 3U ด้านล่างนั้นออกแบบมาเพื่อระบายความร้อนของแพลตฟอร์ม NVIDIA Redstone ที่ใช้ 4x SXM4 NVIDIA A100 GPUs นั่นเอง

ถาด Hot-Swap ยังออกแบบมาสำหรับใส่ SSDs ขนาด 8x โดยเป็นช่อง PCIe Gen4 x4 สำหรับ NVMe SSDs อีกสองช่องเป็นถาดไดรฟ์ SATA/ SAS เก่า แต่ถ้าเทียบกับ C4140 แล้ว นี่ก็เป็นการอัปเกรดขึ้นมากทีเดียว

บริเวณพื้นที่ 3U ด้านล่างทั้งหมดตรงด้านหน้าของระบบมีโมดูลพัดลมอยู่สิบสองตัว ด้วยเหตุนี้ ฟังก์ชัน I/O ด้านหน้า และการจัดเตรียม/การจัดการทั้งหมดจะอยู่ตรงที่แขวนแร็ค ซึ่งโมดูลพัดลมเหล่านี้สามารถถอดเปลี่ยนได้ทันที จะได้บำรุงรักษาง่ายๆ โดยไม่ต้องถอดเคสออกมา

ขอย้ำอีกครั้งให้ชัดเจน พัดลมทั้งสิบสองตัวนี้เป่าจ่อแพลตฟอร์ม NVIDIA Redstone และ NVIDIA A100 GPUs โดยตรง

ด้านหลังตัวเครื่องแบ่งออกเป็นสองส่วน โดยแบ่งเป็นส่วนของ 2U ด้านบนของส่วนที่มี 1U เข้าไปถึงด้านในของเคสเพื่อระบายไอออกในส่วน 2U และตรงด้านล่างที่เป็นส่วน 3U นั้นระบายไอออกในส่วนด้านหน้าของส่วน 2U เราจะได้เห็นมากขึ้นกว่านี้ถ้าถึงส่วนที่อธิบายภาพรวมภายใน

ส่วนด้านบนมีตัวยก PCIe โดยทั้งหมดไม่ได้เปิดใช้งาน แต่มีอย่างน้อยหนึ่งที่ใส่ PCIe ได้ถึงสามช่องสำหรับ NICs ความเร็วสูง DPUs หรือสำหรับตัวควบคุมพื้นที่จัดเก็บภายนอกสำหรับระบบนี้

I/O ของเมนบอร์ดหลักยังคล้ายกับเซิร์ฟเวอร์ Dell รุ่นอื่นๆ ในรุ่น โดย I/O ทั้งหมดวางอยู่บนแผ่น PCB ที่ถอดเปลี่ยนได้แยกต่างหาก ทำให้พื้นที่นี้สามารถปรับแต่งได้เป็นอย่างสูง เรายังมี NIC LOM อยู่ทางด้านซ้าย และมี OCP NIC 3.0 อยู่ตรงกลาง ส่วนด้านขวามี USB iDRAC NIC และ VGA และเนื่องจากมันสามารถปรับแต่งเองได้เยอะ เราก็จะบอกว่านี่เป็นการปรับแต่งของเรา คุณอาจจะมีการปรับแต่งที่ต่างออกไปก็ได้

อีกอย่างที่เราต้องการชี้ให้เห็นคือ ตัวระบบมีเลน PCIe Gen4 48x สำหรับการขยาย PCIe ในส่วนด้านหลัง ซึ่งสามารถใช้สล็อต x16 ได้ถึงสามช่อง หรือใช้ x16 สองช่องและ x8 อีกสองช่องก็ได้ นี่เป็นส่วนหนึ่งของลิงก์ x8 สำหรับสล็อต OCP NIC 3.0 โดยรวมแล้ว Dell ใช้ 64 PCIe Gen4 เลนสำหรับพื้นที่ I/O ด้านหลังนี้

นอกจากนี้ ยังมีพาวเวอร์ซัพพลาย 2.4kW ถึงสี่ตัวที่คอยจ่ายให้พลังงาน และแม้จะใช้สเปคระดับ GPU 400W แต่ PSU ขนาด 2.4kW เพียงตัวเดียวก็อาจไม่พอสำหรับระบบนี้ โดย Dell เลือกที่จะใช้ตัวจ่ายพลังงานสองตัวสำหรับด้าน A และใช้ตัวจ่ายอีกสองตัวสำหรับด้าน B เพื่อให้เพียงพอ ทั้งนี้ การใช้งาน PSU N+1 3x อาจทำให้เกิดการโหลดพลังงานของอีเวนต์สู่ตัวแร็คเป็นไปอย่างไม่สม่ำเสมอ และอาจลัดวงจร Dell จึงออกแบบระบบนี้มารองรับข้อปัญหาดังกล่าวด้วยการออกแบบให้มี PSU สี่ตัว

ตอนนี้เรามาดูกันดีกว่า ว่าอะไรคือหน้าตาเด่นๆ ในเซิร์ฟเวอร์ตัวนี้ในความคิดของเรา นั่นก็คือ ส่วนที่ยื่นออกมาด้านหลังนั่นเอง ต่อให้ฮาร์ดแวร์ทั้งหมดจะดูดีแค่ไหน เจ้าส่วนที่ยื่นออกมานี้จะเป็นส่วนที่ทำให้เรานึกถึงมันตลอดการรีวิว XE8545 เซิร์ฟเวอร์ตัวนี้ให้ความรู้สึกเหมือนว่า Dell เอาเซิร์ฟเวอร์สองตัวมาผสมดัน ซึ่งการออกแบบนี้ทำให้เห็นว่าเป็นอย่างนั้น ส่วนด้านบนของมันเหมือนเอามาจาก Dell EMC PowerEdge R7525 ทั้งดุ้น ในขณะที่ส่วนด้านล่างมาจาก NVIDIA Redstone-based GPU เลย ในบทความซีรีส์ Planning for Servers in 2022 and Beyond ของเรา แนวคิดหลักๆ หลายประการที่เราพูดคุยกันอยู่คือ แนวคิดการแยกย่อย (disaggregation) เครื่องนี้ให้ความรู้สึกเหมือน Dell ทำการแยกย่อยเซิร์ฟเวอร์แล้วหลอมเคสทั้งสองแบบเข้าด้วยกันอย่างไรอย่างนั้น พูดกันตามตรง การบูรณาการเข้าด้วยกันอาจลึกล้ำกว่านั้น แต่ภาพนี้ทำให้เรารู้สึกเหมือนกับว่านั่นแหละคือสิ่งที่เกิดขึ้น ก็คือไอ้ตรงด้านหลังของเซิร์ฟเวอร์นั่น

Dell EMC PowerEdge XE8545 NVIDIA A100 4-GPU: แพลตฟอร์ม Redstone

ตอนนี้เรามาดูฟีเจอร์ใหญ่ของเซิร์ฟเวอร์นี้กัน หรือก็คือแพลตฟอร์ม NVIDIA Redstone นั่นเอง สำหรับคนที่ยังไม่รู้ GPU รุ่นเรือธงของ NVIDIA ก็คือ NVIDIA A100 โดย A100 นั้นมีฟอร์มแฟคเตอร์อยู่สองแบบหลัก ๆ คือแบบ PCIe และ SXM4 โดย PCIe นั้นเป็นรุ่นระดับรองที่เน้นความยืดหยุ่นมากกว่าประสิทธิภาพ ซึ่งอยู่ใน PowerEdge R750xa ในขณะที่ XE8545 ตัวนี้ใช้ GPU SXM4 ที่เป็นรุ่นระดับไฮเอนด์กว่า

ในระบบนิเวศของ SXM4 มีแพลตฟอร์มอยู่สองประเภทหลัก ๆ ก็คือ Redstone ซึ่งถูกใช้ในที่นี้ และ Delta โดย Redstone มี GPU SXM4 สี่ตัววางอยู่บนแผ่น PCB และขายในแบบฟูลออพชั่นให้กับผู้ขายเท่านั้น เหมือนกับ Dell โดยแต่ละตัว GPU จะมีการเชื่อม NVLink เข้ากับ GPU ตัวอื่นอีกสามตัว นอกจากนี้ GPU แต่ละตัวยังมีสายเชื่อม PCIe Gen4 เข้ากับ CPUs โดยตรง (อย่างละสองต่อ CPU หนึ่งตัว) แต่หากเป็นแพลตฟอร์ม Delta ที่เป็นระดับไฮเอนด์กว่า จะเพิ่ม NVSwitch สำหรับแฟบริค NVLink แบบสวิตซ์เข้ามา เช่นเดียวกับสวิตซ์ PCIe Gen4 เพื่อรองรับจำนวน GPU ที่มากกว่าถึงสองเท่า ทั้งนี้ ยังมีแอปพลิเคชันอีกมากที่ได้ประโยชน์จากอัตราความหน่วงต่ำที่ลดลงจากการไม่มีสวิตซ์เข้ามาขวางกลางระหว่าง CPU และ GPU ดังนั้น แพลตฟอร์ม Redstone ซึ่งมีความสำคัญด้วยประการนี้

คุณอาจจะเห็นภาพของ Redstone ที่ประกอบแล้ว NVIDIA ยังขายแบบประกอบแล้วทั้งหมดให้กับ Dell โดยที่ Dell ทำการบูรณาการส่วนที่ประกอบเสร็จทั้งหมดนี้เข้าไปใน PowerEdge XE8545 นี่แตกต่างจาก GPUs PCIe ที่ Dell ใช้วิธีการซื้อ GPUs PCIe แล้วผสานมันเข้าไปในระบบ แทนที่จะเป็นวิธีนั้น Redstone นั้นกลับถูก Dell ซื้อไปทั้งระบบ โดย Dell ต้องให้ข้อมูลและการเชื่อมต่อด้านการพลังงาน รวมถึงระบบระบายความร้อน เราจะเห็นได้ว่า Redstone ที่ประกอบแล้วทั้งหมดวางอยู่ส่วนล่างของเคส ส่งผลให้มันได้รับระบายอากาศโดยส่งตรงจากพัดลมติดผนังขนาด 3U

สำหรับคนที่กำลังสงสัยอยู่ แพลตฟอร์ม Redstone นั้นมักถูกมองว่าเป็นแพลตฟอร์มเน้น HPC ที่ดีกว่า เนื่องจากมีความหน่วงต่ำกว่า ส่วนแพลตฟอร์ม Delta นั้นเป็นที่นิยมในหมู่นักบุกเบิกทำ AI มากกว่า เช่น AI Cluster ที่อยู่ในรถขับเองได้ของ Tesla ก็ใช้งานแพลตฟอร์ม Supermicro Delta เช่นกัน

Dell ไม่มีแพลตฟอร์ม PowerEdge มาตรฐานแบบ “NVIDIA Delta” สำหรับการฝึกฝน AI ระดับไฮเอนด์แต่อย่างใด แต่ระบบเหล่านั้นมักถูกขายเป็นกลุ่มในโซนที่โปรไฟล์มาร์จินแตกต่างจากปกติที่ Dell มองหา ซึ่งก็อาจจะสมเหตุสมผลแล้ว สำหรับช่วงนี้ หากคุณอยากได้ GPUs SXM4 ระดับไฮเอนด์จาก Dell คุณก็น่าจะอยากได้ XE8545

อีกนวัตกรรมหนึ่งก็คือ Dell สามารถระบายความร้อนโมดูล A100 ที่ใช้ SXM4 ทั้ง 400W 40GB และ 500W 80GB ลงได้ด้วยการระบายอากาศ แค่นั้นก็พอแล้ว โดยโมดูล NVIDIA A100 400W 40GB ยังมีอุณหภูมิบรรยากาศของศูนย์ข้อมูลสูงเพียง 35C ในขณะที่รุ่น 500W 80GB ใช้เพียง 28C ในส่วนของศูนย์ข้อมูล

แบบโครงสร้าง Dell EMC PowerEdge XE8545

เรียกได้ว่า Dell EMC PowerEdge XE8545 นั้นเป็นเซิร์ฟเวอร์ที่น่าสนใจตัวหนึ่งเลย แบบโครงสร้างนั้นอาจมีให้ดูอีกมากมายหลายเจ้า แต่แบบโครงสร้างของเซิร์ฟเวอร์ตัวนี้นับเป็นหนึ่งในแบบที่โดดเด่นและดีเยี่ยมที่สุด เพราะมันโชว์เลย์เอาต์เบสิคทั้งหมดของสาย PCIe ให้เห็นตั้งแต่ด้านหน้าไปจนถึงด้านหลัง

แต่ละ CPU จะมีสาย PCIe Gen4 อยู่ 16 สายเลนสำหรับถาดไดรฟ์ด้านหน้า โดยสายเลนทั้ง 16 นี้รองรับ NVMe SSDs ขนาด 2.5″ ทั้งสี่ตัวได้ทั้งหมดจำนวนแปดตัว และถ้าคุณเห็นภาพรวมภายในทั้งหมดของเรา จะเห็นได้ว่าทั้งหมดนี้มาจากสายปรับแต่งได้ที่ใช้สาย socket-to-socket หรือสาย PCIe แทนได้

เราจะเห็นได้ว่า CPU แต่ละตัวเชื่อมต่อกับ GPU สองตัว โดยตัว GPU นี้เชื่อมต่อผ่าน NVLink โดยตรง จุดสังเกตหนึ่งคือ ในไดอะแกรมนี้ใช้โมดูล 40GB แต่ก็มีตัวเลือกโมดูล 80GB 500W ด้วยเช่นกัน

ที่ด้านหลัง แต่ละ CPU จะมีช่อง PCIe Gen4 x16 ช่อง โดย CPU1 จะมีพอร์ต OCP NIC 3.0 ในขณะที่ CPU2 อาจมีได้ทั้งพอร์ต x16 ช่องหรือพอร์ต x8 สองช่องก็ได้

ถ้าคุณทำการนับอย่างรวดเร็ว อาจนับสาย PCIe ได้ ณ ตอนนี้อยู่ที่ 152 สายเลน โดยไม่รวม 8 สายเลนบน CPU1 นี่เป็นแบบโครงสร้างที่ใหญ่กว่า Intel Xeon Ice Lake แต่ก็ยังไม่สุดที่เต็มจำนวนสายเลน PCIe 160 เลน โดยจะมีสายเลนเพิ่มเติมถูกใช้ในระบบสำหรับฟีเจอร์อื่น ๆ เช่น non-OCP NICs, SATA สำหรับช่องใส่ด้านหน้า และอื่น ๆ สิ่งเหล่านี้ไม่ได้อยู่ในไดอะแกรม แต่เนื่องจาก CPU AMD EPYC ไม่มี PCH สำหรับ I/O ที่มีค่าต่ำกว่า เราจึงมักจะเห็นระบบจัดสรรเลนสำหรับฟังก์ชันเหล่านั้นมากกว่า

การจัดการ iDRAC 9

หนึ่งในคุณสมบัติที่เด่นที่สุดของ PowerEdge XE8545 ก็คือการรองรับ iDRAC สำหรับผู้ที่ไม่ทราบว่า iDRAC คืออะไร… iDRAC เป็นโซลูชันการจัดการของ Dell ในระดับเซิร์ฟเวอร์ BMC ของมันจึงถูกเรียกว่าตัวควบคุม iDRAC โดยสำหรับผู้ที่อยู่ในระบบนิเวศของ Dell นั้นคงทราบดีอยู่แล้วว่า iDRAC คืออะไร โดยประโยชน์หลักสำหรับองค์กรที่มี XE8545 ก็คือสามารถการจัดการโซลูชันที่ใช้ GPU ร่วมกับเซิร์ฟเวอร์อื่นๆ ได้นั่นเอง

ประสิทธิภาพของ Dell EMC PowerEdge XE8545

ในแง่ของประสิทธิภาพ เราเคยรีวิวระบบต่างๆ มากมายของ AMD EPYC 7763 ไปแล้ว ด้วยเหตุนี้ เราจึงจะใช้ข้อมูลที่มีอยู่ของเราจากการรีวิวอย่างเป็นทางการในการตรวจสอบประสิทธิภาพของ CPU ตัวนี้ โดยใช้ CPU ระดับท็อปเอนด์ 280W เพื่อดูว่าระบบจะสามารถรักษา CPU ให้เย็นเหมือนเซิร์ฟเวอร์มาตรฐานทั่วไปได้หรือไม่

ผลโดยรวมที่ได้ คือ เราเห็นว่าประสิทธิภาพของมันพอมีความใกล้เคียงกับค่าพื้นฐาน ซึ่งเราจะไม่บอกแล้วกันว่ามันเร็วหรือช้ากว่าเซิร์ฟเวอร์มาตรฐานทั่วไป ดูเหมือนว่าระบบตัวนี้ของเราทำให้ CPU เย็นลงได้ แม้ว่าจะทำงานที่อุณหภูมิ 27.1 C ตรงส่วน Cold Aisle ของศูนย์ข้อมูลก็ตาม

ในส่วนของประสิทธิภาพ GPU เราเจอปัญหาหนักกว่าเล็กน้อย เรามีระบบ NVIDIA Redstone ตัวต้นแบบอีกระบบหนึ่ง แต่เราไม่สามารถเปิดเผยรายละเอียดของระบบได้ เนื่องจากระบบต้องถูกนำกลับไปแก้ไขใหม่อีกรอบหนึ่ง หวังว่าเราจะสามารถตรวจสอบระบบขั้นสุดท้ายได้ในเร็วๆ นี้ ความท้าทายข้ออื่นคือ ผู้ขายรายอื่นส่วนใหญ่ต้องการให้เรารีวิวสเปคที่เป็น 4x A100 PCIe ซึ่งเป็นของตลาดระดับโลว์เอนด์ด้วย หรือไม่ก็รีวิวแพลตฟอร์ม 8x A100 Delta ซึ่งเป็นไฮเอนด์ ซึ่งตัวเปรียบเทียบที่เรามีอยู่นั้นยังแย่มากในจุดนี้

Dell EMC ทำงานได้เร็วกว่าเครื่องต้นแบบ แต่ตามตรงแล้ว กราฟที่ว่านี้ไม่ได้มีความหมายสักเท่าไร โดยรวมแล้ว ดูเหมือนว่าโซลูชันการระบายความร้อนของ Dell EMC อาจจะดูตลกเล็กน้อย แต่ก็ทำงานได้ดี แถมโซลูชันนี้ยังรองรับ NVIDIA MIG หรือ GPU แบบหลายอินสแตนซ์ด้วย ทั้งนี้ ตัว NVIDIA A100 หรือแม้แต่โมดูล SXM4 ยังสามารถ "แบ่ง" GPU ขนาดใหญ่ออกเป็นมัลติอินสแตนซ์ โดยมีอินสแตนซ์ทั้งหมด 7 อินสแตนซ์ด้วยกัน

สำหรับโมดูล 80GB นั้น มี use case ที่น่าสนใจมากคือ การที่เวิร์กโหลด Inference บางอย่างไม่ได้ขยายขนาดขึ้นแม้จะใช้บน GPU ที่มีขนาดใหญ่จนมากเกินประสิทธิภาพ แต่มันใช้ GPU พลังงานต่ำหลายตัวเช่น NVIDIA Tesla T4 สำหรับกลไก Inference แทน แต่คุณสามารถแยก GPU A100 80W ออกเป็น 7 อินสแตนซ์ที่มีประสิทธิภาพสูงกว่า T4 ได้ด้วย MIG และใน GPU สี่ตัวในระบบนี้ มันยังให้ GPU มาทั้งหมด 28x พร้อมหน่วยความจำประมาณ 10-11GB ต่อตัวเลยทีเดียว

การใช้พลังงานของ Dell EMC PowerEdge XE8545

PowerEdge XE8545 ไม่ใช่เซิร์ฟเวอร์ประหยัดพลังงาน มันมีตัวจ่ายพลังงาน 2.4kW 80Plus Platinum ถึงสี่ตัว เราแอบหวังว่า Dell อาจลองดูตัวจ่ายพลังงาน Titanium บ้างสำหรับระบบแนว ๆ นี้ ราคาที่ต้องแลกกับตัวจ่ายพลังงานที่มีประสิทธิภาพการทำงานสูงขึ้นมันไม่ได้มากขนาดนั้นในบริบทที่มีการใช้งานระบบขนาดใหญ่แบบนี้

ตัวจ่ายพลังงานทั้งสี่ถูกออกแบบมาให้มีพาวเวอร์ซัพพลายสองตัวสำหรับการป้อนพลังงานแบบซ้ำซ้อนเข้าไปในแร็ค โดยหากเป็นสเปค 4x A100 400W และ dual AMD EPYC 7763 แล้วนั้น การตั้งค่านี้อาจทำให้ 2.5kW อันเดอร์โหลดได้ และยังมีพื้นที่สำหรับพลังงานที่มากกว่าที่เรามีอยู่อีกด้วย

เซิร์ฟเวอร์นี้ต้องใช้พาวเวอร์ซัพพลายมากกว่า 2.4kW รุ่น 500W A100 นั้นยังต้องใช้พลังงานเพิ่มอีก 400W จาก GPUs (NVIDIA GPUs เบสอัตราการใช้พลังงานตามการจัดอันดับดังที่เราเคยเห็นในระบบ A100 400W และ 500W อื่น ๆ) แต่ก็ต้องพัดลมที่มีความเร็วสูงขึ้น และใช้พลังงานมากขึ้นจากการระบายความร้อนที่มากขึ้นเช่นกัน เรามั่นใจว่าสเปคการทำงานของระดับไฮเอนด์อย่างแท้จริงนั้นจะต้องใช้พลังงาน >3kW ต่อระบบ ข้อนี้เป็นสิ่งสำคัญ นอกจากนี้ ตัวระบบยังมีขนาดเพียง 810 มม. ซึ่งช่วยให้พอดีกับขนาดของแร็คที่มีอยู่จำนวนมาก ความหนาแน่นของพลังงานกลายเป็นความท้าทายเช่นกัน

C4140 เป็นเซิร์ฟเวอร์ขนาด 1U ที่ใช้พลังงาน 2kW/U ซึ่งทำให้มันไม่สามารถใช้งานได้จริงสำหรับศูนย์ข้อมูลหลายแห่งที่ต้องการแร็คไซส์ลึก และยังต้องการกำลังไฟ 80kW+ ต่อแร็ค หรือ E8545 อาจเป็นเซิร์ฟเวอร์ 4U ที่ใหญ่กว่า แต่ถึงแม้จะมีสิบตัวในแร็ค ตัวหนึ่งก็อาจต้องใช้มากกว่า 25-30 kW เนื่องจากขนาดแร็คมาตรฐานในอเมริกาเหนือคือ 208V 30A ซึ่งใช้ประมาณ ~5kW ที่ใช้งานได้ ความหนาแน่นของแร็คต่อ U จึงไม่ใช่ความท้าทายหลัก แต่เป็นความลึกของชั้นวาง การจ่ายพลังงาน และการระบายความร้อนของศูนย์ข้อมูล ซึ่งชี้ให้เห็นว่าการบูรณาการเซิร์ฟเวอร์เหล่านี้เข้าด้วยกันเป็นเรื่องที่กำลังมาอย่างแน่นอน เราจำเป็นต้องดูความสามารถของสิ่งอำนวยความสะดวกด้วย เพื่อให้แน่ใจว่าเซิร์ฟเวอร์ขนาด 4U ถึงสองตัวจะได้รับการจ่ายไฟในแร็ค Dell ทำได้ดีในข้อนี้ เนื่องจากตระหนักถึงข้อจำกัดด้านพลังงานและการระบายความร้อนนี้ และยังได้เปลี่ยนฟอร์มแฟคเตอร์ในเจเนอเรชันนี้จาก 1U มาเป็น 4U

สรุปทิ้งท้าย

Dell EMC PowerEdge XE8545 เป็นแพลตฟอร์มที่มีความรอบด้านอย่างน่าประหลาดใจสำหรับแพลตฟอร์มที่มีตัวเร่งความเร็ว NVIDIA A100 SXM4 ระดับไฮเอนด์ และโปรเซสเซอร์ dual AMD EPYC 7003 เมื่อเทียบกับรุ่นก่อนหน้าอย่าง C4140 จะเห็นได้ว่านี่เป็นระบบที่ทั้งมีประสิทธิภาพสูงกว่ามาก และยังบูรณาการสิ่งอำนวยความสะดวกที่มีอยู่เข้ามาได้ง่ายกว่ามากอีกด้วย นี่อาจเป็นจุดสิ้นสุดของการพัฒนาเทคโนโลยี หรือเราอาจเข้าใกล้จุดนั้นมาก ๆ แล้วก็เป็นได้ โดยจุดที่ว่านี้จะเป็นจุดที่ความสมดุลเกิดขึ้นได้ด้วย accelerator ที่ทันสมัยและระบบการความร้อนด้วยอากาศ

ความสามารถในการระบายความร้อนของ Dell ที่ระบายความร้อนได้แม้กระทั่ง NVIDIA A100 500W 80GB GPUs ในชุดประกอบ NVIDIA Redstone พร้อมกับ CPU dual AMD EPYC 7763 280W ในโหนดเดียวโดยใช้การระบายความร้อนด้วยอากาศนั้น ถือเป็นสิ่งที่หาได้ยากในอุตสาหกรรมนี้ ผู้ขายหลายรายต่างแนะนำให้ใช้ระบบ liquid cooling แล้วสำหรับ 500W A100 แต่นั่นมาพร้อมกับความท้าทายในการรวมทั้งสองสิ่งนี้เข้าด้วยกัน ซึ่งเป็นความท้าทายในแบบที่ Dell พยายามหลีกเลี่ยงในการผลิต XE8545 การมุ่งเน้นความสะดวกในการปรับใช้นี้ครอบคลุมมากกว่าเพียงฮาร์ดแวร์ และสามารถจัดการได้โดยใช้ iDRAC และ Open Manage

โดยรวมแล้ว Dell EMC PowerEdge XE8545 ใช้งานง่าย การเข้าถึงตัว Redstone นั้นอาจเป็นงานบำรุงรักษาที่ทำได้ยากกว่าที่เราเคยเห็นมาในเซิร์ฟเวอร์อื่นๆ ของ Dell แต่ Dell ก็ทำได้ดีเลยทีเดียว

PowerEdge XE8545 อาจไม่ใช่เหตุผลให้องค์กรขนาดใหญ่เปลี่ยนจาก HPE หรือ Lenovo มาเป็น Dell แต่ก็ช่วยให้ลูกค้าของ Dell ได้ GPU ระดับไฮเอนด์ของ NVIDIA และ CPU ระดับไฮเอนด์ของ AMD มาใช้งานโดยไม่ต้องออกจากระบบนิเวศของ Dell สำหรับหลายๆ คนแล้ว นี่คงเป็นวิธีแก้ปัญหาที่เกือบจะสมบูรณ์แบบเลยทีเดียว

ที่มา: https://bit.ly/3jvK5fs

สนใจสั่งซื้อสินค้า Dell PowerEdge คลิกที่นี่ https://www.quickserv.co.th/server/DELL.html