เซิร์ฟเวอร์ Dell ทำคะแนนประสิทธิภาพระดับท็อป โดยเกณฑ์มาตรฐาน Machine Learning

มาดูกันว่าเซิร์ฟเวอร์ Dell PowerEdge เอาชนะคู่แข่งไปได้หลายหมวดหมู่ในการวัดเกณฑ์มาตรฐาน MLPerf Inference v2.0 ได้อย่างไร

ผลทดสอบเกณฑ์มาตรฐาน MLPerf Inference v2.0 ประกาศแล้วอย่างเป็นทางการ! ในรอบนี้ เซิร์ฟเวอร์ Dell PowerEdge ห้ารุ่นต่างก็ได้อันดับหนึ่งแยกย่อยไปในหมวดหมู่ของตน ชัยชนะดังกล่าวนี้มีความสำคัญอย่างยิ่งเพราะเซิร์ฟเวอร์ของ Dell ต้องเอาชนะคู่แข่งให้ได้มากกว่าในรอบการทดสอบที่ผ่านมา เมื่อเทียบกับช่วง v1.1 ของการทดสอบ ซึ่งทางทีมได้ส่งผลการทดสอบที่เป็นสองเท่าเมื่อเทียบกับของเดิมในหมวดหมู่ประสิทธิภาพ และวัดเป็นหกเท่าของของเดิมในหมวดหมู่พลังงาน โดย Dell มีผลลัพธ์ที่ส่งเข้ามาถึง 187 รายการในหมวดหมู่ที่มีการแข่งขันท่ามกลางผลลัพธ์อื่นๆ ที่ถูกส่งเข้ามา 2,156 รายการ

เกณฑ์มาตรฐาน MLPerf Inference

เกณฑ์มาตรฐาน MLPerf มุ่งเน้นไปที่การจำลองกรณีการใช้งานจริง ๆ ของอุปกรณ์ เช่น การจดจำภาพ การตรวจจับวัตถุ การแปลงคำพูดเป็นข้อความ การประมวลผลภาษาให้เป็นไปตามธรรมชาติ และการใช้เครื่องมือแนะนำ

"เราทราบดีว่าการขับเคลื่อนความก้าวหน้าของ Machine Learning นั้นต้องมีเกณฑ์มาตรฐานที่คอยผลักดันขอบเขตระหว่างการเป็นงานวิจัยและการปฏิบัติจริงทางอุตสาหกรรม ซึ่งการสร้างชุดข้อมูลแบบเปิดขนาดใหญ่จะมีความสำคัญอย่างยิ่งต่อการเปลี่ยนแปลงเส้นแบ่งขอบเขตที่ว่านี้เมื่อเวลาผ่านไป" MLCommons อธิบาย "ในการทำให้ศักยภาพทางเทคโนโลยีใหม่ ๆ เหล่านี้มีความเป็นประชาธิปไตยและรองรับการนำไปใช้ในวงกว้าง เราจำเป็นต้องลดแรงเสียดทานและปรับปรุงระดับความพกพาได้ของ Machine Learning เพื่อให้เราสามารถแบ่งปันแนวปฏิบัติที่ดีที่สุดข้ามผ่านพรมแดนระหว่างประเทศได้โดยง่าย หรือระหว่างวงการวิชาการและการใช้งานจริงในอุตสาหกรรม และระหว่างนักวิจัยกับวิศวกรในบริษัทต่าง ๆ"

ทุกวันนี้ MLCommons ยังคงดูแลคอยการทดสอบเกณฑ์มาตรฐาน MLPerf และคอยตรวจสอบผลลัพธ์ที่ถูกส่งเข้ามา ในขณะที่การทดสอบเกณฑ์มาตรฐานอื่นๆ ยอมให้การทดสอบเป็นแบบหมุนเวียน MLCommons กลับเชิญให้ผู้เข้าร่วมส่งผลในการทดสอบต่างๆ เป็นรอบ ๆ ไป แล้วค่อยเผยแพร่ชุดผลลัพธ์ที่ตรวจรับแล้วออกมา ผลลัพธ์ทั้งหมดต้องเป็นไปตามมาตรฐานขององค์กรในการทดสอบ และต้องผ่านการทดสอบการปฏิบัติตามข้อกำหนด รวมถึงได้รับการตรวจทานผลงานโดยผู้เชี่ยวชาญท่านอื่น ก่อนจะได้รับการยอมรับจาก MLCommons

เนื่องด้วยระบบต้องทำตามมาตรฐานในระดับสูงเช่นนี้เท่านั้นจึงจะได้รับการยอมรับจาก MLCommons ทั่วทั้งวงการจึงยอมรับโดยทั่วกันว่าการทดสอบ MLPerf เป็นหนึ่งในวิธีที่ยุติธรรมที่สุดในการเปรียบเทียบประสิทธิภาพของระบบ Machine Learning ต่างๆ โดยลูกค้าสามารถใช้ผลลัพธ์เหล่านี้วัดได้ว่าระบบใดมีประสิทธิภาพว่องไวที่สุด และระบบใดมีประสิทธิภาพด้านพลังงานมากที่สุด ในกรณีการใช้งาน Machine Learning

ประสิทธิภาพของ Dell ใน MLPerf v2.0

ในการทดสอบรอบนี้ เซิร์ฟเวอร์ Dell PowerEdge ได้อันดับที่ดีเป็นพิเศษ เมื่อเทียบกับคู่แข่งใน 6 หมวดหมู่ที่แตกต่างกัน ดังนี้

#1 ในหมวดหมู่ประสิทธิภาพต่อตัว Accelerator ด้วย NVIDIA A100 GPUs

เมื่อเทียบกับระบบอื่นๆ ที่ใช้ NVIDIA A100 GPUs เหมือนกัน Dell PowerEdge XE8545 และ PowerEdge R750xa มีความโดดเด่นกว่าคู่แข่งทั้งหมด เจ้าพวก NVIDIA GPUs เหล่านี้ได้รับความนิยมเป็นพิเศษกับระบบที่ออกแบบมาสำหรับเวิร์กโหลด Deep Learning ซึ่งทำให้เป็นที่ต้องการอย่างมาก ผลการทดสอบยังครอบคลุมกรณีการใช้งานที่หลากหลาย รวมถึงการจำแนกรูปภาพ การตรวจจับวัตถุ การแปลงคำพูดเป็นข้อความ การแมปภาพทางการแพทย์ การประมวลผลภาษาอย่างเป็นธรรมชาติ และการใช้เครื่องมือแนะนำ

PowerEdge XE8545 เป็นเซิร์ฟเวอร์แบบ 2 ซ็อคเก็ต และเป็นเซิร์ฟเวอร์ 4U ที่มีจำนวนคอร์ AMD EPYC™ CPU สูง และยังมี GPU NVIDIA A100 ที่ติดตั้งอยู่บนเมนบอร์ด (SXM4) และ NVIDIA NVLink สำหรับการสื่อสารความเร็วสูงระหว่าง GPU โดย PowerEdge R750xa เป็นซีพียู Intel® Xeon® Scalable 2x และเซิร์ฟเวอร์ 2U ซึ่งออกแบบมาเพื่อเพิ่มประสิทธิภาพสำหรับเวิร์กโหลดที่เน้น GPU แล้วยังมี PCIe และ NVIDIA NVLink Bridge ซึ่งจะเพิ่มความรวดเร็วในการสื่อสารระหว่าง GPU อีกด้วย

#1 ในหมวดหมู่ประสิทธิภาพของระบบสำหรับการเปรียบเทียบหลายรายการ ในบรรดาเซิร์ฟเวอร์ 4-GPU ที่ใช้ PCIe ทั้งหมด

Dell PowerEdge R750xa ยังชนะการแข่งขันในหมู่เซิร์ฟเวอร์ 4-GPU ที่ใช้ PCIe ทั้งหมดอีกด้วย ผลลัพธ์จากการวัดประสิทธิภาพเหล่านี้ ดูจากการเอาไปจัดประเภทรูปภาพ การตรวจจับวัตถุ คำพูดเป็นข้อความ การประมวลผลภาษาอย่างเป็นธรรมชาติ และเครื่องมือแนะนำ

#1 สำหรับหมวดหมู่อัตราเวลาแฝงแบบหลายสตรีมที่ต่ำที่สุดด้วยการใช้อินสแตนซ์ MIG ในเอดจ์

การทดสอบรอบนี้ เป็นทดสอบระบบ Multi-Instance GPU (MIG) โดย Dell PowerEdge XE8545 มีผลลัพธ์เป็นอันดับท็อปในหมวดหมู่นี้เลยทีเดียว โดยเฉพาะในหมวดหมู่ Edge Computing ด้วยเช่นกัน ผลการทดสอบเหล่านี้ใช้กับกรณีของการใช้งานการจำแนกประเภทรูปภาพและการตรวจจับวัตถุนั่นเอง

#1 สำหรับผลลัพธ์ T4 Inference สูงสุด

Dell PowerEdge XE2420 เป็นเซิร์ฟเวอร์เอดจ์แบบ 2 ซ็อคเก็ต 2U ที่มีฟอร์มแฟกเตอร์เชิงลึกระดับสั้น โดยเมื่อเทียบกับระบบอื่นๆ ที่ใช้ NVIDIA T4 GPUs ด้วยกันเอง เซิร์ฟเวอร์นี้ทำงานได้ดีที่สุดในภาพรวม ผลลัพธ์ที่ได้เหล่านี้เกี่ยวข้องกับการใช้งาน Machine Learning ในการจำแนกประเภทรูปภาพ การแปลงคำพูดเป็นข้อความ และกรณีการใช้เครื่องมือแนะนำ ผลลัพธ์เหล่านี้ยังช่วยตอบคำถามเกี่ยวกับประสิทธิภาพ NVIDIA T4 กับ A2, T4 v. A30 และ T4 เทียบกับประสิทธิภาพ A100 MIG และการวัดพลังงาน

#1 สำหรับหมวดหมู่ประสิทธิภาพสูงสุดต่อจำนวนวัตต์ด้วยผลลัพธ์ NVIDIA A2 GPU

ท้ายที่สุด Dell PowerEdge XR12 ยังเป็นเซิร์ฟเวอร์ 2U ที่ทนทาน ใช้งานในเรือได้ และมีฟอร์มแฟกเตอร์ขนาดเล็กที่เหมาะสำหรับการใช้งานด้านโทรคมนาคม การทหาร การค้าปลีก ร้านอาหาร ตลอดจนสภาพแวดล้อมที่ท้าทายอื่นๆ ที่ต้องการประสิทธิภาพการใช้พลังงานสูง ผลลัพธ์เหล่านี้ทำให้ Dell PowerEdge XR12 เป็นตัวเลือกที่ดีสำหรับการจัดประเภทรูปภาพ การตรวจจับวัตถุ การแปลงคำพูดเป็นข้อความ การประมวลผลภาษาอย่างเป็นธรรมชาติ และเครื่องมือแนะนำ

ที่มา: https://dell.to/3MHHoQK

สนใจสั่งซื้อสินค้า เซิร์ฟเวอร์ Dell PowerEdge คลิกที่นี่ https://www.quickserv.co.th/server/DELL.html