سرور اچ پی DL380a G11؛ راهنمای جامع HPE ProLiant DL380a Gen11 برای هوش مصنوعی، GPU و زیرساخت سازمانی

سرور اچ پی DL380a G11 به چه کاری میاد؟ فرض کنید یک سازمان تصمیم گرفته است مدل‌های هوش مصنوعی را از مرحله آزمایش خارج کند و به محیط واقعی دیتاسنتر ببرد. تیم زیرساخت خیلی زود متوجه می‌شود مسئله فقط خرید یک GPU قدرتمند نیست. کارت‌های شتاب‌دهنده باید در یک شاسی استاندارد جا بگیرند، برق کافی دریافت کنند، گرمای آن‌ها کنترل شود، CPU و RAM گلوگاه ایجاد نکنند، شبکه بتواند داده را با سرعت مناسب جابه‌جا کند و در نهایت کل سیستم مانند یک سرور Enterprise قابل مدیریت، مانیتور و به‌روزرسانی باشد.

اینجاست که فلسفه طراحی HPE ProLiant DL380a Gen11 معنا پیدا می‌کند.

 

 

حرف a در نام DL380a به مفهوم Accelerator Optimized اشاره دارد. این سرور یک سیستم رک‌مونت 2U و دوپردازنده‌ای است که HPE آن را برای بارهای کاری متکی بر شتاب‌دهنده طراحی کرده است. در پیکربندی‌های رسمی، امکان استفاده از حداکثر چهار GPU دو اسلاته یا هشت GPU تک‌اسلاته وجود دارد. در کنار آن، پردازنده‌های نسل چهارم و پنجم Intel Xeon Scalable، حافظه DDR5، رابط PCIe Gen5، ذخیره‌سازی NVMe، شبکه مبتنی بر OCP 3.0 و مدیریت HPE iLO 6 قرار گرفته‌اند.

Intel® Xeon® processors
Processor Suffix	Description	Offering
P	IaaS Optimized	Optimized for high performance IaaS for orchestration efficiency. Higher frequency for VM environments.
S	Storage Workload Optimized	Designed to provide maximum inter-socket bandwidth with lower core counts and TDPs. Data Movement and Transformation Operations Offload with DSA, free up CPU cycles to enable efficient core utilization.
V	VM Optimized	Fosters enhanced VM density, allowing support for more or larger virtual machines per host and lower power VM environment.
Y	Speed Select	Intel® SST-PP increases base frequency when fewer cores are enabled. Allows greater flexibility, deployment options and platform longevity.

به همین دلیل، DL380a Gen11 را نباید صرفاً نسخه دیگری از خانواده محبوب DL380 دانست. معماری آن مشخصاً برای AI Training، AI Inference، Machine Learning، Deep Learning، Generative AI، پردازش‌های مهندسی و Workloadهای گرافیکی و محاسباتی شتاب‌یافته شکل گرفته است.

Interfaces
Serial Port	1 optional (rear)
VGA Port	1 standard (rear)
Network Ports	Nonstandard. Choice of OCP networking card or stand-up networking card required.
HPE iLO Remote Management Network Port	1 Gb dedicated (rear)
Front iLO Service Port	1 standard (front)
USB 3.0	4 (1 front, 2 rear, 1 internal)

در این راهنما از شناخت معماری دستگاه شروع می‌کنیم و سپس CPU، GPU، RAM، Storage، RAID، PCIe، شبکه، برق، خنک‌سازی، iLO 6، امنیت، سیستم‌عامل و مجازی‌سازی را بررسی می‌کنیم. بعد از آن به سراغ طراحی Configuration، انتخاب GPU، جلوگیری از گلوگاه، کاربردهای واقعی، اشتباهات خرید و Best Practiceهای استقرار می‌رویم.

این مقاله هم برای مدیری که می‌خواهد بداند DL380a G11 دقیقاً چه مسئله‌ای را حل می‌کند مفید است و هم برای مدیر دیتاسنتر، مهندس HPE، متخصص هوش مصنوعی، طراح زیرساخت، کارشناس VMware/Linux و فردی که باید قبل از خرید یک Configuration چند ده هزار دلاری مطمئن شود قطعات واقعاً با یکدیگر سازگارند.

بررسی کامل HPE ProLiant DL380a Gen11

سرور HPE ProLiant DL380a Gen11 چیست؟

HPE ProLiant DL380a Gen11 یک سرور رک‌مونت 2U، دو سوکته و Accelerator-Optimized است که برای اجرای بارهای کاری GPU-intensive و به‌خصوص هوش مصنوعی طراحی شده است. HPE در QuickSpecs رسمی این محصول، DL380a Gen11 را یک GPU Server برای نیازهای رو‌به‌رشد Enterprise AI معرفی می‌کند. معماری دستگاه امکان استقرار چهار Accelerator دو اسلاته یا هشت Accelerator تک‌اسلاته را در همان فضای 2U فراهم می‌کند. این تعریف نکته مهمی دارد: DL380a قرار نیست صرفاً «یک DL380 با چند GPU» باشد.

Primary Riser
Slots #	Technology	Bus Width	Connector Width	Slot Form Factor	Notes
1	N/A	N/A	N/A	N/A	N/A
2*	PCIe 5.0	x16	x16	Full height, half length	Processor 1
3	PCIe 5.0	x16	x16	Full height, half length	Processor 1

Slots #	Technology	Bus Width	Connector Width	Slot Form Factor	Notes
4	N/A	N/A	N/A	N/A	N/A
5*	PCIe 5.0	x16	x16	Full height, half length	Processor 2
6	PCIe 5.0	x16	x16	Full height, half length	Processor 2

در یک سرور معمولی ممکن است GPU یکی از چند گزینه توسعه سیستم باشد. در DL380a، شتاب‌دهنده یکی از محورهای اصلی معماری است؛ تا جایی که QuickSpecs فعلی HPE برای Configurationهای این مدل، پیکربندی بدون GPU را مجاز نمی‌داند. بنابراین اگر پروژه شما عمدتاً شامل File Server، Domain Controller، SQL Server معمولی یا مجموعه‌ای از ماشین‌های مجازی سبک است، اصولاً باید ابتدا بررسی کنید آیا DL380a انتخاب منطقی است یا خیر. ارزش واقعی این پلتفرم زمانی آشکار می‌شود که GPU بخش مهمی از محاسبات باشد.

حرف a در DL380a به چه معناست؟

در نام‌گذاری این محصول، a مخفف accelerator optimized است. HPE توضیح می‌دهد این طراحی برای فراهم کردن قابلیت خنک‌سازی مناسب در تراکم بالای GPU انجام شده است. این تفاوت در نگاه اول کوچک به نظر می‌رسد اما در دیتاسنتر اهمیت زیادی دارد. قرار دادن چهار GPU پرمصرف در یک شاسی 2U فقط مسئله فضای فیزیکی نیست. باید مسیر عبور هوا، فن‌ها، Power Supply، کابل‌های تغذیه GPU، Riserها، PCIe Laneها و محدودیت‌های حرارتی همگی با یکدیگر هماهنگ باشند. به همین دلیل هنگام طراحی DL380a نباید فقط بپرسیم:

«چه GPUهایی داخل آن جا می‌شوند؟»

پرسش درست‌تر این است:

«HPE برای ترکیب موردنظر CPU، GPU، NIC، Storage و شرایط محیطی من چه Configurationای را پشتیبانی می‌کند؟»

این تغییر نگاه یکی از مهم‌ترین نکات حرفه‌ای در خرید سرورهای GPU است.

معماری کلی DL380a Gen11

DL380a Gen11 در فرم فاکتور 2U Rack عرضه شده و یک پلتفرم 2P یعنی دوپردازنده‌ای است. معماری آن حول چند بخش اصلی شکل گرفته است:

این مشخصات از QuickSpecs و Data Sheet رسمی HPE استخراج شده‌اند.

حالا هر کدام را دقیق‌تر بررسی کنیم.

پردازنده‌های DL380a Gen11

پشتیبانی از Intel Xeon Scalable نسل چهارم و پنجم

نسخه فعلی QuickSpecs رسمی HPE برای DL380a Gen11 از پردازنده‌های 4th Generation و 5th Generation Intel Xeon Scalable پشتیبانی می‌کند. در فهرست نسل پنجم، مدل‌هایی از Xeon Silver، Gold و Platinum دیده می‌شوند و بسته به مدل، تعداد هسته، فرکانس، توان حرارتی و سرعت حافظه متفاوت است.

Intel® Xeon Models	CPU Frequency	Cores	L3 Cache (MB)	Power	UPI	DDR5	SGX Enclave size
Platinum 8462+ Processor	2.8GHz	32	60	300W	3 @ 16 GT/s	4800MT/s	128GB
Silver 4416+ Processor	2GHz	20	37.5	165W	2 @ 16 GT/s	4000MT/s	64GB
Gold 5418Y Processor	2GHz	24	45	185W	3 @ 16 GT/s	4400MT/s	128GB
Gold 5420+ Processor	2GHz	28	52.5	205W	3 @ 16 GT/s	4400MT/s	128GB
Gold 6438Y+ Processor	2GHz	32	60	205W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6438M Processor	2.2GHz	32	60	205W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6418H Processor	2.2GHz	24	60	185W	3 @ 16 GT/s	4800MT/s	512GB
Gold 6448H Processor	2.2GHz	32	60	250W	3 @ 16 GT/s	4800MT/s	512GB
Platinum 9462 Processor	2.7GHz	32	75	350W	3 @ 16 GT/s	4800MT/s	128GB
Platinum 8452Y Processor	2.0GHz³ 1.9GHz 2.1GHz	36³ 32 24	67.5	300W³ 270W 250W	4 @ 16 GT/s	4800MT/s	128GB
Gold 6454S Processor²	2.2GHz³ 2.4GHz 2.6GHz	32³ 24 16	60	270w³ 250W 225W	4 @ 16 GT/s	4800MT/s	128GB
Gold 6430 Processor	2.1GHz	32	60	270W	3 @ 16 GT/s	4400MT/s	128GB
Gold 6426Y Processor	2.5GHz	16	37.5	185W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6442Y Processor	2.6GHz	24	60	225W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6448Y Processor	2.1GHz	32	60	225W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6434 Processor	3.7GHz	8	22.5	195W	3 @ 16 GT/s	4800MT/s	128GB
Gold 6444Y Processor	3.6GHz	16	45	270W	3 @ 16 GT/s	4800MT/s	128GB
Platinum 8480+ Processor	2.0GHz	56	105	350W	4 @ 16 GT/s	4800MT/s	512GB
Platinum 8470 Processor	2.0GHz	52	105	350W	4 @ 16 GT/s	4800MT/s	512GB
Platinum 8468 Processor	2.1GHz	48	105	350W	4 @ 16 GT/s	4800MT/s	512GB
Platinum 8468V Processor²	2.4GHz³ 2.1GHz¹ 1.8GHz¹	48³ 48 48	97.5	330W³ 300W 270W	3 @ 16 GT/s	4800MT/s	128GB
Platinum 8460Y+ Processor	2.0GHz 2.1GHz 2.3GHz	40³ 36 32	105	300W³ 300W 300W	4 @ 16 GT/s	4800MT/s	128GB
Platinum 8458P Processor²	2.7GHz³ 2.7GHz¹	44³ 40	82.5	350W³ 330W	3 @ 16 GT/s	4800MT/s	512GB

Intel® Xeon Models	CPU Frequency	Cores	L3 Cache (MB)	Power	UPI	DDR5	SGX Enclave size
Gold 5515+ Processor	3.2GHz	8	22.5	165W	3 @ 20 GT/s	4800MT/s	128GB
Gold 6526Y Processor	2.8GHz	16	37.5	195W	3 @ 20 GT/s	5200MT/s	128GB
Gold 6542Y Processor	2.9GHz	24	60	250W	3 @ 20 GT/s	5200MT/s	128GB
Gold 6548Y+ Processor	2.5GHz	32	60	250W	3 @ 20 GT/s	5200MT/s	128GB
Gold 6534 Processor	3.9GHz	8	22.5	195W	3 @ 20 GT/s	4800MT/s	128GB
Gold 6544Y Processor	3.6GHz	16	45	270W	3 @ 20 GT/s	5200 MT/s	128GB
Platinum 8562Y+ Processor	2.8GHz	32	60	300W	3 @ 20 GT/s	5600MT/s	512GB
Platinum 8568Y+ Processor	2.3GHz	48	300	350W	4 @ 20 GT/s	5600MT/s	512GB
Platinum 8570 Processor	2.1GHz	56	300	350W	4 @ 20 GT/s	5600MT/s	512GB
Platinum 8580 Processor	2.0GHz	60	300	350W	4 @ 20 GT/s	5600MT/s	512GB
Platinum 8592+ Processor	1.9GHz	64	320	350W	4 @ 20 GT/s	5600MT/s	512GB
Silver 4509Y Processor	2.6GHz	8	22.5	125W	2 @ 20 GT/s	4400MT/s	64GB
Silver 4514Y Processor	2.0GHz	16	30	150W	2 @ 20 GT/s	4400MT/s	64GB
Silver 4516Y+ Processor	2.2GHz	24	45	185W	2 @ 20 GT/s	4400MT/s	64GB
Gold 5520+ Processor	2.2GHz	28	52.5	205W	3 @ 20 GT/s	4800MT/s	128GB
Gold 6530 Processor	2.1GHz	32	160	270W	3 @ 20 GT/s	4800MT/s	128GB
Gold 6538Y+ Processor	2.2GHz	32	60	225W	3 @ 20 GT/s	5200MT/s	128GB
Platinum 8558 Processor	2.1GHz	48	260	330W	4 @ 20 GT/s	5200MT/s	512GB

برای نمونه QuickSpecs نسخه 34 مدل‌هایی مانند Platinum 8592+ با 64 هسته و TDP برابر 350 وات و پشتیبانی DDR5 تا 5600MT/s را فهرست کرده است. بنابراین هنگام مشاهده مشخصات قدیمی‌تر در اینترنت باید به Version و تاریخ QuickSpecs توجه کرد؛ پشتیبانی محصول طی عمر تجاری آن می‌تواند تغییر کند.

چرا CPU هنوز در یک GPU Server مهم است؟

یکی از اشتباهات متداول این است که تصور کنیم چون پردازش اصلی توسط GPU انجام می‌شود، انتخاب CPU اهمیت زیادی ندارد. در عمل CPU هنوز مسئول بخش بزرگی از زنجیره است:

دریافت و آماده‌سازی داده، Data Preprocessing، مدیریت I/O، اجرای سیستم‌عامل، سرویس‌های Container یا Hypervisor، Feeding داده به Accelerator و بخش‌هایی از برنامه که روی GPU اجرا نمی‌شوند. فرض کنید چهار GPU قدرتمند نصب کرده‌اید ولی Data Pipeline نمی‌تواند داده را با سرعت کافی آماده کند. در این حالت GPUهایی که برای آن‌ها هزینه زیادی پرداخت شده بخشی از زمان خود را منتظر می‌مانند. به همین دلیل طراحی درست یک AI Server به معنی خرید «قوی‌ترین GPU ممکن» نیست؛ هدف ایجاد یک سیستم Balanced است.

آیا همیشه باید قوی‌ترین Xeon را انتخاب کرد؟

خیر. انتخاب CPU باید تابع Workload باشد. برای یک Inference Server ممکن است CPU با تعداد هسته متوسط اما مناسب برای سرویس‌های اطراف مدل کافی باشد. در مقابل، در Pipelineهایی که Data Preparation، Compression، ETL یا پردازش CPU-side سنگینی دارند، CPU قدرتمندتر می‌تواند اثر قابل توجهی داشته باشد. همچنین انتخاب پردازنده روی سرعت حافظه، توان مصرفی و طراحی حرارتی سیستم اثر می‌گذارد.

Yes	Intel Xeon-Platinum 8480+ 2.0GHz 56-core 350W Processor for HPE	P49607-B21
Yes	Intel Xeon-Platinum 8470 2.0GHz 52-core 350W Processor for HPE	P49606-B21
Yes	Intel Xeon-Platinum 8468 2.1GHz 48-core 350W Processor for HPE	P49605-B21
Yes	Intel Xeon-Platinum 8460Y+ 2.0GHz 40-core 300W Processor for HPE	P49604-B21
Yes	Intel Xeon-Platinum 8458P 2.7GHz 44-core 350W Processor for HPE	P49632-B21
Yes	Intel Xeon-Platinum 8452Y 2.0GHz 36-core 300W Processor for HPE	P49616-B21
Yes	Intel Xeon-Gold 6430 2.1GHz 32-core 270W Processor for HPE	P49614-B21
No	Intel Xeon-Gold 6444Y 3.6GHz 16-core 270W Processor for HPE	P49602-B21
	Notes: Above processors (270W or greater) require High Performance Heatsink (P51832-B21).
Yes	Intel Xeon-Platinum 9462 2.7GHz 32-core 350W Processor for HPE	P49645-B21

No	Intel Xeon-Gold 6426Y 2.5GHz 16-core 185W Processor for HPE	P49598-B21
No	Intel Xeon-Gold 6442Y 2.6GHz 24-core 225W Processor for HPE	P49599-B21
Yes	Intel Xeon-Gold 6448Y 2.1GHz 32-core 225W Processor for HPE	P49600-B21
No	Intel Xeon-Gold 6434 3.7GHz 8-core 195W Processor for HPE	P49601-B21
Yes	Intel Xeon-Platinum 8462Y+ 2.8GHz 32-core 300W Processor for HPE	P49603-B21
No	Intel Xeon-Silver 4416+ 2.0GHz 20-core 165W Processor for HPE	P49611-B21
No	Intel Xeon-Gold 5418Y 2.0GHz 24-core 185W Processor for HPE	P49612-B21
No	Intel Xeon-Gold 6418H 2.1GHz 24-core 185W Processor for HPE	P49621-B21
Yes	Intel Xeon-Gold 6448H 2.4GHz 32-core 250W Processor for HPE	P49622-B21
Yes	Intel Xeon-Gold 6438Y+ 2.0GHz 32-core 205W Processor for HPE	P49615-B21

Best Practice: ابتدا Workload را Profile کنید، سپس CPU انتخاب کنید. انتخاب CPU صرفاً بر اساس تعداد Core معمولاً طراحی حرفه‌ای محسوب نمی‌شود.

Part Number	Card	TDP	PCIe Speed	Qty. Support	DL380a Gen11 Configuration
					Intel® XCC	Intel® MCC
S2D86C	NVIDIA H100 NVL 94GB PCIe Accelerator for HPE	400W	Gen5	2 or 4	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C
R9S41C	NVIDIA H100 80GB PCIe Accelerator for HPE	350W	Gen5	2 or 4	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C
S0K90C	NVIDIA L40 48GB PCIe Accelerator for HPE	300W	Gen4	2 or 4	PCIe or OCP cards, QSFP28 or lower: 25C	PCIe or OCP cards, QSFP28 or lower: QuickSpecs Compliant
S2L70C	NVIDIA L40S 48GB PCIe Accelerator for HPE	350W	Gen4	2 or 4	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C	PCIe or OCP cards, QSFP28 or lower (DAC cables only): 25C
S0K89C	NVIDIA L4 24GB PCIe Accelerator for HPE	72W	Gen4	2 or 4	PCIe or OCP cards, QSFP28 or lower: 25C	PCIe or OCP cards, QSFP28 or lower: QuickSpecs Compliant
S1T66C	Intel® Max Series 1100 GPU for HPE	300W	Gen5	2 or 4	PCIe or OCP cards, QSFP28 or lower: 25C	PCIe or OCP cards, QSFP28 or lower: QuickSpecs Compliant

حافظه RAM در سرور اچ پی DL380a G11

24 اسلات DDR5؛ اما فقط عدد ظرفیت مهم نیست

DL380a Gen11 دارای 24 DIMM Slot است و از HPE DDR5 SmartMemory RDIMM پشتیبانی می‌کند. Data Sheet رسمی HPE حداکثر ظرفیت را تا 3 ترابایت RDIMM اعلام می‌کند. QuickSpecs جدید HPE همچنین DIMMهای 16، 32، 64، 96 و 128 گیگابایتی را در مجموعه گزینه‌های پشتیبانی‌شده فهرست می‌کند و قواعد Population مشخصی دارد.

 

Registered DIMMs (RDIMMs)
HPE 16GB (1x16GB) Single Rank x8 DDR5-4800 CAS-40-39-39 EC8 Registered Smart Memory Kit	P43322-B21
HPE 32GB (1x32GB) Dual Rank x8 DDR5-4800 CAS-40-39-39 EC8 Registered Smart Memory Kit	P43328-B21
HPE 64GB (1x64GB) Dual Rank x4 DDR5-4800 CAS-40-39-39 EC8 Registered Smart Memory Kit	P43331-B21
HPE 96GB (1x96GB) Dual Rank x4 DDR5-4800 CAS-46-45-45 EC8 Registered Smart Memory Kit	P66675-B21
HPE 128GB (1x128GB) Dual Rank x4 DDR5-4800 CAS-40-39-39 EC8 Registered Smart Memory Kit	P69974-B21
HPE 16GB (1x16GB) Single Rank x8 DDR5-5600 CAS-46-45-45 EC8 Registered Smart Memory Kit	P64705-B21
HPE 32GB (1x32GB) Dual Rank x8 DDR5-5600 CAS-46-45-45 EC8 Registered Smart Memory Kit	P64706-B21
HPE 64GB (1x64GB) Dual Rank x4 DDR5-5600 CAS-46-45-45 EC8 Registered Smart Memory Kit	P64707-B21
HPE 96GB (1x96GB) Dual Rank x4 DDR5-5600 CAS-46-45-45 EC8 Registered Smart Memory Kit	P64708-B21
HPE 128GB (1x128GB) Dual Rank x4 DDR5-5600 CAS-46-45-45 EC8 Registered Smart Memory Kit	P69976-B21

Drive	Capacity	Configuration
Hot Plug SFF NVMe PCIe SSD	122.88TB	8 x 15.35TB
Hot Plug E3.S NVMe PCIe SSD	61.44TB	8 x 7.68TB

اما ظرفیت فقط نیمی از داستان است. در یک سیستم دوپردازنده‌ای، نحوه توزیع DIMMها اهمیت زیادی دارد. Memory Population نامتقارن می‌تواند باعث شود پهنای باند حافظه‌ای که بابت آن هزینه کرده‌اید به شکل مطلوب استفاده نشود. HPE برای DL380a Gen11 تعدادهای مشخصی از DIMM را در هر Socket مجاز می‌داند و در QuickSpecs فعلی برای کل سرور مقادیر 2، 4، 8، 12، 16 یا 24 DIMM ذکر شده است. محدودیت‌هایی نیز برای ترکیب Rank، ساختار DIMM و x4/x8 وجود دارد.

سرعت RAM همیشه برابر عدد روی DIMM نیست

اگر یک DIMM با مشخصه DDR5-5600 خریداری شود، الزاماً در هر Configuration با 5600MT/s کار نمی‌کند.

سرعت نهایی حافظه تابع چند عامل است:

• مدل CPU؛
• نوع DIMM؛
• تعداد DIMM در هر Channel؛
• Memory Population؛
• محدودیت‌های Configuration.

HPE صراحتاً در QuickSpecs اعلام می‌کند حداکثر سرعت حافظه تابع نوع حافظه، پیکربندی آن و مدل Processor است. این نکته هنگام تهیه BOM اهمیت زیادی دارد؛ چون عبارت «DDR5-5600» روی پیش‌فاکتور به تنهایی تضمین نمی‌کند حافظه در سرعت 5600MT/s فعالیت کند.

نسبت RAM به GPU

یکی از جالب‌ترین توصیه‌های QuickSpecs این سرور آن است که HPE برای Configuration GPU توصیه می‌کند ظرفیت System Memory حدود دو برابر مجموع حافظه GPU در نظر گرفته شود.

این یک قانون مطلق برای همه Workloadها نیست، اما نقطه شروع مهمی برای Sizing است. مثلاً اگر چند GPU با VRAM زیاد نصب می‌کنید، قرار دادن مقدار بسیار کمی System RAM در کنار آن‌ها ممکن است سیستم را نامتوازن کند. در پروژه واقعی بهتر است سه ظرفیت را جداگانه محاسبه کنید:

Dataset Working Set + Host Application Memory + GPU Feeding/Buffer Requirements

و بعد نتیجه را با توصیه‌های HPE و نرم‌افزار مورد استفاده تطبیق دهید.

GPU؛ قلب اصلی HPE DL380a Gen11

چهار GPU دو اسلاته یا هشت GPU تک‌اسلاته

ویژگی شاخص DL380a Gen11 قابلیت پشتیبانی از چهار Accelerator Double-Wide یا هشت Accelerator Single-Wide در یک شاسی 2U است. HPE دو نوع Chassis اصلی را در QuickSpecs مشخص می‌کند:

4DW

برای GPUهای Double-Wide.

8SW

برای Acceleratorهای Single-Wide.

این تمایز باید قبل از خرید جدی گرفته شود. سرور GPU چیزی نیست که ابتدا یک شاسی تصادفی تهیه کنید و بعد تصمیم بگیرید چه GPUهایی داخل آن قرار دهید.

GPUهای رسمی DL380a Gen11

فهرست دقیق GPUها به Version مستندات و Availability محصول وابسته است. در QuickSpecs رسمی جدید HPE گزینه‌هایی از جمله موارد زیر دیده می‌شوند:

QuickSpecs HPE همچنین برای GPUهای Double-Wide محدودیت انتخاب دو یا چهار کارت و برای Configuration هشت‌کارت L4 الزام انتخاب هشت کارت را مستند کرده است. Mixing مدل‌های مختلف GPU نیز پشتیبانی نمی‌شود. این مسئله یک درس مهم دارد: GPU Compatibility را از روی شکل PCIe Connector تشخیص ندهید. اینکه یک کارت از نظر مکانیکی PCIe باشد به معنی پشتیبانی رسمی آن در DL380a نیست. Firmware، Power، Cooling، کابل، Riser، Airflow و Qualification سازنده نیز اهمیت دارند.

NVIDIA H100 NVL روی DL380a Gen11

در QuickSpecs رسمی، NVIDIA H100 NVL 94GB PCIe Accelerator for HPE در Configurationهای مربوطه فهرست شده است. نسخه مستندشده دارای TDP حدود 400 وات و رابط PCIe Gen5 است. چنین Configurationای برای Workloadهای بسیار سنگین AI جذاب است، اما از دید زیرساخت باید به مسئله دیگری توجه کرد:

چهار کارت 400 واتی به تنهایی می‌توانند 1600 وات ظرفیت طراحی حرارتی داشته باشند؛ قبل از آنکه مصرف CPUها، RAM، SSD، NIC، فن‌ها و سایر اجزا را حساب کنیم. بنابراین در چنین سیستمی «برق» یک Option جانبی نیست؛ بخشی از معماری Compute است.

NVIDIA L40S؛ گزینه‌ای مهم برای AI و گرافیک

HPE در DL380a Gen11 از NVIDIA L40S 48GB نیز پشتیبانی می‌کند. QuickSpecs این کارت را به عنوان یک Accelerator با TDP حدود 350 وات و رابط PCIe Gen4 معرفی می‌کند. L40S برای طیفی از Workloadهای AI و Graphics مناسب است، اما انتخاب آن باید براساس Software Stack و نیاز محاسباتی انجام شود. برای مثال دو پروژه ممکن است هر دو عنوان «هوش مصنوعی» داشته باشند ولی یکی به Throughput بالای Inference نیاز داشته باشد و دیگری به حافظه GPU زیاد برای مدل بزرگ. بنابراین صرف عبارت AI برای انتخاب GPU کافی نیست.

NVIDIA L4 و معماری 8SW

NVIDIA L4 در QuickSpecs به عنوان کارت 24GB و Single-Wide دیده می‌شود و در Chassis مربوط به 8SW قابل استفاده است. HPE برای این Configuration انتخاب هشت کارت را مشخص کرده است. مزیت معماری Single-Wide این است که به جای تمرکز روی تعداد کمی GPU بسیار پرمصرف، می‌توان تراکم بیشتری از Acceleratorها را در 2U داشت. این رویکرد در برخی سناریوهای Inference، Video Processing و Workloadهایی که قابلیت Scale-out روی چند Accelerator دارند جذاب‌تر است.

چرا نمی‌توان GPUها را دلخواه با هم ترکیب کرد؟

HPE در QuickSpecs تصریح می‌کند Mixing different GPU models is not supported. ممکن است از دید نرم‌افزاری بتوان سناریوهایی برای چند مدل GPU تصور کرد، اما Support Matrix سخت‌افزار چیز دیگری است. در Enterprise Infrastructure باید میان سه مفهوم تفاوت قائل شد:

ممکن است کار کند.

تست شده است.

توسط Vendor پشتیبانی می‌شود.

برای سروری که قرار است چند سال در Production فعالیت کند، معیار سوم بسیار مهم است.

نکته بسیار مهم درباره ارتقای GPU پس از خرید

QuickSpecs فعلی HPE می‌گوید نصب GPU پس از Shipment باید از طریق HPE Services انجام شود. این جمله در زمان خرید اهمیت زیادی دارد. در سرورهای عمومی معمولاً این ذهنیت وجود دارد که «فعلاً بدون GPU می‌خریم و بعداً کارت اضافه می‌کنیم». چنین رویکردی برای DL380a با قواعد رسمی فعلی HPE همخوانی ندارد؛ ضمن آنکه Configuration بدون GPU نیز در QuickSpecs مجاز نیست. پس اگر توسعه آینده مدنظر است، از همان ابتدا باید BOM و مسیر Upgrade براساس مستندات HPE طراحی شود.

PCIe Gen5؛ شاهراه ارتباطی سیستم

DL380a Gen11 از PCIe 5.0 پشتیبانی می‌کند و HPE در Data Sheet به امکان دستیابی به حداکثر چهار رابط x16 PCIe Gen5 و دو OCP Slot در Configurationهای مربوط اشاره می‌کند. چرا این موضوع اهمیت دارد؟ GPU سریع بدون مسیر ارتباطی مناسب مانند کارخانه‌ای بزرگ با جاده‌ای باریک است. در سرورهای AI حجم قابل توجهی از داده بین Storage، RAM، CPU، NIC و Acceleratorها جابه‌جا می‌شود. هرچه Workload بزرگ‌تر شود، توپولوژی I/O اهمیت بیشتری پیدا می‌کند. یک متخصص هنگام طراحی فقط تعداد Slotها را نمی‌شمارد. او می‌پرسد:

این Slot به کدام CPU متصل است؟

Lane Width آن چقدر است؟

آیا Riser اضافی لازم دارد؟

با نصب Storage Controller چه Slotهایی اشغال می‌شوند؟

OCP Adapter چه ارتباطی با توپولوژی PCIe دارد؟

این پرسش‌ها تفاوت میان یک Configuration صرفاً «روشن‌شونده» و یک Configuration واقعاً مهندسی‌شده را مشخص می‌کنند.

Storage در سرور اچ پی DL380a Gen11

تمرکز روی NVMe

DL380a Gen11 می‌تواند با گزینه‌های SFF NVMe یا EDSFF NVMe پیکربندی شود. Data Sheet رسمی HPE پشتیبانی از هشت SFF NVMe یا هشت EDSFF SSD را ذکر می‌کند. QuickSpecs فعلی نیز می‌گوید این سرور به‌صورت پیش‌فرض دارای 8SFF x4 U.3 NVMe Drive Bay است و گزینه‌های مختلف Drive Cage و SSD براساس Configuration وجود دارند. این جهت‌گیری منطقی است. در AI Server، سرعت خواندن Dataset، Model، Checkpoint و فایل‌های واسط می‌تواند روی Utilization شتاب‌دهنده اثر بگذارد. GPU بسیار سریع وقتی منتظر Storage کند بماند، سرمایه گران‌قیمتی است که بخشی از زمان خود را بیکار می‌گذراند.

Mixed Use– NVMe – EDSFF – Solid State Drives
HPE 6.4TB NVMe Gen5 High Performance Mixed Use E3S EC1 Self-encrypting FIPS 140-3 CM7 SSD	P70672-B21
HPE 1.6TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 CD8P SSD	P69241-B21
HPE 3.2TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 CD8P SSD	P69243-B21
HPE 6.4TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 CD8P SSD	P69245-B21
HPE 3.2TB NVMe Gen5 High Performance Mixed Use E3S EC1 PS1030 SSD	P70399-B21
HPE 6.4TB NVMe Gen5 High Performance Mixed Use E3S EC1 PS1030 SSD	P70401-B21
HPE 12.8TB NVMe Gen5 High Performance Mixed Use E3S EC1 PS1030 SSD	P70403-B21
HPE 1.6TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 SPDM 7600 SSD	P85114-B21
HPE 3.2TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 SPDM 7600 SSD	P85117-B21
HPE 6.4TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 SPDM 7600 SSD	P85119-B21
HPE 1.6TB NVMe Gen5 Mainstream Performance Mixed Use E3.S EC1 Self-encrypting 7600 SSD	P87715-B21
HPE 3.2TB NVMe Gen5 Mainstream Performance Mixed Use E3.S EC1 Self-encrypting 7600 SSD	P87717-B21
HPE 1.6TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 EDSFF SPDM PE1030 SSD	P77262-B21
HPE 3.2TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 EDSFF SPDM PE1030 SSD	P77265-B21
HPE 6.4TB NVMe Gen5 Mainstream Performance Mixed Use E3S EC1 EDSFF SPDM PE1030 SSD	P77267-B21
HPE 3.2TB NVMe Gen5 High Performance Mixed Use E3.S EC1 PM1755 SSD	P78784-B21
HPE 6.4TB NVMe Gen5 High Performance Mixed Use E3.S EC1 PM1755 SSD	P78787-B21
HPE 1.6TB NVMe Gen5 Mainstream Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91084-B21
HPE 3.2TB NVMe Gen5 Mainstream Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91086-B21
HPE 6.4TB NVMe Gen5 Mainstream Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91088-B21
HPE 3.2TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91098-B21
HPE 6.4TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91100-B21
HPE 12.8TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin Multi Vendor SSD	P91102-B21
HPE 3.2TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin PQC27 CM9 SSD	P85731-B21
HPE 6.4TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin PQC27 CM9 SSD	P85733-B21
HPE 12.8TB NVMe Gen5 High Performance Mixed Use E3.S EC1 E3 Thin PQC27 CM9 SSD	P85735-B21

Description	Part Number
HPE 3.84TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 CM7 SSD	P63833-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 CM7 SSD	P63837-B21
HPE 15.36TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 CM7 SSD	P63841-B21
HPE 1.92TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PM1733a SSD	P50216-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PM1733a SSD	P50222-B21
HPE 15.36TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PM1733a SSD	P50224-B21
HPE 3.84TB NVMe Gen4 Mainstream Performance Read Intensive SFF BC U.3 Static V2 Multi Vendor SSD	P64846-B21
HPE 7.68TB NVMe Gen4 Mainstream Performance Read Intensive SFF BC U.3 Static V2 Multi Vendor SSD	P64848-B21
HPE 3.84TB NVMe Gen4 Mainstream Performance Read Intensive SFF BC U.3 SPDM 7500 SSD	P84244-B21
HPE 7.68TB NVMe Gen4 Mainstream Performance Read Intensive SFF BC U.3 SPDM 7500 SSD	P84242-B21
HPE 15.36TB NVMe Gen4 Mainstream Performance Read Intensive SFF BC U.3 SPDM 7500b SSD	P84239-B21
HPE 1.92TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61019-B21
HPE 3.84TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61027-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61035-B21
HPE 3.84TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Static PM1753 SSD	P78806-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Static PM1753 SSD	P78808-B21
HPE 15.36TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Static PM1753 SSD	P78810-B21
HPE 1.92TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Multi Vendor SSD	P91243-B21
HPE 3.84TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Multi Vendor SSD	P91245-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Multi Vendor SSD	P91247-B21
HPE 15.36TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 Multi Vendor SSD	P91249-B21
HPE 1.92TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PQC27 CM9 SSD	P85668-B21
HPE 3.84TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PQC27 CM9 SSD	P85670-B21
HPE 7.68TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PQC27 CM9 SSD	P85672-B21
HPE 15.36TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PQC27 CM9 SSD	P85674-B21
HPE 30.72TB NVMe Gen4 High Performance Read Intensive SFF BC U.3 PQC27 CM9 SSD	P85676-B21

SFF U.3 یا EDSFF؟

پاسخ به Workload بستگی دارد. EDSFF یک Form Factor مدرن برای SSDهای دیتاسنتری است و HPE در QuickSpecs گزینه‌های متعدد E3.S NVMe را فهرست کرده است؛ از جمله SSDهای Gen5 در کلاس‌های Read Intensive، Mixed Use و Very Read Optimized. اما «جدیدتر بودن» به تنهایی دلیل انتخاب نیست. باید موارد زیر بررسی شوند:

ظرفیت موردنیاز، Endurance، Read/Write Profile، Performance، Drive Cage، قابلیت Service، بودجه و Support Matrix. برای یک Dataset Repository عمدتاً خواندنی، الگوی Drive مناسب می‌تواند با فضایی که Checkpointها دائماً روی آن نوشته می‌شوند متفاوت باشد.

RAID و Storage Controller

در DL380a Gen11 گزینه‌هایی برای Intel VROC NVMe RAID و کنترلرهای HPE Tri-Mode وجود دارد.

در مستندات رسمی، کنترلرهایی مانند موارد زیر دیده می‌شوند:

• HPE MR416i-p Gen11 12G Controller
• HPE MR416i-o Gen11 12G Controller
• HPE SR932i-p Gen11 24G Controller

همچنین Intel VROC برای NVMeهای Direct-Attached مطرح است.

RAID را با Backup اشتباه نگیرید

این نکته گرچه مختص سرور اچ پی  DL380a G11 نیست، در AI Infrastructure اهمیت زیادی دارد. RAID می‌تواند Availability لایه Storage را افزایش دهد، اما جای Backup، Object Storage، Versioning مدل یا Replication را نمی‌گیرد. اگر Dataset یا Model Artifact مهم است، معماری حفاظت داده باید مستقل از RAID بررسی شود.

حداکثر ظرفیت Storage

در یکی از QuickSpecsهای رسمی HPE، حداکثر Internal Storage برای پیکربندی SFF NVMe برابر 122.88 ترابایت با 8×15.36TB ذکر شده است. برای E3.S در همان نسخه، 61.44 ترابایت با 8×7.68TB ثبت شده بود. اما ظرفیت SSDهای قابل سفارش طی عمر محصول تغییر می‌کند؛ QuickSpecs جدیدتر HPE حتی EDSFF SSDهایی با ظرفیت‌های بالاتر را در فهرست Optionها نشان می‌دهد. بنابراین در خرید واقعی نباید عدد Maximum Storage یک Data Sheet قدیمی را بدون بررسی QuickSpecs فعلی مبنای BOM قرار داد. این نمونه خوبی از دلیل اهمیت Version Control مستندات HPE است.

Description	Part Number
HPE 1.6TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 CM7 SSD	P63845-B21
HPE 3.2TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 CM7 SSD	P63849-B21
HPE 6.4TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 CM7 SSD	P63853-B21
HPE 1.6TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 PM1735a SSD	P50227-B21
HPE 6.4TB NVMe Gen4 Mainstream Performance Mixed Use SFF BC U.3 Static V2 Multi Vendor SSD	P65023-B21
HPE 1.6TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61043-B21
HPE 3.2TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61051-B21
HPE 6.4TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Self-encrypting FIPS 140-3 CM7 SSD	P61059-B21
HPE 3.2TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Static PM1755 SSD	P78801-B21
HPE 6.4TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Static PM1755 SSD	P78804-B21
HPE 1.6TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Multi Vendor SSD	P91237-B21
HPE 3.2TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Multi Vendor SSD	P91239-B21
HPE 6.4TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 Multi Vendor SSD	P91241-B21
HPE 1.6TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 PQC27 CM9 SSD	P85662-B21
HPE 3.2TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 PQC27 CM9 SSD	P85664-B21
HPE 6.4TB NVMe Gen4 High Performance Mixed Use SFF BC U.3 PQC27 CM9 SSD	P85666-B21

شبکه در DL380a Gen11

شبکه Embedded استاندارد را فرض نکنید

در CTO Configuration رسمی DL380a Gen11، HPE تصریح می‌کند که Embedded Networking وجود ندارد و باید OCP 3.0 یا Stand-up Network Adapter متناسب با نیاز انتخاب شود. این موضوع هنگام تهیه پیش‌فاکتور حیاتی است. ممکن است یک نفر CPU، RAM، GPU و SSD را دقیق انتخاب کند اما NIC اصلی را فراموش کند، چون عادت دارد سرورهای دیگر چند پورت Ethernet Onboard داشته باشند. در DL380a طراحی شبکه باید آگاهانه انجام شود.

OCP 3.0 چیست و چرا مهم است؟

OCP NIC 3.0 امکان استفاده از Network Adapterهای ماژولار دیتاسنتری را فراهم می‌کند. HPE برای DL380a گزینه‌های OCP و Stand-up Adapter دارد و Data Sheet به دو OCP Slot در کنار PCIe Expansion اشاره می‌کند. برای AI Server، سرعت شبکه ممکن است مستقیماً روی عملکرد کل Cluster اثر بگذارد.

اگر Dataset روی Storage خارجی قرار دارد یا چند Node باید با هم کار کنند، شبکه 1GbE یا حتی در برخی سناریوها 10GbE می‌تواند محدودکننده باشد.

در طراحی باید مشخص شود شبکه برای کدام ترافیک استفاده می‌شود:

Management،

Client Traffic،

Storage Traffic،

Backup،

Cluster Communication،

و Data Transfer بین Nodeها.

ترکیب همه این جریان‌ها روی یک Interface بدون Capacity Planning می‌تواند به Bottleneck منجر شود.

مدیریت سرور با HPE iLO 6

یکی از مزیت‌های اصلی ProLiant Gen11، استفاده از HPE Integrated Lights-Out 6 یا iLO 6 است. HPE آن را برای Configuration، Monitoring و Update سرور از راه دور به کار می‌گیرد. برای فرد مبتدی، iLO را می‌توان یک کامپیوتر مدیریتی کوچک و مستقل داخل سرور تصور کرد. حتی اگر سیستم‌عامل Boot نشود، مدیر می‌تواند از طریق iLO وضعیت سخت‌افزار را مشاهده کند و بسیاری از عملیات مدیریتی را انجام دهد. در محیط حرفه‌ای، iLO یکی از مهم‌ترین اجزای Lifecycle Management سرور است.

iLO چه کاربردهایی دارد؟

بسته به License و قابلیت مورد استفاده، اکوسیستم iLO امکاناتی برای مشاهده Health سیستم، Inventory، مدیریت از راه دور، Firmware Management و Automation فراهم می‌کند. سرور اچ پی DL380 G11 همچنین یک پورت اختصاصی 1Gb برای iLO در پشت دستگاه و iLO Service Port در جلو دارد. چهار USB 3.0 شامل یک پورت جلو، دو پورت پشت و یک پورت داخلی نیز در QuickSpecs ذکر شده‌اند.

در دیتاسنتر حرفه‌ای توصیه می‌شود شبکه Management از Production Traffic تفکیک شود و دسترسی iLO براساس سیاست امنیتی سازمان محدود باشد.

Intelligent Provisioning

HPE Intelligent Provisioning به‌صورت Embedded در مجموعه مدیریت سرور ارائه می‌شود و در Configuration رسمی DL380a Gen11 همراه iLO Standard ذکر شده است. هدف آن ساده‌تر کردن فرآیندهای Deployment و Provisioning است. اما در محیط Enterprise بزرگ، معمولاً Intelligent Provisioning تنها ابزار مدیریت نیست. ابزارهای Automation، Image Management، Configuration Management و Lifecycle Management سازمان در کنار آن قرار می‌گیرند.

HPE OneView

HPE OneView برای مدیریت Infrastructure در مقیاس بزرگ‌تر مطرح می‌شود. HPE در QuickSpecs توضیح می‌دهد OneView Standard قابلیت‌هایی مانند Inventory، Health Monitoring، Alerting و Reporting را ارائه می‌کند؛ قابلیت‌های پیشرفته‌تر Software-defined در نسخه Advanced وابسته به License هستند. اگر فقط یک سرور اچ پی DL380a G11 دارید، iLO مرکز توجه خواهد بود. اما وقتی تعداد زیادی سرور HPE در چند Rack دارید، مدیریت تک‌تک iLOها روش مقیاس‌پذیری نیست. اینجاست که مفهوم Centralized Infrastructure Management اهمیت پیدا می‌کند.

امنیت در HPE DL380a Gen11

Silicon Root of Trust

یکی از پایه‌های امنیتی ProLiant Gen11 فناوری HPE Silicon Root of Trust است. HPE این فناوری را به عنوان ریشه اعتماد در سطح Silicon برای حفاظت از Firmware حیاتی سرور معرفی می‌کند. در کنار آن، قابلیت‌هایی مانند Secure Boot، Secure Start، Firmware Verification، Rollback و TPM در مجموعه امکانات امنیتی پلتفرم دیده می‌شوند.

در یک AI Server این موضوع اهمیت مضاعف دارد. چرا؟

چون ارزش سرور فقط در Hardware نیست. Datasetها، Modelها، Weightها، API Credentialها و Intellectual Property ممکن است بسیار باارزش‌تر از خود دستگاه باشند.

قابلیت‌های امنیتی مهم

QuickSpecs HPE مواردی از این جنس را برای پلتفرم ذکر می‌کند:

• UEFI Secure Boot و Secure Start
• Firmwareهای Digitally Signed
• Silicon Root of Trust
• Firmware Rollback
• Secure Erase
• iLO Security Modes
• کنترل Granular روی Interfaceهای iLO
• TPM
• قابلیت‌های Cryptographic و Security Compliance مرتبط

اما وجود قابلیت امنیتی به معنی امن بودن خودکار سرور نیست.

اگر iLO مستقیماً در دسترس اینترنت قرار گیرد، Credential ضعیف باشد، Firmware Update نشود یا شبکه Management تفکیک نشده باشد، بهترین قابلیت‌های سخت‌افزاری نیز جای معماری امنیتی درست را نمی‌گیرند.

Firmware؛ بخشی از زیرساخت، نه کار نگهداری فرعی

Firmware در سرور Enterprise باید مانند یک Software Stack مدیریت شود. HPE برای ProLiant از مجموعه ابزارها و Service Pack for ProLiant استفاده می‌کند و نسخه‌های جدید SPP همچنان DL380a Gen11 را در فهرست Platformهای پشتیبانی‌شده دارند. بهترین روش این نیست که هر Firmware جدیدی را همان روز روی Production نصب کنید.

رویکرد بهتر:

ابتدا Release Notes و Advisoryها را بخوانید، Compatibility را بررسی کنید، Update را در Maintenance Window انجام دهید و Configuration Backup و Rollback Plan داشته باشید. این موضوع نظری نیست. برای مثال HPE در سال 2026 Advisory رسمی درباره iLO 6 v1.75 منتشر کرد که در برخی Gen11ها، از جمله DL380a Gen11، تغییرات UEFI Boot Order ممکن بود پس از Reboot یا Power Cycle حفظ نشود؛ HPE در همان Advisory نسخه اصلاح‌شده iLO 6 v1.77 را اعلام کرد.

این مثال نشان می‌دهد چرا «Firmware Update» باید فرآیند کنترل‌شده باشد.

UEFI و BIOS در سرور اچ پی DL380a Gen11

HPE ProLiant Gen11 از UEFI استفاده می‌کند. UEFI امکان Configuration مدرن‌تر و امن‌تر نسبت به Legacy ROM را فراهم می‌کند. برای Workloadهای Performance-sensitive تنظیمات BIOS اهمیت زیادی دارند. Power Profile، Workload Profile، NUMA Behavior و تنظیمات مرتبط با Virtualization می‌توانند روی Performance اثر بگذارند.

اما یک Best Practice مهم وجود دارد:

تنظیم BIOS را از روی مقاله‌ای عمومی کپی نکنید. تنظیمی که برای Low-latency Trading مناسب است الزاماً برای AI Training مناسب نیست. ابتدا Workload Profile صحیح را انتخاب کنید و سپس فقط تنظیماتی را تغییر دهید که دلیل فنی و Benchmark برای آن دارید.

خنک‌سازی DL380a Gen11

شش فن Dual-Rotor Hot-Plug

HPE برای این سرور شش فن Dual-Rotor Hot-Plug با افزونگی N+1 در نظر گرفته است. N+1 یعنی سیستم به شکلی طراحی شده که افزونگی فن داشته باشد؛ با این حال رفتار دقیق حرارتی به Configuration وابسته است. وجود چند GPU با TDP بالا باعث می‌شود Airflow اهمیت زیادی پیدا کند. در دیتاسنتر، خنک‌سازی DL380a فقط مسئله داخل شاسی نیست. Rack Layout، Cold Aisle، Hot Aisle، دمای ورودی هوا و ظرفیت CRAC/CRAH نیز باید بررسی شوند.

دمای محیط و محدودیت Configuration

QuickSpecs HPE برای شرایط استاندارد، دمای ورودی سیستم را از 10 تا 35 درجه سانتی‌گراد در سطح دریا ذکر می‌کند و برای ارتفاع بیشتر Derating دما در نظر گرفته می‌شود. HPE همچنین تأکید می‌کند Upper Limit ممکن است براساس نوع و تعداد Optionهای نصب‌شده محدودتر شود.

این جمله آخر برای GPU Server بسیار مهم است.

عدد «35°C» را نباید بدون توجه به Configuration به معنای پشتیبانی همه ترکیب‌های GPU/NIC/CPU در 35 درجه برداشت کرد. برخی GPU Configurationها در جدول QuickSpecs محدودیت دمایی خاص خود دارند. بنابراین طراحی Cooling باید بر اساس Configuration نهایی انجام شود، نه مشخصات عمومی شاسی.

Power Supply در DL380a Gen11

HPE برای این پلتفرم گزینه‌های 1600W Flex Slot Platinum و 1800W–2200W Flex Slot Titanium را مستند کرده است. براساس Configuration، معماری منبع تغذیه می‌تواند به شکل Dual Hot-Plug redundant 1+1 یا چهار Power Supply با افزونگی 2+2 باشد. این قسمت یکی از مهم‌ترین مراحل Sizing است.

فرض کنید چهار GPU 350 یا 400 واتی دارید، دو CPU پرمصرف نیز نصب شده‌اند و RAM، SSD، NIC و Fanها را اضافه می‌کنیم. حالا انتخاب PSU با روش «بزرگ‌ترین وات موجود را بخریم» یک طراحی مهندسی نیست. باید ظرفیت واقعی، Redundancy Mode، ولتاژ ورودی، PDU، Circuit، Peak Load و Efficiency بررسی شوند. HPE برای همین منظور استفاده از Power Advisor را در اکوسیستم سرورهای خود ارائه می‌کند.

مصرف برق را فقط در سطح سرور محاسبه نکنید

اگر قرار است ده DL380a GPU-dense در یک Rack قرار دهید، مسئله دیگر 10 سرور نیست؛ مسئله یک Rack با Power Density بسیار بالا است.

باید محاسبه کنید:

Server Power،

A/B Feed،

PDU Capacity،

Circuit Capacity،

UPS Capacity،

Generator Capacity،

Cooling Load،

و Heat Rejection.

QuickSpecs برای نمونه، حداکثر BTU/hr مربوط به PSUهای 1600W و 1800–2200W را نیز ارائه می‌کند.

به زبان ساده: هر وات محاسباتی نهایتاً به گرما تبدیل می‌شود و دیتاسنتر باید آن را دفع کند.

ابعاد و وزن DL380a Gen11

براساس QuickSpecs رسمی، ابعاد شاسی تقریباً 8.75 × 44.8 × 81.6 سانتی‌متر است. وزن Configuration کامل نمونه‌ای که HPE برای شاسی 4DW با چهار GPU، دو CPU، 24 DIMM، هشت SSD، چهار PSU و Optionهای دیگر ذکر کرده، حدود 35.96 کیلوگرم است. عمق 81.6 سانتی‌متری و وزن نزدیک 36 کیلوگرم در Configuration کامل باید هنگام انتخاب Rack، Rail، Cable Management و عملیات نصب در نظر گرفته شود. سرور GPU پرشده تجهیز سبکی نیست و نصب فیزیکی آن باید طبق دستورالعمل HPE و الزامات ایمنی انجام شود.

سیستم‌عامل‌های قابل استفاده

HPE برای سرورهای ProLiant سازگاری سیستم‌عامل را از طریق Servers Support & Certification Matrices مدیریت می‌کند.

در مستندات DL380a خانواده‌هایی مانند موارد زیر ذکر شده‌اند:

• Microsoft Windows Server
• VMware ESXi
• Red Hat Enterprise Linux
• SUSE Linux Enterprise Server
• Canonical Ubuntu

اما این فهرست به معنی پشتیبانی تمام نسخه‌ها با تمام Configurationها نیست.

برای Production باید دقیقاً این زنجیره بررسی شود:

Server Model → CPU → GPU → NIC/HBA → OS Version → Driver → Firmware → Hypervisor/Container Stack

Linux و DL380a Gen11

بخش بزرگی از AI Stack مدرن روی Linux اجرا می‌شود. اما نصب Linux پایان کار نیست. برای استفاده حرفه‌ای از GPU باید Driver، CUDA یا Software Stack مرتبط، Container Runtime و Libraryهای مورد نیاز نیز با نسخه‌های پشتیبانی‌شده هماهنگ شوند.

در محیط Production بهتر است نسخه‌ها Pin شوند و Upgradeها کنترل‌شده باشند. مشکل کلاسیک این است: سیستم‌عامل Upgrade می‌شود، Kernel تغییر می‌کند، Driver GPU ناسازگار می‌شود و سرویسی که تا دیروز سالم بوده از دسترس خارج می‌شود. برای AI Infrastructure، Software Dependency Management بخشی از Infrastructure Management است.

VMware و مجازی‌سازی

DL380a Gen11 می‌تواند در اکوسیستم Virtualization مورد استفاده قرار گیرد، اما وجود GPU موضوع را پیچیده‌تر از یک ESXi Host معمولی می‌کند. باید مشخص شود GPU چگونه در اختیار Workload قرار می‌گیرد:

روش‌های Virtual GPU در صورت پشتیبانی Stack، یا استفاده مستقیم توسط Host/Container Platform. نسخه Hypervisor، GPU Driver، License، Guest OS و Vendor Compatibility همگی باید قبل از طراحی Production بررسی شوند.

بنابراین جمله «این سرور VMware را پشتیبانی می‌کند» برای طراحی کافی نیست. سؤال حرفه‌ای این است:

آیا دقیقاً Configuration سخت‌افزاری و GPU Mode موردنظر من روی نسخه مشخص Hypervisor پشتیبانی می‌شود؟

Windows Server

Windows Server نیز در ماتریس سیستم‌عامل‌های ProLiant مطرح است. برای Workloadهای GPU روی Windows نیز همان اصل Compatibility برقرار است. Driver مناسب GPU، Firmware، Windows Build و Application Stack باید با هم بررسی شوند. در زیرساخت Enterprise بهتر است Hardware Support Matrix و Software Support Matrix قبل از Purchase Order نهایی شوند، نه بعد از رسیدن سرور.

DL380a Gen11 برای چه کاربردهایی طراحی شده است؟

AI Inference

Inference یعنی استفاده از مدل آموزش‌دیده برای تولید خروجی. برای مثال:

مدل تشخیص تصویر در کارخانه،

مدل NLP،

سیستم Recommendation،

پردازش ویدئو،

یا سرویس Generative AI داخلی سازمان.

HPE خود DL380a Gen11 را برای AI Training و Inference معرفی می‌کند.

Machine Learning و Deep Learning

در پروژه‌هایی که Dataset بزرگ است و عملیات ماتریسی سنگین انجام می‌شود، GPU می‌تواند نسبت به پردازش CPU-only مزیت قابل توجهی ایجاد کند. اما Performance نهایی به کل Pipeline وابسته است:

Storage باید Dataset را تحویل دهد؛ CPU باید Preprocessing را انجام دهد؛ RAM باید Working Set را نگه دارد؛ Network باید داده را منتقل کند؛ و GPU عملیات Accelerated را انجام دهد. DL380a زمانی ارزش واقعی خود را نشان می‌دهد که این زنجیره به‌صورت متوازن طراحی شود.

Generative AI و LLM

یکی از کاربردهای مهم این کلاس از سرورها اجرای Workloadهای Generative AI است. HPE نیز در اسناد خود DL380a Gen11 را در معماری‌های مربوط به GenAI مطرح کرده و قابلیت استفاده از GPUهای متعدد را برای چنین بارهایی برجسته می‌کند. برای LLM باید بیش از TOPS یا FLOPS به حافظه GPU توجه کرد.

مدل باید در VRAM جا شود یا بین GPUها توزیع شود. Context Length، Batch Size، Precision و Framework هم روی مصرف حافظه اثر می‌گذارند. به همین دلیل انتخاب بین GPUهای مختلف بدون دانستن Model Size و Serving Architecture منطقی نیست.

کاربردهای مهندسی و Graphics-intensive

سرور اچ پی DL380a G11 فقط برای هوش مصنوعی نیست. HPE به Advanced Engineering Applications و Graphics-intensive Workloads نیز اشاره می‌کند. Simulation، Visualization و برخی Workloadهای مهندسی می‌توانند از Accelerator استفاده کنند. باز هم اصل اساسی ثابت است: ابتدا Application Certification و Hardware Requirements نرم‌افزار بررسی شود، سپس سرور انتخاب شود.

تفاوت DL380a Gen11 با یک سرور GPU دست‌ساز

ممکن است در نگاه اول گفته شود: «می‌توان یک سرور 2U تهیه کرد و چهار GPU داخل آن گذاشت.» اما Enterprise Server فقط مجموعه قطعات نیست. ارزش DL380a در Integration قرار دارد:

Power Architecture،

Cooling Design،

Firmware Lifecycle،

Remote Management،

Health Monitoring،

Support Matrix،

Validated Components،

Security Architecture،

و Serviceability.

وقتی سرور در Production است، زمان مهندس زیرساخت نیز هزینه دارد. سیستمی که قطعات آن ارزان‌تر است اما هر Driver Update به یک پروژه تحقیقاتی تبدیل می‌شود، لزوماً TCO پایین‌تری ندارد.

DL380a Gen11 یا DL380 Gen11؟

نام این دو محصول بسیار شبیه است و همین موضوع باعث اشتباه می‌شود. DL380 Gen11 یک سرور General-purpose بسیار انعطاف‌پذیر است، در حالی که DL380a Gen11 معماری Accelerator-Optimized دارد. اگر GPU محور اصلی Workload نیست، باید بررسی شود آیا واقعاً به نسخه a نیاز دارید.

اما اگر طراحی شما به چهار GPU Double-Wide یا تراکم بالای Accelerator نیاز دارد، DL380a دقیقاً برای همین کلاس Workload طراحی شده است. بنابراین سؤال «کدام قوی‌تر است؟» سؤال کاملی نیست. سؤال بهتر:

کدام معماری با Workload من تطابق دارد؟

طراحی Configuration مناسب DL380a Gen11

فرض کنیم سازمانی می‌خواهد یک سرور برای سرویس داخلی Generative AI تهیه کند. اشتباه رایج این است که طراحی را از GPU شروع و همان‌جا تمام کند: «چهار H100 می‌خواهیم.» یک مهندس زیرساخت باید مسیر طولانی‌تری طی کند.

مرحله اول: تعریف Workload

باید مشخص شود:

Training است یا Inference؟

Model Size چقدر است؟

Dataset کجاست؟

Concurrent User چند نفر است؟

Latency Target چیست؟

Availability Requirement چیست؟

آیا Scale-out لازم است؟

مرحله دوم: انتخاب GPU

GPU باید براساس Memory Requirement، Compute Requirement، Software Compatibility و بودجه انتخاب شود. بعد باید بررسی شود GPU در QuickSpecs فعلی DL380a وجود دارد یا خیر.

مرحله سوم: انتخاب CPU

CPU براساس Preprocessing، I/O، Virtualization و Host-side Workload انتخاب می‌شود. بیشترین Core Count همیشه بهترین انتخاب اقتصادی نیست.

مرحله چهارم: RAM Sizing

RAM باید براساس Dataset Pipeline، Application Memory و توصیه‌های HPE تعیین شود. توصیه HPE مبنی بر System Memory حدود دو برابر GPU Memory می‌تواند یکی از نقاط شروع باشد. سپس Population Rules بررسی می‌شوند.

مرحله پنجم: Storage

باید مشخص شود Dataset Local است یا Remote.

اگر Local است:

Capacity؟

Read Intensive یا Mixed Use؟

RAID؟

Checkpoint Write Rate؟

اگر Remote است، Network Fabric اهمیت بیشتری پیدا می‌کند.

مرحله ششم: Network

برای Management، Storage، Client و Cluster Traffic طراحی جداگانه انجام شود. سرعت NIC فقط یک عدد نیست؛ تعداد Port، Redundancy، Switch Compatibility، Transceiver/DAC و PCIe Placement هم اهمیت دارند.

مرحله هفتم: Power و Cooling

حالا می‌توان براساس Configuration واقعی PSU و Power Feed را طراحی کرد. این مرحله نباید به بعد از خرید موکول شود.

NUMA؛ نکته‌ای که بسیاری از خریداران فراموش می‌کنند

سرور اچ پی DL380a G11 یک سرور Dual-Socket است. در معماری دوپردازنده‌ای، حافظه و Deviceها نسبت به CPUها Topology دارند. دسترسی یک CPU به Memory یا Device متصل به سمت دیگر می‌تواند هزینه بیشتری نسبت به دسترسی Local داشته باشد. این مفهوم NUMA است. برای Workloadهای Performance-sensitive، Placement پردازش‌ها، Memory Allocation و Device Affinity اهمیت پیدا می‌کند.

اگر نرم‌افزار یا Hypervisor بدون توجه به NUMA تنظیم شود، ممکن است Hardware بسیار قدرتمندی داشته باشید اما Performance کمتر از انتظار باشد. این همان جایی است که Benchmark واقعی مهم‌تر از مشخصات کاتالوگ می‌شود.

1 Gigabit Ethernet adapters
Broadcom BCM5719 Ethernet 1Gb 4-port BASE-T Adapter for HPE	P51178-B21
Intel I350-T4 Ethernet 1Gb 4-port BASE-T Adapter for HPE	P21106-B21

10 Gigabit Ethernet adapters
Broadcom BCM57416 Ethernet 10Gb 2-port BASE-T Adapter for HPE	P26253-B21
Broadcom BCM57412 Ethernet 10Gb 2-port SFP+ Adapter for HPE	P26259-B21

25 Gigabit Ethernet adapters
Broadcom BCM57504 Ethernet 10/25Gb 4-port SFP28 Adapter for HPE	P26264-B21
Broadcom BCM57414 Ethernet 10/25Gb 2-port SFP28 Adapter for HPE	P26262-B21
Intel E810-XXVDA2 Ethernet 10/25Gb 2-port SFP28 Adapter for HPE	P08443-B21
Intel E810-XXVDA4 Ethernet 10/25Gb 4-port SFP28 Adapter for HPE	P08458-B21
Mellanox MCX631102AS-ADAT Ethernet 10/25Gb 2-port SFP28 Adapter for HPE	P42044-B21

چرا Benchmark خودتان مهم‌تر از اعداد تبلیغاتی است؟

HPE نتایج Benchmark رسمی برای DL380a Gen11 منتشر کرده و این پلتفرم در MLPerf Inference نتایج قدرتمندی ثبت کرده است. این نتایج برای اثبات توان معماری مفیدند، اما جای Benchmark Workload شما را نمی‌گیرند. مدل، Batch Size، Precision، Framework، Driver، Dataset و SLA شما ممکن است با Benchmark رسمی متفاوت باشد.

پس Benchmark عمومی پاسخ سؤال زیر است:

«این Platform چه ظرفیتی دارد؟»

Benchmark داخلی پاسخ سؤال مهم‌تر را می‌دهد:

«برای Workload من چه عملکردی دارد؟»

مانیتورینگ صحیح DL380a

یک GPU Server باید در چند لایه مانیتور شود. در لایه Hardware:

Temperature، Fan، Power Supply، Memory Health، Drive Health، Firmware State.

در لایه OS:

CPU Utilization، RAM، I/O، Network، NUMA.

در لایه Accelerator:

GPU Utilization، GPU Memory، Temperature، Power Draw، Error State.

و در لایه Application:

Request Rate، Latency، Queue Depth، Tokens/sec یا Metric مرتبط با Workload.

فقط نگاه کردن به CPU Usage برای چنین سروری تقریباً بی‌معناست. ممکن است CPU روی 30 درصد باشد ولی GPU به دلیل Storage Bottleneck تنها 40 درصد Utilization داشته باشد. هدف مانیتورینگ پیدا کردن علت عدم استفاده از ظرفیت است.

Best Practiceهای عملی برای سرور اچ پی DL380a G11

1. BOM را از QuickSpecs فعلی بسازید

QuickSpecs سند زنده است. نسخه فعلی رسمی که هنگام تهیه این مقاله در HPE منتشر شده، Version 34 با تاریخ 3 اوت 2026 است. بنابراین Part Number را از مقاله قدیمی، فروشگاه یا PDF ذخیره‌شده چند سال قبل کپی نکنید.

2. از HPE Support Matrix استفاده کنید

برای OS، Hypervisor، Driver و Firmware فقط نام کلی محصول کافی نیست. نسخه دقیق را بررسی کنید.

3. GPU را مستقل از Power طراحی نکنید

هر GPU جدید می‌تواند Power Budget و Cooling Budget را تغییر دهد.

4. RAM Population را متقارن نگه دارید

تا حد امکان Configuration حافظه را براساس قواعد HPE و با توازن میان دو Processor طراحی کنید.

5. شبکه Management را جدا کنید

iLO بهتر است روی Management Network کنترل‌شده قرار گیرد. دسترسی آن باید محدود، Audit شده و محافظت‌شده باشد.

6. Firmware Baseline داشته باشید

نسخه‌های Firmware را مستند کنید. قبل از Upgrade Release Notes و Advisoryها را بررسی کنید.

7. Performance Baseline ثبت کنید

بعد از Deployment، Benchmark اولیه بگیرید. در آینده اگر Performance افت کرد، Baseline برای مقایسه دارید.

اشتباهات رایج هنگام خرید DL380a Gen11

خرید سرور فقط براساس نام GPU

«چهار H100 دارد، پس عالی است.» این نتیجه‌گیری ناقص است. CPU، RAM، Storage، Network، Software Stack و Cooling باید با GPU هماهنگ باشند.

فرض اینکه هر کارت PCIe قابل نصب است

پشتیبانی فیزیکی با پشتیبانی رسمی متفاوت است.

فقط Configurationهای تأییدشده HPE باید مبنای طراحی Production باشند.

خرید RAM زیاد با Population نامناسب

Capacity بالا لزوماً Bandwidth بالا ایجاد نمی‌کند.

Topology حافظه اهمیت دارد.

فراموش کردن NIC

DL380a در CTO Configuration شبکه Embedded استاندارد ندارد. Network Adapter باید آگاهانه انتخاب شود.

بی‌توجهی به برق رک

ممکن است سرور از نظر داخلی Configuration معتبری داشته باشد اما Rack یا PDU ظرفیت لازم را نداشته باشد.

بی‌توجهی به Cooling

GPU Server را نمی‌توان مانند یک Application Server معمولی از نظر Thermal Density ارزیابی کرد.

استفاده از Driver تصادفی

Driver GPU باید با OS، Framework و نسخه‌های Software Stack هماهنگ باشد.

Update بدون Change Management

Firmware، BIOS و Driver باید در Maintenance Process مدیریت شوند.

چک‌لیست قبل از خرید

قبل از تأیید Purchase Order این موارد باید مشخص باشند:

1. Workload دقیق چیست؟
2. Training یا Inference؟
3. GPU موردنیاز در QuickSpecs فعلی پشتیبانی می‌شود؟
4. Chassis از نوع 4DW است یا 8SW؟
5. CPU با Workload و GPU تناسب دارد؟
6. Memory Capacity کافی است؟
7. Memory Population معتبر است؟
8. Storage Capacity و Endurance مناسب است؟
9. RAID/VROC Design مشخص شده؟
10. NIC و سرعت Network تعیین شده؟
11. OCP/PCIe Slot Allocation بررسی شده؟
12. Power Supply مناسب است؟
13. A/B Power Feed ظرفیت کافی دارد؟
14. PDU و UPS بررسی شده؟
15. Cooling Capacity دیتاسنتر کافی است؟
16. OS/Hypervisor در Support Matrix وجود دارد؟
17. GPU Driver و Software Stack سازگارند؟
18. Firmware Baseline مشخص است؟
19. iLO Network طراحی شده؟
20. Support Contract و Warranty بررسی شده‌اند؟

اگر پاسخ چند مورد از این‌ها «بعداً مشخص می‌کنیم» است، BOM هنوز آماده سفارش نیست.

گارانتی و پشتیبانی

Data Sheet رسمی HPE برای سرور اچ پی DL380a G11 گارانتی پایه 3/3/3 را ذکر می‌کند؛ یعنی سه سال Parts، سه سال Labor و سه سال On-site Support Coverage، با امکان تهیه خدمات و پوشش‌های تکمیلی HPE. در پروژه‌های Mission-critical بهتر است Support Level براساس Business Impact انتخاب شود. هزینه Support را با قیمت سرور مقایسه نکنید؛ آن را با هزینه Downtime مقایسه کنید. اگر توقف یک سرویس AI داخلی فقط مزاحمت ایجاد می‌کند، SLA موردنیاز با سیستمی که Production Process سازمان به آن وابسته است متفاوت خواهد بود.

آیا DL380a Gen11 هنوز انتخاب مناسبی است؟

سرور اچ پی DL380a Gen11 یک پلتفرم قدرتمند Accelerator-Optimized از نسل یازدهم ProLiant است، اما HPE اکنون نسل‌های جدیدتر از جمله DL380a Gen12 را نیز دارد. بنابراین برای خرید جدید باید علاوه بر قابلیت‌های Gen11، Lifecycle پروژه، Availability قطعات، Software Certification، قیمت، GPU موردنیاز و گزینه‌های نسل جدیدتر بررسی شوند.

وجود نسل جدیدتر به معنی نامناسب بودن Gen11 نیست؛ همان‌طور که جدیدتر بودن نیز به تنهایی دلیل انتخاب نیست. برای پروژه‌ای که Compatibility آن با DL380a Gen11 تأیید شده، Configuration مناسب با قیمت اقتصادی در دسترس است و Lifecycle موردنیاز را پوشش می‌دهد، Gen11 همچنان می‌تواند انتخاب فنی قابل بررسی باشد.

برای Greenfield Project بلندمدت، مقایسه با نسل فعلی HPE پیش از سفارش منطقی است.

جمع‌بندی

HPE ProLiant DL380a Gen11 را باید به عنوان یک GPU Server سازمانی دید، نه یک سرور عمومی که چند کارت گرافیک به آن اضافه شده است. معماری 2U و Dual-Socket، پشتیبانی از پردازنده‌های Intel Xeon Scalable نسل چهارم و پنجم، 24 اسلات DDR5، ظرفیت حافظه تا 3TB، PCIe Gen5، Storage مبتنی بر NVMe، iLO 6، امکانات امنیتی ProLiant Gen11 و مهم‌تر از همه امکان استفاده از چهار Accelerator دو اسلاته یا هشت Accelerator تک‌اسلاته، این سرور را برای AI و محاسبات شتاب‌یافته متمایز می‌کند.

اما مهم‌ترین نکته این مقاله مشخصات سخت‌افزاری نیست.

DL380a Gen11 باید به صورت یک سیستم کامل طراحی شود.

GPU بدون CPU مناسب می‌تواند منتظر داده بماند. GPU بدون RAM کافی می‌تواند محدود شود. GPU بدون Storage مناسب گرسنه داده می‌ماند. GPU بدون Network مناسب در Cluster به Bottleneck می‌رسد. و همه این‌ها بدون Power و Cooling صحیح ممکن است اساساً قابل استقرار نباشند.

به همین دلیل بهترین Configuration الزاماً گران‌ترین Configuration نیست؛ بهترین Configuration همان ترکیبی است که CPU، RAM، GPU، Storage، Network، Power، Cooling و Software Stack آن برای Workload واقعی متوازن شده باشند.

مهم‌ترین اشتباهات رایج

خرید براساس نام GPU، استفاده از QuickSpecs قدیمی، فرض سازگاری هر کارت PCIe، طراحی نکردن RAM Population، فراموش کردن NIC، محاسبه نکردن Power Density رک، بی‌توجهی به Thermal Limit، نصب Driver بدون بررسی Compatibility و Update کردن Firmware بدون Change Management مهم‌ترین خطاهایی هستند که باید از آن‌ها اجتناب کرد.

توصیه نهایی

قبل از خرید HPE DL380a Gen11، ابتدا Workload را مستند کنید و سپس BOM بسازید. ترتیب درست تصمیم‌گیری تقریباً چنین است:

Workload → GPU → CPU → RAM → Storage → Network → PCIe Topology → Power → Cooling → OS/Driver → Support

نه:

بودجه > قوی‌ترین GPU > خرید.

و مهم‌تر از همه، Part Numberها و Configuration نهایی را همیشه با آخرین نسخه QuickSpecs رسمی HPE تطبیق دهید؛ زیرا فهرست CPU، GPU، SSD، Firmware و Optionهای پشتیبانی‌شده در طول Lifecycle محصول تغییر می‌کند.

پرسش‌های متداول

سرور HPE DL380a Gen11 چیست؟

HPE ProLiant DL380a Gen11 یک سرور رک‌مونت 2U و دوپردازنده‌ای Accelerator-Optimized است که HPE آن را برای AI، Machine Learning، Deep Learning، Inference، Training و سایر Workloadهای GPU-intensive طراحی کرده است.

DL380a Gen11 چند GPU پشتیبانی می‌کند؟

این سرور در Configurationهای رسمی از حداکثر چهار GPU Double-Wide یا هشت GPU Single-Wide پشتیبانی می‌کند. نوع و تعداد دقیق کارت قابل استفاده به Chassis و Support Matrix رسمی HPE وابسته است.

DL380a Gen11 چند اسلات RAM دارد؟

این سرور دارای 24 DIMM Slot است و از HPE DDR5 SmartMemory استفاده می‌کند. حداکثر ظرفیت RDIMM اعلام‌شده در Data Sheet رسمی تا 3 ترابایت است.

آیا DL380a Gen11 از NVIDIA H100 پشتیبانی می‌کند؟

QuickSpecsهای رسمی HPE برای این پلتفرم Configurationهای NVIDIA H100/H100 NVL را مستند کرده‌اند؛ نوع دقیق کارت و وضعیت فعلی سفارش باید با آخرین QuickSpecs بررسی شود.

آیا DL380a Gen11 برای هوش مصنوعی مناسب است؟

این پلتفرم مشخصاً برای Enterprise AI و Workloadهایی مانند Machine Learning، Deep Learning، Training و Inference طراحی شده است.

آیا DL380a Gen11 از NVMe پشتیبانی می‌کند؟

بله. HPE گزینه‌های SFF NVMe و EDSFF NVMe را برای این سرور ارائه می‌کند.

DL380a Gen11 از چه iLO استفاده می‌کند؟

این سرور از HPE iLO 6 برای مدیریت، Monitoring و Lifecycle Management استفاده می‌کند.

آیا DL380a Gen11 شبکه Onboard دارد؟

در CTO Configuration رسمی، شبکه Embedded استاندارد وجود ندارد و باید OCP 3.0 یا Stand-up Network Adapter مناسب انتخاب شود.

DL380a Gen11 چند یونیت است؟

این سرور دارای فرم فاکتور 2U Rack است.

حرف a در DL380a به چه معناست؟

طبق توضیح HPE، a به مفهوم Accelerator Optimized اشاره دارد و طراحی سرور برای استفاده متراکم از Accelerator/GPU بهینه شده است.

FAQ

آیا می‌توان DL380a Gen11 را بدون GPU خرید؟

QuickSpecs فعلی HPE برای Configuration این مدل، Zero-GPU Configuration را مجاز نمی‌داند. بنابراین طراحی و سفارش باید براساس قواعد Configuration رسمی HPE انجام شود.

آیا می‌توان بعداً GPU به سرور اضافه کرد؟

HPE در QuickSpecs فعلی اعلام کرده است GPU Installation پس از Shipment باید از طریق HPE Services انجام شود. بنابراین Upgrade آینده باید از ابتدا در طراحی Lifecycle سرور لحاظ شود.

آیا می‌توان دو مدل GPU متفاوت را ترکیب کرد؟

خیر؛ QuickSpecs رسمی Mixing مدل‌های متفاوت GPU را پشتیبانی نمی‌کند.

حداکثر RAM سرور چقدر است؟

Data Sheet رسمی HPE حداکثر 3TB RDIMM را برای این پلتفرم ذکر می‌کند. ظرفیت عملی و سرعت نهایی به Processor، DIMM Type و Memory Population وابسته است.

آیا DL380a Gen11 برای VMware مناسب است؟

HPE پشتیبانی سیستم‌عامل و Hypervisor را از طریق Support & Certification Matrices مشخص می‌کند و VMware ESXi در خانواده نرم‌افزارهای مجازی‌سازی مرتبط با این پلتفرم قرار دارد. برای استفاده از GPU باید نسخه ESXi، Driver، GPU Mode و Compatibility Matrix دقیق بررسی شود.

آیا برای LLM مناسب است؟

معماری چند-GPU و حافظه DDR5 پرظرفیت آن می‌تواند برای بسیاری از Workloadهای Generative AI مناسب باشد و HPE نیز DL380a Gen11 را در منابع GenAI خود مطرح کرده است. انتخاب Configuration باید براساس Model Size، VRAM، Throughput، Latency و Software Stack انجام شود.

چه Power Supplyهایی دارد؟

QuickSpecs گزینه‌های 1600W Platinum و 1800–2200W Titanium را برای این پلتفرم مستند کرده است. تعداد و Redundancy PSU باید براساس Configuration نهایی انتخاب شود.

آیا از PCIe Gen5 پشتیبانی می‌کند؟

بله. PCIe 5.0 یکی از قابلیت‌های اصلی این پلتفرم است و HPE امکان استفاده از حداکثر چهار x16 PCIe Gen5 را در Configurationهای مربوط ذکر می‌کند.

 

منبع: صفجه محصول سرور اچ پی DL380a G11

https://almaseasia.com/pcat/hpe/