GPU watts — butun server sarfi emas
GPU watts — butun server sarfi emas
Fakt: NVIDIA nvidia-smi’dagi Average/Instantaneous Power Draw’ni rozetkadan butun server oladigan quvvat emas, GPU platasining umumiy quvvati deb belgilaydi. GPU ko‘rsatkichlarini qo‘shib, tugunning to‘liq energiya sarfi deb olish xato: CPU, RAM, disklar, ventilyatorlar va quvvat bloklaridagi yo‘qotishlar bu o‘lchovdan tashqarida qoladi.
Nega muhim: bir xil o‘lchov chegarasisiz GPU’larni watts bo‘yicha solishtirish inference xarajati hisobini buzishi mumkin.
Uch qadam: 1. O‘z tuguningizda nvidia-smi -q -d POWER -l 1 ni ko‘ring. Maydon nomi va GPU’ni yozib oling: Average Power Draw — oxirgi soniyadagi o‘rtacha, Instantaneous — oxirgi o‘lchov. Tugatish: Ctrl+C. Mavjud bo‘lmagan N/A’ni nolga almashtirmang. 2. Butun server uchun kirishdagi energiyani mos metered PDU yoki hisoblagich orqali o‘lchang. Shu tugunning barcha elektr ta’minoti liniyalarini hisobga oling; qo‘shni serverlarni qo‘shmang. Boshlang‘ich va yakuniy kWh ko‘rsatkichlari hamda test vaqtini saqlang. 3. Konfiguratsiyalarda bir xil so‘rovlar to‘plamini bajaring: model, precision, context, concurrency va sifat mezonlari bir xil bo‘lsin. Faqat GPU’ning joriy watts qiymatini emas, muvaffaqiyatli bajarilgan to‘plamga ketgan kWh va latency’ni solishtiring.
Tuzoq: o‘rtacha qiymatni tez-tez so‘rash uni cho‘qqilar o‘lchoviga aylantirmaydi. Test ishlash xarajatini baholashga foydali, ammo elektr ta’minoti va sovitishning muhandislik hisobini almashtirmaydi. Average Power Draw Ampere’da, GA100’dan tashqari, va yangiroq GPU’larda qo‘llanadi; maydonlar mavjudligi qurilmaga bog‘liq.
Loyiha sayti: https://verum-ai.uz
Источник / Manba · NVIDIA: https://docs.nvidia.com/deploy/nvidia-smi/

