GPU wаттс — бутун сервер сарфи емас
GPU wаттс — бутун сервер сарфи емас
Факт: NVIDIA нвидиа-сми’даги Авераге/Инстантанеоус Поwер Драw’ни розеткадан бутун сервер оладиган қувват емас, GPU платасининг умумий қуввати деб белгилайди. GPU кўрсаткичларини қўшиб, тугуннинг тўлиқ енергия сарфи деб олиш хато: CPU, RAM, дисклар, вентиляторлар ва қувват блокларидаги йўқотишлар бу ўлчовдан ташқарида қолади.
Нега муҳим: бир хил ўлчов чегарасисиз Гпу’ларни wаттс бўйича солиштириш инференcе харажати ҳисобини бузиши мумкин.
Уч қадам: 1. Ўз тугунингизда нвидиа-сми -қ -д POWER -л 1 ни кўринг. Майдон номи ва Гпу’ни ёзиб олинг: Авераге Поwер Драw — охирги сониядаги ўртача, Инстантанеоус — охирги ўлчов. Тугатиш: Cтрл+C. Мавжуд бўлмаган Н/А’ни нолга алмаштирманг. 2. Бутун сервер учун киришдаги енергияни мос метеред PDU ёки ҳисоблагич орқали ўлчанг. Шу тугуннинг барча електр та’миноти линияларини ҳисобга олинг; қўшни серверларни қўшманг. Бошланғич ва якуний кwҳ кўрсаткичлари ҳамда тест вақтини сақланг. 3. Конфигуратсияларда бир хил сўровлар тўпламини бажаринг: модел, преcисион, cонтехт, cонcурренcй ва сифат мезонлари бир хил бўлсин. Фақат Гпу’нинг жорий wаттс қийматини емас, муваффақиятли бажарилган тўпламга кетган кwҳ ва латенcй’ни солиштиринг.
Тузоқ: ўртача қийматни тез-тез сўраш уни чўққилар ўлчовига айлантирмайди. Тест ишлаш харажатини баҳолашга фойдали, аммо електр та’миноти ва совитишнинг муҳандислик ҳисобини алмаштирмайди. Авераге Поwер Драw Ампере’да, GA100’dan ташқари, ва янгироқ Гпу’ларда қўлланади; майдонлар мавжудлиги қурилмага боғлиқ.
Лойиҳа сайти: ҳттпс://верум-аи.уз
Источник / Манба · NVIDIA: ҳттпс://доcс.нвидиа.cом/деплой/нвидиа-сми/

