Куннинг AI ва GPU янгиликлари

GPU 0 — қурилма номи емас, рўйхатдаги рақами

Серверни қайта ишга туширдингиз ва яна «GPU 0»ни текширяпсиз. Аммо бу кеча кузатган тезлаткичингизми? Носозликлар тарихини юритишда UUID — Гпу’нинг доимий идентификаторини сақлаган ма’қул.

NVIDIA огоҳлантиради: қайта ишга тушгандан кейин қурилмалар тартиби сақланиши кафолатланмайди. Шу сабабли нвидиа-сми’да бир хил қурилмани танлаш учун UUID ёки PCI бус ID тавсия етилади. Рўйхатдаги рақам ишончли ном ўрнини босмайди.

нвидиа-сми --қуерй-гпу=индех,наме,ууид --формат=cсв буйруғини бажаринг. Натижани сервер номи билан хизмат журналида сақланг. Қайта ишга туширгач, фақат индех’ни емас, Ууид’ни солиштиринг; керакли GPU ҳақида сўров бериш учун унинг Ууид’сини нвидиа-сми’даги -и параметрига киритинг.

Шунда турли тезлаткичлар ҳақидаги кузатувлар аралашиб кетмайди. UUID платадаги жисмоний ёрлиқ билан бир хил емас: ускунани жойида текшириш учун қурилманинг сервердаги ўрнини алоҳида қайд етинг. GPU тарихини тартиб рақамига емас, Ууид’га боғланг.

Гемма 4 31B: моделга майда деталларни кўришга имкон беринг

Моделга омбор суратини кўрсатасиз, аммо у майда буюмларни ўтказиб юборади. Моделни алмаштиришдан олдин тасвир унга қанчалик батафсил йетиб боришини текширинг. Гемма 4 31B’da бу алоҳида созланади.

Google Деепминд’нинг Гемма 4 модели висуал токенс — тасвирни ифодаловчи елементлар буджетини ўзгартиришга имкон беради. Ҳужжатда 70, 140, 280, 560 ва 1120 қийматлари кўрсатилган. Каттароқ буджет тасвирни тайёрлашда кўпроқ детални сақлайди, лекин қайта ишлаш ҳажмини оширади. Бу жавоб узунлигининг лимити емас.

Кичик қиёсий синов қилинг: ўзингизнинг ўнта суратингизни олиб, керакли буюмларни қўлда белгиланг. Google мисолидаги Трансформерс пипелине’да аввал вқа_пипе.имаге_проcессор.мах_софт_токенс = 280 ни қўйинг, кейин 560 билан такрорланг. Модел, савол ва генератсия созламаларини ўзгартирманг. Ўтказиб юборилган буюмлар, жавоб вақти ва енг юқори VRAM — GPU видеохотираси сарфини солиштиринг.

Сизни қониқтирадиган натижа берувчи кичикроқ буджетни танланг ва серверни шу созламада баҳоланг. Кўпроқ висуал токенс тўғри танишни кафолатламайди. Моделни алмаштиришдан олдин айнан бир хил суратларда кирувчи тасвир тафсилотларини солиштиринг.