Куннинг AI ва GPU янгиликлари

PyTorch: хотира созламаси бор, та’сири еса йўқми?

GPU хотираси йетишмаслиги ҳақидаги маслаҳатдан мах_сплит_сизе_мб ни қўшдингиз, лекин хато қолаверди. Қийматларни алмаштиришдан олдин дастурингизда хотирани қайси механизм ажратаётганини текширинг.

PyTorch ҳужжатига кўра, мах_сплит_сизе_мб йирик блокларнинг бўлинишини фақат нативе аллоcатор’да чеклайди. Баcкенд cудамаллоcасйнc бўлса, бу параметр е’тиборга олинмайди. Бундай режимда уни ўзгартириш узилган қувурнинг жўмрагини бурашга ўхшайди.

Муаммо чиқаётган дастурнинг ўзида импорт торч дан кейин принт(торч.cуда.меморй.гет_аллоcатор_баcкенд()) қаторини қўшинг. У фаол баcкенд’ни кўрсатади. Натижа cудамаллоcасйнc бўлса, мах_сплит_сизе_мб қийматини танлашга вақт кетказманг. Бошқа созламали алоҳида Пйтҳон’ни емас, айнан вазифангиз ишлаётган жараённи текширинг.

Бу беҳуда тажрибалардан сақлайди. Ҳатто нативе учун ҳам ҳужжат бу параметрни хотира йетишмай, кўп бўлинган блоклар фаол ишлатилмай турган ҳолатда сўнгги чора сифатида тавсия қилади; тезлик пасайиши мумкин. Аввал созлама сизнинг режимингизда ишлашини текширинг, кейин қийматини танланг.

Граните 4.1 3B: мултилингуал — ҳар қандай тил емас

Русча ва ўзбекча ишлайдиган бот учун кичик модел танлаяпсиз ва мултилингуал деган ёзувни кўрдингиз. IBM 2026-yil 29-aprelda чиқарган Граните 4.1 3B учун аввал тилларни текшириб, кейин GPU танлаган ма’қул.

Расмий модел cард’да қўллаб-қувватланадиган тиллар саналган, лекин рус ва ўзбек тиллари улар орасида йўқ. IBM кўп тилли жавоблар сифати инглизчадагидан фарқ қилиши мумкинлигини ҳам қайд етади. Бу модел сизнинг тилингизни умуман тушунмайди дегани емас. Аммо мижозларга бир хил аниқлик ва’да қилиш учун ҳам асос емас.

Дастлабки синов учун шахсий ма’лумотлардан тозаланган, мақсади олдиндан белгиланган 20 та мурожаат олинг. «Отмените заказ» / «Заказ не отменяйте» ва «Буюртмани бекор қилинг» / «Буюртмани бекор қилманг» жуфтликларини қўшинг. Модел бекор қилиш билан бекор қилмаслик талабини ажратадими, текширинг. Созламаларни бир хил сақлаб, хатоларни ҳар бир тил учун алоҳида ҳисобланг. Бу тавсия етилган синов, Граните’да ўлчанган натижа емас.

Сифат сизни қониқтирса, керакли параллел сўровлар сонида тезлик ва VRAM сарфини ўлчанг. Серверни фақат модел ҳажмига қараб танламанг. Йигирмата мурожаат — дастлабки текширув, мижозлар билан ишлашга тайёрлик тасдиғи емас. Аввал моделни мижозлар тилида текширинг, кейин юкламага мос GPU танланг.

AI ZIP тайёрлади: архив бутун, лекин файллар тўлиқми?

Сиз Аидан ҳисобот, жадвал ва графикни битта архивга йиғишни сўрадингиз. ZIP очилади, ёрдамчи «текширилди» дейди. Аммо архивнинг бузилмаганлиги ва натижанинг тўлиқлиги — алоҳида текширувлар.

Пйтҳон’да Зипфиле.тестзип() ZIP ичидаги файлларни ўқиб, уларнинг CRC назорат йиғиндилари ва сарлавҳаларини текширади. Бузилиш топилмаса, Ноне қайтаради. Сиз буюртма қилган файллар рўйхатини еса билмайди. Синовимизда чарт.пнг йўқ архив бу текширувдан ўтди: қолган файллар бузилмаган еди.

Файлларга кира оладиган ёрдамчига алоҳида қабул шартини беринг: ZIP ичида суммарй.тхт, дата.cсв ва чарт.пнг бўлсин. Тайёрлагач, айнан якуний архивни қайта оч. тестзип()ни бажар, намелист()ни шу рўйхат билан солиштир. Йетишмаётган, ортиқча ва такрорланган номларни кўрсат. Фарқ бўлса, тайёр деб айтма; текширувни бажара олмасанг, буни билдир.

Кутилган рўйхатни архивлашдан олдин белгиланг, тайёр Зипдан тузманг. Архив очилишинигина емас, ва’да қилинган файллар борлигини ҳам текширинг. Барча номлар жойида бўлса ҳам, ма’лумотлар тўғри еканлиги исботланмайди: файллар мазмуни алоҳида текширилади.