Kunning AI va GPU yangiliklari

PyTorch: xotira sozlamasi bor, ta’siri esa yo‘qmi?

GPU xotirasi yetishmasligi haqidagi maslahatdan max_split_size_mb ni qo‘shdingiz, lekin xato qolaverdi. Qiymatlarni almashtirishdan oldin dasturingizda xotirani qaysi mexanizm ajratayotganini tekshiring.

PyTorch hujjatiga ko‘ra, max_split_size_mb yirik bloklarning bo‘linishini faqat native allocator’da cheklaydi. Backend cudaMallocAsync bo‘lsa, bu parametr e’tiborga olinmaydi. Bunday rejimda uni o‘zgartirish uzilgan quvurning jo‘mragini burashga o‘xshaydi.

Muammo chiqayotgan dasturning o‘zida import torch dan keyin print(torch.cuda.memory.get_allocator_backend()) qatorini qo‘shing. U faol backend’ni ko‘rsatadi. Natija cudaMallocAsync bo‘lsa, max_split_size_mb qiymatini tanlashga vaqt ketkazmang. Boshqa sozlamali alohida Python’ni emas, aynan vazifangiz ishlayotgan jarayonni tekshiring.

Bu behuda tajribalardan saqlaydi. Hatto native uchun ham hujjat bu parametrni xotira yetishmay, ko‘p bo‘lingan bloklar faol ishlatilmay turgan holatda so‘nggi chora sifatida tavsiya qiladi; tezlik pasayishi mumkin. Avval sozlama sizning rejimingizda ishlashini tekshiring, keyin qiymatini tanlang.

Granite 4.1 3B: multilingual — har qanday til emas

Ruscha va o‘zbekcha ishlaydigan bot uchun kichik model tanlayapsiz va multilingual degan yozuvni ko‘rdingiz. IBM 2026-yil 29-aprelda chiqargan Granite 4.1 3B uchun avval tillarni tekshirib, keyin GPU tanlagan ma’qul.

Rasmiy model card’da qo‘llab-quvvatlanadigan tillar sanalgan, lekin rus va o‘zbek tillari ular orasida yo‘q. IBM ko‘p tilli javoblar sifati inglizchadagidan farq qilishi mumkinligini ham qayd etadi. Bu model sizning tilingizni umuman tushunmaydi degani emas. Ammo mijozlarga bir xil aniqlik va’da qilish uchun ham asos emas.

Dastlabki sinov uchun shaxsiy ma’lumotlardan tozalangan, maqsadi oldindan belgilangan 20 ta murojaat oling. «Отмените заказ» / «Заказ не отменяйте» va «Buyurtmani bekor qiling» / «Buyurtmani bekor qilmang» juftliklarini qo‘shing. Model bekor qilish bilan bekor qilmaslik talabini ajratadimi, tekshiring. Sozlamalarni bir xil saqlab, xatolarni har bir til uchun alohida hisoblang. Bu tavsiya etilgan sinov, Granite’da o‘lchangan natija emas.

Sifat sizni qoniqtirsa, kerakli parallel so‘rovlar sonida tezlik va VRAM sarfini o‘lchang. Serverni faqat model hajmiga qarab tanlamang. Yigirmata murojaat — dastlabki tekshiruv, mijozlar bilan ishlashga tayyorlik tasdig‘i emas. Avval modelni mijozlar tilida tekshiring, keyin yuklamaga mos GPU tanlang.

AI ZIP tayyorladi: arxiv butun, lekin fayllar to‘liqmi?

Siz AIdan hisobot, jadval va grafikni bitta arxivga yig‘ishni so‘radingiz. ZIP ochiladi, yordamchi «tekshirildi» deydi. Ammo arxivning buzilmaganligi va natijaning to‘liqligi — alohida tekshiruvlar.

Python’da ZipFile.testzip() ZIP ichidagi fayllarni o‘qib, ularning CRC nazorat yig‘indilari va sarlavhalarini tekshiradi. Buzilish topilmasa, None qaytaradi. Siz buyurtma qilgan fayllar ro‘yxatini esa bilmaydi. Sinovimizda chart.png yo‘q arxiv bu tekshiruvdan o‘tdi: qolgan fayllar buzilmagan edi.

Fayllarga kira oladigan yordamchiga alohida qabul shartini bering: ZIP ichida summary.txt, data.csv va chart.png bo‘lsin. Tayyorlagach, aynan yakuniy arxivni qayta och. testzip()ni bajar, namelist()ni shu ro‘yxat bilan solishtir. Yetishmayotgan, ortiqcha va takrorlangan nomlarni ko‘rsat. Farq bo‘lsa, tayyor deb aytma; tekshiruvni bajara olmasang, buni bildir.

Kutilgan ro‘yxatni arxivlashdan oldin belgilang, tayyor ZIPdan tuzmang. Arxiv ochilishinigina emas, va’da qilingan fayllar borligini ham tekshiring. Barcha nomlar joyida bo‘lsa ham, ma’lumotlar to‘g‘ri ekanligi isbotlanmaydi: fayllar mazmuni alohida tekshiriladi.