Kunning AI va GPU yangiliklari

CUDA: xotira chegarasi joyida, ma’lumotlar-chi?

CUDA-kodingizni tekshirdingiz: memcheck xato topmadi, lekin natija hali ham noto‘g‘ri. GPU’dan shubhalanishdan oldin ma’lumotlar o‘qilishidan avval xotiraga yozilganini tekshiring.

NVIDIA Compute Sanitizer’da buning uchun alohida initcheck rejimi bor. U GPU xotirasining hali ma’lumot yozilmagan qismlariga murojaatlarni qidiradi. Standart holatda global memory — qurilmaning asosiy xotirasi tekshiriladi. Massiv chegaralarini va uning to‘ldirilganini tekshirish boshqa-boshqa vazifa.

Linux’da kichik, qayta bajariladigan test uchun avval memcheck’ni ishga tushirib, topilgan xatolarni tuzating. Keyin compute-sanitizer --tool initcheck ./app buyrug‘ini bajaring; ./app o‘rniga o‘z CUDA-dasturingizni qo‘ying. Hisobot to‘ldirilmagan buferdan o‘qishni ko‘rsatsa, hamma joyni shunchaki nolga to‘ldirmang — buferga ma’lumot yoziladigan yo‘lni tekshiring.

Shunda ma’lumot tayyorlashdagi xatoni apparatga oid gumondan ajratasiz. Initcheck memcheck o‘rnini bosmaydi: NVIDIA avval xotiraga murojaat xatolarini tekshirishni tavsiya qiladi. Ajratilgan bufer ichidan o‘qish — tayyor ma’lumotni o‘qish degani emas.

Qwen3.6: ikki token oldinga — ikki baravar tez emas

Qwen3.6-35B-A3B modelini ishga tushirdingiz, ammo uzun javobni kutishga to‘g‘ri kelyapti. GPUni almashtirishdan oldin MTP — bir nechta tokenni oldindan taklif qilish usulini sinab ko‘rishingiz mumkin. Lekin tezlashtirish yoqilgani sizning so‘rovlaringiz ham tezlashishini anglatmaydi.

2026-yil aprelida taqdim etilgan bu Qwen modelining rasmiy kartasida vLLM uchun ikkita tokenni oldindan taklif qiladigan misol bor. Bu tokenlar javobga shunchaki qo‘shilmaydi, avval tekshiriladi. vLLM hujjatlariga ko‘ra, natija model, yuklama, uskuna va generatsiya sozlamalariga bog‘liq.

Alohida sinov uchun ishlayotgan vLLM buyruqingizga kartadagi parametrni qo‘shing: --speculative-config '{"method":"qwen3_next_mtp","num_speculative_tokens":2}'. Uni shu parametrsiz ishga tushirish bilan solishtiring: so‘rovlar, GPU va javob limitlari bir xil bo‘lsin. Avval bitta foydalanuvchi, keyin odatiy miqdordagi parallel so‘rovlar bilan tekshiring. Tokenlar orasidagi tanaffuslarni va javobning umumiy vaqtini o‘lchang.

Bu sinov kuchliroq GPU sotib olishdan oldin server sozlamalarining o‘zi yetarlimi, degan savolga yordam beradi. Ikki taklif qilingan tokenni ikki baravar tezlik va’dasi deb qabul qilmang: ayrim takliflar tekshiruvdan o‘tmasligi mumkin. MTPni nomiga qarab emas, o‘lchov natijalariga qarab yoqilgan holda qoldiring.

AI Excel sanalarini ko‘chirdi — nega yil o‘zgardi?

AI’dan eski Excel faylidagi muddatlarni yangi faylga ko‘chirishni so‘radingiz, ammo sanalar bir necha yilga siljidi. Har bir qatorni tuzatishdan oldin ikkala kitobning sana tizimini tekshirtiring. Katakdagi sonni ko‘chirish har doim ham sanani saqlash degani emas.

Microsoft Excel’da ikkita sana tizimini tushuntiradi: 1900 va 1904. Bir xil sananing tartib raqamlari bu tizimlarda 1462 kunga farq qiladi. Skript shu sonlarni tizimni hisobga olmay ko‘chirsa, ular boshqa sanani bildiradi. openpyxl’da kitobning hisob boshlanish nuqtasini wb.epoch orqali bilish mumkin.

AI’ga tekshiriladigan vazifa bering: A.xlsx dagi due_date ustunini openpyxl orqali B.xlsx nusxasiga ko‘chir. Avval ikkala kitobning wb.epoch qiymatini ko‘rsat. Sanalarni xom son emas, datetime sifatida ko‘chir. Noaniq qiymatlarni taxmin qilma. Saqlagach, natijani qayta ochib, barcha ko‘chirilgan sanalarni asl qiymatlar bilan solishtir. Asl fayllarni o‘zgartirma.

Faqat «tayyor» degan javob emas, mos kelmagan sanalar hisobotini so‘rang. 1462 kunni ko‘r-ko‘rona qo‘shmang: kutubxona qiymatni allaqachon to‘g‘ri sana sifatida o‘qigan bo‘lsa, bunday «tuzatish»ning o‘zi xato keltirib chiqaradi. Katakdagi son tengligini emas, kalendardagi sana saqlanganini tekshiring.