Куннинг AI ва GPU янгиликлари

CUDA: хотира чегараси жойида, ма’лумотлар-чи?

Cуда-кодингизни текширдингиз: мемчеcк хато топмади, лекин натижа ҳали ҳам нотўғри. Гпу’дан шубҳаланишдан олдин ма’лумотлар ўқилишидан аввал хотирага ёзилганини текширинг.

NVIDIA Cомпуте Санитизер’да бунинг учун алоҳида инитчеcк режими бор. У GPU хотирасининг ҳали ма’лумот ёзилмаган қисмларига мурожаатларни қидиради. Стандарт ҳолатда глобал меморй — қурилманинг асосий хотираси текширилади. Массив чегараларини ва унинг тўлдирилганини текшириш бошқа-бошқа вазифа.

Линух’да кичик, қайта бажариладиган тест учун аввал мемчеcк’ни ишга тушириб, топилган хатоларни тузатинг. Кейин cомпуте-санитизер --тоол инитчеcк ./апп буйруғини бажаринг; ./апп ўрнига ўз Cуда-дастурингизни қўйинг. Ҳисобот тўлдирилмаган буфердан ўқишни кўрсатса, ҳамма жойни шунчаки нолга тўлдирманг — буферга ма’лумот ёзиладиган йўлни текширинг.

Шунда ма’лумот тайёрлашдаги хатони аппаратга оид гумондан ажратасиз. Инитчеcк мемчеcк ўрнини босмайди: NVIDIA аввал хотирага мурожаат хатоларини текширишни тавсия қилади. Ажратилган буфер ичидан ўқиш — тайёр ма’лумотни ўқиш дегани емас.

Qwen3.6: икки токен олдинга — икки баравар тез емас

Qwen3.6-35B-A3B моделини ишга туширдингиз, аммо узун жавобни кутишга тўғри келяпти. Гпуни алмаштиришдан олдин MTP — бир нечта токенни олдиндан таклиф қилиш усулини синаб кўришингиз мумкин. Лекин тезлаштириш ёқилгани сизнинг сўровларингиз ҳам тезлашишини англатмайди.

2026-yil апрелида тақдим етилган бу Қwен моделининг расмий картасида vLLM учун иккита токенни олдиндан таклиф қиладиган мисол бор. Бу токенлар жавобга шунчаки қўшилмайди, аввал текширилади. vLLM ҳужжатларига кўра, натижа модел, юклама, ускуна ва генератсия созламаларига боғлиқ.

Алоҳида синов учун ишлаётган vLLM буйруқингизга картадаги параметрни қўшинг: --спеcулативе-cонфиг '{"метҳод":"qwen3_нехт_мтп","нум_спеcулативе_токенс":2}'. Уни шу параметрсиз ишга тушириш билан солиштиринг: сўровлар, GPU ва жавоб лимитлари бир хил бўлсин. Аввал битта фойдаланувчи, кейин одатий миқдордаги параллел сўровлар билан текширинг. Токенлар орасидаги танаффусларни ва жавобнинг умумий вақтини ўлчанг.

Бу синов кучлироқ GPU сотиб олишдан олдин сервер созламаларининг ўзи йетарлими, деган саволга ёрдам беради. Икки таклиф қилинган токенни икки баравар тезлик ва’даси деб қабул қилманг: айрим таклифлар текширувдан ўтмаслиги мумкин. Мтпни номига қараб емас, ўлчов натижаларига қараб ёқилган ҳолда қолдиринг.

AI Ехcел саналарини кўчирди — нега йил ўзгарди?

Аи’дан ески Ехcел файлидаги муддатларни янги файлга кўчиришни сўрадингиз, аммо саналар бир неча йилга силжиди. Ҳар бир қаторни тузатишдан олдин иккала китобнинг сана тизимини текширтиринг. Катакдаги сонни кўчириш ҳар доим ҳам санани сақлаш дегани емас.

Миcрософт Ехcел’да иккита сана тизимини тушунтиради: 1900 ва 1904. Бир хил сананинг тартиб рақамлари бу тизимларда 1462 кунга фарқ қилади. Скрипт шу сонларни тизимни ҳисобга олмай кўчирса, улар бошқа санани билдиради. опенпйхл’да китобнинг ҳисоб бошланиш нуқтасини wб.епоч орқали билиш мумкин.

Аи’га текшириладиган вазифа беринг: А.хлсх даги дуе_дате устунини опенпйхл орқали Б.хлсх нусхасига кўчир. Аввал иккала китобнинг wб.епоч қийматини кўрсат. Саналарни хом сон емас, датетиме сифатида кўчир. Ноаниқ қийматларни тахмин қилма. Сақлагач, натижани қайта очиб, барча кўчирилган саналарни асл қийматлар билан солиштир. Асл файлларни ўзгартирма.

Фақат «тайёр» деган жавоб емас, мос келмаган саналар ҳисоботини сўранг. 1462 кунни кўр-кўрона қўшманг: кутубхона қийматни аллақачон тўғри сана сифатида ўқиган бўлса, бундай «тузатиш»нинг ўзи хато келтириб чиқаради. Катакдаги сон тенглигини емас, календардаги сана сақланганини текширинг.