Куннинг AI ва GPU янгиликлари

Вохтрал Реалтиме: аввал аудио частотасини текширинг

Нутқни матнга айлантиришни уладингиз, аммо таниш ёзувдан ғалати матн чиқяпти. Гпу’ни алмаштиришга шошилманг: аввал овоз қандай тайёрланганини текширинг. Гап Мистрал AI 2026-yil 4-fevralda чиқарган Вохтрал Мини 4B Реалтиме 2602 ҳақида, бугунги янги модел ҳақида емас.

Бу Апаче 2.0 литсензияси билан очиқ вазнларда тарқатиладиган нутқдан матнга модел. Трансформерс учун расмий мисолда аудио проcессор’га узатилишидан олдин ресамплинг қилинади — сигнал намуналари керакли частотага қайта ҳисобланади. Частота файл кенгайтмасидан тахмин қилинмайди, проcессор.феатуре_ехтраcтор.самплинг_рате’дан олинади.

Шу мисолдан фойдалансангиз, аудио — мистрал_cоммон’даги Аудио обйекти бўлиб, Аудио.фром_филе орқали юкланган бўлади. аудио.ресампле(проcессор.феатуре_ехтраcтор.самплинг_рате) қаторини ташлаб кетманг. Кейин аудио.аудио_аррай’ни проcессор’га узатинг. Бутун архивни қайта ишлашдан олдин матни ма’лум қисқа ёзувни олинг ва транскрипсияни асл гап билан солиштиринг.

Бундай синов ма’лумот тайёрлашдаги хатони ускуна танловидан ажратишга ёрдам беради. Аввал кирувчи аудиони текширинг, кейин бошқа GPU керакми, ҳал қилинг. Лекин тўғри частота аниқ транскрипсияни кафолатламайди: ўзбек тили Мистрал е’лон қилган ушбу моделнинг 13 тили рўйхатига кирмайди.

AI хатони тузатяпти — нега бутун модулни қайта ёзсин?

Сиз битта хатони тузатишни сўрайсиз, жавобда еса номлар алмашган, янги файллар пайдо бўлган, ёнидаги код ҳам ўзгарган. Кичик тузатишда та’мирлашни яхшилашдан олдиндан ажратинг: «чиройли қилиб бер» емас, енг зарур ўзгаришни сўранг.

Антҳропиc қўлланмасида айнан шундай тавсия бор: фақат аниқ сўралган ёки зарур нарсани ўзгартириш. Мисолда хатони тузатиш атрофдаги кодни ҳам тартибга келтиришни талаб қилмаслиги айтилган. Бу вазифа чегараси, хато сабабини ўрганишга тақиқ емас.

Функсия бўш рўйхатда хато берса, мана тайёр промпт: Функсия ва унинг чақирилишларини ўрган. Бўш рўйхатдаги хато учун енг кичик дифф ва хатони такрорлайдиган тест таклиф қил. Розилигимгача файлларни ўзгартирма. Янги имконият қўшма, коддаги номларни алмаштирма. Кенгроқ ўзгариш зарур бўлса, сабабини тушунтир. Дифф — тузатишдан олдинги ва кейинги сатрлар таққосланиши; ҳар бир ўзгариш хатога алоқадорлигини текширинг.

Келишгач, тузатишни қўллаш ва тестни ишга туширишни, сўнг оддий, бўш бўлмаган рўйхатни ҳам текширишни сўранг. Кичик дифф тўғрилик исботи емас, файлларни ўзгартирмаслик ҳақидаги сўров еса кириш ҳуқуқларини чеклаш ўрнини босмайди. Аввал тузатиш чегараларини келишинг, кейин натижани текширинг.

PyTorch: решапе шаклни ўзгартиради, VRAM ҳам талаб қилиши мумкин

Сиз катта тенсор — ма’лумотлар массивининг шаклини ўзгартирасиз ва бирдан GPU хотираси йетмай қолади. Сонлар кўпайгани йўқ, аммо бу қўшимча хотира керак емаслигини англатмайди.

PyTorch ҳужжатига кўра, имкон бўлса, решапе виеw — ўша ма’лумотларнинг бошқа кўринишини қайтаради. Акс ҳолда нусха яратилади. Бунда елементлар сонигина емас, уларнинг хотирада жойлашуви ҳам муҳим. Демак, оператсия номи нусхалаш бўлмаслигига кафолат емас.

Айтайлик, решапе’дан олдин транспосе орқали ўқлар ўрнини алмаштирдингиз. Шу қисмни кичик батч’да алоҳида текширинг: кириш ва чиқиш шаклларини ёзиб олинг, кейин профилер’да профиле_меморй=Труе билан хотира ажратилишини кўринг. Нусха топилса, қийматлар тартибини бузмасдан ортиқча ўқ алмаштиришни олиб ташлаш мумкинлигини текширинг. Бу тавсия етилган синов, биз ўлчаган тежамкорлик натижаси емас.

решапе’ни кўр-кўрона виеw билан алмаштирманг: виеw учун ма’лумотлар жойлашуви мос бўлиши керак. «Ишонч учун» қўшилган cонтигуоус() ҳам ма’лумотлар ҳали cонтигуоус бўлмаса, уларни нусхалайди. Кўпроқ Врам’ли GPU олишдан олдин шаклни ўзгартириш ортиқча нусха яратмаётганини текширинг.