Kunning AI va GPU yangiliklari

AI’dan avval iqtibos, keyin xulosa so‘rang

Siz uzun hisobot yukladingiz va ravon yozilgan qisqa mazmun oldingiz. Ammo loyiha kechikkani haqidagi xulosa qayerdan chiqdi? Ish tartibini o‘zgartirib ko‘ring: avval AI’dan kerakli parchalarni ko‘rsatishni, keyin ularning mazmunini tushuntirishni so‘rang.

Anthropic’ning uzun hujjatlar bilan ishlash qo‘llanmasida shu usul tavsiya etiladi: Claude’dan avval savolga tegishli qismlarni iqtibos qilib keltirishni so‘rash. Ishlab chiquvchi izohiga ko‘ra, bu butun hujjatga emas, kerakli mazmunga diqqatni jamlashga yordam beradi.

Masalan, muddat nega surilganini bilmoqchisiz. Hisobot bilan birga shuni yuboring: Loyiha muddati nega surilgan? Avval ilova qilingan hisobotdan qisqa, aynan ko‘chirilgan iqtiboslarni bo‘lim nomi bilan keltir. Keyin xulosa ber va uni qaysi iqtibos tasdiqlashini ko‘rsat. Sabab aytilmagan bo‘lsa, «hujjatda ko‘rsatilmagan» deb yoz. Taxmin qo‘shma.

Javobdan so‘ng ko‘rsatilgan bo‘limni ochib, yonidagi gaplarni ham o‘qing. Iqtibosning o‘zi to‘g‘ri xulosani kafolatlamaydi: muhim shart undan tashqarida qolgan bo‘lishi mumkin. Shunchaki javob emas, hujjat parchasidan xulosaga qanday kelinganini so‘rang.

Ko‘proq workers — har doim ham ko‘proq turli ma’lumot emas

GPU ma’lumot kutmasin deb, yuklash jarayonlarini ko‘paytirdingiz. Ammo tezlikni o‘lchashdan oldin har bir jarayon bir xil ma’lumotni qayta o‘qimayotganini tekshiring. Oqimli dataset’da parallel yuklash uchun ishni aniq taqsimlash kerak.

PyTorch’da har bir worker’da IterableDataset’ning — misollarni ketma-ket beradigan to‘plamning — alohida nusxasi bor. Hujjatdagi misolda oqim bo‘linmasa, ikki worker bir xil elementlarni takroran qaytaradi. get_worker_info() bergan ma’lumot yordamida har bir jarayonga alohida qism ajratish mumkin.

Avval ID’lari takrorlanmaydigan qisqa, chekli oqimni oling. Uni num_workers=0 bilan, keyin num_workers=2 bilan to‘liq o‘qing. Faqat batches sonini emas, ID’larni solishtiring. Takrorlar bo‘lsa, oqimni __iter__() ichida yoki worker_init_fn orqali bo‘ling. Bu sizning yuklagichingiz uchun tavsiya etilgan tekshiruv, biz o‘tkazgan test hisoboti emas.

Tuzatishdan so‘ng tekshiruvni takrorlang, keyin o‘qitish tezligini o‘lchang. Maslahat IterableDataset uchun: uni indeks orqali ishlaydigan oddiy dataset’ga avtomatik qo‘llamang. Avval workers ma’lumotni takrorlamay, o‘zaro bo‘lishayotganiga ishonch hosil qiling.