Qurilmadagi modellar bulutdan ortaga qoldirishga yetarli yaxshi
Kichik modellarning yangi to'lqini sizning noutbuk yoki telefoningizda butunlay ishlaydi — tez, shaxsiy va API hisoblagichsiz.
Uzun yillar bo’yi foydali AI kimningdir ma’lumotlar markazida yashaishi kerak deb taxmin qilingan. Bu faraz sukut ichida quliyadirib tuyulmoqda.
Kichik modellarning eng oxirgi avlodiY — bir necha milliard parametrlar, iste’mol apparatida ishlash uchun kvantizirlangan — endi ixcham, yozish, tasnifiy va kod to’ldirish uchun tarmoqqa to’qunmagansiz yetarli yaxshi.
Sukut ichida shaxsiy
Mahalliy ishlash maxfiylik hikoyasini aylantirib beradi. Hech nima qurilmani tark etmaydi, so’rov bo’ylab hech qanday xarajat yo’q, model esa samolyotda yoki podrumu ishini davom ettiradi.
Kelishuv qobiliyatdir: eng katta chegara modellari hali ham eng qiyin fikrlash vazifalarida g’alib bo’ladi. Ammo kundalik ish uzun dumiga “yetarli yaxshi va mening mashinamda” “ajoyib va o’lchovli” ga g’alaba qilishni boshlaydi.
