Սարքի վրա աշխատող մոդելները բավական լավ են դառնում՝ ամպը թողնելու համար
Փոքր մոդելների նոր ալիքն ամբողջությամբ աշխատում է ձեր նոութբուքի կամ հեռախոսի վրա՝ արագ, գաղտնի և առանց API հաշվիչի:
Տարիներ շարունակ ենթադրվում էր, որ օգտակար AI-ն պետք է ապրի ուրիշի տվյալների կենտրոնում: Այդ ենթադրությունը լուռ փլուզվում է:
Փոքր մոդելների վերջին սերունդը՝ մի քանի միլիարդ պարամետրերով, քվանտացված սպառողական սարքավորումների վրա աշխատելու համար, այժմ բավական լավ է ամփոփման, սևագրի ստեղծման, դասակարգման և կոդի լրացման համար՝ առանց երբևէ ցանցին դիպչելու:
Լռելյայն գաղտնի
Տեղայնորեն աշխատելը շրջում է գաղտնիության պատմությունը: Ոչինչ չի հեռանում սարքից, չկա մեկ հարցման արժեք, և մոդելը շարունակում է աշխատել ինքնաթիռում կամ նկուղում:
Փոխզիջումը կարողությունն է. ամենամեծ սահմանային մոդելները դեռ հաղթում են ամենադժվար տրամաբանական առաջադրանքներում: Բայց առօրյա աշխատանքների երկար պոչի համար «բավական լավ և իմ մեքենայի վրա» սկսում է հաղթել «գերազանց և հաշվիչով»-ին:
