Моделите на уредот стануваат доволно добри за да го напуштат облакот
Нов бран мали модели работи целосно на вашиот лаптоп или телефон — брзо, приватно и без API мерач.
Со години претпоставката беше дека корисната вештачка интелигенција мора да живее во нечиј друг дата центар. Таа претпоставка тивко се распаѓа.
Најновата генерација мали модели — неколку милијарди параметри, квантизирани да работат на потрошувачки хардвер — сега се доволно добри за резимирање, црнови, класификација и довршување на код без да допрат мрежа.
Приватно по дизајн
Локалното работење ја превртува приказната за приватност. Ништо не го напушта уредот, нема цена по барање, а моделот продолжува да работи во авион или подрум.
Компромитот е можноста: најголемите гранични модели сè уште победуваат на најтешките задачи за резонирање. Но за долгата опашка на секојдневните работи, „доволно добро и на мојата машина” почнува да го победува „одлично и на мерач”.
