Įrenginyje veikiantys modeliai tampa pakankamai geri, kad paliktų debesis
Nauja mažų modelių banga veikia visa jūsų nešiojamajame kompiuteryje ar telefone – greitai, privačiai ir be API skaitiklio.
Metų metus buvo manoma, kad naudingasis DI turi gyventi kažkieno kitame duomenų centre. Ši prielaida tyliai griūva.
Naujausios kartos maži modeliai – keli milijardai parametrų, kvantuoti veikti vartotojiškoje techninėje įrangoje – dabar yra pakankamai geri santraukoms, juodraščiams, klasifikavimui ir kodo užbaigimui, niekada neprisijungus prie tinklo.
Privačiai pagal numatymą
Vietinis veikimas apverčia privatumo istoriją. Niekas nepalieka įrenginio, nėra mokesčio už užklausą, o modelis ir toliau veikia lėktuve ar rūsyje.
Kompromisas yra galimybės: didžiausi pažangiausio lygio modeliai vis dar laimi sunkiausiose samprotavimo užduotyse. Tačiau kasdienių darbų ilgajai uodegai „pakankamai gerai ir mano kompiuteryje” pradeda pranokti „puikiai ir su skaitikliu”.
