AI · On-device

Түзмөк моделдери булутту таштай турган деңгээлге жетип жатат

Кичинекей моделдердин жаңы толкуну сиздин ноутбугуңузда же телефонуңузда толук иштейт — тез, жеке жана API эсептегичи жок.

Түзмөк моделдери булутту таштай турган деңгээлге жетип жатат

Көп жылдар бою пайдалуу AI башка бирөөнүн маалымат борборунда жашашы керек деген божомол бар болчу. Бул божомол үнсүз кулап жатат.

Кичинекей моделдердин акыркы мууну — бир нече миллиард параметрлери, керектөөчү жабдыгында иштөө үчүн квантталган — азыр кыскача мазмундоо, долбоорлоо, классификациялоо жана кодду толтуруу үчүн тармакка тийбей туура жетиштүү.

Демейки боюнча жеке

Жергиликтүү иштетүү купуялык окуясын оодарды. Эч нерсе түзмөктөн чыкпайт, суроо-талап боюнча чыгым жок, жана модель учакта же жертөлөдө да иштеп жатат.

Соодасы — мүмкүнчүлүк: эң чоң чек ара моделдери эң кыйын ой жүгүртүү тапшырмаларында дагы эле жеңет. Бирок күнүмдүк жумуштардын узун куйругу үчүн “жеткиликтүү жакшы жана менин машинамда” “мыкты жана өлчөнгөн” нерсени жеңе баштайт.