Cihaz daxili modellər buludu geridə qoymaq üçün kifayət qədər yaxşılaşır
Kiçik modellərin yeni dalğası tamamilə dizüstü kompüterinizdə və ya telefonunuzda işləyir — sürətli, özəl və API sayğacı olmadan.
İllər boyu faydalı AI-nin başqasının məlumat mərkəzində yaşamalı olduğu fərziyyəsi var idi. Bu fərziyyə sakitcə çökür.
Ən son nəsil kiçik modellər — bir neçə milyard parametr, istehlakçı aparatında işləmək üçün kvantlaşdırılmış — indi heç bir şəbəkəyə toxunmadan xülasə, qaralama yazma, təsnifat və kod tamamlama üçün kifayət qədər yaxşıdır.
Standart olaraq özəl
Yerli olaraq işləmək məxfilik hekayəsini dəyişir. Heç nə cihazı tərk etmir, hər sorğu üçün heç bir xərc yoxdur və model təyyarədə və ya zirzəmidə işləməyə davam edir.
Mübadilə qabiliyyətdir: ən böyük sərhəd modelləri hələ də ən çətin düşüncə tapşırıqlarında qalib gəlir. Ancaq gündəlik işlərin uzun quyruğu üçün, “kifayət qədər yaxşı və mənim maşınımda” “əla və sayğaclı”nı məğlub etməyə başlayır.
