AI · On-device

పరికరం మీద మోడల్‌లు క్లౌడ్‌ను వదిలివేయడానికి సరిపోతాయి

చిన్న నమూనాల యొక్క కొత్త వేవ్ మీ ల్యాప్‌టాప్ లేదా ఫోన్‌పై పూర్తిగా నడుస్తుంది — వేగవంతమైనది, ఖాస్‌గీ మరియు API మీటర్ లేకుండా.

పరికరం మీద మోడల్‌లు క్లౌడ్‌ను వదిలివేయడానికి సరిపోతాయి

సంవత్సరాలుగా ఉపయోగకరమైన ఎআई ఎవరి డేటా సెంటర్‌లో జీవించాలని భావించారు. ఆ భావన నిశ్శబ్దంగా విచ్ఛిన్నమవుతోంది.

చిన్న నమూనాల యొక్క తాజా తరం — కొన్ని బిలియన్ల పారామితులు, వినియోగదారు హార్డ్‌వేర్‌పై నడపడానికి క్వాంటైజ్ చేయబడింది — ఇప్పుడు సారాంశం, చిత్రకారి, వర్గీకరణ మరియు కోడ్ సమాప్తి కోసం నెట్‌వర్క్‌ను తాకకుండా సరిపోతుంది.

డిఫాల్ట్‌గా ఖాస్‌గీ

స్థానికంగా నడపడం గోప్యతా కథను పరిణామం చేస్తుంది. ఏదీ పరికరాన్ని వదిలి ఉండదు, ప్రతి అభ్యర్థనకు ఎటువంటి ఖర్చు లేదు, మరియు నమూనా విమానం లేదా భూమిపై నడుస్తూ ఉంటుంది.

రకసరణ సామర్థ్యం: అతిపెద్ద సరిహద్దు నమూనాలు ఇప్పటికీ కठినమైన తార్కిక పనులలో గెలుస్తాయి. కానీ రోజువారీ ఉద్యోగాల పొడవైన తోక కోసం, “సరిపోయే మరియు నా యంత్రం"" “మెరుపుదర్శక మరియు కొలిచిన” విజయం చేయడం ప్రారంభమవుతుంది.