IA de la taille d'une batterie externe : Le « superordinateur de poche » Tiiny AI promet de remplacer le cloud
La startup américaine Tiiny AI a présenté un dispositif inhabituel à la croisée des mini-PC et des serveurs IA personnels. Le nouveau venu, appelé Pocket Lab, est présenté comme l'ordinateur le plus compact du monde capable d'exécuter de grands modèles linguistiques localement — sans connexion au cloud ou cartes graphiques externes. L'annonce a eu lieu à la veille du CES, et l'entreprise a déjà revendiqué un record Guinness dans la catégorie « plus petit ordinateur personnel IA pour modèles de niveau 100B+ ».
Que savons-nous
En termes de dimensions, le Pocket Lab est comparable à une grande batterie externe : 14,2 × 8 × 2,5 cm, poids environ 300 grammes. Cependant, à l'intérieur se trouve un matériel plus typique des solutions serveurs. Le dispositif est doté d'un processeur ARM 12 cœurs architecturé ARMv9.2, d'un processeur neuronal spécialisé (NPU) avec une performance allant jusqu'à 160 TOPS, ainsi que de blocs de calcul supplémentaires totalisant environ 190 TOPS pour les tâches IA.
La caractéristique clé est 80 Go de mémoire vive LPDDR5X, dont jusqu'à 48 Go sont alloués au NPU selon l'entreprise. La configuration est complétée par un SSD de 1 To et un package d'énergie allant jusqu'à 65 W. Selon Tiiny AI, cela suffit pour exécuter localement des modèles linguistiques de taille allant jusqu'à 120 milliards de paramètres — avec cependant des réserves concernant le quantification et l'optimisation.
Le Pocket Lab est conçu pour un fonctionnement totalement autonome. Tous les calculs, stockage des données et inférence se font hors ligne, sans envoi d'informations vers le cloud. L'entreprise met l'accent sur la confidentialité : les données des utilisateurs sont stockées localement et protégées par un chiffrement « de niveau bancaire ». Cette solution s'adresse aux développeurs, chercheurs et passionnés soucieux de travailler avec l'IA sans dépendance aux services externes.
Le dispositif supporte les modèles et frameworks open-source populaires — Llama, Qwen, DeepSeek, Mistral, Phi et GPT-OSS — avec une installation en « un clic ». Des mises à jour régulières « over-the-air » et des optimisations d'inférence grâce à des technologies comme PowerInfer et les calculs clairsemés, qui distribuent la charge entre le CPU et le NPU, sont annoncées.
Le prix et la date de sortie précise ne sont pas encore révélés, mais le Pocket Lab apparaît déjà comme une déclaration pour une nouvelle classe de dispositifs — les ordinateurs IA personnels que l'on peut emporter avec soi.
Source : Tiiny AI