Une poussée vers l’IA locale qui attire Cupertino
La jeune société PrismML affirme avoir réussi ce que l’on croyait réservé aux centres de données : exécuter un grand modèle de langage de 27 milliards de paramètres directement sur un smartphone, et plus précisément sur un iPhone 17 Pro. Selon The Information, ces travaux ont suscité des entretiens avec Apple, qui étudie la façon d’intégrer la technologie dans ses futurs produits.
"Une IA avec 27 milliards de paramètres sur un iPhone ?!"
Le modèle cité par PrismML est Qwen 3.6, issu de l’écosystème open source d’Alibaba et adapté par la startup. L’argument avancé est simple : exécuter un modèle plus volumineux en local permettrait de rapprocher les capacités des grands modèles cloud tout en offrant des bénéfices concrets — confidentialité accrue, latence plus basse et autonomie hors connexion — vantés par les fabricants de terminaux.
Ce qui change pour l’écosystème du mobile et des startups
Si la démonstration technique se confirme en usage réel, les conséquences sont multiples. D’un côté, la possibilité d’un traitement sophistiqué sur appareil rebat les cartes entre fournisseurs de cloud et fabricants de hardware. De l’autre, cela pose des questions pratiques : consommation d’énergie, contraintes thermiques, capacité de mise à jour et modèle économique (licences, services cloud complémentaires, ou offre open source).
- Confidentialité : moins de dépendance aux serveurs distants pour les données sensibles.
- Performance : réponses plus rapides et fonctionnement hors connexion.
- Monétisation : modèles hybrides possibles entre edge et Private Cloud Compute.
Apple, qui depuis le lancement d’Apple Intelligence cherche l’équilibre entre traitements locaux et cloud privé (Private Cloud Compute), a donc tout intérêt à explorer ces pistes. Aucune transaction n’est confirmée pour l’instant, mais la tenue de réunions indique un intérêt réel pour renforcer les capacités des fonctions d’IA embarquées (Siri, outils d’écriture, résumés automatiques, etc.).
Transparence et open source
PrismML a par ailleurs annoncé la publication en open source de son modèle le 14 juillet, accompagnée de démonstrations sur des tâches complexes, dont le développement logiciel. Cette décision pourrait accélérer l’évaluation indépendante de la performance et des contraintes réelles d’un modèle de cette taille sur smartphone.
| Élément | Donnée |
|---|---|
| Taille revendiquée du modèle | 27 milliards de paramètres |
| Appareil ciblé | iPhone 17 Pro |
| Date de publication open source | 14 juillet |
Reste à vérifier, sur le plan opérationnel, la consommation réelle, le comportement en conditions variées et les compromis effectués par PrismML pour réduire l’empreinte mémoire et calcul. L’annonce met toutefois en lumière une piste technologique susceptible d’affecter l’ordre établi : si des modèles plus voisins des grands LLMs peuvent s’exécuter en local, les stratégies produit et tarifaire des acteurs du cloud seront inévitablement réévaluées.
Pour les investisseurs et les acteurs européens de l’IA, la discussion entre Apple et une startup de compression de modèles illustre aussi la fenêtre d’opportunité pour des solutions d’optimisation logicielle qui rendent l’edge computing réellement performant. À suivre de près lorsque PrismML publiera son code et ses jeux de tests le 14 juillet.