AI ∞ IA

Il y a trois ans encore, utiliser une intelligence artificielle sur son téléphone voulait dire une chose : envoyer ses données ailleurs. Une photo, un brouillon d'article, un enregistrement vocal partaient vers un centre de données appartenant à OpenAI, Google ou Anthropic, où un modèle géant les traitait avant de renvoyer une réponse. Cette architecture domine toujours le marché. Mais une seconde voie a émergé, et elle progresse plus vite qu'on ne l'imagine : des modèles open source tournent désormais entièrement sur le téléphone, sans quitter l'appareil, sans réseau, sans abonnement.

Trois éléments se sont alignés presque en même temps pour rendre cela possible : des puces mobiles dotées de processeurs neuronaux réellement capables, de la mémoire vive généreuse même sur des modèles à moins de 400 euros, et des modèles open source suffisamment compacts pour tenir dans cet espace sans perdre l'essentiel de leurs capacités. Résultat : écrire, traduire, résumer un rapport, décrire une photo ou transcrire une interview se fait aujourd'hui sans qu'un seul octet ne sorte du smartphone.

Ce dossier fait le point, en juillet 2026, sur ce que cette IA embarquée permet réellement, sur les applications qui tiennent la route, sur le matériel qu'il faut pour en profiter, et sur ce qu'elle ne sait toujours pas faire.

Ce qui a rendu ce basculement possible

Jusqu'en 2023, faire tourner un modèle de langage sur un téléphone relevait de la démonstration technique plus que de l'usage quotidien. Les réponses mettaient de longues secondes à s'afficher, les modèles disponibles restaient minuscules et la batterie fondait à vue d'œil.

Le premier changement tient au silicium. Les processeurs neuronaux intégrés aux puces mobiles ont acquis une puissance qu'ils n'avaient pas avant. Qualcomm annonce un gain de 37 % pour le NPU Hexagon de son Snapdragon 8 Elite Gen 5 par rapport à la génération précédente, et ce chipset équipe désormais la quasi-totalité des smartphones Android haut de gamme sortis depuis l'automne 2025 : Galaxy S26 Ultra, Honor Magic8 Pro, Xiaomi 17 Ultra. Apple suit une trajectoire comparable avec le Neural Engine 16 cœurs de sa puce A19 Pro, présente dans l'iPhone 17 Pro et Pro Max.

Deuxième facteur : la mémoire vive. Un smartphone milieu de gamme dépasse aujourd'hui les 8 Go de RAM, et le haut de gamme atteint désormais 16 Go, parfois davantage sur les variantes de stockage maximal comme le Galaxy S26 Ultra en version 1 To. Cette marge change la donne : un modèle de plusieurs milliards de paramètres, une fois compressé, tient sans peine dans cet espace tout en laissant de quoi faire fonctionner le reste du système.

Troisième facteur, moins visible mais tout aussi décisif : le travail d'optimisation logicielle. Les modèles distribués au format GGUF, popularisé par le projet llama.cpp de Georgi Gerganov, se compressent par quantification, une technique qui réduit la précision numérique des poids du modèle pour diviser sa taille par quatre ou cinq, avec une perte de qualité souvent difficile à percevoir dans l'usage courant. Le format Q4_K_M s'est imposé comme le compromis de référence sur mobile. D'autres formats coexistent : CoreML et MLX chez Apple, ONNX Runtime Mobile, ou les moteurs propriétaires développés par Alibaba (MNN) et le projet MLC LLM.

La combinaison de ces trois éléments a un effet cumulatif plutôt que simplement additif. Un modèle de quatre milliards de paramètres qui répondait en plusieurs secondes en 2023 s'exécute aujourd'hui en une fraction de seconde par mot sur un smartphone de milieu de gamme, à condition d'utiliser une application qui exploite correctement le processeur neuronal. Et ce dernier point, on le verra, reste loin d'être automatique.

Un modèle de quatre milliards de paramètres qui répondait en plusieurs secondes en 2023 s'exécute aujourd'hui en une fraction de seconde par mot sur un smartphone de milieu de gamme.

Sur les tâches audio, l'écart devient particulièrement net. Des tests menés sur le Neural Engine de l'iPhone 17 mesurent un débit de calcul proche de 15 téraflops par seconde pour la transcription vocale, soit presque le maximum théorique que la puce peut atteindre en précision réduite. Sur un modèle de transcription comme Parakeet, le Neural Engine transcrit l'audio plus de quatre fois plus vite que le GPU du même téléphone. Ce genre de gain, invisible sur une fiche technique, se traduit concrètement par une interview d'une heure retranscrite en quelques minutes plutôt qu'en une demi-heure.

Cette accélération matérielle a aussi un effet sur le portefeuille. La quasi-totalité des modèles cités dans cet article sont distribués gratuitement, sous licence ouverte, et la plupart des applications qui les font tourner ne demandent aucun abonnement. Une fois le modèle téléchargé, son usage ne dépend plus que de l'appareil : pas de facturation à la requête, pas de quota mensuel. Sur la durée, l'équation économique diffère nettement de celle d'un abonnement à un assistant hébergé dans le cloud.

Un smartphone, plusieurs cerveaux

Réduire l'IA locale à un chatbot serait une erreur de perspective. Le terme recouvre aujourd'hui plusieurs familles de modèles, chacune spécialisée dans une tâche, et un smartphone récent peut en faire tourner plusieurs à la suite dans une même chaîne de traitement.

Le bon réflexe n'est pas d'installer le plus gros modèle disponible, mais d'assortir sa taille à la tâche. Un modèle de deux milliards de paramètres traduit un texte ou résume un courriel presque aussi bien qu'un modèle de huit milliards, tout en répondant deux à trois fois plus vite et en consommant nettement moins de batterie. La différence se fait surtout sentir sur des tâches qui demandent un raisonnement en plusieurs étapes : là, la taille compte réellement.

L'intérêt véritable apparaît quand ces modèles collaborent. Prenez une photo prise en reportage : un modèle de vision identifie les éléments de la scène, un module OCR lit le texte visible sur une pancarte, un modèle de traduction le convertit dans une autre langue, puis un modèle de langage rédige une légende et propose des mots-clés IPTC. Le tout sur l'appareil, sans que l'image ne quitte jamais la pellicule.

Ce que ça change, concrètement

Pour un journaliste, la transcription d'une interview enregistrée dans un train devient possible sans réseau : Whisper, ou sa variante allégée Moonshine, convertit l'audio en texte directement sur le téléphone, puis un modèle de langage en tire un résumé et repère les citations à retenir.

Un photographe, lui, transforme son smartphone en assistant de post-production sommaire. Après une séance, un modèle de vision décrit chaque image, suggère des mots-clés, identifie un monument ou une espèce végétale, et un modèle de langage rédige une légende ou une publication pour les réseaux sociaux. Une chaîne particulièrement utile pour qui travaille sur des clichés confidentiels ou inédits, avant leur publication.

Côté vidéo, une interview tournée sur le terrain peut être transcrite, résumée, découpée en chapitres et sous-titrée sans quitter l'appareil, avant tout export vers un logiciel de montage.

Pour un étudiant ou un chercheur, l'intérêt se loge ailleurs : dans la recherche documentaire hors ligne. Un modèle d'embeddings comme BGE peut indexer plusieurs centaines de pages de notes ou d'articles stockés localement, et retrouver un passage précis sans connexion, ce qui rend service en bibliothèque, dans un train, ou en mission loin d'un réseau fiable.

La traduction hors ligne rend service à un public plus large encore. Un voyageur qui désactive l'itinérance de données pour éviter les frais peut toujours s'appuyer sur un modèle comme NLLB pour comprendre un menu, un panneau ou une conversation, sans dépendre du réseau local. Le même principe s'applique en zone blanche, en montagne ou en avion.

Le point commun à tous ces usages, c'est la confidentialité. Un contrat, un dossier médical, une interview sensible ou des photographies de chantier ne quittent jamais le téléphone. Pour des professions soumises à des obligations de confidentialité — avocats, médecins, architectes, journalistes d'investigation — cet argument pèse parfois plus lourd que la performance brute.

Android, iPhone : la question mal posée

On oppose souvent Android et iPhone sur l'IA locale comme s'il s'agissait de deux mondes étanches. La réalité est plus nuancée : plusieurs applications tournent aujourd'hui sur les deux systèmes.

PocketPal AI en est l'exemple le plus net. Développée de façon indépendante et distribuée gratuitement sur l'App Store comme sur le Google Play, elle permet de chercher et télécharger des modèles GGUF directement depuis Hugging Face, et gère l'accélération matérielle aussi bien via Metal sur iOS que via OpenCL sur les puces Adreno d'Android. C'est aujourd'hui l'un des points d'entrée les plus simples pour découvrir l'IA locale, quel que soit le téléphone.

MLC Chat, issu du projet de recherche MLC LLM, existe lui aussi sur les deux plateformes. Son moteur de compilation optimise le modèle et le runtime ensemble, ce qui lui permet de tirer un net avantage des puces Snapdragon récentes : sur un Galaxy S25 Ultra, des tests indépendants mesurent environ 22 tokens par seconde sur Phi-4 Mini et jusqu'à 40 sur Qwen3 1,7 milliard de paramètres, grâce au NPU Hexagon.

C'est précisément là que la fragmentation d'Android redevient un problème concret. Ce même moteur perd son avantage sur d'autres puces : sur le Pixel 9 Pro, équipé d'un processeur Tensor G5, l'accélération NPU n'est tout simplement pas prise en charge par ces applications tierces, qui retombent alors sur le CPU. Le Snapdragon 8 Elite reste à ce jour la seule puce mobile dont le support NPU est réellement vérifié dans ces outils, un détail que peu d'acheteurs connaissent avant de choisir leur téléphone.

Le Snapdragon 8 Elite reste à ce jour la seule puce mobile dont le support NPU est réellement vérifié dans ces outils.

Sur le terrain plus spécifiquement Android, MNN Chat, développé par Alibaba, mérite d'être cité pour sa capacité multimodale — texte, image, audio et génération d'image dans une seule application — et pour son optimisation poussée sur les architectures ARM, avec des gains substantiels revendiqués face à llama.cpp sur certaines tâches.

Côté iPhone, deux applications se distinguent par leur maturité. LLMFarm, bâti sur llama.cpp et ggml, propose une gestion fine des paramètres d'inférence et une intégration aux Raccourcis Apple. Private LLM va plus loin dans l'intégration système : plus de cent quarante modèles ouverts accessibles, une action Raccourcis dédiée, et la possibilité de l'interroger directement via Siri.

Un mot sur Enchanted, souvent citée comme référence de l'IA locale sur iPhone : l'application ne fait en réalité tourner aucun modèle sur le téléphone lui-même. Elle sert d'interface pour dialoguer avec un serveur Ollama installé sur un Mac ou un PC, accessible via le réseau local ou un tunnel comme ngrok. Utile pour qui possède déjà une machine puissante à la maison, mais ce n'est pas de l'inférence embarquée au sens strict, une nuance qui mérite d'être connue avant de l'installer en espérant un fonctionnement entièrement hors ligne.

Pour la génération d'image, la hiérarchie s'inverse en apparence. Draw Things s'est imposée depuis plusieurs années comme la référence pour faire tourner Stable Diffusion sur iPhone et iPad, en s'appuyant efficacement sur le Neural Engine. Mais Android n'est pas resté sans réponse : Local Dream, projet open source développé par un contributeur indépendant, exploite directement le NPU des puces Snapdragon pour générer une image en quelques secondes, une prouesse comparable sur le principe à ce que propose Draw Things côté Apple.

Reste, une fois l'application choisie, à sélectionner le bon modèle. La plupart des applications citées ici pointent directement vers Hugging Face, où chaque modèle est disponible en plusieurs niveaux de quantification, du plus compressé au plus fidèle. Un débutant peut s'en tenir à une règle simple : partir d'un modèle de deux à quatre milliards de paramètres en quantification Q4_K_M, l'essayer sur ses propres tâches, puis remonter en taille uniquement si la qualité des réponses déçoit. Descendre en quantification économise de la mémoire et de la batterie ; monter en taille de modèle améliore surtout le raisonnement sur des questions complexes. Les deux curseurs ne jouent pas sur le même levier, et les confondre mène souvent à télécharger un modèle inutilement lourd pour une tâche que la version légère traitait déjà très bien.

Le choix entre Android et iPhone tient donc moins à une différence de capacités qu'à une différence de logique. Sur Android, on choisit son application en fonction de la puce précise du téléphone, un luxe et une contrainte à la fois. Sur iPhone, le champ des applications est plus restreint, mais l'intégration matérielle est plus homogène d'un modèle à l'autre, ce qui simplifie le choix pour qui ne veut pas se documenter sur les architectures NPU avant d'installer une application.

Combien de mémoire faut-il vraiment ?

La question qui revient le plus souvent — faut-il un smartphone à 1300 euros pour profiter de l'IA locale — appelle une réponse simple : non, sauf pour les modèles les plus ambitieux.

Au-delà de 8 Go de RAM, un smartphone permet déjà de résumer un document, traduire un texte, transcrire une note vocale ou décrire une photo dans des conditions confortables. Les modèles de 7 à 8 milliards de paramètres, eux, réclament davantage de mémoire, mais aussi, on le néglige souvent, davantage de puissance de calcul et de bande passante mémoire pour rester fluides.

C'est là que les chiffres avancés dans certaines fiches techniques méritent d'être pris avec prudence. Un modèle de 7 milliards de paramètres tourne à peine à 3 ou 5 tokens par seconde sur un iPhone 16 ou 17 Pro en l'absence d'accélération NPU dédiée à ce type de tâche, une vitesse qui rend la conversation en temps réel frustrante. Sur Android, avec une application optimisée pour le Snapdragon 8 Elite Gen 5, un modèle de cette taille peut atteindre une dizaine de tokens par seconde, mais la bande passante mémoire du téléphone reste le facteur limitant, davantage que la puissance brute du NPU.

Pour un usage quotidien fluide — rédaction, résumé, traduction — un modèle de 3 à 4 milliards de paramètres reste le choix le plus raisonnable sur la plupart des téléphones, y compris les modèles haut de gamme. Les gros modèles ont leur place, mais surtout pour des tâches ponctuelles où l'on peut tolérer d'attendre un peu plus longtemps.

La mémoire vive n'est pas la seule ressource à surveiller. Un modèle de quatre milliards de paramètres quantifié en Q4_K_M pèse généralement entre 2 et 3 Go sur le disque, et un modèle de huit milliards dépasse souvent les 4 ou 5 Go. Télécharger deux ou trois modèles pour couvrir différents usages — un pour la conversation, un pour la vision, un pour la transcription — grignote vite l'espace de stockage sur un téléphone d'entrée de gamme limité à 128 Go. Mieux vaut garder un œil sur cette contrainte avant de multiplier les téléchargements.

Ce que l'IA locale ne sait pas encore faire

Trois limites structurent encore l'usage de l'IA embarquée, et aucune ne se résoudra par une simple mise à jour logicielle.

La première tient à la mémoire de travail du modèle, sa fenêtre de contexte. Un smartphone traite sans peine un rapport de plusieurs dizaines de pages, mais analyser un livre entier ou plusieurs centaines de documents à la fois reste hors de portée sans recourir à des techniques de recherche documentaire, généralement désignées par le sigle RAG. Le principe consiste à indexer les documents à l'avance avec un modèle d'embeddings, puis à ne charger dans la fenêtre de contexte que les quelques passages jugés pertinents pour la question posée, plutôt que l'intégralité du corpus. Un chercheur qui interroge trois cents pages de notes de terrain n'envoie ainsi au modèle que les deux ou trois extraits qui répondent réellement à sa question, ce qui contourne en grande partie la limite de mémoire du téléphone, sans jamais faire sortir les documents de l'appareil.

La deuxième tient à la fiabilité. Un modèle qui tourne en local n'est pas plus honnête qu'un modèle hébergé dans le cloud : il peut inventer une référence ou citer une source qui n'existe pas, avec la même assurance qu'une réponse exacte. Le fonctionnement local protège la confidentialité des données, pas la justesse du raisonnement. Une vérification reste nécessaire, comme pour n'importe quel modèle génératif.

Le fonctionnement local protège la confidentialité des données, pas la justesse du raisonnement.

La troisième limite est physique, et elle surprend souvent les nouveaux utilisateurs : la chaleur. Faire tourner un modèle pendant plusieurs minutes sollicite fortement le processeur neuronal et le GPU. Passé un certain seuil, le système réduit automatiquement les fréquences pour protéger les composants, un phénomène connu sous le nom de thermal throttling. Sur iPhone, la température de surface de la puce peut atteindre 38 degrés lors d'une session prolongée, avec une chute de 30 à 50 % du débit de tokens par seconde par rapport au démarrage à froid. Une conversation qui commençait fluide peut ainsi ralentir nettement après quelques minutes d'usage intensif.

L'autonomie suit une logique comparable. Faire tourner un modèle de plusieurs milliards de paramètres consomme sensiblement plus d'énergie qu'une navigation web classique, de l'ordre de 3 à 5 watts en continu sur un iPhone récent, soit une perte de batterie de 20 à 30 % par heure d'utilisation soutenue. La comparaison avec le cloud reste toutefois à nuancer : une requête envoyée à un serveur distant mobilise aussi le modem et l'antenne du téléphone, sans que l'impact énergétique global des deux approches ait fait l'objet d'études tranchées. Affirmer que le local est systématiquement plus économe en énergie reste, à ce stade, une approximation.

La vidéo, le prochain front

Si l'image fixe est un terrain déjà bien défriché, la vidéo générative locale reste, à la mi-2026, un chantier de recherche plutôt qu'un produit disponible. Aucune application grand public comparable à Draw Things ne permet aujourd'hui de générer facilement une vidéo entièrement sur un smartphone.

Les laboratoires de recherche progressent pourtant vite sur ce terrain, Qualcomm AI Research en tête. Dès fin 2024, son équipe publiait MobileVD, premier modèle de diffusion vidéo pensé pour le mobile, adapté de Stable Video Diffusion et revendiquant un gain d'efficacité supérieur à 500 fois par rapport au modèle d'origine, de quoi générer les éléments latents d'un court clip en moins de deux secondes sur un Xiaomi 14 Pro. La même équipe a ensuite publié MoViE, consacré au montage vidéo par diffusion, capable de traiter 12 images par seconde sur la même puce.

D'autres équipes ont exploré des approches différentes. On-device Sora, publié début 2025, mise sur des techniques sans réentraînement — saut d'étapes de débruitage, fusion de tokens temporels, chargement dynamique des modules — pour produire une courte vidéo directement sur un appareil mobile. MOVD (Mobile-Oriented Video Diffusion) poursuit un objectif comparable avec ses propres optimisations, présentées lors d'une conférence IEEE. Plus récemment, Neodragon a démontré la génération de deux secondes de vidéo sur processeur neuronal mobile, et MobileWan, publié cet été par une équipe adaptant les modèles Wan, est parvenu à faire tourner une version compressée d'un modèle de 5 milliards de paramètres directement sur une puce Snapdragon 8 Gen 5 : cinq secondes de vidéo à 480 par 832 pixels, générées en une vingtaine de secondes, avec une qualité jugée proche du modèle original hébergé sur serveur lors d'un test comparatif mené auprès d'utilisateurs.

Ces travaux dessinent une direction claire, pas encore un produit fini. Ils viennent presque tous de laboratoires de recherche, Qualcomm en particulier, et tournent sur des prototypes plutôt que sur des applications distribuées au grand public. Le délai entre une publication de recherche et une application installable a été, pour l'image fixe, de l'ordre de deux à trois ans. Rien n'indique qu'il sera plus court pour la vidéo, dont les besoins en calcul restent d'un ordre de grandeur supérieur.

Une question de contrôle, pas seulement de vitesse

L'IA locale ne se résume pas à une prouesse de vitesse ou d'autonomie. Elle touche aussi à une question plus large : qui garde la main sur les données et sur les modèles eux-mêmes. Conserver ses documents et ses enregistrements sur son propre appareil réduit la dépendance envers les grandes plateformes, un argument qui parle autant aux professions réglementées qu'aux particuliers soucieux de leurs informations personnelles.

Cette dynamique tient aussi à la diversité des acteurs qui publient ces modèles. Qwen vient d'Alibaba, Gemma de Google, Llama de Meta, Phi de Microsoft, DeepSeek d'une entreprise chinoise indépendante : le paysage de l'IA open source ne se limite plus à un seul pays ni à un seul laboratoire. Pour un utilisateur, cette diversité se traduit concrètement par un choix : rien n'oblige à confier son texte ou sa photo à une entreprise en particulier, puisque plusieurs modèles concurrents, aux performances comparables, restent disponibles gratuitement et modifiables.

En somme

Pendant une dizaine d'années, le smartphone a fonctionné comme un terminal : une fenêtre vers une intelligence installée ailleurs, dans un centre de données qu'on ne voit jamais. Ce rapport commence à s'inverser. Une partie de cette intelligence s'exécute maintenant dans la poche, sans abonnement, sans réseau, sans que la moindre donnée ne parte vers un serveur.

Le changement est moins spectaculaire que ne l'a été l'arrivée de ChatGPT fin 2022. Il n'a pas donné lieu à une conférence de presse retentissante ni à un lancement mondial. Il s'est fait par petites touches : un format de compression ici, un moteur d'inférence optimisé là, une puce neuronale un peu plus puissante à chaque génération. Mais ses conséquences pourraient, à terme, se révéler tout aussi profondes que celles d'un chatbot dans un navigateur. Un ordinateur personnel avait donné à chacun la maîtrise de ses propres fichiers. Le smartphone est en train de rejouer ce moment fondateur, cette fois pour l'intelligence artificielle elle-même.

Un ordinateur personnel avait donné à chacun la maîtrise de ses propres fichiers. Le smartphone est en train de rejouer ce moment fondateur, cette fois pour l'intelligence artificielle elle-même.

Sources et ressources

Applications

• MLC LLM — moteur d'inférence et documentation officielle
• PocketPal AI — dépôt open source
• MNN / MNN Chat (Alibaba)
• Draw Things — site officiel
• Local Dream — dépôt open source
• LLM Farm — site officiel
• Private LLM — site officiel

Matériel

• Snapdragon 8 Elite Gen 5 — fiche produit Qualcomm (PDF)
• Apple — présentation officielle de l'iPhone 17 Pro et Pro Max

Recherche sur la vidéo générative mobile

• Mobile Video Diffusion (MobileVD), Qualcomm AI Research
• MoViE: Mobile Diffusion for Video Editing, Qualcomm AI Research
• On-device Sora
• Mobile-Oriented Video Diffusion (MOVD), IEEE Xplore
• Neodragon: Mobile Video Generation using Diffusion Transformer
• MobileWan: Closing the Quality Gap for Mobile Video Diffusion