Comment utiliser l'IA en local sans envoyer vos données dans le cloud

Quand un salarié colle un contrat dans ChatGPT pour en obtenir un résumé, ce contrat quitte l'entreprise. Il part vers des serveurs, le plus souvent situés aux États-Unis, où il est traité et parfois conservé dans des conditions que presque personne ne lit. Pendant des années, il n'existait pas de véritable alternative : l'intelligence artificielle utile vivait dans le cloud, et il fallait s'en accommoder. La situation a changé. Des applications comme Unsloth permettent désormais de faire tourner de grands modèles d'IA directement sur un ordinateur de bureau, sans abonnement et sans que les fichiers sortent de l'entreprise. Cet article détaille le fonctionnement, l'installation et les limites de cette approche.

Où vont vos données quand votre équipe utilise l'IA en ligne

Les assistants les plus connus (ChatGPT, Claude, Gemini, Copilot) reposent tous sur le même principe : la question posée et les documents joints sont envoyés sur les serveurs de l'éditeur, traités là-bas, puis la réponse revient. Ces serveurs appartiennent à des sociétés américaines, soumises à des lois comme le Cloud Act, qui autorise les autorités des États-Unis à exiger l'accès aux données qu'elles hébergent, y compris en dehors de leur territoire.

Les offres payantes destinées aux professionnels s'engagent en général à ne pas réutiliser vos contenus pour entraîner leurs modèles. C'est mieux que rien. Mais un engagement contractuel ne change pas la mécanique : vos données transitent et sont traitées ailleurs, chez un tiers.

S'ajoute un phénomène plus discret. Beaucoup de salariés utilisent ces outils avec un compte personnel, sans en parler à personne. Un devis, une liste de clients, un dossier disciplinaire : tout cela peut se retrouver copié dans une fenêtre de discussion, hors de tout cadre. Aucune charte informatique ne suffit à l'empêcher complètement, parce que l'outil rend trop service pour qu'on y renonce.

Des modèles ouverts qui tiennent enfin la comparaison

La deuxième pièce du puzzle, ce sont les modèles dits ouverts : des IA dont les fichiers peuvent être téléchargés et exécutés par n'importe qui, sur sa propre machine. Google publie la famille Gemma, la société chinoise DeepSeek les modèles du même nom, Alibaba la série Qwen. Il y a deux ans, ces modèles restaient nettement en retrait. Aujourd'hui, pour les usages courants d'une entreprise (résumer un rapport, rédiger un courrier, traduire, analyser un tableau, préparer une trame d'entretien), les meilleurs d'entre eux produisent des réponses comparables à celles des services payants.

Ils existent en plusieurs tailles. Les petits tournent sur un portable ordinaire, les grands réclament une machine musclée. C'est ce qui rend l'IA locale réaliste : on choisit un modèle adapté à son matériel, plutôt que l'inverse.

Unsloth : l'application qui installe tout cela en dix minutes

Faire tourner un modèle sur son propre poste demandait jusqu'ici des manipulations en ligne de commande. Unsloth, un projet open source hébergé sur GitHub, supprime cette barrière. Il s'agit d'une application de bureau pour Windows, macOS et Linux, téléchargeable librement, qui s'installe comme n'importe quel logiciel.

Une fois lancée, elle propose un catalogue de modèles (Gemma, DeepSeek, Qwen et d'autres), les télécharge, puis ouvre une interface de discussion semblable à celle de ChatGPT. L'application sait lire des documents fournis par l'utilisateur, effectuer des recherches sur le web, et même spécialiser un modèle sur les dossiers de l'entreprise pour qu'il adopte son vocabulaire et ses références. Elle fonctionne sur un processeur classique comme sur les cartes graphiques NVIDIA ou AMD et les puces Apple.

Le point central ne varie pas : le traitement se fait sur la machine. Une fois le modèle téléchargé, l'ordinateur peut être coupé d'internet, l'assistant continue de répondre.

L'installation, étape par étape

Vérifier le matériel d'abord. Avec 8 Go de mémoire vive, seuls les petits modèles fonctionnent, et lentement. À partir de 16 Go, l'usage devient confortable avec un modèle de taille moyenne. Une machine dotée de 32 Go ou d'une carte graphique dédiée ouvre l'accès aux modèles les plus capables.

Télécharger ensuite l'application depuis le site officiel unsloth.ai ou la page GitHub du projet, en évitant toute autre source. Comptez quelques minutes.

Choisir un modèle dans le catalogue intégré. Pour débuter, un modèle compact de la famille Gemma ou Qwen constitue un bon point de départ. Le fichier pèse plusieurs gigaoctets : cette étape est la seule qui demande une bonne connexion.

Tester enfin sur des cas réels mais non sensibles, comme le résumé d'un document public ou la reformulation d'un courrier. Cela permet de juger la vitesse et la qualité des réponses avant d'y confier des dossiers confidentiels, et de changer de modèle si le premier choisi se révèle trop lent ou trop limité.

Ce que cela change sur une année : un exemple chiffré

Prenons une entreprise de quinze personnes, dont dix utilisent régulièrement un assistant d'IA. Les offres professionnelles des grands éditeurs se situent entre 20 et 30 euros par utilisateur et par mois. À 25 euros, la facture annuelle atteint 3 000 euros, reconduits chaque année, pour un service dont les conditions peuvent changer à tout moment.

En local, les postes récents de l'équipe suffisent souvent tels quels. Si aucun ne convient, une machine dédiée d'environ 1 500 euros, installée une fois et accessible aux autres postes par le réseau interne (Unsloth propose cette configuration), couvre l'ensemble de l'équipe. Dès la deuxième année, le coût récurrent tombe à zéro, hors électricité et un peu de temps d'administration.

Le gain le plus difficile à chiffrer reste la confidentialité. Réponse à un appel d'offres, données de paie, projet de cession : certaines questions ne devraient jamais transiter par un serveur tiers. Avec un traitement local, elles n'en sortent pas.

Les pièges à connaître avant de se lancer

Le piège matériel, en premier lieu : installer un grand modèle sur une machine trop juste produit des réponses au compte-gouttes, et l'outil finit abandonné. Mieux vaut commencer avec un petit modèle et monter en gamme une fois l'usage validé.

Côté logiciel, Unsloth évolue vite et certaines versions sont encore estampillées bêta. Il faut appliquer les mises à jour, et surtout ne pas activer les fonctions d'accès à distance (tunnels, partage sur internet) sans accompagnement : elles exposent la machine à l'extérieur, ce qui va à l'encontre de la démarche.

Attention aussi à l'illusion de sécurité. Local ne veut pas dire protégé : un portable volé avec les documents de l'entreprise dessus reste un portable volé. Chiffrement du disque, sauvegardes, comptes séparés, les fondamentaux demeurent.

Un dernier point, qui vaut pour toutes les IA : les modèles ouverts se trompent avec la même assurance que les autres. Une relecture humaine reste indispensable pour tout document qui engage l'entreprise.

Par où commencer

Installer une IA sur les ordinateurs de l'entreprise relevait du domaine des spécialistes il y a encore un an. C'est devenu une décision d'organisation plus qu'un défi technique : quel matériel, quels usages, quelles règles pour l'équipe. Si vous souhaitez évaluer ce que cette approche donnerait chez vous, avec vos machines et vos contraintes, nous pouvons en parler : prenez rendez-vous, l'échange est sans engagement.