Quand tu construis un RAG sur tes notes, une question revient vite : tu l'héberges en local ou tu passes par un service cloud ? Les deux marchent. Ils ne font pas les mêmes compromis. Voici un comparatif honnête, sans pousser un camp à tout prix.
Confidentialité
C'est l'écart le plus net.
- Local. Tes notes restent sur ta machine. L'embedding, l'index et la recherche tournent en local via Ollama et ChromaDB. Rien ne transite par une API tierce.
- Cloud. Tes notes sont envoyées à un fournisseur pour être encodées et stockées. Même avec de bonnes garanties contractuelles, tes données quittent ta machine et peuvent être mises en cache.
Pour un vault qui contient des décisions clients, de la recherche ou des notes personnelles, le local enlève une catégorie entière de risques.
Coût
Les modèles économiques diffèrent.
- Local. Coût fixe, proche de zéro à l'usage. Tu fais tourner des modèles ouverts sur ton matériel. Pas d'abonnement, pas de facturation au token, pas de mauvaise surprise quand tu indexes un gros vault.
- Cloud. Coût variable. Tu paies l'embedding, le stockage vectoriel et souvent chaque requête. Sur un usage intensif et continu, la facture grimpe.
Contrôle
- Local. Tu choisis l'embedder, le reranker, la stratégie de chunking, les seuils. Tu peux mesurer, ajuster, remplacer un composant sans rien demander à personne.
- Cloud. Tu prends ce que le fournisseur expose. Pratique pour démarrer, contraignant dès que tu veux régler finement le retrieval.
Latence et disponibilité
Le cloud a un avantage réel ici : pas de matériel à provisionner, ça scale tout seul. En local, la première indexation demande des ressources, et la qualité dépend de ta machine. En contrepartie, une fois indexé, le local répond sans dépendre du réseau et reste disponible hors ligne.
Quand choisir quoi
- Choisis le cloud si tu veux démarrer en cinq minutes, sans matériel, sur des données peu sensibles.
- Choisis le local si la confidentialité compte, si tu veux un coût stable, et si tu veux régler le retrieval toi-même.
Pour comprendre ce que tu contrôles vraiment en local, lis le retrieval hybride et qu'est-ce qu'un RAG local.
Notre parti pris
Artefact Neural est résolument local. Tu héberges, tu exécutes, tu gardes le contrôle. C'est un choix de fond : ta connaissance ne devrait pas avoir besoin de quitter ta machine pour t'être utile. La documentation couvre l'installation, et les offres incluent Smart Brain en local complet.