IA 2026 07 31 | News Makertronic

Token Saver : Extension MCP locale pour réduire de 99% la consommation de tokens sur Claude Desktop

Date : 23/01/2026
Catégorie : outil / méthode / conseil d’usage
Résumé technique : Développé par l'équipe MarkTechPost et publié sous licence MIT, Token Saver est une extension Model Context Protocol (MCP) pour Claude Desktop qui implémente un pipeline Local Hybrid RAG entièrement côté client. Le système extrait le texte via pypdfium2, le découpe en chunks de 180 mots, puis évalue la pertinence via un hybride BM25 (SQLite FTS5, poids 0.4) et embeddings locaux all-MiniLM-L6-v2 (poids 0.6). Seuls les paragraphes vérifiés et dédupliqués sont envoyés à Claude, avec un cap strict à 8 000 caractères. L'installation se fait en un clic via un bundle .mcpb, sans environnement Python ni configuration réseau.
Pourquoi c’est intéressant : Élimine le "context drift" et le surcoût exponentiel des fenêtres de contexte en réutilisant le PDF sur chaque tour. Garantit une confidentialité totale (aucun upload), réduit la facture tokens de 92 à 99 % sur des documents longs, et fournit des citations page par page pour une vérification factuelle immédiate. Idéal pour les juristes, développeurs et analystes traitant des rapports techniques ou juridiques sensibles.
Angle possible pour une vidéo YouTube : "Stop aux factures Claude explosives : comment couper vos coûts de tokens de 99% avec un outil local en 2 minutes"
Source originale : MarkTechPost AI
URL directe :

Date : 22/01/2026
Catégorie : outil / méthode / LLM
Résumé technique : Tencent open-source AngelSpec, un framework torch-native optimisant le speculative decoding. Plutôt qu'un seul drafter universel, il distingue deux architectures : un modèle MTP (Multi-Token Prediction) pour les conversations ouvertes, et DFly (block-diffusion) pour le code et les raisonnements mathématiques. Le pipeline introduit un "Training-Time Test" avec unrolling autoregressif pendant l'entraînement pour aligner distribution d'entraînement et d'inférence, et utilise des sorties générées par le modèle cible frozen (target-model rollout). Le framework s'appuie sur vLLM, extrait les hidden states via RDMA (Mooncake), et supporte le FlexAttention compilé.
Pourquoi c’est intéressant : Résout le gap critique entre les benchmarks de speculative decoding et le trafic réel hétérogène. Sur Hy3-A21B, DFly atteint 4.79 de longueur moyenne acceptée (vs 3.69 pour DFlash et 3.00 pour MTP), offrant un speedup de 1.98× à 2.40× en décodage concurrentiel. Les chercheurs fournissent 7 checkpoints prêts à l'emploi sur Hugging Face/ModelScope et un pipeline config-driven unifié.
Angle possible pour une vidéo YouTube : "Pourquoi le speculative decoding standard échoue en production (et comment Tencent le révolutionne avec AngelSpec)"
Source originale : Tencent Research / GitHub
URL directe :

Date : 22/01/2026
Catégorie : outil / méthode / LLM
Résumé technique : Moonshot open-source MoonEP (MIT), une librairie de communication Expert Parallelism conçue pour les workloads Mixture-of-Experts distribués. Le problème ciblé est le déséquilibre du routage (maxvio) qui fragmente la mémoire GPU et force des synchronisations host par couche. MoonEP garantit que chaque rank reçoit exactement S × K tokens via la planification en ligne d'experts redondants directement sur GPU (kernel CUTLASS CuTe DSL). Les poids sont chargés via une mémoire symétrique contiguë, éliminant les copies et les changements de forme dynamique.
Pourquoi c’est intéressant : Rend l'inférence et l'entraînement MoE presque immunisés au skew du router. Les temps de communication restent plats même à haut déséquilibre, tandis que les compétiteurs comme DeepEP v2 dégradent leurs performances. Réduit la fragmentation mémoire et supprime les syncs host, crucial pour les modèles 2T+ parameters comme Kimi K3. Bascule facile via config, compatible frameworks existants.
Angle possible pour une vidéo YouTube : "MoE scaling : comment Moonshot a écrasé le problème du router imbalance avec MoonEP"
Source originale : Moonshot AI / GitHub
URL directe :

Date : 23/01/2026
Catégorie : outil / tendance / automatisation
Résumé technique : Suite à un levée de $100M, groundcover déploie une architecture BYOC (Bring-Your-Own-Cloud) où le data plane d'observabilité reste isolé dans l'environnement cloud du client. La collecte combine eBPF (sans instrumentation code, capture kernel/network/app) et OpenTelemetry. Le nouveau "Agent Mode" expose les traces, logs et metrics via une requête unifiée GCQL et une intégration MCP, permettant aux agents IA d'interroger le télémétrie, effectuer une analyse root-cause et recommander des remédiations sans fuite de prompts ou données sensibles.
Pourquoi c’est intéressant : Répond au goulot d'étranglement majeur des agents en production : la visibilité et la sécurité des données télémétriques. Le BYOC résout les problèmes de résidence des données et de conformité (santé, finance), tandis que l'Agent Mode transforme l'observabilité d'un outil réactif en un système proactif et autonome. Indispensable pour les teams Ops/SRE déployant des agents en load réel.
Angle possible pour une vidéo YouTube : "Observer vos agents IA sans fuiter de données : l'architecture BYOC et eBPF qui change la Prod"
Source originale : groundcover / TechCrunch
URL directe :

Date : 22/01/2026
Catégorie : LLM / outil / conseil d’usage
Résumé technique : Liquid AI publie LFM2.5-Encoder-230M et -350M, des modèles open-weights convertis depuis des décodeurs LFM2 en encauchant un mask bidirectionnel, des convolutions non-causales symétriques, et un objectif MLM à 30% de masquage. Les modèles supportent 15 langues, une fenêtre de 8 192 tokens (~13-15 pages), et s'exécutent nativement sur CPU sans GPU. Benchmarks sur 17 tâches (GLUE/SuperGLUE/multilingue) placent le 350M au 4ème rang (81.02), loin derrière des modèles 10x plus gros. Sur CPU, le 230M traite 8K tokens en ~28s contre >90s pour ModernBERT-base.
Pourquoi c’est intéressant : Fournit une alternative viable aux LLMs lourds pour le routing d'intent, la détection PII, le linting de politique ou le premier filtrage dans des pipelines à fort volume. L'inférence CPU-only et le faible coût énergétique en font un choix stratégique pour les environnements réglementés, l'IoT industriel, ou les véhicules embarqués où le cloud round-trip est interdit ou trop lent.
Angle possible pour une vidéo YouTube : "Encoders IA sans GPU : comment traiter 15 pages de documents en 28 secondes sur CPU avec LFM2.5"
Source originale : Liquid AI Research / Hugging Face
URL directe :