X0NE · INFÉRENCE CONFIDENTIELLE
Vous faites tourner un modèle d'IA sur une machine qui n'est pas à vous. Avant d'envoyer une question, votre poste vérifie la preuve matérielle de cette machine.
la séquence, illustrée
L'inférence, c'est le moment où un modèle d'IA déjà entraîné reçoit une question et produit une réponse. C'est ce qui tourne chaque fois qu'on utilise un assistant.
Le calcul se fait dans une machine virtuelle à mémoire chiffrée, avec un GPU en mode confidentiel. Mesuré sur Google Cloud : Intel TDX et un GPU H100. D'autres clouds et vos propres hôtes Intel TDX sont prévus. Avant de recevoir une question ou une clé, cette machine doit prouver qu'elle est authentique, et c'est votre poste qui vérifie la preuve. Sans cette preuve, le moteur s'arrête avant d'ouvrir un port.
Préversion : les mesures ont été faites avec des clés de test, et aucune image n'est encore publiée.
Le bout en bout confidentiel est l'objectif. Aujourd'hui, la preuve porte sur la machine virtuelle et son GPU, pas sur ce qui les entoure.
Restent en dehors : votre poste, où un logiciel malveillant de votre session peut lire la clé locale et vos questions ; ce que l'hébergeur voit passer, les heures, les durées, les tailles, les adresses IP et le nom du modèle servi ; les attaques physiques sur la mémoire et les canaux auxiliaires ; le firmware de Google et les racines de confiance d'Intel, de NVIDIA et de Google ; la disponibilité, car la VM est interruptible et Google peut l'arrêter. Le moteur affiche ses limites avec chaque verdict.
Pour les équipes qui veulent utiliser l'IA sur des données sensibles sans les remettre en clair à l'hébergeur. Objectif : protéger aussi un modèle qui leur appartient, ses poids ouverts seulement après la preuve.
Écrit depuis le FEATURES.toml du dépôt. Sur une ligne mesurée, la date est celle du premier run sur une vraie VM confidentielle qui a exercé la fonctionnalité ; sur une ligne testée, celle de la première preuve.