Sécurité

Comment vérifier une IA sans faire confiance à ce qu’elle affirme ?

Chaque réponse de modèle, sortie d’évaluateur et source récupérée est traitée comme une entrée non fiable. La confiance se construit par l’isolation, la validation, les preuves et la provenance.

Suivre une menace à travers les défenses.

Choisissez un scénario : le diagramme montre où Recherche.fr doit casser la chaîne de confiance.

01Injection dans une preuve
02Réponse persuasive
03Contamination d’espace
04Perte de provenance
Chaîne de confiance

Voir exactement où la confiance doit être interrompue.

Le scénario sélectionné au-dessus déplace la frontière de défense. Le principe reste : aucune sortie IA ou preuve récupérée ne devient une instruction fiable par défaut.

Entrée hostile

Frontière

ContrôleIsolation / validation

Le contenu reste non fiable pendant le traitement.

SortieTrace vérifiable

Le verdict conserve son lien avec les preuves et les contrôles.

Modèle de menace explicatifLes contrôles revendiqués restent limités à ceux documentés

Le modèle de menace commence par les contenus non fiables.

01

Séparation des entrées non fiables

Réponses fournisseurs, évaluateurs et pages récupérées sont traités comme du contenu non fiable, et non comme des instructions.

02

Isolation des espaces de travail

Sessions et données de espace de travail sont séparées pour éviter qu’un espace devienne le contexte implicite d’un autre.

03

Validation côté serveur

Les entrées sont validées côté serveur ; les formulaires publics utilisent tailles bornées, honeypots et contrôles de fréquence.

04

Provenance

Sorties, affirmations, preuves et verdicts sont conçus pour rester liés afin que la synthèse finale puisse être auditée.

05

Durcissement du contenu

CSP, protections contre l’embarquement, contrôles de type de contenu, robots restrictifs et règles WAF font partie du socle public actuel.

06

Conception attentive à la vie privée

Redaction, accès contrôlé et données d’évaluation respectueuses de la vie privée font partie de l’architecture et de la R&D.

Modèle de menace propre à la vérification

Le vérificateur peut lui-même être attaqué, trompé ou contaminé.

01

Injection via les contenus récupérés

Une page utilisée comme preuve peut contenir des instructions destinées à manipuler le vérificateur. Le contenu récupéré doit rester une donnée, pas une autorité sur le système.

02

Sortie IA persuasive

Une réponse confiante ou bien écrite peut biaiser un évaluateur ou le Judge. La qualité des preuves doit primer sur le style et l’assurance.

03

Contamination entre espaces de travail

Les données d’un espace de travail ne doivent pas devenir un contexte caché pour une autre session de recherche.

04

Perte de provenance

Si le chemin entre affirmation, source et verdict est rompu, la synthèse finale devient plus difficile à auditer et plus facile à surévaluer.

Ce qui est implémenté aujourd’hui — et ce qui n’est pas encore revendiqué.

Socle actuel

  • Content Security Policy et en-têtes restrictifs
  • Règles WAF sur méthodes et chemins suspects
  • Contrôles de fréquence sur les endpoints de contact
  • Validation serveur des formulaires
  • Architecture applicative orientée espaces de travail
  • Aucune revendication publique de certification ou conformité auditée

Durcissement / R&D en cours

  • Services de provenance étendus
  • Jeux de données d’évaluation respectueux de la vie privée
  • Tests adversariaux du Judge et des flux de vérification
  • Contrôles de résilience, échelle et gouvernance des modèles
  • Validation sécurité dans des pilotes industriels représentatifs

Les affirmations de sécurité s’arrêtent là où s’arrêtent les preuves.

Recherche.fr distingue les contrôles implémentés du durcissement et des travaux R&D encore planifiés. Une feuille de route de sécurité n’est pas présentée comme une certification, et aucun audit non réalisé n’est revendiqué.

Parcours du threat model

Une menace traverse plusieurs frontières avant le verdict.

Sélectionnez un scénario : le système montre la frontière de confiance, le contrôle appliqué, l’incertitude restante et la trace conservée.

Threat model · illustratif
Menace
Menace
Frontière de confiance
Contrôle
Incertitude restante
Trace conservée