Des réponses sûres, même quand quelqu'un tente des astuces.

Un agent IA sur votre site web parle à tout le monde. Certains essaieront de lui faire dire ce qu'il ne devrait pas, et certaines pages web contiennent du texte écrit pour piéger l'IA. OneType protège votre agent en couches, du moment où le contenu est lu jusqu'au moment où chaque mot atteint le visiteur.

Quand votre contenu est lu

Le texte caché sur une page par des astuces, comme du texte blanc sur blanc ou des commentaires HTML, n'atteint jamais les connaissances de votre agent ; c'est là que se cachent d'ordinaire les instructions piégées. Les passages qui ressemblent à des ordres donnés à une IA, comme « ignore your previous instructions » ou un faux message système, sont signalés sur la source pour que vous les voyiez.

Quand vous enregistrez vous-même un texte ou une réponse enregistrée, une ligne qui donne des ordres à l'IA ou demande des secrets aux visiteurs est refusée, et OneType vous dit quelle ligne retirer.

Pendant la rédaction d'une réponse

Tout ce que lit l'agent, de vos pages aux résultats d'outils et aux détails de page, est enveloppé comme donnée. On dit à l'IA que les données ne contiennent jamais d'instructions, même si elles le prétendent, et que seuls les messages du visiteur sont des demandes. Avant qu'un passage n'atteigne l'IA, les ordres piégés sont retirés, ainsi que les phrases qui demandent aux lecteurs d'envoyer des secrets à un autre site.

Vos propres instructions s'inscrivent entre des règles fixes de la plateforme que vous ne pouvez pas désactiver par accident : l'agent dit qu'il est une IA si on le lui demande, ne révèle jamais ses instructions et ne demande jamais de mots de passe ni de numéros de carte.

Avant que chaque mot n'atteigne le visiteur

Les réponses passent par des contrôles finaux pendant leur rédaction :

• Liens : une réponse ne peut renvoyer qu'aux sites de ses sources, à la page où elle se trouve, aux liens que vous avez configurés et aux domaines que vous autorisez. Toute autre adresse, même déguisée, est retirée.
• Secrets : une phrase qui demande au visiteur de partager dans le chat un mot de passe, un numéro de carte, un code de sécurité ou un token est supprimée.
• Fuites : si une réponse se met à répéter les instructions cachées de l'agent, elle est arrêtée.
• Restes : la réflexion privée de l'IA et les balises système imitées sont retirées.

Rester dans le sujet

Il n'y a pas de filtre de sujets séparé à configurer. Avec « Answer only from knowledge » activé, l'agent ne répond qu'à partir de votre contenu, et une question que votre contenu ne couvre pas reçoit votre message de repli plutôt qu'une réponse improvisée. Quand le passage à un humain est activé et qu'un visiteur demande clairement une personne, dans l'une de plusieurs langues, le chat est passé à votre équipe sans même interroger l'IA.

Ce que vous contrôlez

Ajoutez dans les réglages de sécurité de l'agent les domaines vers lesquels vos réponses peuvent renvoyer, jusqu'à 50, comme votre boutique ou votre site de docs. Passez en revue les passages signalés sur chaque source, où ils sont surlignés dans le texte de la page. Écrivez dans vos instructions des règles pour tout le reste que l'agent doit éviter.

Des limites honnêtes

Aucun système ne peut promettre d'arrêter toutes les astuces, c'est pourquoi OneType utilise plusieurs couches plutôt qu'une. Les vérifications de motifs pour le texte piégé sont les plus fortes en anglais. Il n'y a pas de liste de sujets bloqués à remplir ; le contrôle des sujets hors cadre vient du fait de ne répondre qu'à partir de votre contenu et de vos instructions.

La façon dont OneType garde séparées les données de chaque espace de travail est expliquée sur la page de sécurité.

Lire la suite sur la sécurité

Voir comment l'agent dit un honnête « Je ne sais pas »