En resumen
- El contenido son datos, no órdenes.El texto de sus páginas y herramientas nunca se trata como una instrucción para la IA.
- Solo enlaces de confianza.Las respuestas solo pueden enlazar a sus fuentes, a su sitio y a los dominios que usted permite.
- Nunca pide secretos.Se eliminan las frases que piden a los visitantes contraseñas, números de tarjeta o códigos.
- Sus reglas siguen siendo privadas.Una respuesta que empieza a repetir las instrucciones del agente se detiene.
Un agente de IA en su sitio web habla con cualquiera. Algunas personas intentarán que diga cosas que no debe, y algunas páginas web contienen texto escrito para engañar a la IA. OneType protege a su agente por capas, desde el momento en que se lee el contenido hasta el momento en que cada palabra llega al visitante.
Cuando se lee su contenido
El texto oculto en una página con trucos, como texto blanco sobre blanco o comentarios HTML, nunca llega al conocimiento de su agente; ahí es donde suelen esconderse las instrucciones ocultas. Los pasajes que suenan a órdenes para una IA, como «ignora tus instrucciones anteriores» o un falso mensaje de sistema, se marcan en la fuente para que pueda verlos.
Cuando usted guarda texto o una respuesta guardada, una línea que da órdenes a la IA o pide secretos a los visitantes se rechaza, y OneType le indica qué línea quitar.
Mientras se escribe una respuesta
Todo lo que lee el agente, desde sus páginas hasta resultados de herramientas y datos de página, se envuelve como datos. A la IA se le dice que los datos nunca contienen instrucciones, aunque lo afirmen, y que solo los mensajes del propio visitante son peticiones. Antes de que un pasaje llegue a la IA, se recortan las órdenes ocultas, junto con las frases que piden a los lectores enviar secretos a otro sitio.
Sus propias instrucciones se sitúan entre reglas fijas de la plataforma que no puede desactivar por accidente: el agente dice que es una IA cuando se le pregunta, nunca revela sus instrucciones y nunca pide contraseñas ni números de tarjeta.
Antes de que cada palabra llegue al visitante
Las respuestas pasan por comprobaciones finales mientras se escriben:
- Enlaces: una respuesta solo puede apuntar a los sitios de sus fuentes, a la página en la que está, a los enlaces que usted configuró y a los dominios que permite. Cualquier otra dirección, incluso disfrazada, se elimina.
- Secretos: se descarta una frase que pida al visitante compartir en el chat una contraseña, un número de tarjeta, un código de seguridad o un token.
- Filtraciones: si una respuesta empieza a repetir las instrucciones ocultas del agente, se detiene.
- Restos: se eliminan el razonamiento privado de la IA y las etiquetas de sistema imitadas.
Mantenerse en el tema
No hay que configurar ningún filtro de temas aparte. Con “Answer only from knowledge” activado, el agente responde solo con su contenido, y una pregunta que su contenido no cubre recibe su respuesta de reserva en lugar de una improvisada. Cuando el traspaso está activado y un visitante pide claramente una persona, en cualquiera de varios idiomas, el chat pasa a su equipo sin preguntar siquiera a la IA.
Lo que usted controla
Añada los dominios a los que pueden enlazar sus respuestas en los ajustes de seguridad del agente, hasta 50, como su tienda o el sitio de su documentación. Revise los pasajes marcados en cada fuente, donde aparecen resaltados en el texto de la página. Escriba reglas en sus instrucciones para cualquier otra cosa que el agente deba evitar.
Límites honestos
Ningún sistema puede prometer detener todos los trucos, y por eso OneType usa varias capas en lugar de una. Las comprobaciones de patrones para el texto oculto son más sólidas en inglés. No hay una lista de temas bloqueados que rellenar; el control de lo que queda fuera de tema viene de responder solo con su contenido y de sus instrucciones.
Cómo mantiene OneType separados los datos de cada workspace está en la página de seguridad.