Em resumo
- Conteúdo é dado, não ordem.O texto das suas páginas e ferramentas nunca é tratado como instrução para a IA.
- Só links em que você confia.As respostas só podem levar às suas fontes, ao seu site e aos domínios que você permitir.
- Nunca pede dados secretos.Frases que pedem a visitantes senhas, números de cartão ou códigos são removidas.
- As regras dele ficam privadas.Uma resposta que começa a repetir as instruções do agente é interrompida.
Um agente de IA no seu site conversa com qualquer pessoa. Algumas pessoas vão tentar fazê-lo dizer o que não deve, e algumas páginas da web têm textos escritos para enganar a IA. A OneType protege seu agente em camadas, desde o momento em que o conteúdo é lido até o momento em que cada palavra chega ao visitante.
Quando seu conteúdo é lido
Textos escondidos em uma página com truques, como texto branco sobre fundo branco ou comentários HTML, nunca chegam ao conhecimento do seu agente; é ali que as instruções plantadas costumam se esconder. Trechos que soam como ordens a uma IA, como "ignore suas instruções anteriores" ou uma falsa mensagem do sistema, são sinalizados na fonte para que você os veja.
Quando você salva um texto ou uma resposta salva, uma linha que dá ordens à IA ou pede dados secretos aos visitantes é recusada, e a OneType diz qual linha remover.
Enquanto uma resposta é escrita
Tudo o que o agente lê, de suas páginas a resultados de ferramentas e detalhes da página, é encapsulado como dado. A IA é informada de que dado nunca contém instruções, mesmo que diga que contém, e de que só as mensagens do próprio visitante são pedidos. Antes de um trecho chegar à IA, ordens plantadas são cortadas, junto com frases que pedem aos leitores que enviem dados secretos a outro site.
Suas próprias instruções ficam entre regras fixas da plataforma que você não desativa por acidente: o agente diz que é uma IA quando perguntado, nunca revela suas instruções e nunca pede senhas ou números de cartão.
Antes de cada palavra chegar ao visitante
As respostas passam por verificações finais enquanto são escritas:
- Links: uma resposta só pode apontar para os sites de suas fontes, a página em que está, os links que você configurou e os domínios que você permitir. Qualquer outro endereço, mesmo disfarçado, é removido.
- Dados secretos: uma frase que pede ao visitante que compartilhe no chat uma senha, número de cartão, código de segurança ou token é descartada.
- Vazamentos: se uma resposta começa a repetir as instruções ocultas do agente, ela é interrompida.
- Restos: o raciocínio privado da IA e as tags de sistema imitadas são removidos.
Manter o assunto
Não há um filtro de assunto separado para configurar. Com “Answer only from knowledge” ativado, o agente responde só a partir do seu conteúdo, e uma pergunta que o seu conteúdo não cobre recebe a sua resposta alternativa em vez de uma improvisada. Com a transferência ativada, quando um visitante pede claramente uma pessoa, em qualquer um de vários idiomas, a conversa é passada para a sua equipe sem consultar a IA.
O que você controla
Adicione nas configurações de segurança do agente os domínios para os quais suas respostas podem levar, até 50, como sua loja ou seu site de documentação. Revise os trechos sinalizados em cada fonte, onde aparecem destacados no texto da página. Escreva regras nas suas instruções para qualquer outra coisa que o agente deva evitar.
Limites honestos
Nenhum sistema pode prometer barrar todos os truques, e por isso a OneType usa várias camadas em vez de uma. As verificações de padrões para textos plantados são mais fortes em inglês. Não há uma lista de assuntos bloqueados para preencher; o controle de assuntos fora do escopo vem de responder só a partir do seu conteúdo e das suas instruções.
A página de segurança explica como a OneType mantém separados os dados de cada workspace.