In breve
- Il contenuto è dato, non ordine.Il testo delle sue pagine e degli strumenti non viene mai trattato come un'istruzione per l'IA.
- Solo link di cui si fida.Le risposte possono rimandare solo alle sue fonti, al suo sito e ai domini che consente.
- Non chiede mai segreti.Le frasi che chiedono ai visitatori password, numeri di carta o codici vengono rimosse.
- Le sue regole restano private.Una risposta che inizia a ripetere le istruzioni dell'agente viene fermata.
Un agente IA sul suo sito parla con chiunque. Alcune persone proveranno a fargli dire cose che non dovrebbe, e alcune pagine web contengono testo scritto per ingannare l'IA. OneType protegge il suo agente a più livelli, dal momento in cui il contenuto viene letto al momento in cui ogni parola raggiunge il visitatore.
Quando il suo contenuto viene letto
Il testo nascosto in una pagina con trucchi, come testo bianco su bianco o commenti HTML, non raggiunge mai la conoscenza del suo agente; è lì che di solito si nascondono le istruzioni inserite ad arte. I passaggi che sembrano ordini a un'IA, come «ignori le istruzioni precedenti» o un finto messaggio di sistema, vengono segnalati sulla fonte così può vederli.
Quando salva direttamente un testo o una risposta salvata, una riga che dà ordini all'IA o chiede segreti ai visitatori viene rifiutata e OneType le dice quale riga rimuovere.
Mentre si scrive una risposta
Tutto ciò che l'agente legge, dalle sue pagine ai risultati degli strumenti e ai dettagli della pagina, viene racchiuso come dato. All'IA viene detto che i dati non contengono mai istruzioni, anche se dicono il contrario, e che solo i messaggi del visitatore sono richieste. Prima che un passaggio raggiunga l'IA, gli ordini inseriti ad arte vengono eliminati, insieme alle frasi che chiedono ai lettori di inviare segreti a un altro sito.
Le sue istruzioni stanno tra regole fisse della piattaforma che non può disattivare per sbaglio: l'agente dice di essere un'IA quando glielo chiedono, non rivela mai le proprie istruzioni e non chiede mai password o numeri di carta.
Prima che ogni parola raggiunga il visitatore
Le risposte passano attraverso controlli finali mentre vengono scritte:
- Link: una risposta può rimandare solo ai siti delle sue fonti, alla pagina in cui si trova, ai link che ha impostato e ai domini che consente. Qualsiasi altro indirizzo, anche mascherato, viene rimosso.
- Segreti: una frase che chiede al visitatore di condividere nella chat una password, un numero di carta, un codice di sicurezza o un token viene eliminata.
- Fughe: se una risposta inizia a ripetere le istruzioni nascoste dell'agente, viene fermata.
- Residui: il ragionamento privato dell'IA e i tag di sistema imitati vengono rimossi.
Restare in tema
Non c'è un filtro per argomento da configurare. Con “Answer only from knowledge” attivo, l'agente risponde solo dai suoi contenuti e una domanda che i suoi contenuti non coprono riceve la sua risposta di riserva invece di una improvvisata. Quando il passaggio è attivo e un visitatore chiede chiaramente una persona, in una di varie lingue, la chat viene passata al suo team senza interpellare affatto l'IA.
Cosa controlla lei
Aggiunga nelle impostazioni di sicurezza dell'agente i domini a cui le sue risposte possono rimandare, fino a 50, come il suo negozio o il suo sito di documentazione. Riveda i passaggi segnalati su ogni fonte, dove sono evidenziati nel testo della pagina. Scriva nelle sue istruzioni le regole per tutto il resto che l'agente deve evitare.
Limiti onesti
Nessun sistema può promettere di fermare ogni trucco, ed è per questo che OneType usa più livelli invece di uno. I controlli di schema per il testo inserito ad arte sono più forti in inglese. Non c'è un elenco di argomenti bloccati da compilare; il controllo sugli argomenti fuori tema viene dal rispondere solo dai suoi contenuti e dalle sue istruzioni.
Come OneType tiene separati i dati di ogni workspace è spiegato nella pagina sulla sicurezza.