Cosa non vede mai l'IA e perché è un limite invalicabile

Qualsiasi prodotto che aggiunga funzioni IA deve ai suoi utenti una risposta chiara a una domanda: cosa vede il modello.

Per la maggior parte delle app la risposta onesta è molto, perché il contenuto si trova sul server in forma leggibile ed inviarlo a un modello è una modifica di configurazione, non un progetto di ingegneria.

La nostra è diversa per una ragione che non ha nulla a che fare con l'autocontrollo.

Il limite invalicabile

Domande, risposte, messaggi e chiamate sono crittografati sui dispositivi con una chiave generata lì e mai inviata ai nostri server.

Questo significa che non potremmo inviare la conversazione di una coppia a un modello nemmeno se lo decidessimo. Non la conserviamo in una forma che chiunque possa leggere, noi compresi, compresa qualsiasi versione futura di noi con priorità diverse.

Questa è la differenza tra una politica e un vincolo. Una politica è una frase. Un vincolo è ciò che accade quando qualcuno ci prova.

Non vi promettiamo di non inviare la vostra conversazione a un modello. Vi stiamo dicendo che non la possediamo.

Cosa vedono le funzioni opzionali

Il testo che inviate esplicitamente a tale scopo, nel momento in cui lo inviate.

È un'azione deliberata e visibile. Scegliete un testo e chiedete di farci qualcosa. Nulla viene raccolto in background e nulla di ciò che non avete consegnato viene incluso.

Se non usate mai quelle funzioni, nulla di vostro si avvicina a un modello.

Perché non abbiamo costruito di più

C'è un prodotto ovvio sul tavolo che non abbiamo realizzato, e vale la pena spiegare perché.

Una versione di questa app capace di leggere tutto potrebbe fare molto: notare schemi ricorrenti nel corso dei mesi, segnalare che uno di voi ha citato la stessa preoccupazione undici volte, riassumere un anno, suggerire di cosa parlare in base a ciò che avete evitato.

Parte di questo avrebbe un valore reale. Tutto questo richiede che un'azienda conservi un registro leggibile della cosa più privata che due persone condividono.

Abbiamo deciso che questo compromesso non era accettabile per noi, e la decisione è stata presa abbastanza presto perché fosse l'architettura a imporla, anziché dipendere dal nostro continuo accordo.

Addestramento

Non addestriamo modelli sui contenuti degli utenti, e in senso ordinario non possiamo farlo, perché non li possediamo.

Per le funzioni opzionali, il testo inviato viene elaborato per produrre un risultato e non viene usato per addestrare nulla. Dove è coinvolto un fornitore di modelli di terze parti, la questione è contrattuale e la trattiamo come tale: l'accordo esclude l'addestramento sui contenuti inviati.

Preferiamo fare affidamento sull'architettura piuttosto che sul contratto, perché l'architettura è la parte che non dipende dal fatto che qualcuno mantenga la parola.

Cosa costa questo al prodotto

Cose reali.

Nessuna memoria tra le conversazioni. Niente può notare che avevate detto qualcosa di simile a marzo.

Nessuna ricerca nella cronologia da parte nostra.

Nessun suggerimento proattivo basato su ciò che voi due avete effettivamente scritto, che è la funzione più richiesta.

Queste cose non sono in tabella di marcia. Sono indisponibili, ed è proprio questo il punto.

Come valutare qualsiasi app che dichiari questo

Chiedete cosa vede il modello. Chiedete se la risposta è imposta dall'architettura o da una politica. E chiedete cosa dovrebbe ricostruire l'azienda per cambiare quella risposta.

Se la risposta all'ultima domanda è "nulla, aggiorneremmo un documento", avete capito quello che vi serviva.