Ce que l'IA ne voit jamais, et pourquoi c'est une limite stricte

Tout produit qui ajoute des fonctionnalités IA doit à ses utilisateurs une réponse claire à une question: que voit le modèle.

Pour la plupart des applications, la réponse honnête est beaucoup, car le contenu se trouve sur le serveur en clair et l'envoyer à un modèle relève d'un changement de configuration plutôt que d'un projet d'ingénierie.

La nôtre est différente pour une raison qui n'a rien à voir avec la retenue.

La limite stricte

Les questions, réponses, messages et appels sont chiffrés sur les appareils avec une clé générée sur place et jamais envoyée à nos serveurs.

Cela signifie que nous ne pourrions pas envoyer la conversation d'un couple à un modèle même si nous le décidions. Nous ne la détenons sous aucune forme lisible par quiconque, y compris nous, y compris toute version future de notre entreprise qui aurait d'autres priorités.

C'est la différence entre une règle et une contrainte. Une règle est une phrase. Une contrainte est ce qui se passe quand quelqu'un essaie.

Nous ne promettons pas de ne pas envoyer votre conversation à un modèle. Nous vous disons que nous ne l'avons pas.

Ce que voient les fonctionnalités optionnelles

Le texte que vous soumettez explicitement à cet effet, au moment où vous le soumettez.

C'est une action délibérée et visible. Vous choisissez un fragment de texte et demandez qu'un traitement soit effectué. Rien n'est collecté en arrière-plan, et rien de ce que vous n'avez pas transmis n'est inclus.

Si vous n'utilisez jamais ces fonctionnalités, rien de ce qui vous appartient n'approche un modèle.

Pourquoi nous n'avons pas développé plus de fonctions

Il existe une idée de produit évidente que nous n'avons pas réalisée, et cela vaut la peine d'expliquer pourquoi.

Une version de cette application capable de tout lire pourrait faire beaucoup de choses: repérer des tendances sur plusieurs mois, signaler que l'un de vous a mentionné le même souci onze fois, résumer une année, suggérer des sujets de discussion fondés sur ce que vous évitez.

Certaines de ces fonctions auraient une réelle valeur. Toutes exigent qu'une entreprise détienne un registre lisible de la chose la plus intime que deux personnes partagent.

Nous avons estimé que cet échange nous était interdit, et la décision a été prise suffisamment tôt pour que l'architecture l'impose au lieu de dépendre de notre accord continu.

Entraînement

Nous n'entraînons pas de modèles sur le contenu des utilisateurs, et au sens propre nous ne le pouvons pas, car nous ne le possédons pas.

Pour les fonctionnalités optionnelles, le texte soumis est traité pour produire un résultat et n'est utilisé pour rien entraîner. Lorsqu'un fournisseur tiers de modèle intervient, c'est une question contractuelle et nous la traitons comme telle: l'accord exclut l'entraînement sur le contenu soumis.

Nous préférons mettre en avant l'architecture plutôt que le contrat, car l'architecture est la partie qui ne dépend du respect de la parole de personne.

Ce que cela coûte au produit

Des choses réelles.

Pas de mémoire d'une conversation à l'autre. Rien ne peut remarquer que vous avez dit quelque chose de similaire en mars.

Pas de recherche dans votre historique de notre côté.

Pas de suggestions proactives basées sur ce que vous avez réellement écrit tous les deux, ce qui est la fonction la plus demandée.

Ces fonctions ne sont pas sur une feuille de route. Elles sont indisponibles, et c'est bien là tout le sujet.

Comment évaluer toute application qui affirme cela

Demandez ce que voit le modèle. Demandez si la réponse est imposée par l'architecture ou par une règle. Et demandez ce que l'entreprise devrait reconstruire pour changer cette réponse.

Si la réponse à la dernière question est "rien, nous mettrions à jour un document", vous avez appris ce que vous deviez savoir.