Was der KI-Helfer nie sieht und warum das eine harte Grenze ist

Jedes Produkt, das KI-Funktionen hinzufügt, schuldet seinen Nutzern eine klare Antwort auf eine Frage: Was sieht das Modell.

Für die meisten Apps lautet die ehrliche Antwort: sehr viel. Denn die Inhalte liegen lesbar auf dem Server, und sie an ein Modell zu senden ist eine Konfigurationsänderung, kein Entwicklungsprojekt.

Bei uns ist das anders, aus einem Grund, der nichts mit Zurückhaltung zu tun hat.

Die harte Grenze

Fragen, Antworten, Nachrichten und Anrufe werden auf den Geräten verschlüsselt, mit einem dort erzeugten Schlüssel, der unsere Server nie erreicht.

Das bedeutet, dass wir das Gespräch eines Paares selbst dann nicht an ein Modell senden könnten, wenn wir es wollten. Wir besitzen es nicht in einer lesbaren Form, niemand tut das, auch wir nicht und auch keine zukünftige Version von uns mit anderen Prioritäten.

Das ist der Unterschied zwischen einer Richtlinie und einer technischen Grenze. Eine Richtlinie ist ein Satz. Eine technische Grenze ist das, was passiert, wenn jemand es versucht.

Wir versprechen nicht, Ihr Gespräch nicht an ein Modell zu senden. Wir sagen Ihnen, dass wir es nicht haben.

Was die optionalen Funktionen sehen

Texte, die Sie explizit dafür übermitteln, genau in dem Moment, in dem Sie es tun.

Das ist eine bewusste und sichtbare Handlung. Sie wählen einen Text aus und bitten darum, etwas damit zu tun. Im Hintergrund wird nichts gesammelt, und nichts, was Sie nicht übergeben haben, wird einbezogen.

Wenn Sie diese Funktionen nie nutzen, gelangt nichts von Ihnen in die Nähe eines Modells.

Warum wir nicht mehr gebaut haben

Es gäbe ein naheliegendes Produkt, das wir nicht gebaut haben, und es lohnt sich zu erklären, warum.

Eine Version dieser App, die alles lesen könnte, könnte vieles tun: Muster über Monate hinweg erkennen, darauf hinweisen, dass einer von Ihnen dieselbe Sorge elfmal erwähnt hat, ein Jahr zusammenfassen oder Themen vorschlagen, basierend auf dem, was Sie gemieden haben.

Manches davon wäre wirklich wertvoll. Alles davon erfordert jedoch, dass ein Unternehmen eine lesbare Aufzeichnung des Privatesten besitzt, das zwei Menschen teilen.

Wir haben entschieden, dass dieser Kompromiss für uns nicht infrage kommt. Diese Entscheidung fiel so früh, dass die Architektur sie erzwingt, anstatt darauf angewiesen zu sein, dass wir uns weiterhin einig sind.

Training

Wir trainieren keine Modelle mit Nutzerinhalten, und im normalen Sinne können wir das auch nicht, weil wir sie nicht besitzen.

Bei den optionalen Funktionen wird der übermittelte Text verarbeitet, um ein Ergebnis zu erzeugen, und nicht zum Training verwendet. Wo ein drittes Modell beteiligt ist, ist das eine vertragliche Angelegenheit, und so behandeln wir sie auch: Die Vereinbarung schließt ein Training mit übermittelten Inhalten aus.

Wir verweisen lieber auf die Architektur als auf den Vertrag. Denn die Architektur ist der Teil, der nicht davon abhängt, dass jemand sein Wort hält.

Was das das Produkt kostet

Echte Dinge.

Kein Gedächtnis über Gespräche hinweg. Nichts kann bemerken, dass Sie im März etwas Ähnliches gesagt haben.

Keine Suche in Ihrem Verlauf auf unserer Seite.

Keine proaktiven Vorschläge basierend auf dem, was Sie beide tatsächlich geschrieben haben, also genau die Funktion, nach der am häufigsten gefragt wird.

Diese Dinge stehen auf keinem Entwicklungsplan. Sie sind nicht verfügbar, und genau das ist der Punkt.

Wie Sie jede App beurteilen können, die das behauptet

Fragen Sie, was das Modell sieht. Fragen Sie, ob die Antwort durch Architektur oder durch Richtlinien erzwungen wird. Und fragen Sie, was das Unternehmen neu bauen müsste, um die Antwort zu ändern.

Wenn die Antwort auf die letzte Frage lautet: „Nichts, wir würden ein Dokument aktualisieren“, wissen Sie, was Sie wissen mussten.