Что никогда не видит ИИ-помощник и почему это жесткий лимит

Любой продукт, добавляющий ИИ-функции, должен дать пользователям прямой ответ на один вопрос: что именно видит модель.

Для большинства приложений честный ответ: очень много, потому что контент хранится на сервере в читаемом виде, и передача его модели требует лишь изменения настроек, а не отдельного инженерного проекта.

Наш случай отличается по причине, не имеющей отношения к самоограничению.

Жёсткое ограничение

Вопросы, ответы, сообщения и звонки шифруются прямо на устройствах ключом, который создаётся там же и никогда не передаётся на наши серверы.

Это означает, что мы не смогли бы отправить переписку пары модели, даже если бы захотели. Мы не храним её в виде, который кто-либо может прочитать, включая нас и любые будущие версии нашей компании с другими приоритетами.

В этом разница между политикой и техническим ограничением. Политика: это текст. Ограничение: это то, что происходит, когда кто-то пытается его обойти.

Мы не обещаем не отправлять вашу переписку модели. Мы говорим, что у нас её просто нет.

Что видят дополнительные функции

Только текст, который вы явно отправляете для этой цели, и только в момент отправки.

Это осознанное и заметное действие. Вы выбираете фрагмент текста и просите что-то с ним сделать. Ничего не собирается в фоновом режиме, и ничего из того, что вы не передали сами, туда не попадает.

Если вы никогда не используете эти функции, ничто из вашего контента не оказывается рядом с моделью.

Почему мы не стали делать больше

Есть очевидный вариант продукта, который мы делать не стали, и стоит объяснить почему.

Версия приложения, способная читать всё, могла бы делать многое: замечать закономерности за месяцы, отслеживать, что кто-то из вас упомянул одну тревогу одиннадцать раз, подводить итоги года, предлагать темы для разговора на основе того, чего вы избегали.

Кое-что из этого было бы действительно полезно. Но всё это требует, чтобы компания хранила читаемую запись самого личного, что есть у двоих людей.

Мы решили, что такой размен для нас недопустим, и решение было принято достаточно рано, чтобы его обеспечивала архитектура, а не наше согласие соблюдать правила.

Обучение моделей

Мы не обучаем модели на пользовательском контенте, да и в обычном смысле не можем этого делать, так как у нас его нет.

Для дополнительных функций отправленный текст обрабатывается для получения результата и не используется для обучения. Если привлекается сторонний провайдер моделей, это вопрос договора, и мы относимся к нему именно так: соглашение исключает обучение на отправленном контенте.

Мы предпочитаем ссылаться на архитектуру, а не на договор, потому что архитектура не зависит от того, держит ли кто-то своё слово.

Чего это стоит продукту

Реальных возможностей.

Нет памяти между диалогами. Ничто не может заметить, что вы говорили похожие вещи в марте.

Нет поиска по вашей истории на нашей стороне.

Нет проактивных подсказок на основе того, что вы двое написали, хотя именно об этой функции просят чаще всего.

Их нет в планах разработки. Они недоступны по определению, и в этом вся суть.

Как оценивать любое приложение, утверждающее подобное

Спросите, что видит модель. Спросите, подкреплён ли ответ архитектурой или политикой. И спросите, что компании придётся переделать, чтобы изменить этот ответ.

Если ответ на последний вопрос: «ничего, мы просто обновим документ», вы узнали всё, что вам нужно было знать.