Lo que la IA nunca ve y por que es un limite infranqueable

Cualquier producto que añade funciones de IA debe a sus usuarios una respuesta clara a una sola pregunta: que ve el modelo.

Para la mayoria de las aplicaciones la respuesta honesta es que ve mucho, porque el contenido esta en el servidor de forma legible y enviarlo a un modelo es un cambio de configuracion y no un proyecto de ingenieria.

La nuestra es diferente por una razon que no tiene nada que ver con la moderacion.

El limite absoluto

Las preguntas, respuestas, mensajes y llamadas se encriptan en los dispositivos con una clave generada alli que nunca se envia a nuestros servidores.

Esto significa que no podriamos enviar la conversacion de una pareja a un modelo aunque lo decidieramos. No la guardamos de una forma que alguien pueda leer, incluyendonos a nosotros e incluyendo cualquier version futura de nuestra empresa con distintas prioridades.

Esta es la diferencia entre una politica y una restriccion. Una politica es una frase. Una restriccion es lo que ocurre cuando alguien lo intenta.

No estamos prometiendo no enviar tu conversacion a un modelo. Te estamos diciendo que no la tenemos.

Lo que si ven las funciones opcionales

Texto que envias de forma explicita para ese fin, en el momento en que lo envias.

Es una accion deliberada y visible. Eliges un fragmento de texto y pides que se haga algo con el. No se recopila nada en segundo plano y no se incluye nada que no hayas entregado.

Si nunca usas esas funciones, nada tuyo se acerca a un modelo.

Por que no construimos mas

Hay un producto evidente sobre la mesa que no hemos hecho, y vale la pena explicar por que.

Una version de esta aplicacion que pudiera leer todo podria hacer mucho: detectar patrones a lo largo de los meses, señalar que uno de los dos ha mencionado la misma preocupacion once veces, resumir un año o sugerir de que hablar segun lo que habeis estado evitando.

Parte de eso seria realmente valioso. Todo eso requiere que una empresa mantenga un registro legible de lo mas privado que tienen dos personas.

Decidimos que ese intercambio no estaba a nuestro alcance, y la decision se tomo lo suficientemente pronto como para que la arquitectura la imponga en lugar de depender de que sigamos estando de acuerdo.

Entrenamiento

No entrenamos modelos con el contenido de los usuarios y, en sentido estricto, no podemos hacerlo porque no lo tenemos.

En el caso de las funciones opcionales, el texto enviado se procesa para generar un resultado y no se utiliza para entrenar nada. Cuando interviene un proveedor de modelos externo, es un asunto contractual y lo tratamos como tal: el acuerdo excluye el entrenamiento con el contenido enviado.

Preferimos señalar la arquitectura antes que el contrato, porque la arquitectura es la parte que no depende de que nadie cumpla su palabra.

Lo que esto le cuesta al producto

Cosas reales.

Sin memoria entre conversaciones. Nada puede notar que dijiste algo similar en marzo.

Sin busqueda en tu historial desde nuestro lado.

Sin sugerencias proactivas basadas en lo que realmente habeis escrito entre los dos, que es la funcion que la gente mas pide.

Esas funciones no estan en ninguna hoja de ruta. No estan disponibles, y ese es precisamente el objetivo.

Como evaluar cualquier aplicacion que afirme esto

Pregunta que ve el modelo. Pregunta si la respuesta esta respaldada por la arquitectura o por una politica. Y pregunta que tendria que rehacer la empresa para cambiar esa respuesta.

Si la respuesta a la ultima pregunta es "nada, actualizariamos un documento", ya has aprendido lo que necesitabas saber.