ما لا يراه الذكاء الاصطناعي أبدا، ولماذا يعد ذلك حدا قاطعا

أي منتج يضيف ميزات الذكاء الاصطناعي مدين لمستخدميه بإجابة واضحة عن سؤال واحد: ماذا يرى النموذج؟

بالنسبة لمعظم التطبيقات، الإجابة الصريحة هي: قدر كبير من البيانات، لأن المحتوى موجود على الخادم بصيغة قابلة للقراءة، وإرساله إلى النموذج هو مجرد تغيير في الإعدادات وليس مشروعا هندسيا.

تطبيقنا مختلف لسبب لا علاقة له بضبط النفس.

الحد القاطع

الأسئلة والإجابات والرسائل والمكالمات مشفرة على الأجهزة بمفتاح يُنشأ هناك ولا يُرسل أبدا إلى خوادمنا.

وهذا يعني أننا لا نستطيع إرسال محادثة زوجين إلى نموذج حتى لو قررنا ذلك. نحن لا نحتفظ بها بصيغة يمكن لأحد قراءتها، بما في ذلك نحن، وبما في ذلك أي نسخة مستقبلية منا بأولويات مختلفة.

هذا هو الفرق بين السياسة والقيد. السياسة جملة مكتوبة، أما القيد فهو ما يحدث عندما يحاول أحدهم.

نحن لا نعدك بعدم إرسال محادثتك إلى نموذج، بل نؤكد لك أننا لا نملكها من الأساس.

ما تراه الميزات الاختيارية

النص الذي ترسله بنفسك صراحة لهذا الغرض، في لحظة إرساله فقط.

هذا إجراء متعمد وواضح. أنت تختار نصا وتطلب إجراء شيء ما عليه. لا يتم جمع أي شيء في الخلفية، ولا يُدرج أي شيء لم تقم بتسليمه بنفسك.

إذا لم تستخدم تلك الميزات أبدا، فلن يقترب أي شيء خاص بك من أي نموذج.

لماذا لم نبنِ المزيد

هناك منتج بديهي مطروح لم نقم بإنشائه، ويستحق الأمر توضيح السبب.

إن نسخة من هذا التطبيق يمكنها قراءة كل شيء كانت ستنجز الكثير: ملاحظة الأنماط عبر الشهور، والتنبيه إلى أن أحدكما ذكر القلق نفسه إحدى عشرة مرة، وتلخيص عام كامل، واقتراح مواضيع للنقاش بناء على ما تجنبتماه.

بعض ذلك قد يكون ذا قيمة حقيقية. لكن كل ذلك يتطلب من الشركة الاحتفاظ بسجل قابل للقراءة لأكثر الأشياء خصوصية بين شخصين.

قررنا أن هذه المساومة غير مقبولة لدينا، واتُّخذ القرار مبكرا بحيث تطبقه البنية البرمجية للتطبيق بدلا من الاعتماد على استمرار توافقنا.

التدريب

نحن لا ندرب النماذج على محتوى المستخدمين، وبالمفهوم العادي لا يمكننا ذلك لأننا لا نملكه.

بالنسبة للميزات الاختيارية، يُعالج النص المرسل لإنتاج النتيجة فقط ولا يُستخدم لتدريب أي شيء. وعندما يشارك طرف ثالث كمزود للنموذج، فإن ذلك يخضع لاتفاق تعاقدي ونعامل الأمر على هذا النحو: الاتفاق يستثني التدريب على المحتوى المرسل.

نفضل الإشارة إلى البنية البرمجية بدلا من العقد، لأن البنية هي الجزء الذي لا يعتمد على التزام أي طرف بكلمته.

ما يكلفه هذا للتطبيق

أشياء حقيقية.

لا توجد ذاكرة عبر المحادثات. لا يمكن لأي شيء ملاحظة أنك قلت شيئا مشابها في مارس.

لا يوجد بحث في سجلك من جانبنا.

لا توجد اقتراحات استباقية بناء على ما كتبه الطرفان بالفعل، وهي الميزة التي يطلبها الناس أكثر من غيرها.

تلك الميزات ليست على خارطة الطريق. إنها غير متاحة، وهذا هو الهدف.

كيف تقيم أي تطبيق يدعي ذلك

اسأل عما يراه النموذج. واسأل عما إذا كانت الإجابة مفروضة بالبنية البرمجية أم بالسياسة. واسأل عما سيتعين على الشركة إعادة بنائه لتغيير هذه الإجابة.

إذا كانت الإجابة عن السؤال الأخير هي "لا شيء، سنكتفي بتحديث وثيقة"، فقد عرفت ما تحتاج إلى معرفته.