AI सहायक क्या नहीं देख सकता, और यह एक सख्त सीमा क्यों है

जो भी प्रोडक्ट AI फ़ीचर्स जोड़ता है, उसे अपने यूज़र्स को एक सवाल का साफ़ जवाब देना चाहिए: मॉडल क्या देखता है।

ज़्यादातर ऐप्स के लिए ईमानदारी भरा जवाब है: बहुत कुछ। ऐसा इसलिए है क्योंकि कंटेंट सर्वर पर पढ़ने योग्य रूप में मौजूद होता है और इसे किसी मॉडल को भेजना एक इंजीनियरिंग प्रोजेक्ट के बजाय सिर्फ़ एक कॉन्फ़िगरेशन बदलाव है।

हमारा ऐप अलग है, और इसकी वजह किसी संयम से नहीं जुड़ी है।

सख्त सीमा

सवाल, जवाब, मैसेज और कॉल्स डिवाइस पर ही एक ऐसी कुंजी से एनक्रिप्ट होते हैं जो वहीं बनती है, और यह कभी हमारे सर्वर पर नहीं भेजी जाती।

इसका मतलब है कि अगर हम चाहें भी, तो किसी कपल की बातचीत को मॉडल के पास नहीं भेज सकते। हम इसे ऐसे रूप में नहीं रखते जिसे कोई भी पढ़ सके, हम भी नहीं, और अलग प्राथमिकताओं वाला हमारा कोई भविष्य का रूप भी नहीं।

नीति और बाधा में यही अंतर है। नीति एक वाक्य होती है। बाधा वह होती है जो तब सामने आती है जब कोई कोशिश करता है।

हम आपसे यह वादा नहीं कर रहे कि आपकी बातचीत मॉडल को नहीं भेजेंगे। हम आपको बता रहे हैं कि वह बातचीत हमारे पास है ही नहीं।

वैकल्पिक फ़ीचर्स क्या देखते हैं

वह टेक्स्ट जिसे आप उस उद्देश्य के लिए साफ़ तौर पर जमा करते हैं, और उसी पल जब आप उसे जमा करते हैं।

यह एक जानबूझकर किया गया और स्पष्ट काम है। आप टेक्स्ट का एक टुकड़ा चुनते हैं और उस पर कुछ करने का अनुरोध करते हैं। बैकग्राउंड में कुछ भी एकत्र नहीं किया जाता है, और जो आपने खुद नहीं दिया, वह इसमें शामिल नहीं होता।

अगर आप कभी उन फ़ीचर्स का उपयोग नहीं करते हैं, तो आपकी कोई भी चीज़ मॉडल के आसपास भी नहीं जाती।

हमने और फ़ीचर्स क्यों नहीं बनाए

सामने एक साफ़ विकल्प मौजूद था जिसे हमने नहीं बनाया, और यह बताना ज़रूरी है कि क्यों।

इस ऐप का एक ऐसा वर्ज़न जो सब कुछ पढ़ सकता हो, बहुत कुछ कर सकता था: महीनों के पैटर्न को पहचानना, यह बताना कि आपमें से किसी ने एक ही चिंता का ग्यारह बार ज़िक्र किया है, पूरे साल का सारांश देना, या जिस बात से आप बच रहे हैं उस पर चर्चा करने का सुझाव देना।

इसमें से कुछ चीज़ें वाकई उपयोगी होतीं। लेकिन इन सब के लिए कंपनी को दो लोगों की सबसे निजी चीज़ का पढ़ने योग्य रिकॉर्ड रखना पड़ता।

हमने तय किया कि यह सौदा हमारे लिए मुमकिन नहीं है। यह फ़ैसला इतनी शुरुआत में ही ले लिया गया था कि आर्किटेक्चर खुद इसे लागू करता है, न कि इस बात पर निर्भर रहता है कि हम आगे भी सहमत रहेंगे या नहीं।

ट्रेनिंग

हम यूज़र के कंटेंट पर मॉडल को ट्रेन नहीं करते हैं, और सामान्य तौर पर हम ऐसा कर भी नहीं सकते, क्योंकि वह कंटेंट हमारे पास है ही नहीं।

वैकल्पिक फ़ीचर्स के लिए, जमा किए गए टेक्स्ट को केवल नतीजा निकालने के लिए प्रोसेस किया जाता है और किसी भी चीज़ को ट्रेन करने के लिए इस्तेमाल नहीं किया जाता। जहाँ किसी थर्ड-पार्टी मॉडल प्रदाता की भूमिका होती है, वहाँ यह एक अनुबंध का मामला है और हम इसे वैसे ही लेते हैं: इस समझौते में जमा किए गए कंटेंट पर ट्रेनिंग शामिल नहीं है।

हम अनुबंध के बजाय आर्किटेक्चर की ओर इशारा करना बेहतर समझते हैं, क्योंकि आर्किटेक्चर ही वह हिस्सा है जो किसी के अपनी बात पर टिके रहने पर निर्भर नहीं करता।

इससे प्रोडक्ट को क्या नुकसान होता है

असली चीज़ों का।

अलग-अलग बातचीत के बीच कोई मेमोरी नहीं रहती। कोई भी यह नहीं पहचान सकता कि आपने मार्च में भी ऐसी ही कोई बात कही थी।

हमारी तरफ से आपकी हिस्ट्री में कोई सर्च नहीं हो सकती।

आपने वास्तव में जो लिखा है उसके आधार पर अपनी तरफ से कोई सुझाव नहीं दिया जा सकता, जबकि यह वही फ़ीचर है जिसकी मांग लोग सबसे ज़्यादा करते हैं।

ये फ़ीचर्स किसी रोडमैप पर नहीं हैं। वे अनुपलब्ध हैं, और यही मुख्य बात है।

ऐसा दावा करने वाले किसी भी ऐप का मूल्यांकन कैसे करें

पूछें कि मॉडल क्या देखता है। पूछें कि क्या जवाब आर्किटेक्चर द्वारा लागू किया गया है या किसी नीति द्वारा। और पूछें कि जवाब बदलने के लिए कंपनी को क्या दोबारा बनाना पड़ेगा।

अगर आखिरी सवाल का जवाब है "कुछ नहीं, हम बस एक दस्तावेज़ अपडेट कर देंगे", तो आपको वही पता चल गया है जो आपको जानने की ज़रूरत थी।