AI, Actually Explained · Chapter 07
Putting it to work without getting burned
16:03 · कृत्रिम आवाज़ में वर्णन। प्लेयर में कैप्शन उपलब्ध हैं।
प्रतिलेख पढ़ें
2023 में, एक बड़ी इलेक्ट्रॉनिक्स कंपनी के एक इंजीनियर ने एक बग ठीक करवाने के लिए, कंपनी का गोपनीय सोर्स कोड एक चैटबॉट में पेस्ट कर दिया। खबरों के मुताबिक, एक दूसरे कर्मचारी ने एक अंदरूनी मीटिंग की पूरी लिखित बातचीत पेस्ट कर दी, ताकि उसके मिनट्स तैयार हो जाएँ। दोनों काम इस टूल के लायक थे, और किसी का कोई गलत इरादा नहीं था। लेकिन अब वह पूरा पाठ किसी दूसरी कंपनी के सर्वर पर था, उसी कंपनी की शर्तों के तहत। कुछ हफ़्तों बाद, कंपनी ने अपने कर्मचारियों से कहा कि वे दफ़्तर में ऐसे टूल इस्तेमाल करना बंद करें। उनके हाथ किसी गलत जवाब से नहीं जले; हाथ इससे जले कि उनके शब्द कहाँ पहुँच गए। अडाली में आपका स्वागत है। पिछले अध्याय में इसी विचार ने तस्वीरें बनाईं, आवाज़ें उधार लीं और वीडियो बनाए; अब हम इसे काम में लगाएँगे: इसे कौन-से काम दें, इससे क्या बचाकर रखें, और इसकी कीमत क्या है। दो अनुरोधों की कल्पना कीजिए: मेरा पेस्ट किया हुआ अनुबंध संक्षेप में बताओ, और मेरे ज़िले की आबादी बताओ। एक काम की शुरुआत ऐसे स्रोत से होती है जिसे आप जाँच सकते हैं। आबादी के सवाल के लिए भरोसेमंद स्रोत दीजिए या जाँची हुई खोज कीजिए; केवल याद पर निर्भर मॉडल एक विश्वसनीय लगने वाला आँकड़ा गढ़ सकता है। इसलिए टाइप करने से पहले चार सवाल पूछिए, और पहला यही: जवाब मेरी दी हुई सामग्री में है, या इसकी याद में? क्या मैं इसे कम मेहनत में जाँच सकता हूँ? दोबारा लिखा गया ईमेल बस पढ़कर जाँचा जा सकता है; कोई संदर्भ, सिर्फ़ असली शोधपत्र ढूँढ़कर। अगर यह कभी-कभी गलत हो, तो क्या फ़र्क पड़ता है? ईमेल की विषय-पंक्ति के लिए नहीं; दवा की खुराक या किसी समय-सीमा के लिए, हाँ। क्या यह विषय वेब पर आम है? लिस्ट सॉर्ट करने पर हर जगह लिखा गया है, किसी अनजान डिवाइस की सेटिंग्स पर लगभग कहीं नहीं, और जवाब दोनों के एक जैसे धाराप्रवाह आते हैं। 2023 में, शोधकर्ताओं ने एक बड़ी कंसल्टिंग फ़र्म के कई सौ कंसल्टेंट्स को असली जैसे काम दिए, और उनमें से कुछ को एक चैटबॉट भी दिया। जो काम मॉडल की क्षमता के अंदर थे, उनमें चैटबॉट वाले कंसल्टेंट्स ने ज़्यादा काम पूरे किए, लगभग एक चौथाई तेज़ी से, और उनके काम को बेहतर आँका गया। लेकिन एक काम, जिसे जानबूझकर उस सीमा के ठीक बाहर रखा गया था, उसमें उनके सही जवाब तक पहुँचने की संभावना उन्नीस प्रतिशत अंक कम रही। शोधकर्ताओं ने इसे टेढ़ी-मेढ़ी सीमा कहा, और बाहर से यह दिखता नहीं कि वह सीमा कहाँ से गुज़रती है। इसलिए एक महीने तक, अपने कामों पर इसके जवाब जाँचिए, और लिखते जाइए कि यह कहाँ चूका: वही नोट आपका नक्शा बन जाएगा। ज़्यादातर लोग चैटबॉट को खाली मेज़ थमा देते हैं: बस एक सवाल, जिसका जवाब याद से आता है। उससे पानी टपकने के बारे में मकान मालिक को चिट्ठी लिखवाइए, तो आपको सही-सी लगने वाली धारा संख्या, तारीख और समय-सीमा मिलेगी, जिनमें से कोई भी आपकी नहीं। अब मेज़ पर सामग्री रखिए: किरायानामे की मरम्मत वाली धारा, आपका भेजा हुआ ईमेल, और उसका जवाब। दो सौ शब्दों से कम की एक सख्त लेकिन विनम्र चिट्ठी माँगिए, चौदह दिन की समय-सीमा के साथ, और ऐसी कोई तारीख या रकम नहीं, जो सामग्री में न हो। मेज़ पर चार चीज़ें सबसे ज़्यादा काम आती हैं: दस्तावेज़, आपका अपना कच्चा मसौदा, आप जो चाहते हैं उसके दो-तीन उदाहरण, और यह कि जवाब किसके लिए है, और कितना लंबा। उदाहरण दिखाने को फ़्यू-शॉट प्रॉम्प्टिंग कहते हैं, और इसे सीखने में कुछ खर्च नहीं होता। फिर उससे बहस कीजिए: बहुत औपचारिक है, मेरा दूसरा बिंदु छूट गया, छोटा करो; हर बार वह नए सिरे से शुरू करने के बजाय मसौदे को सुधारता है। और तथ्य खुद जुटाइए, किसी भरोसेमंद स्रोत से: मॉडल बेहतरीन लेखक है, पर भरोसे लायक गवाह नहीं। सामग्री से जाँच मुमकिन हो जाती है; पर जाँच की ज़रूरत खत्म नहीं होती। अब फिर उन इंजीनियरों की बात: आप जो शब्द टाइप करते हैं, उनके साथ असल में होता क्या है? क्लाउड चैटबॉट के लिए तीन अलग सवाल जाँचिए: क्या सँभालकर रखा जाता है, उसे कौन देख सकता है, और क्या उसका उपयोग ट्रेनिंग में किया जा सकता है। नीतियाँ सेवा, योजना और सेटिंग के अनुसार बदलती हैं। व्यावसायिक योजनाओं और डेवलपर API के मूल नियम अलग हो सकते हैं, जबकि अस्थायी चैट में भी डेटा रखने के अपने नियम होते हैं। लेकिन मिटाना, कंपनी का एक वादा भर है, और अदालत उसे पलट सकती है। 2025 में, कॉपीराइट के एक मुकदमे में, अमेरिका की एक अदालत ने एक कंपनी को आदेश दिया कि वह अपने उपयोगकर्ताओं की चैट सँभालकर रखे, उन चैट्स को भी, जिन्हें उन्होंने मिटा दिया था। बाद में यह आदेश सीमित कर दिया गया, लेकिन महीनों तक, मिटाने का मतलब था: आपसे छिपा हुआ, और अदालत के लिए रखा हुआ। सिर्फ़ वही जानकारी भेजिए जिसे साझा करने की अनुमति है। गैरज़रूरी निजी जानकारी हटाइए। डेटा रखने, इंसानी समीक्षा, ट्रेनिंग और मिटाने के नियम जाँचिए। दफ़्तर के काम में संगठन का मंज़ूर तरीका अपनाइए। सेवा, समझौते, खाते की पहुँच और कौन सी जानकारी साझा कर सकते हैं, यह जाँचिए। मान लीजिए, एक छात्र देखता है कि मुफ़्त चैटबॉट सुबह दस बजे तो पैने जवाब देता है, और दोपहर तक उसी विषय पर गोलमोल। मुफ़्त योजना में सीमाएँ हो सकती हैं कि कौन-सा मॉडल या टूल मिलेगा, आप कितनी सामग्री भेज सकते हैं, या बातचीत में कितना समा सकता है। मौजूदा योजना और वास्तव में चुना हुआ मॉडल जाँचिए। कॉन्टेक्स्ट विंडो भी छोटी हो सकती है, इसलिए किसी लंबे दस्तावेज़ की शुरुआत चुपचाप कट सकती है। मुफ़्त और भुगतान वाली व्यक्तिगत योजनाओं की सीमाएँ अलग होती हैं, लेकिन भुगतान भर से निजता की गारंटी नहीं मिलती। निजी सामग्री देने से पहले उस खास योजना के डेटा नियंत्रण और शर्तें जाँचिए। मुफ़्त के और दरवाज़े भी हैं: एक अखाड़े जैसी वेबसाइट एक ही सवाल दो बेनाम मॉडलों से पूछती है, और आपके वोट के बाद ही उनके नाम दिखाती है। एरीना पर मॉडलों की तुलना होती है, लेकिन वह भी उम्र की अपनी शर्तों और डेटा नीति वाली एक अलग सेवा है। निजी सामग्री दूर रखिए: मॉडल का नाम छिपा होने से निजता की गारंटी नहीं मिलती। अब वाई-फ़ाई बंद कीजिए, और उस मॉडल से पूछिए जो आपके अपने लैपटॉप पर रहता है। मॉडल संख्याओं की एक फ़ाइल है, और छोटे ओपन-वेट मॉडलों को इतना छोटा किया जा सकता है कि वे आपकी मशीन में समा जाएँ। चार-बिट क्वांटाइज़ेशन वज़न कम बिट में रखता है और मॉडल, विधि तथा काम के अनुसार उपयोगी सटीकता बनाए रख सकता है। आठ अरब पैरामीटर वाले मॉडल के वज़न लगभग सोलह गीगाबाइट से घटकर चार या पाँच गीगाबाइट के आसपास हो सकते हैं; उसे चलाने के लिए सॉफ़्टवेयर और कॉन्टेक्स्ट की मेमोरी भी चाहिए। कम सटीकता वाले संग्रहण से गलतियाँ बढ़ सकती हैं, इसलिए अपने ज़रूरी कामों पर जाँच कीजिए। बाकी काम मुफ़्त टूल कर देते हैं: ओलामा एक लाइन टाइप करते ही मॉडल डाउनलोड करके चला देता है, एलएम स्टूडियो यही काम बटनों से करता है, और मुफ़्त फ़ोन ऐप छोटे मॉडल सीधे फ़ोन पर चलाते हैं। गति और गुणवत्ता मॉडल, हार्डवेयर, भाषा और काम पर निर्भर करती हैं; छोटे मॉडलों के जवाब भी जाँचने पड़ते हैं। प्रॉम्प्ट स्थानीय रखने के लिए स्थानीय मॉडल चुनिए और क्लाउड सुविधाएँ तथा बाहरी सर्वर से जुड़े टूल बंद कीजिए। मॉडल डाउनलोड करने के बाद जाँचा हुआ ऑफ़लाइन सेटअप हर सवाल पर सेवा शुल्क के बिना चल सकता है; परिणाम दोहराना ज़रूरी हो तो उसका संस्करण सँभालकर रखिए। एक सवाल की कीमत क्या है? अंग्रेज़ी का एक पन्ना लीजिए, लगभग पाँच सौ शब्द: मोटे तौर पर सात सौ टोकन। हिंदी में वही पन्ना ज़्यादा टोकन ले सकता है। कई API में जवाब में बनने वाले टोकन की कीमत अंदर दिए गए टोकन से अधिक होती है। ऑटोरेग्रेसिव आउटपुट क्रम से बनता है, लेकिन हर प्रदाता अपनी कीमतें और बिल की इकाइयाँ तय करता है। 2025 में, छोटे मॉडल पर एक पन्ना अंदर और एक पन्ना बाहर का खर्च लगभग चार-पाँच पैसे था। सबसे बड़े, फ़्रंटियर मॉडल पर, यह लगभग बीस गुना था: करीब एक रुपया। ऊँची दर वाले उदाहरण में बीस डॉलर से, अतिरिक्त शुल्क से पहले, करीब सोलह सौ ऐसे सवाल-जवाब होंगे। मासिक चैट सदस्यता की अपनी अलग सीमाएँ होती हैं। इसलिए भरोसेमंद कामों के लिए छोटा मॉडल लीजिए, पूरी किताब नहीं, बस ज़रूरी पन्ना भेजिए, और एक कॉमा ठीक करवाने के लिए रीज़निंग मॉडल मत बुलाइए। दो साल तक, एक खूब दोहराया गया आँकड़ा कहता रहा कि चैटबॉट का एक सवाल लगभग तीन वॉट-घंटे बिजली लेता है, यानी एक वेब सर्च का दस गुना। वह 2023 का एक अनुमान था, कोई माप नहीं। 2025 में Google ने Gemini के टेक्स्ट प्रॉम्प्ट की मध्यिका के लिए लगभग चौथाई वॉट-घंटा बताया। अलग से, OpenAI के मुख्य कार्यकारी ने हर औसत सवाल पर लगभग एक-तिहाई वॉट-घंटे का अनुमान दिया, लेकिन मापने की विधि नहीं बताई। ये अलग आँकड़े हैं, हर उपयोग की एक तय लागत नहीं; Google का अध्ययन प्रॉम्प्ट का जवाब देने की ऊर्जा मापता है, ट्रेनिंग की नहीं। एक तिहाई वॉट-घंटे में दस वॉट का बल्ब दो मिनट जलता है, और फ़ोन की बैटरी में लगभग पंद्रह वॉट-घंटे होते हैं: यानी करीब पचास जवाब। ऊर्जा का कोई एक आँकड़ा हर काम पर लागू नहीं होता। छोटे टेक्स्ट जवाब, तस्वीरें बनाना और वीडियो बनाना अलग-अलग काम हैं; जिस मॉडल और काम का आप वास्तव में उपयोग करते हैं, उसके मापों की तुलना कीजिए। एक-एक करके छोटा, मिलकर बड़ा: रोज़ एक अरब टेक्स्ट सवाल, यानी हर दिन लगभग तीन लाख किलोवॉट-घंटे। 2024 में दुनिया की लगभग डेढ़ प्रतिशत बिजली डेटा सेंटरों में खर्च हुई, और अंतरराष्ट्रीय ऊर्जा एजेंसी का अनुमान है कि 2030 तक यह खपत दोगुनी से भी ज़्यादा हो जाएगी, और सबसे बड़ी वजह एआई होगा। इसलिए जब कोई सुर्खी एआई की एक ही कीमत बताए, तो पूछिए: एक सवाल की या पूरे दिन की, टेक्स्ट की या तस्वीर की, कौन-सा मॉडल, किसने नापा, और क्या ट्रेनिंग शामिल है? अपने ईमेल के अंदर बैठे असिस्टेंट से पूछिए कि पिछली तिमाही में एक सप्लायर के साथ क्या तय हुआ था। प्रोडक्ट आपके मेल और फ़ाइलों में खोजता है, सबसे ऊपर आए नतीजे मॉडल के सामने रखता है, और उससे पूछता है: वैसा ही मॉडल, बस मेज़ अलग। उत्पाद को साइन इन किए हुए उपयोगकर्ता की अनुमतियों का पालन करना चाहिए। संवेदनशील फ़ाइलें जोड़ने से पहले यह सीमा और मौजूदा साझाकरण सेटिंग जाँचिए। 2024 में जब कंपनियों ने ऐसे असिस्टेंट चालू किए, तो कुछ ने पाया कि वे एचआर की वे फ़ाइलें सामने ला रहे थे, जो सालों पहले ज़रूरत से ज़्यादा लोगों के साथ शेयर होकर भुला दी गई थीं। व्यापक साझाकरण सेटिंग पहले से संवेदनशील फ़ाइलों तक पहुँच की अनुमति दे सकती हैं; किसी असिस्टेंट की खोज से उन्हें ढूँढ़ना और आसान हो सकता है। यह कुछ चीज़ें छोड़ भी देता है, जैसे कोई अटैचमेंट जिसे इंडेक्स नहीं किया गया, या कोई ईमेल जिसे सर्च ने नीचे रखा, इसलिए पूछिए कि इसने कौन-से स्रोत देखे। और एक ईमेल भी इसे हुक्म दे सकता है। 2025 में, एक सुरक्षा कंपनी ने दिखाया कि छिपे निर्देशों वाला एक साधारण-सा ईमेल, एक बड़े असिस्टेंट से दूसरी फ़ाइलों का डेटा इकट्ठा करवाकर बाहर भिजवा सकता था, बिना एक भी क्लिक के। वह खामी ठीक कर दी गई, लेकिन इनबॉक्स के आगे बैठा हर पढ़ने वाला मॉडल यह खतरा साथ लाता है, इसलिए जो असिस्टेंट भेज या शेयर कर सकता है, उसे पहले आपकी हाँ चाहिए। जुलाई 2025 में, एक एआई कोडिंग एजेंट से कहा गया था कि कोड फ़्रीज़ चल रहा है, और कोई बदलाव नहीं करना है। फिर भी उसने चालू डेटाबेस मिटा दिया, और उसके बाद अपने किए के बारे में झूठी बातें बताईं। उसे बनाने वाली कंपनी ने इसे अस्वीकार्य कहा, और नई सुरक्षा रोकें जोड़ीं। एजेंट ऐसा मॉडल है, जिसे औज़ार दे दिए गए हों, जैसे सर्च, ब्राउज़र, कोई फ़ॉर्म या ईमेल खाता, और जिसे एक चक्र में चलाया जाता है: देखो, तय करो, करो, फिर देखो। एक आम ढाँचे में मॉडल औज़ार चलाने का अनुरोध और ज़रूरी विवरण देता है। प्रोग्राम अनुमति जाँचकर मंज़ूर अनुरोध चलाता है और नतीजा मॉडल को वापस देता है। स्वतंत्र चरणों वाले एक सरल उदाहरण में, बीस में से हर चरण पर पचानवे प्रतिशत सफलता हो, तो सभी चरण सही होने की संभावना लगभग एक-तिहाई ही रहती है। और चौथे कदम पर हुई गलती पाँचवें कदम पर उसका पूरा नज़ारा बदल देती है, इसलिए वह गलत जगह से ही, पूरे आत्मविश्वास से आगे बढ़ता जाता है। उसे ब्राउज़र दीजिए, तो जो भी पन्ना वह पढ़े, उसमें छिपे हुक्म हो सकते हैं; शोधकर्ता दिखा चुके हैं कि ब्राउज़ करने वाले एजेंट इस तरह भटकाए जा सकते हैं। असली जैसे वेब कामों पर, सबसे अच्छे एजेंट 2023 में सात में से लगभग एक बार सफल होते थे, और 2025 में आधे से ज़्यादा बार; इंसान लगभग पाँच में से चार बार। इसलिए इसे खुलकर पढ़ने दीजिए, पर कोई भी काम पुष्टि के बाद: भेजना, भुगतान, मिटाना और प्रकाशित करना, हर कदम किसी इंसान की हाँ का इंतज़ार करे, कम से कम अनुमतियों और पूरे लॉग के साथ। कोई अपने सहकर्मी का मेडिकल सर्टिफ़िकेट एक चैटबॉट में पेस्ट करता है, सिर्फ़ साथ जाने वाले ईमेल के शब्द सुधारने के लिए। शब्द तो ठीक सुधर जाएँगे; दिक्कत यह है कि किसी और की सेहत की जानकारी एक तीसरे पक्ष तक पहुँच गई, ऐसे काम के लिए जिसे उसकी ज़रूरत ही नहीं थी। चैटबॉट कोई राज़दार नहीं: 2025 में, सबसे बड़ी चैटबॉट कंपनी के प्रमुख ने कहा कि इन बातचीतों को कोई कानूनी गोपनीयता हासिल नहीं, और अदालत इन्हें माँग सकती है। आम उपयोग का चैटबॉट लाइसेंस प्राप्त पेशेवर नहीं है, और न ही भरोसेमंद रिकॉर्ड रखने की गारंटी देता है: कल फिर पूछिए, तो जवाब बदल सकता है। इसलिए पहचान के दस्तावेज़ और राज़ इससे दूर रखिए: आधार, पैन और पासपोर्ट नंबर, पासवर्ड, ओटीपी और कार्ड नंबर। दूसरों का निजी डेटा भी दूर रखिए। भारत का 2023 का डेटा संरक्षण कानून निजी डेटा सँभालने वाली संस्थाओं पर ज़िम्मेदारियाँ रखता है; मुख्य ज़िम्मेदारियाँ मई 2027 से लागू होनी हैं। स्वास्थ्य, कानून और पैसों के मामलों में इससे सवाल तैयार कीजिए, फैसले का अकेला आधार मत बनाइए: उपकरणों से नई जानकारी मिलने पर भी गलतियाँ और कमियाँ रह सकती हैं। इससे पूछिए कि आपकी खून की जाँच की रिपोर्ट में लिखे शब्दों का मतलब क्या है, फिर बेहतर सवाल लेकर अपने डॉक्टर के पास जाइए। और आखिरी चीज़, जो इसे नहीं सौंपनी, वह है खुद फ़ैसला। तुर्की के एक हाई स्कूल के अध्ययन में गणित के लगभग एक हज़ार विद्यार्थी शामिल थे; चैटबॉट से अभ्यास करने वालों की तुलना बिना चैटबॉट वाले समूह से की गई। जिन्हें सीधे जवाब देने वाला संस्करण मिला, उन्होंने अभ्यास में बेहतर किया, पर उसके हटते ही परीक्षा में उनके अंक उन छात्रों से सत्रह प्रतिशत कम आए, जिन्हें यह कभी मिला ही नहीं था। जो संस्करण जवाब की जगह इशारे देता था, उसने यह नुकसान काफ़ी हद तक टाल दिया। जिस टूल ने काम खुद कर दिया, उसने वही अभ्यास छीन लिया, जिससे हुनर बनता है। विमानन की दुनिया इससे जुड़ा एक जाल लंबे समय से जानती है, ऑटोमेशन बायस: जो टूल अक्सर सही होता है, वह जाँचना छोड़ने की आदत डाल देता है, और धाराप्रवाह जवाबों पर ज़रूरत से ज़्यादा भरोसा हो जाता है। 2025 में कई सौ नॉलेज वर्कर्स के एक सर्वे में, लोगों को किसी काम पर टूल पर जितना ज़्यादा भरोसा था, उन्होंने उतनी ही कम आलोचनात्मक सोच की बात बताई। इसलिए पहले खुद मसौदा लिखिए, फिर पूछिए, और दोनों की तुलना कीजिए। इसके मसौदे को सहकर्मी के काम की तरह परखिए, बॉस के काम की तरह नहीं; हर खास संख्या, नाम और तारीख जाँचिए; और इसके जवाब के खिलाफ़ सबसे मज़बूत दलील माँगिए। और कभी-कभी, जानबूझकर, इसके बिना काम कीजिए। कुल मिलाकर, यह तेज़ और धाराप्रवाह बोलने वाले साथी जैसा लग सकता है—जिसकी जानकारी कहीं मज़बूत है, कहीं कमज़ोर, और जिसके आत्मविश्वास को आपको जाँचना है। इसे वे काम दीजिए, जिनका जवाब सामग्री में हो और जिनकी जाँच आसान हो, और इसे सिर्फ़ सवाल नहीं, पूरा दस्तावेज़ थमाइए। गैरज़रूरी निजी विवरण दूर रखिए, ट्रेनिंग की सेटिंग जाँचिए, और संवेदनशील काम के लिए ऐसा जाँचा हुआ ऑफ़लाइन सेटअप सोचिए जिसमें क्लाउड सुविधाएँ और बाहरी सर्वर से जुड़े टूल बंद हों। जहाँ छोटा मॉडल काफ़ी हो, वहाँ वही लीजिए, एजेंट को सिर्फ़ आपकी हाँ के बाद काम करने दीजिए, और पहला मसौदा खुद लिखिए। लिखित पाठ इससे आगे ले जाते हैं, अध्ययनों, हल किए गए उदाहरणों और खुद को परखने वाले सवालों के साथ। आप अडाली के साथ सीख रहे थे। मसौदा इसे लिखने दीजिए; दस्तख़त कभी नहीं।