AI, Actually Explained · Chapter 02

Where it already is, without a label

जहाँ एआई पहले से मौजूद है, बिना किसी नाम-पट्टी के

12:30 · कृत्रिम आवाज़ में वर्णन। प्लेयर में कैप्शन उपलब्ध हैं।

प्रतिलेख पढ़ें

आपके दिन पर ऐसे अनुमानों का असर पड़ सकता है, जिन्हें आपने कभी माँगा ही नहीं। कौन-सा संदेश आप तक पहुँचे, आप कौन-सा रास्ता चुनें, और कौन-सी तस्वीर सँभालकर रखें। इनमें से किसी के लिए रोबोट या एआई लिखा चमकता निशान ज़रूरी नहीं है। अडाली में आपका स्वागत है। पिछले अध्याय में हमने लिखे हुए नियमों और प्रशिक्षण से सीखे गए व्यवहार का फ़र्क समझा था। अब हम एक आम दिन के साथ ऐसे शहर से गुज़रेंगे, जहाँ कई फ़ैसले चुपचाप होते हैं। हर पड़ाव पर पूछिए कि अनुमान किस बात का है, व्यवस्था क्या बेहतर करना चाहती है, और गलती की कीमत किसे चुकानी पड़ती है। कल्पना कीजिए कि एक फ़ोन खुलकर छोटे-से शहर में बदल जाता है। एक संदेश दरवाज़े से गुज़रता है, एक कार्यशाला में तस्वीर बनती है, और इमारतों के बीच एक रास्ता जगमगा उठता है। ये समझाने के लिए बनाए गए दृश्य हैं, किसी खास कंपनी की व्यवस्थाओं का नक्शा नहीं। समझने का एक उपयोगी क्रम है: जानकारी, अनुमान, कार्रवाई और उसका नतीजा। ईमेल से उसका पाठ और दूसरे संकेत मिलते हैं, फ़िल्टर उसके अनचाहा होने का अनुमान लगाता है, और सेवा तय करती है कि उसे कहाँ रखना है। कुछ चरण प्रशिक्षित मॉडल इस्तेमाल कर सकते हैं, कुछ लिखे हुए नियम, और कई उत्पाद दोनों को मिलाकर काम करते हैं। गलती की दर एक जैसी हो, तब भी कार्रवाई बदलने से उसके नतीजे बहुत अलग हो सकते हैं। बेकार सुझाव मिलना और भुगतान रुक जाना, प्रभावित व्यक्ति के लिए एक जैसी मुश्किलें नहीं हैं। इसलिए न जाना-पहचाना इंटरफ़ेस और न एआई का नाम अपने आप में काफ़ी जानकारी देता है। हमारा पहला पड़ाव ऐसी अलमारी है, जिसकी चीज़ें अपना क्रम बदलती रहती हैं: आपकी फ़ीड। सुझाव देने वाली व्यवस्था विशाल संग्रह में से कुछ विकल्प चुन सकती है, फिर उन्हें अंक देकर क्रम में रख सकती है। दो हज़ार सोलह के एक शोधपत्र में यूट्यूब के लिए यह दो-चरण वाला ढाँचा बताया गया था; यह एक उदाहरण है, आज की हर फ़ीड का नक्शा नहीं। अच्छा क्रम किसे कहा जाए, यह चुने गए लक्ष्यों और संकेतों पर निर्भर करता है। देखना, छोड़ देना, लाइक, सर्वेक्षण और दूसरे संकेत, अलग-अलग व्यवस्थाओं में अलग महत्व रख सकते हैं। दो हज़ार इक्कीस की यूट्यूब की व्याख्या में देखने के समय के साथ संतुष्टि के सर्वेक्षण और सुरक्षा उपाय भी शामिल थे। इसलिए हमें यह नहीं मानना चाहिए कि हर फ़ीड सिर्फ़ देखने के मिनट बढ़ाती है, या लाइक का कोई महत्व ही नहीं होता। फिर भी, आप कोई चीज़ देखेंगे इसका अनुमान लगाना, यह साबित करना नहीं है कि वह सच है या आपके काम की है। सेवा के इतिहास, सुझावों और प्रतिक्रिया से जुड़े उपलब्ध नियंत्रणों का विवरण पढ़िए; उनका असर अलग-अलग हो सकता है। अलमारी मुड़कर ऐसा दरवाज़ा बन जाती है, जो आने वाले संदेशों और भुगतानों को छाँटता है। स्पैम फ़िल्टर या धोखाधड़ी पहचानने वाला मॉडल, संकेतों से अंक बना सकता है और उनकी तुलना एक सीमा से कर सकता है। उस सीमा को बदलने से छूट जाने वाले मामलों और गलत चेतावनियों के बीच संतुलन बदलता है। यह समझाने के लिए बनाया गया उदाहरण है, किसी असली बैंक की रिपोर्ट नहीं। मान लीजिए, दस लाख लेन-देन में से एक हज़ार में धोखाधड़ी है। मान लीजिए, मॉडल धोखाधड़ी वाले निन्यानवे प्रतिशत मामलों को पकड़ता है और सही लेन-देन में से निन्यानवे प्रतिशत को सही तरह जाने देता है। वह धोखाधड़ी वाले नौ सौ नब्बे लेन-देन पकड़ता है। लेकिन सही लेन-देन के कहीं बड़े समूह का एक प्रतिशत, नौ हज़ार नौ सौ नब्बे गलत चेतावनियाँ बन जाता है। चेतावनी वाले कुल लेन-देन में से लगभग नौ प्रतिशत में ही सचमुच धोखाधड़ी होती है। ज़रूरी जानकारी यह थी कि धोखाधड़ी कितनी कम होती है और दिए गए प्रतिशत किस तरह की गलतियों से जुड़े हैं। सिर्फ़ यह कहना कि निन्यानवे प्रतिशत सही है, इन सवालों का जवाब नहीं देता। हमलावरों और सामान्य व्यवहार के बदलने पर जाँच भी अद्यतन करनी पड़ती है; दोबारा प्रशिक्षण देने का कोई एक समय-नियम हर जगह लागू नहीं होता। दरवाज़े के आगे, रोशनी तस्वीर बनाने वाली कार्यशाला में पहुँचती है। फ़ोन की तस्वीर बनने में रोशनी का समायोजन, कई फ़्रेम लेना, उन्हें मिलाना, शोर कम करना और धार बढ़ाना जैसे चरण हो सकते हैं। कुछ प्रक्रियाएँ सीखे हुए घटक इस्तेमाल करती हैं; कुछ उन्हें बनाए गए गणनात्मक तरीकों के साथ मिलाती हैं। मिसाल के लिए, गूगल के प्रकाशित एचडीआर प्लस शोध में कई फ़्रेमों को मिलाने और फ़िल्टर करने के तरीके बताए गए थे; हर चरण प्रशिक्षित मॉडल नहीं था। इन तरीकों से कम रोशनी के दृश्य देखना आसान हो सकता है। लेकिन सुधार की प्रक्रिया बारीक विवरण बदल भी सकती है, और कुछ जनरेटिव औज़ार ऐसा विश्वसनीय दिखने वाला विवरण जोड़ सकते हैं, जिसे कैमरे ने लिया ही नहीं था। अगर कोई महीन दरार महत्वपूर्ण है, तो सुंदर दिखना ही एकमात्र कसौटी नहीं है। मूल फ़ाइल सँभालकर रखें और दर्ज करें कि तस्वीर कैसे ली और संसाधित की गई; जिसे प्रमाण देना है, उसकी आवश्यकताओं का पालन करें। केवल रॉ लिखा होना, बिना बदलाव वाले प्रमाण की गारंटी नहीं है: ऐप्पल प्रोरॉ में रॉ जानकारी और गणनात्मक प्रसंस्करण को जानबूझकर मिलाया जाता है। कार्यशाला की रेखाएँ सड़कों में बदलती हैं, फिर कीबोर्ड पर शब्दों को जोड़ने वाले रास्तों में। टाइप करने में मदद देने वाला औज़ार, कर्सर के आसपास के पाठ से आगे आने वाले शब्दों का अनुमान लगा सकता है। संभव लगने का अर्थ यह नहीं कि आप वही कहना चाहते थे: भेजने से पहले वाक्य पढ़िए। कुछ सुविधाएँ उपकरण पर चलती हैं, कुछ बाहर की सेवा से संपर्क करती हैं, और कुछ दोनों तरीके मिलाती हैं। केवल इंटरफ़ेस देखकर यह तय नहीं किया जा सकता; उस उत्पाद की डेटा-इस्तेमाल संबंधी जानकारी और सेटिंग जाँचिए। रास्ता बताने वाली व्यवस्था यातायात के अनुमान और सड़क की जानकारी से रास्तों की तुलना कर सकती है। हमारे कल्पित शहर में बहुत-से चालक एक ही शांत छोटे रास्ते पर पहुँचते हैं, और वहाँ भीड़ बढ़ जाती है। यह फीडबैक चक्र है: अनुमान के आधार पर कार्रवाई करने से भविष्य के माप बदल सकते हैं। बदलते रास्ते का यह एक संभावित कारण है, किसी असली ऐप की सलाह बदलने का प्रमाण नहीं। सड़क के अंत में, एक संदेश भाषाओं के बीच बने पुल को पार करता है। अनुवाद व्यवस्था को अर्थ बचाते हुए दूसरी भाषा में स्वाभाविक वाक्य बनाना होता है। उसका प्रदर्शन भाषा की जोड़ी, उपलब्ध डेटा, विषय और व्यवस्था पर निर्भर करता है। सहज लगने वाला वाक्य भी कोई नाम, संख्या, शर्त या नहीं शब्द बदल सकता है। समझाने के लिए बनाया गया डिलीवरी संदेश लीजिए: पार्सल बाहर मत छोड़ना। मना करने वाला हिस्सा हट जाए, तो निर्देश उलट जाता है, भले ही व्याकरण सुंदर बना रहे। ज़रूरी नामों, मात्राओं और शर्तों को मूल संदेश से मिलाइए। वापस अनुवाद करने या दूसरे मॉडल से पूछने पर गलती मिल सकती है; दोनों का सहमत होना यह साबित नहीं करता कि अर्थ सुरक्षित रहा। महत्वपूर्ण असर वाली सामग्री के लिए ऐसा सक्षम द्विभाषी समीक्षक लें, जिसे संबंधित विषय की समझ भी हो। संदेश ध्वनि की लहर बनता है और अनुमान लगाने वाली एक दूसरी व्यवस्था से गुज़रता है। वाक्-पहचान ऑडियो को पाठ में बदलती है, लेकिन मिले हुए पाठ की जाँच फिर भी ज़रूरी है। उच्चारण, भाषाएँ, शोर, एक साथ बोलती आवाज़ें और अपरिचित नाम नतीजे पर असर डाल सकते हैं। शब्द-त्रुटि दर में संदर्भ पाठ से तुलना करके बदले गए, छोड़े गए और जोड़े गए शब्द गिने जाते हैं। यह उपयोगी है, लेकिन इससे यह पता नहीं चलता कि कौन-सी गलती सबसे महत्वपूर्ण है। मंज़ूरी न दें को मंज़ूरी दें बना देना छोटा-सा संपादन है, लेकिन अर्थ में बड़ा बदलाव है। व्हिस्पर सहित कुछ व्यवस्थाएँ ऐसे शब्द भी बना सकती हैं, जो बोले ही नहीं गए थे। विराम-चिह्नों और वक्ता के नामों की भी जाँच चाहिए, खासकर जब ठहराव या वक्ता बदलने से अर्थ बदलता हो। ऑडियो सँभालकर रखें, अनुमान लगाने के बजाय अनिश्चित हिस्सा चिह्नित करें, और ज़रूरी नाम, संख्याएँ तथा नहीं जैसे शब्द दोबारा सुनें। सुलभता के लिए, कैप्शन में वही होना चाहिए जो सचमुच रिकॉर्ड हुआ है, केवल वह नहीं जो पटकथा में बोलना तय था। ध्वनि की लहर ऐसी मेज़ तक पहुँचती है, जहाँ किसी नतीजे से एक व्यक्ति के अवसर प्रभावित हो सकते हैं। कल्पना कीजिए कि जानकारी अधूरी होने के कारण किसी आवेदन को समीक्षा के लिए चिह्नित किया गया है। अगर कर्मचारी उस निशान को गलत काम का प्रमाण मान लें, तो अनुमान आरोप बन गया है। यह समझाने के लिए बनाई गई प्रक्रिया है, किसी खास स्कूल, ऋणदाता या सरकार के बारे में दावा नहीं। सवाल केवल यह नहीं है कि गणनात्मक तरीका कितना चतुर है। कौन-सी जानकारी इस्तेमाल हुई, क्या वह सही थी, उसके बाद क्या कार्रवाई हुई, और क्या कोई ज़िम्मेदार व्यक्ति मामले की समीक्षा कर सकता है? प्रक्रिया में इंसान होना तभी मदद करता है, जब उसके पास नतीजे पर सवाल उठाने की जानकारी, समय और अधिकार हों। लिखे हुए नियम भी बड़े पैमाने पर नुकसानदेह फ़ैसले पैदा कर सकते हैं; नुकसान के लिए मशीन लर्निंग होना ज़रूरी नहीं। उपलब्ध स्पष्टीकरण, समीक्षा और अपील की प्रक्रिया सेवा और जगह के अनुसार बदलती है; किसी प्रक्रिया को मौजूद मान लेने के बजाय असल जानकारी जाँचिए। मेज़ से आगे एक कारखाना, एक खेत और एक क्लिनिक दिखाई देते हैं। कारखाने का औज़ार असामान्य कंपन पर चेतावनी दे सकता है; खेती का औज़ार पत्ते की तस्वीर का वर्गीकरण कर सकता है। हर काम एक खास कार्य है, मशीन या फसल की हर बात की सामान्य समझ नहीं। साफ़-सुथरे ढंग से ली गई पत्तों की तस्वीरों पर जाँचा गया मॉडल, रोशनी, पृष्ठभूमि या कैमरा बदलने पर मुश्किल में पड़ सकता है। उपयोगी जाँच में असली कामकाजी हालात और चेतावनी के बाद होने वाली कार्रवाई भी शामिल होती है। स्वास्थ्य सेवाओं में अलग व्यवस्थाओं की तय भूमिकाएँ अलग होती हैं: कुछ समीक्षा में मदद करती हैं, जबकि कुछ अधिकृत उपकरण सीमित, स्पष्ट रूप से तय काम अपने आप करते हैं। इनमें से किसी का अर्थ यह नहीं कि वे किसी भी उपकरण से, हर व्यक्ति की हर बीमारी पहचान सकते हैं। नतीजे को उसी खास काम, लोगों के समूह, उपकरण और कार्य-प्रक्रिया के अनुसार परखना चाहिए, जिसके लिए व्यवस्था की जाँच हुई है और जहाँ लागू हो, अनुमति मिली है। यह औज़ारों का मूल्यांकन करने का पाठ है, चिकित्सा या इलाज की सलाह नहीं। शहर के चौराहे पर लौटने पर, उत्पाद समझदार मदद के विज्ञापन दिखाते हैं। बदलती शब्दावली, टाइपिंग जैसा दृश्य या गलतियों की चेतावनी, जनरेटिव सुविधा का संकेत दे सकती है, लेकिन इनमें से कोई भीतर चल रही तकनीक का प्रमाण नहीं। सामान्य कोड अपने शब्द बदल सकता है, और मॉडल दो बार एक ही जवाब दे सकता है। इंटरनेट के बिना काम करना भी निर्णायक नहीं है: कोई सुविधा स्थानीय मॉडल, पहले से सँभाले नतीजे या लिखे हुए नियम इस्तेमाल कर सकती है। सेवा देने वाले का उत्पाद-विवरण, मॉडल की जानकारी और डेटा के इस्तेमाल का स्पष्टीकरण खोजिए। जानकारी न मिले, तो अज्ञात लिखिए; संकेत को तथ्य मत बना दीजिए। फिर फ़ैसले के क्रम पर लौटिए: जानकारी, अनुमान, कार्रवाई और नतीजा। सटीक मॉडल पहचाने बिना भी आप पूछ सकते हैं कि नतीजे के समर्थन में क्या प्रमाण है और उसके गलत होने पर क्या करना चाहिए। अब एक उपयोगी चीज़ बनाइए: किसी जानी-पहचानी सुविधा की एक पन्ने की जाँच। कागज़ काफ़ी है; नया खाता या पैसे वाला औज़ार ज़रूरी नहीं। कम जोखिम वाला उदाहरण चुनिए, जैसे पढ़ने की सामग्री का सुझाव, और निजी या संवेदनशील जानकारी शामिल न कीजिए। सुविधा का नाम, दिखने वाली जानकारी के आधार पर उसका इनपुट, उसका नतीजा और उसके बाद की कार्रवाई लिखिए। आपने जो देखा, उसे सेवा देने वाले की लिखी जानकारी से अलग रखिए, और बाकी सबको अज्ञात चिह्नित कीजिए। बताया गया लक्ष्य मिले तो जोड़िए; उचित लगने वाला अंदाज़ा भी अंदाज़ा ही है। एक गलत चेतावनी और एक छूटे हुए मामले का उदाहरण लिखिए; किस पर असर होगा और दोनों कितने गंभीर हो सकते हैं, यह बताइए। अंत में, एक उपलब्ध नियंत्रण या जाँच का कदम लिखिए, और एक सवाल, जो आप सेवा देने वाले से पूछना चाहेंगे। अपनी जाँच किसी और को समझाइए; उनसे ऐसा अनुमान ढूँढ़ने को कहिए, जिसे आपने तथ्य मान लिया हो। इसे आज़माने के लिए यहाँ रुकिए। शहर के दरवाज़े, सड़कें और पुल अब उसी एक पन्ने पर समा गए हैं। आपको हर डिजिटल सुविधा को एआई कहना ज़रूरी नहीं, और न हर अनुमान को सिर्फ़ इसलिए खारिज करना कि वह गलत हो सकता है। काम पहचानिए, उसके बाद की कार्रवाई समझिए, और नतीजे की गंभीरता के अनुसार जाँच चुनिए। लिखित अध्याय में और उदाहरण तथा अभ्यास हैं; जिस हिस्से को विस्तार से समझना चाहें, उसे वहाँ पढ़िए। अपना जाँच-पन्ना सँभालकर रखिए: हम पूछते रहेंगे कि कोई व्यवस्था भरोसे के योग्य कैसे बनती है, केवल यह नहीं कि उसका जवाब कितना प्रभावशाली लगता है। आप अडाली के साथ सीख रहे थे। इस अध्याय के साथ स्रोत और गतिविधि शामिल हैं।

स्रोत और आगे पढ़ें (8)