AI, Actually Explained · Chapter 01
What this word actually means
इस शब्द का वास्तव में क्या मतलब है
10:01 · कृत्रिम आवाज़ में वर्णन। प्लेयर में कैप्शन उपलब्ध हैं।
प्रतिलेख पढ़ें
एक जवाब सामने आता है। वह आत्मविश्वास से भरा लगता है। उसके दिए गए संदर्भ, यानी रेफ़रेंस भी भरोसेमंद दिखते हैं। लेकिन उस पर भरोसा करने से पहले हमें उसके पीछे झाँकना होगा। अडाली में आपका स्वागत है। एआई, ऐक्चुअली एक्सप्लेंड — यानी एआई की वास्तविक समझ। अध्याय एक: यह शब्द वास्तव में किस चीज़ का नाम है। इस अध्याय को एक नक्शे की तरह समझिए। हम इसे खोलेंगे, इसके रास्तों पर चलेंगे, और जानेंगे कि कौन-से सवाल अपने साथ रखने लायक हैं। आर्टिफ़िशियल इंटेलिजेंस एक व्यापक क्षेत्र का नाम है। यह कोई एक मशीन नहीं है। शतरंज का प्रोग्राम, स्पैम फ़िल्टर और चैटबॉट अलग-अलग तरीकों से काम कर सकते हैं। यह वाक्यांश उन्नीस सौ पचपन के एक प्रस्ताव में आया था, जो अगली गर्मियों के एक शोध प्रोजेक्ट के लिए लिखा गया था। इसने एक महत्वाकांक्षा को नाम दिया था, किसी तैयार तकनीक को नहीं। इसलिए तीन सवाल पूछिए। अंदर क्या जाता है, और बाहर क्या आता है? इसका यह व्यवहार कहाँ से आया? और जब यह ग़लत होता है, तो इसका पता किसे चलता है, और इसकी क़ीमत कौन चुकाता है? केवल नाम का लेबल इन सवालों का जवाब नहीं दे सकता। अब यह नक्शा देखिए। एआई में सर्च, लिखे गए नियम और सीखे गए मॉडल शामिल हैं — और अक्सर इन्हें मिलाकर इस्तेमाल किया जाता है। मशीन लर्निंग डेटा या अनुभव से व्यवहार को ढालती है, यानी फ़िट करती है। प्रक्रिया, उदाहरण और उद्देश्य का चुनाव तब भी इंसान ही करते हैं। डीप लर्निंग में कई परतों वाले न्यूरल नेटवर्क्स का उपयोग होता है। अपने नाम के बावजूद, कृत्रिम नेटवर्क जैविक मस्तिष्क नहीं होते। ‘जेनरेटिव’ शब्द किसी कार्य का वर्णन करता है — सामग्री तैयार करना, जैसे शब्द, चित्र या ध्वनि। जाने-पहचाने कई जनरेटर डीप लर्निंग का उपयोग करते हैं, लेकिन सामग्री तैयार करना केवल इसी तरीके तक सीमित नहीं है। चैट बॉक्स आपको केवल यह बताता है कि संवाद कैसे करना है। वह यह नहीं बताता कि उसके पीछे क्या-क्या काम कर रहा है। दो ईमेल फ़िल्टरों की कल्पना कीजिए। यह समझने के लिए एक उदाहरण है। पहला किसी व्यक्ति के लिखे नियम पर चलता है: जिन संदेशों में ‘फ़्री मनी’, यानी ‘मुफ़्त पैसा’ लिखा हो, उन्हें रोक दो। दूसरा ऐसे उदाहरणों से ढाला गया है जिन पर ‘स्पैम’ या ‘स्पैम नहीं’ का लेबल लगा था। यह हर संदेश के लिए अलग निर्देश पाने के बजाय एक निर्णय-फ़ंक्शन, यानी डिसिज़न फ़ंक्शन सीखता है। दोनों का अंतर इस बात में है कि उनका व्यवहार कैसे प्राप्त किया गया। सीखे गए एक छोटे डिसिज़न ट्री में भी पढ़े जा सकने वाले नियम हो सकते हैं। इसके मुक़ाबले एक बड़े न्यूरल नेटवर्क की व्याख्या करना ज़्यादा कठिन होता है। अगर दोनों में से कोई भी किसी ज़रूरी संदेश को रोक दे, तो कारण की जाँच कीजिए। सुधार में किसी नियम, किसी इनपुट, किसी निर्णय-सीमा यानी थ्रेशहोल्ड में बदलाव, या फिर दोबारा ट्रेनिंग शामिल हो सकती है। और फिर उसका परीक्षण कीजिए। ट्रेनिंग आख़िर होती कैसे है? न्यूरल नेटवर्क की एक सामान्य व्यवस्था में शुरुआत संख्यात्मक पैरामीटर्स से होती है। इन्हें घुमाकर समायोजित किए जा सकने वाले डायलों की तरह समझिए। मॉडल किसी उदाहरण के लिए एक उत्तर का अनुमान लगाता है। चुना गया त्रुटि-माप, जिसे ‘लॉस’ कहते हैं, उस अनुमान की तुलना लक्ष्य यानी टारगेट से करता है। एक ऑप्टिमाइज़र उस लॉस को कम करने की कोशिश में ट्रेन किए जा सकने वाले पैरामीटर्स में छोटे-छोटे बदलाव करता है। अनुमान लगाइए। तुलना कीजिए। बदलाव कीजिए। दोहराइए। यह केवल एक तरीका है। डिसिज़न ट्री अलग तरह से ढाला जाता है — डेटा से शाखाएँ चुनकर। केवल ट्रेनिंग के उदाहरणों पर बेहतर होना काफ़ी नहीं है। विकल्पों के चुनाव में मार्गदर्शन के लिए अलग वैलिडेशन डेटा का उपयोग कीजिए, और फिर अलग रखे गए हेल्ड-आउट टेस्ट डेटा पर मूल्यांकन कीजिए। संबंधित समूहों और परिस्थितियों में भी जाँच कीजिए। ज़्यादा उदाहरण या ज़्यादा अपडेट बेहतर परिणाम की गारंटी नहीं देते। न्यूरल लैंग्वेज मॉडल के ट्रेन किए गए आर्टिफ़ैक्ट में संख्यात्मक वेट्स शामिल होते हैं। इनका उपयोग मॉडल सॉफ़्टवेयर के साथ किया जाता है। ये पैरामीटर्स प्रभावित करते हैं कि इनपुट किस तरह आउटपुट में बदलते हैं। ये टोकनों से अलग होते हैं — टोकन टेक्स्ट के वे टुकड़े हैं जो अंदर जाते और बाहर आते हैं। कॉन्टेक्स्ट विंडो तय करती है कि मॉडल एक बार में कितनी जानकारी को ध्यान में रख सकता है। इसे उसकी काम करने की मेज़ समझिए, स्थायी याददाश्त नहीं। ऐप्लिकेशन इसमें अन्य हिस्से जोड़ता है: निर्देश, सहेजे गए नोट्स, दस्तावेज़ों की खोज और टूल्स। वेट्स की फ़ाइल स्रोतों का कोई भरोसेमंद संग्रह, यानी आर्काइव नहीं होती। फिर भी न्यूरल मॉडल कभी-कभी ट्रेनिंग के अंश दोहरा सकते हैं। न तो नयापन और न ही दोहराव यह साबित करता है कि कोई उत्तर सत्यापित है। अनुमान, यानी प्रेडिक्शन, इनमें से कई प्रणालियों को आपस में जोड़ता है। स्पैम पहचानने वाली प्रणाली एक श्रेणी का अनुमान लगाती है। कई टेक्स्ट जनरेटर मौजूदा कॉन्टेक्स्ट के आधार पर अगले टोकन का अनुमान लगाते हैं। लेकिन चुने गए लक्ष्य का अनुमान लगाना हमारे वास्तविक उद्देश्य को पूरा करने से अलग बात है। कल्पना कीजिए कि तस्वीरों को पहचानने वाले एक क्लासिफ़ायर को ऐसे ट्रेन किया गया है जहाँ पत्ती की हर तस्वीर के कोने में नीला निशान है, और फूल की हर तस्वीर के कोने में लाल निशान है। हो सकता है कि वह पौधों के बजाय उन निशानों को ही सीख ले। निशान बदल दीजिए, तो यह शॉर्टकट विफल हो सकता है। पूछिए कि उसे किस चीज़ का अनुमान लगाने के लिए पुरस्कृत किया गया था। वे लक्ष्य, यानी टारगेट, कहाँ से आए थे? और जब पैटर्न बदलता है, तब क्या होता है? अब एक चैटबॉट कोई ग़लती करता है। आप उसे सुधारते हैं। उसका अगला जवाब बेहतर हो जाता है। क्या उसने आपका सुधार स्थायी रूप से सीख लिया है? ज़रूरी नहीं। जब वेट्स स्थिर यानी फ़्रोज़न हों, तो सामान्य रूप से जवाब देने की प्रक्रिया उन वेट्स को अपडेट नहीं करती। सुधार से मदद इसलिए मिल सकती है क्योंकि वह इस बातचीत के कॉन्टेक्स्ट में मौजूद है। कोई प्रोडक्ट बाद के लिए एक मेमोरी भी सहेज सकता है या कोई दस्तावेज़ खोजकर ला सकता है। ये अलग-अलग तंत्र हैं। कुछ प्रणालियों को आगे की ट्रेनिंग के ज़रिए जानबूझकर अपडेट किया जाता है, जिसमें क्रमिक प्रशिक्षण यानी इंक्रीमेंटल लर्निंग शामिल है। तो बदला कौन-सा हिस्सा: वर्तमान इनपुट, सहेजी गई जानकारी, आसपास का सॉफ़्टवेयर, या मॉडल के पैरामीटर्स? केवल एक नई बातचीत किसी प्रोडक्ट के पीछे चलने वाली हर प्रक्रिया को उजागर नहीं कर सकती। क्या यह सब वास्तव में ‘समझ’ कहलाता है? समझ के लिए क्या आवश्यक है, इस पर शोधकर्ताओं में मतभेद है। केवल धाराप्रवाह और प्रभावशाली भाषा इस सवाल का फ़ैसला नहीं करती। और केवल कोई एक विफलता भी इसका फ़ैसला नहीं करती। ओथेलो खेल के एक नियंत्रित अध्ययन में, शोधकर्ताओं ने एक मॉडल को खेल की चालों के क्रम पर ट्रेन किया। उन्होंने मॉडल की आंतरिक गतिविधि से बोर्ड के बारे में जानकारी प्राप्त की। उस आंतरिक निरूपण, यानी रिप्रेज़ेंटेशन को बदलने पर उसकी चालों के अनुमान बदल गए। यह एक विशेष मॉडल और एक कार्य से जुड़ा प्रमाण है, इंसानों जैसी समझ का सबूत नहीं। व्यावहारिक निर्णयों के लिए यह पूछिए कि प्रणाली भरोसेमंद ढंग से क्या करती है, कौन-से बदलाव उसकी विफलताओं को सामने लाते हैं, और वे विफलताएँ कितनी महँगी पड़ती हैं। शब्द इन बारीक अंतरों को छिपा सकते हैं। एल्गोरिदम एक प्रक्रिया है। किसी एक प्रोडक्ट में कई प्रक्रियाएँ और डेटा से ढाले गए कई मॉडल एक साथ जुड़े हो सकते हैं। शोधकर्ता ‘आर्टिफ़िशियल जनरल इंटेलिजेंस’ के लिए ‘ए-जी-आई’ संक्षिप्त नाम का उपयोग करते हैं। इसकी अलग-अलग प्रस्तावित परिभाषाएँ हैं। पूछिए कि किन क्षमताओं की बात हो रही है, और किन परिस्थितियों में। उन्हें मापा कैसे गया? ‘द एआई’ कहना — मानो एआई कोई एक ही इकाई हो — उतना ही अस्पष्ट है। पूछिए कि कौन-सा मॉडल और कौन-सा संस्करण, यानी वर्ज़न। और ‘आपके डेटा पर ट्रेन किया गया’ — इस वाक्यांश को भी खोलकर समझना ज़रूरी है। अभी जवाब देने के लिए किसी संदेश का उपयोग करना, उसे सहेजकर रखना, लोगों द्वारा उसकी समीक्षा करवाना, और भविष्य की ट्रेनिंग में उसका उपयोग करना — ये अलग-अलग सवाल हैं। उस विशेष प्रोडक्ट की वर्तमान नीति और सेटिंग्स की जाँच कीजिए। कॉन्टेक्स्ट के रूप में टेक्स्ट भेजना अपने-आप में स्थिर यानी फ़्रोज़न वेट्स को दोबारा ट्रेन नहीं करता। अब स्कूल से जुड़े एक काल्पनिक निर्णय पर विचार कीजिए। एक डैशबोर्ड उपस्थिति के लिखे गए नियमों का उपयोग करता है। दूसरा पिछले डेटा के आधार पर दर्ज किए गए स्कूल छोड़ने के मामलों का अनुमान लगाता है। दूसरा डैशबोर्ड बयासी प्रतिशत सटीकता, यानी एक्यूरेसी बताता है। मान लीजिए कि कुल विद्यार्थियों में से एक-पाँचवाँ हिस्सा स्कूल छोड़ता है। तो यह अनुमान लगा देना कि कोई भी विद्यार्थी स्कूल नहीं छोड़ेगा, अपने-आप अस्सी प्रतिशत स्कोर हासिल कर लेगा — जबकि वास्तव में स्कूल छोड़ने वाले किसी भी विद्यार्थी को चिह्नित नहीं करेगा। केवल ऊपर दिखने वाला आँकड़ा काफ़ी नहीं है। छूट गए मामलों, ग़लत चेतावनियों यानी फ़ॉल्स अलार्म्स, स्थानीय स्तर पर हुए परीक्षण, और किसी चिह्नित मामले की समीक्षा कौन करता है — इन सबके बारे में पूछिए। दोनों में से किसी भी तरीके का नाम यह नहीं बताता कि किसी बच्चे के लिए कौन-सी सहायता वास्तव में मददगार होगी। अब शुरुआत वाले उस भरोसेमंद दिखने वाले जवाब पर लौटते हैं। कोई संदर्भ, यानी रेफ़रेंस, प्रमाण तक पहुँचने का रास्ता है — अपने-आप में प्रमाण नहीं। उस रास्ते से किसी स्वतंत्र स्रोत तक जाइए। पढ़कर देखिए कि क्या वह स्रोत इस विशेष दावे की पुष्टि करता है। अगर आप उसकी पुष्टि न कर सकें, तो रुकिए। खोज का विफल होना यह साबित नहीं करता कि बात मनगढ़ंत है। जवाब पर निर्भर होने से पहले किसी दूसरे भरोसेमंद रास्ते से जाँच कीजिए। अब आपके नक्शे पर स्पष्ट पहचान-चिह्न हैं: नियम और सीखने की प्रक्रिया; वेट्स और कॉन्टेक्स्ट; अनुमान और प्रमाण। अपने इस्तेमाल का कोई एक एआई फ़ीचर चुनिए। स्पष्ट कीजिए कि उसमें अंदर क्या जाता है, बाहर क्या आता है, उसका व्यवहार कहाँ से आया, और किसी ग़लती की जाँच आप कैसे करेंगे। अगर कोई बात मालूम न हो, तो स्पष्ट बताइए कि आप कौन-सा सवाल पूछेंगे। यह है अडाली। अपनी जिज्ञासा बनाए रखिए। इन सवालों को अध्याय की गतिविधियों में अपने साथ ले चलिए।