AI, Safety and What Goes Wrong · Chapter 03
Truth, sources and verification
सच, स्रोत और उनकी जाँच
2:37 · कृत्रिम आवाज़ में वर्णन। प्लेयर में कैप्शन उपलब्ध हैं।
प्रतिलेख पढ़ें
मरम्मत मेले का नया पोस्टर पाँच सौ मुफ़्त किट का वादा करता है और स्कूल की सूचना का हवाला देता है। आयोजकों को याद है कि उन्होंने इससे कम किट मँगाई थीं। चलो लिंक, असली रिकॉर्ड और सामान के डिब्बों तक जाकर देखें कि यह संख्या कहाँ से आई। मॉडल की लिखी बात ग़लत हो तो भी वह उतनी ही साफ़ लग सकती है। इसे अक्सर हैल्यूसिनेशन कहते हैं। एक दावा अलग करें, कि पाँच सौ किट उपलब्ध हैं, और इसे छापने या बाँटने से पहले तारीख़ वाली सामान की सूची ढूँढें। मॉडल अपने जवाब में भरोसेमंद दिखने वाला शीर्षक और लिंक लिख सकता है। वह कोई हवाला दे तो असली दस्तावेज़ खोलें और दावे का समर्थन करने वाला अंश खोजें। जाने-पहचाने शब्दों से अकेले पता नहीं चलता कि मॉडल ने सच में कोई स्रोत खोला था। मॉडल आसानी से कह सकता है कि उसे पूरा यक़ीन है। भरोसे के संख्यात्मक स्कोर को परखने के लिए उसी स्कोर वाले मिलते-जुलते जवाब जाँचें। उस काम पर अस्सी फ़ीसदी के स्कोर का सही मतलब हो, तो लगभग दस में आठ जवाब सही निकलने चाहिए। स्रोत ढूँढने वाला टूल जवाब बनाते समय दस्तावेज़ ला सकता है। देखें कि संग्रह में नई सूची मौजूद है और खोज ने पुरानी सूचना की जगह वही सूची निकाली है। फिर देखें कि मिला हुआ अंश उसी दावे का समर्थन करता है। खोज का सारांश कहता है कि पाँच सौ किट देना तय है। मसौदा खोलें और पूरी पंक्ति पढ़िए। लिखा है कि और दान मिले तो पाँच सौ किट तक दी जा सकती हैं। शर्त और तारीख़ दोनों देखें, फिर तय करें कि क्या कहा जा सकता है। क्लब की दो पोस्ट में वही मसौदा दोहराया गया है, इसलिए देखें कि संख्या पहली बार कहाँ लिखी गई थी। फिर अलग सबूत खोजें, जैसे सामान मिलने का रजिस्टर और डिब्बों की अपनी गिनती। लिखें कि हर सबूत से कौन सी बात पक्की होती है। रजिस्टर में बारह डिब्बे हैं और हर डिब्बे में दस किट हैं। बारह को दस से गुणा करें, कुल एक सौ बीस किट मिलती हैं। इसे पाँच सौ से मिलाएँ और पोस्टर बदलने से पहले देखें कि सामान की कोई दूसरी खेप सच में आई थी या नहीं। सामान की गिनती आप खुद जाँच सकते हैं। अगर मसौदे में मरम्मत का कोई तरीका सुरक्षित बताया गया है, तो टूल से पूछें कि किन शब्दों से उसकी जानकारी खोजें। किसी के उसे आज़माने से पहले कार्यशाला के शिक्षक से उस तरीके की सुरक्षा जँचवाएँ। पोस्टर पर अब एक सौ बीस किट लिखी हैं और तारीख़ वाले रजिस्टर का नाम दिया गया है। एक काल्पनिक दावे पर तीन जाँचें करें, स्रोत ढूँढें, असली अंश पढ़ें और संख्या परखें। अगले अध्याय में देखेंगे कि नाम लिखाते समय दी गई जानकारी कहाँ जाती है।