AI, Safety and What Goes Wrong · Chapter 05
Decisions made about you
आपके बारे में किए गए फ़ैसले
2:53 · कृत्रिम आवाज़ में वर्णन। प्लेयर में कैप्शन उपलब्ध हैं।
प्रतिलेख पढ़ें
मीरा के पास अभ्यास में आने की तारीख़ वाली रसीद है, मगर उसे मरम्मत कार्यशाला की इंतज़ार सूची में रखा गया। स्क्रीन पर उसकी हाज़िरी की जगह खाली है। चलो उस खाली खाने का रास्ता रिकॉर्ड तक देखें और पूछें कि उसे कौन सुधार सकता है। टूल इंतज़ार सूची का सुझाव दे सकता है या खुद उसे भेज सकता है। दोनों तरीकों में देखें कि सबूत कौन जाँचता है और नतीजा कौन बदल सकता है। फ़ैसले का आख़िरी कदम दिखाएँ। फिर बताएँ कि ग़लती होने पर किसे क्या नुक़सान हो सकता है। सोचें कि तैयारी के स्कोर में जल्दी फ़ॉर्म भरने पर ज़्यादा अंक मिलते हैं। धीमा इंटरनेट या साझा फ़ोन उस स्कोर को बदल सकता है, भले बच्चे को मरम्मत का काम आता हो। पूछें कि डेटा क्या नापता है, कौन से मामले छूटते हैं और रिकॉर्ड कैसे सुधारा जा सकता है। सोचें कि सरकारी मदद देने वाला सिस्टम अलग-अलग समय की आमदनी मिलाता है। अंतर दिखते ही भुगतान रुक जाए तो सही समय का सबूत देने तक किसी की मदद अटक सकती है। संकेत को समय पर जाँच के लिए भेजें और लोगों को सबूत देखने व सुधारने का साफ़ तरीका दें। एक काल्पनिक प्रवेश द्वार पर एक व्यक्ति का कोड तीन बार काम नहीं करता। नाकाम कोशिशें गिनें और अलग से गिनें कि कितने लोग अब भी बाहर हैं, क्योंकि ये अलग माप हैं। स्कैनर अटके तो कर्मचारी बुकिंग रजिस्टर देखकर प्रवेश की जाँच कर सके। पैसे लेकर काम करने वालों को कम ड्यूटी मिले तो समय तय करने वाला टूल उनकी कमाई पर असर डाल सकता है। कई हफ़्तों की सूची देखें और गिनें कि बार-बार किसके घंटे घटते हैं। काम करने वालों को अपना उपलब्ध समय सुधारने और किसी व्यक्ति से सूची की जाँच कराने का तरीका दें। पहचान की पुष्टि में एक तय तस्वीर से मिलाते हैं, और पहचान खोजने में पूरी सूची देखते हैं। काल्पनिक भीड़ के एक हज़ार लोगों में सिर्फ़ दस सूची में हैं। खोज उनमें से नौ और बीस दूसरे लोगों पर संकेत देती है, इसलिए उनतीस में नौ ही सही हैं और हर संकेत अलग जाँचना होगा। यूरोपीय संघ के एक मामले में अदालत ने कहा कि समझ में आने वाली वजह बताए कि कौन सी निजी जानकारी इस्तेमाल हुई और कैसे। मीरा पूछ सकती है कि खाली हाज़िरी को ग़ैरहाज़िरी माना गया था या नहीं। फिर पूछें कि हाज़िरी सुधारने से नतीजा बदलेगा या नहीं। फ़ैसला और तारीख़ लिखें। हाज़िरी के रिकॉर्ड की वह पंक्ति दिखाएँ जिसमें आपको ग़लती लगती है। इस जाँच के लिए बस ज़रूरी रसीद जोड़ें। पूछें कि फ़ैसला मशीन ने किया था या नहीं, और ऐसे व्यक्ति से दोबारा जाँच माँगें जो नतीजा बदल सके और अगला कदम बता सके। कार्यशाला में जाँच करने वाला रसीद देखता है, हाज़िरी सुधारता है और बताए गए नियम के अनुसार मामले पर फिर विचार करता है। मीरा को नया फ़ैसला और उसकी वजह मिलती है। एक काल्पनिक मामले का तीन पंक्तियों में अनुरोध लिखें, फिर अगले अध्याय में देखेंगे कि एक पर्ची टूल को आदेश कैसे देने की कोशिश करती है।