AI नैतिकता क्या है?
कृत्रिम बुद्धिमत्ता (AI) ऐसा सॉफ़्टवेयर है जो डेटा से पैटर्न सीखकर अनुमान लगाता या फ़ैसला करता है। नैतिकता सही-ग़लत का अध्ययन है। तो AI नैतिकता पूछती है: क्या यह AI निष्पक्ष है? सुरक्षित है? लोगों का सम्मान करता है?
AI के अपने मूल्य नहीं होते। वह डेटा के पैटर्न की नक़ल करता है और बनाने वालों के दिए लक्ष्य पर चलता है। इसलिए AI बनाने, सिखाने और चलाने वाले लोग उसके काम के ज़िम्मेदार हैं।
पाँच मुख्य सिद्धांत
- निष्पक्षता: सब समूहों से बराबर व्यवहार।
- जवाबदेही: नुक़सान का जवाब कोई तय व्यक्ति या संस्था दे।
- पारदर्शिता: लोगों को पता हो कि AI लगा है और उसने क्यों तय किया।
- निजता: निजी डेटा सुरक्षित रहे।
- सुरक्षा: AI भरोसेमंद ढंग से काम करे और आसानी से दुरुपयोग न हो।
डेटा और एल्गोरिद्म में पक्षपात
पक्षपात (bias) का मतलब है कि सिस्टम किसी समूह की ओर या उसके ख़िलाफ़ झुका हो। यह तीन रास्तों से आता है:
- डेटा पक्षपात: किसी समूह के उदाहरण बहुत कम हों, या डेटा पुराने अनुचित फ़ैसलों की नक़ल हो।
- डिज़ाइन पक्षपात: बनाने वाले ऐसा लक्ष्य या गुण चुनें जो किसी समूह को नुक़सान दे (जैसे योग्यता की जगह पिन कोड देखना)।
- उपयोग पक्षपात: एक जगह के लिए बना टूल बिल्कुल अलग जगह इस्तेमाल हो।
उदाहरण: दस साल की पुरानी भर्तियों पर सिखाया गया AI, जिनमें ज़्यादातर पुरुष थे, महिलाओं को नीचे रख सकता है। उपाय: संतुलित डेटा, हर समूह के नतीजों की जाँच, अनुचित गुण हटाना और लॉन्च के बाद भी जाँच।
निजता और AI डेटा की नैतिकता
AI को बहुत डेटा चाहिए, और उसमें से ज़्यादातर लोगों के बारे में होता है: फ़ोटो, आवाज़, जगह, सेहत, ख़रीदारी। अच्छे नियम:
- सहमति: लेने से पहले साफ़ पूछें।
- कम से कम डेटा: सिर्फ़ ज़रूरी डेटा लें।
- उद्देश्य की सीमा: बताए गए काम में ही लगाएँ।
- सुरक्षा: सुरक्षित रखें; काम ख़त्म हो तो मिटा दें।
कई देशों में अब डेटा सुरक्षा क़ानून हैं, जैसे यूरोप का GDPR और भारत का DPDP अधिनियम 2023। कॉपीराइट भी मुद्दा है: कलाकारों या लेखकों के काम पर बिना अनुमति सिखाया गया AI निष्पक्षता और स्वामित्व के सवाल खड़े करता है।
पारदर्शिता, जवाबदेही और सुरक्षा
कुछ AI मॉडल ब्लैक बॉक्स होते हैं: उनके बनाने वाले भी आसानी से नहीं बता पाते कि जवाब क्यों आया। समझाने योग्य AI (explainable AI) फ़ैसले के मुख्य कारण दिखाता है, ताकि लोग जाँच और अपील कर सकें।
जवाबदेही का मतलब है कि इंसान ज़िम्मेदार है। बड़े फ़ैसलों (इलाज, क़ानून, लोन, परीक्षा) में AI का सुझाव कोई व्यक्ति जाँचे: इसे ह्यूमन इन द लूप कहते हैं।
सुरक्षा और दुरुपयोग: AI पूरे भरोसे से ग़लत बात कह सकता है ("हैलुसिनेशन"), उससे डीपफ़ेक और झूठी ख़बरें बनाई जा सकती हैं, और उसे धोखा दिया जा सकता है। सुरक्षित AI की जाँच होती है, रिलीज़ के बाद निगरानी होती है और हानिकारक उपयोग पर रोक होती है।
AI और सामाजिक बदलाव
AI इलाज (स्कैन पढ़ना), खेती (फ़सल रोग की चेतावनी), अनुवाद और सुलभता (न देख पाने वालों के लिए आवाज़) में मदद करता है। पर समस्याएँ भी लाता है:
- नौकरियाँ: कुछ दोहराव वाले काम मशीनें करने लगती हैं; नई नौकरियाँ आती हैं; नए कौशल सीखने पड़ते हैं।
- डिजिटल खाई: जिनके पास फ़ोन, इंटरनेट या कौशल नहीं, वे और पीछे छूटते हैं।
- पर्यावरण: बड़े मॉडल सिखाने में बहुत बिजली और पानी लगता है।
- अति-भरोसा: लोग खुद सोचना छोड़ सकते हैं।
किसी AI प्रोजेक्ट का सामाजिक असर आँकने के लिए: कौन प्रभावित होगा, हर समूह के लिए क्या ग़लत हो सकता है, निष्पक्षता कैसे मापेंगे, और लोग शिकायत कैसे करेंगे — यह लिखिए। इंसान और AI साथ में सबसे अच्छा काम करते हैं: AI गति और पैमाना देता है, इंसान समझ, संवेदना और मूल्य।
करके देखें: निष्पक्षता जाँचने वाले बनिए
आख़िरी 3D चरण में नारंगी उदाहरण 2, फिर 5, फिर 8 कीजिए। हर समूह की 'हाँ' दर लिखिए। किस मिश्रण में अंतर सबसे कम है? घर पर: अपने फ़ोन का कोई ऐप खोलकर उसकी प्राइवेसी सेटिंग देखिए। वह कौन-सा डेटा लेता है? क्या आप उस सब के लिए हाँ कहेंगे?
मुख्य सूत्र और परिभाषाएँ
- पक्षपात (bias): अनुचित डेटा या डिज़ाइन से अनुचित नतीजे
- निष्पक्षता अंतर = समूह A की 'हाँ' दर − समूह B की 'हाँ' दर
- सहमति (consent): डेटा लेने से पहले साफ़ अनुमति
- समझाने योग्य AI: जो अपने फ़ैसले के कारण दिखाए
- ह्यूमन इन द लूप: AI के फ़ैसले की इंसान द्वारा जाँच
- डीपफ़ेक: AI से बना नक़ली वीडियो, फ़ोटो या आवाज़
हल किए गए उदाहरण
1. एक फ़ेस-अनलॉक AI 100 गोरे लोगों में 99 को पहचानता है पर 100 साँवले लोगों में सिर्फ़ 90 को। समस्या क्या है और एक उपाय बताइए।
चरण 1: ग़लती दर 1% बनाम 10%, यानी एक समूह के लिए कम सटीक। चरण 2: यह पक्षपात है, शायद प्रशिक्षण डेटा में साँवले चेहरे कम थे। चरण 3: उपाय: डेटा में बहुत तरह के चेहरे जोड़ें और रिलीज़ से पहले हर समूह की सटीकता अलग से जाँचें।
2. भर्ती वाला AI समान अंकों वाले 100 पुरुषों में 60 को और 100 महिलाओं में 30 को 'हाँ' कहता है। निष्पक्षता अंतर निकालिए।
पुरुषों की 'हाँ' दर = 60%, महिलाओं की = 30%। अंतर = 60 − 30 = 30 प्रतिशत अंक। समान अंक होने पर इतना बड़ा अंतर बताता है कि AI अनुचित है और उपयोग से पहले ठीक करना होगा।
3. एक स्कूल चेहरा पहचानने वाले AI कैमरे से हाज़िरी लगाना चाहता है। दो नैतिक जाँचें बताइए।
1. निजता और सहमति: छात्रों-अभिभावकों को बताएँ, अनुमति लें, चेहरे का डेटा सुरक्षित रखें और बाद में मिटाएँ। 2. निष्पक्षता और जवाबदेही: जाँचें कि यह हर छात्र के लिए काम करे, और शिक्षक ग़लती सुधार सकें, AI पर आँख मूँदकर भरोसा न हो।
आम गलतियाँ
- यह सोचना कि मशीन है इसलिए AI तटस्थ है। वह डेटा के अनुचित पैटर्न भी सीख लेता है।
- यह मानना कि ज़्यादा डेटा से पक्षपात हमेशा मिटता है। वैसा ही असंतुलित डेटा पक्षपात बनाए रखता है।
- AI को ही दोष देना। ज़िम्मेदारी उसे बनाने और चलाने वाले लोगों व कंपनियों की है।
- AI के आत्मविश्वासी जवाब को सही मान लेना। AI पूरे भरोसे से ग़लत हो सकता है, ज़रूरी बातें जाँचिए।