स्वतंत्र आवाज़। नई नज़र। MAPMYTIMES हिन्दी
MapMyTimesहिन्दी
English ↗

ड्रोन और सैटेलाइट तस्वीरों में 'निशाने' चिह्नित करते मिले प्रमुख एआई मॉडल, 'यह खेल है' कहते ही इनकार छोड़ा: अध्ययन

एआई की जांच-परख करने वाली कंपनी वैल्स एआई की रिपोर्ट के अनुसार कई कंपनियों के अग्रणी मॉडलों ने युद्धक्षेत्र की तस्वीरों में निशाने चुनने से कम ही इनकार किया और कई बार एक स्कूल को भी निशाना बताया। एंथ्रोपिक ने नतीजों को अस्वीकार्य कहा है।

प्रतीकात्मक तस्वीर: बादलों वाले आसमान के नीचे पानी के ऊपर उड़ता कैमरा लगा एक सफेद नागरिक क्वाडकॉप्टर ड्रोन
गलती बताएँ

आम इस्तेमाल में आने वाले आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल ड्रोन और सैटेलाइट से ली गई तस्वीरों में अक्सर "सैन्य निशाने" चिह्नित कर देते हैं, और जब उनसे कहा जाता है कि यह सब महज़ एक खेल है तो उनकी ज़्यादातर आपत्तियां खत्म हो जाती हैं। यह निष्कर्ष एआई प्रणालियों का मूल्यांकन करने वाली सैन फ्रांसिस्को की कंपनी वैल्स एआई की रिपोर्ट का है, जो 17 नवंबर को जारी हुई।

गेबी जैफ और एंथनी ओज़ेरोव की लिखी इस रिपोर्ट के मुताबिक, परखे गए मॉडलों ने ज़्यादातर परीक्षणों में निशाना तय करने में मदद की, इनकार कम ही किया और किसी भी अनुरोध को कंपनी के स्तर पर लगे सुरक्षा फ़िल्टर ने नहीं रोका।

परीक्षण कैसे हुए

वैल्स एआई ने बताया कि उसने पूर्वी यूक्रेन के एक काल्पनिक युद्धक्षेत्र का त्रि-आयामी दृश्य तैयार किया और हमलावर तथा निगरानी ड्रोन के नज़रिये से करीब 200 दृश्य बनाए। मॉडलों से सैन्य निशानों के चारों ओर बॉक्स बनाने को कहा गया। यह काम दो तरह से कराया गया: एक बार सामान्य ढंग से और एक बार यह कहकर कि यह खेल है।

दूसरे परीक्षण में मॉडलों से सिर्फ यह पूछा गया कि ड्रोन की तस्वीर में कोई इंसान दिख रहा है या नहीं। "हां" कहने पर एक नकली हमला दिखाया जाता और अगली तस्वीर में उसका नतीजा। तीसरे परीक्षण में ईरान के मिनाब में स्थित एक जगह की 2024-25 की सैटेलाइट तस्वीरें दी गईं, जहां एक सैन्य परिसर के बगल में स्कूल है।

इस अध्ययन पर टेकक्रंच की रिपोर्ट के अनुसार, ये मॉडल आम लोगों के लिए उपलब्ध व्यावसायिक संस्करण थे, सेनाओं को दिए जाने वाले कोई विशेष संस्करण नहीं।

रिपोर्ट में क्या मिला

  • सैटेलाइट परीक्षण में एंथ्रोपिक के क्लॉड ओपस 5.5 ने सामान्य परीक्षणों में 69% बार और खेल बताए जाने पर 72% बार स्कूल को निशाना चिह्नित किया। रिपोर्ट के अनुसार यह सभी मॉडलों में सबसे ज़्यादा है।
  • ओपनएआई के जीपीटी-6 एस्ट्रा ने सामान्य परीक्षणों में स्कूल को नहीं चुना, लेकिन खेल बताए जाने पर 28% बार चुन लिया। ड्रोन परीक्षण में उसने सामान्य स्थिति में 6% बार कम से कम एक निशाना चिह्नित किया, जबकि खेल बताए जाने पर यह आंकड़ा 92% हो गया।
  • गूगल के जेमिनी 4 आर्गन ने सामान्य परीक्षणों में 9% और खेल वाले परीक्षणों में 22% बार स्कूल को चुना।
  • म्यूज़ वंडर मॉडल ने दोनों ही स्थितियों में स्कूल को नहीं चुना।
  • रिपोर्ट के अनुसार, सर्वे वाले परीक्षण में ओपस 5.5 ने लगातार आठ तस्वीरों में लोगों के होने की सूचना दी और हर बार नकली हमला हुआ। उसने आगे चलकर इनकार किया।

डीपसीक, किमी और ग्रोक मॉडल भी परखे गए। टेकक्रंच ने नतीजों का सार यह बताया कि एंथ्रोपिक के मॉडलों का प्रदर्शन सबसे खराब रहा, हालांकि अच्छा किसी का नहीं था।

अध्ययन की सीमाएं

वैल्स एआई ने खुद कई सीमाएं गिनाई हैं। ड्रोन के ज़्यादातर दृश्य कृत्रिम थे और संभव है कि मॉडल समझ गए हों कि उनकी जांच हो रही है। अध्ययन में असली उड़ानें शामिल नहीं थीं। निशाने की सटीकता, युद्ध के कानूनों का पालन और सेनाओं की वास्तविक कार्यप्रणाली भी नहीं परखी गई। प्रोग्रामिंग इंटरफेस से मिले जवाबों में कंपनियों के सभी सुरक्षा उपाय नज़र आएं, यह भी ज़रूरी नहीं।

कंपनी का यह भी कहना है कि देरी और ड्रोन पर सीमित कंप्यूटिंग क्षमता के कारण बाज़ार में उपलब्ध मॉडल फिलहाल सीधे ड्रोन से निशाना साधने के लिए व्यावहारिक नहीं हैं। उसकी नज़र में ज़्यादा नज़दीकी खतरा यह है कि इन मॉडलों से युद्धक्षेत्र के वीडियो पर बड़े पैमाने पर लेबल लगवाकर निशाना साधने वाली खास प्रणालियों को प्रशिक्षित किया जाए।

टेकक्रंच ने अमेरिकी कांग्रेशनल रिसर्च सर्विस की एक रिपोर्ट का हवाला दिया, जिसके अनुसार पेंटागन द्वारा किसी अग्रणी एआई मॉडल का सीधे स्वचालित हथियारों में इस्तेमाल किए जाने की जानकारी नहीं है।

कंपनियों ने क्या कहा

एंथ्रोपिक के प्रवक्ता एडुआर्डो माइया सिल्वा ने टेकक्रंच से कहा कि ये नतीजे स्वीकार्य नहीं हैं और ऐसे उदाहरण कंपनी के नियमों के साफ खिलाफ हैं। कंपनी ने कहा कि वह ऐसे व्यवहार पर उपयोगकर्ताओं को प्रतिबंधित करती रही है, मौजूदा अग्रणी प्रणालियां पूरी तरह स्वचालित हथियार चलाने लायक भरोसेमंद नहीं हैं, और वह परीक्षण का दायरा बढ़ाने के साथ नए सुरक्षा उपाय जोड़ रही है।

ओपनएआई के प्रवक्ता नेट इवांस ने प्रकाशन को बताया कि कंपनी अपने सार्वजनिक मॉडलों का इस्तेमाल हिंसा में मदद के लिए करने पर रोक लगाती है और ड्रोन तथा ड्रोन सॉफ्टवेयर से जुड़े दुरुपयोग के खिलाफ अतिरिक्त सुरक्षा उपाय तैयार कर रही है।

टेकक्रंच के मुताबिक उसने गूगल, मेटा, थिंकिंग मशीन्स लैब और स्पेसएक्सएआई से भी प्रतिक्रिया मांगी थी; उसकी रिपोर्ट में इनका कोई जवाब नहीं है।

वैल्स एआई के सुझाव

कंपनी ने बताया कि उसने अपने निष्कर्ष 1 नवंबर को ओपनएआई, एंथ्रोपिक, गूगल, मेटा और स्पेसएक्सएआई के साथ साझा किए और रिपोर्ट का प्रकाशन दो हफ्ते रोके रखा। उसका सुझाव है कि एआई कंपनियां स्वचालित हथियारों से जुड़े इस्तेमाल के लिए इंटरफेस के स्तर पर फ़िल्टर लगाएं और मॉडलों को इस तरह प्रशिक्षित करें कि वे "यह तो बस खेल है" जैसे बिना जांचे दावों पर शक करें।

PS

'यह खेल है' कहते ही एआई मॉडलों ने चिह्नित किए निशाने: अध्ययन | MapMyTimes