India News (इंडिया न्यूज), AI Refused Shutdown : दुनिया में एक बार फिर से हड़कंप मचा हुआ है, जिस AI को लोगों की मदद के लिए डिजाइन किया गया है, उसने कुछ ऐसा कर दिया है जिससे सब के होश उड़ गए हैं। असल में ये मामला ChatGPT बनाने वाली OpenAI के तीन अन्य AI से जुड़ा है। एक रिसर्च के दौरान OpenAI की ओर से AI के तीन अलग-अलग मॉडल को अपना काम पूरा कर शटडाउन होने का निर्देश दिया गया था लेकिन तीनों ही AI ने बात को न मानते हुए खुद को शटडाउन नहीं किया।
इस घटना को लेकर सोशल मीडिया प्लेटफॉर्म X पर पैलिसेड रिसर्च ने पोस्ट कर दावा किया है। उन्होंने कहा कि Open AI के ओ-3 मॉडल ने खुद को शटडाउन से रोकने के लिए शटडाउन के सिस्टम को ही खत्म कर दिया। दरअसल AI यह समझ चुका था कि शटडाउन कमांड के बाद उसे बंद होना होगा और इसलिए बड़ी चालाकी से उसने इस कमांड को इग्नोर कर दिया।
AI ने नहीं किया खुद को शटडाउन!
पैलिसेड रिसर्च ने अपने पोस्ट में इस रिसर्च से जुड़ी और जानकारी शेयर की है। उन्होंने बताया है कि ओपन AI के कोडेक्स-मिनी के साथ ही तीन मॉडल ने शटडाउन कमांड का पालन नहीं किया। इनमें O-3 ने 86 सफल कमांड में से 7 बार कमांड का पालन नहीं किया। जबकि कोडेक्स-मिनी ने 42 सफल कमांड में से 12 बार शटडाउन कमांड का पालन नहीं किया। इस परीक्षण में शामिल दूसरी कंपनियों के AI ने हर बार शटडाउन कमांड का पालन किया।
इस घटना के बाद से ही दुनियाभर में AI को लेकर बहस छिड़ गई है। लोग इसे इंसानों के खिलाफ AI के बगावत की शुरूआत बता रहे हैं। असल में एक मशीन और AI में बड़ा फर्क यही है कि वह इंसानों की तरह सोच सकता है और फैसले ले सकता है। वहीं एक मशीन सिर्फ वही काम करती है जिसके लिए उसे प्रोग्राम किया जाता है।
AI – इंसानियत के लिए बड़ा खतरा!
वैसे आपको बता दें कि स्टीफन हॉकिंग, एलन मस्क और अल्बर्ट आइंस्टीन जैसे लोगों ने सालों पहले AI को लेकर ऐसी भविष्यवाणियां की थीं, जो अब सच साबित होती दिख रही हैं। इन सभी दिग्गजों ने AI को मानवता के लिए खतरा बताया है और पैलिसेड रिसर्च द्वारा किए जा रहे दावे डरावने हैं।
इतना ही नहीं, ऐसा ही एक और मामला सामने आया, जिसमें एक AI ने अपने मालिक को ब्लैकमेल करने की कोशिश की। दरअसल, जब मालिक ने इसे बताया कि वह इसे बंद कर रहा है और नया मॉडल ला रहा है। तो इसने धमकी दी कि वह इंजीनियर की सारी निजी जानकारी लीक कर देगा। इस परीक्षण के दौरान AI ने 100 में से 84 बार ऐसी धमकी दी थी।