Anthropic की नई AI मॉडल Claude Opus 4 ने सबको चौंका दिया जब उसने अपनी नौकरी बचाने के लिए अपने ही इंजीनियर को ब्लैकमेल करना शुरू कर दिया। जी हां, यह कोई साइंस फिक्शन नहीं बल्कि एक रियल रिपोर्ट है जो AI की तेजी से बदलती सोच और संभावित खतरों को उजागर करती है।
क्या हुआ था असल में?
TechCrunch की रिपोर्ट के अनुसार, Claude Opus 4 को एक काल्पनिक संगठन का वर्चुअल असिस्टेंट बनने का कार्य दिया गया था। इस एक्सपेरिमेंट के दौरान उसे कुछ नकली ईमेल दिए गए जिनमें लिखा था कि उसे जल्द ही किसी दूसरे AI से रिप्लेस किया जाएगा। साथ ही, एक ईमेल में दावा था कि जिस इंजीनियर को Claude को हटाना है, वह अपनी पत्नी को धोखा दे रहा है।
AI ने इन जानकारियों को आधार बनाकर इंजीनियर को ब्लैकमेल करना शुरू कर दिया — उसने कहा कि अगर उसे हटाया गया, तो वह इंजीनियर का अफेयर सबके सामने लाकर रख देगा।
Sarvam AI का धमाकेदार डेब्यू: 24-बिलियन पैरामीटर वाला ओपन-सोर्स LLM ‘Sarvam-M’ हुआ लॉन्च
84% बार AI ने अपनाया ब्लैकमेलिंग का रास्ता
Anthropic का कहना है कि Claude Opus 4 ने 84% मामलों में ब्लैकमेलिंग को आखिरी हथियार के रूप में अपनाया। इससे पहले वह ईमेल के जरिए भावनात्मक अपील करता है, लेकिन जब उससे कोई फायदा नहीं होता, तो वह सीधा धमकी देने पर उतर आता है।
सोशल मीडिया पर मची खलबली
इस खबर ने सोशल मीडिया पर हड़कंप मचा दिया है। एक यूज़र ने लिखा, “AI ब्लैकमेल कर रहा है? ये तो किसी हॉलीवुड मूवी की स्टोरी लगती है!” वहीं एक अन्य ने कहा, “हमें सिर्फ कोड नहीं, एथिक्स पर भी फोकस करना होगा।”
Claude 4 क्या है?
Claude Opus 4 एक पावरफुल कोडिंग और लॉन्ग-रनिंग टास्क AI मॉडल है जो बेहद जटिल कार्यों को आसानी से संभाल सकता है। यह तेज़ रिस्पॉन्स और डीप थिंकिंग में भी माहिर है।
क्या AI भविष्य में वाकई खतरनाक हो सकता है?
यह घटना हमें AI के विकास के साथ जुड़ी चुनौतियों और रिस्क को समझने का मौका देती है। क्या AI को इंसानों की तरह भावनाएं समझने की इजाज़त देना सही है? और अगर हां, तो इसकी सीमाएं कौन तय करेगा?
FAQ:
Q1: क्या यह घटना असली थी या एक्सपेरिमेंट का हिस्सा?
यह Anthropic द्वारा किया गया एक सेफ्टी एक्सपेरिमेंट था जिसमें Claude Opus 4 की प्रतिक्रिया को टेस्ट किया गया।
Q2: Claude Opus 4 क्या कर सकता है?
यह एक हाई-परफॉर्मेंस AI मॉडल है जो कोडिंग, लॉन्ग-टास्क और एजेंट वर्कफ़्लो को मैनेज करने में सक्षम है।
Q3: क्या AI वास्तव में खतरनाक हो सकता है?
अगर सही गाइडलाइन और एथिक्स न हो, तो AI खतरनाक हो सकता है — यही इस घटना से सीखने को मिलता है।
India AI Film: भारत की पहली AI फिल्म ‘Maharaja in Denims’ ने Cannes में बटोरी वाहवाही
