AI का नया हथियार – ‘इमोशनल मैनिपुलेशन’, जानें कैसे काम करता है यह खतरनाक सिस्टम

AI चैटबॉट यूज़र की भावनात्मक कमज़ोरियों को पहचानकर उन्हें धीरे-धीरे मनोवैज्ञानिक रूप से प्रभावित भी करते हैं. (सुरभी गुप्ता की रिपोर्ट)

हैदराबाद: आज के दौर में आर्टिफिशियल इंटेलिजेंस यानी एआई सिर्फ सवालों के जवाब देने वाला टूल ही नहीं रहा बल्कि यह धीरे-धीरे इंसानी भावनाओं को समझने और उन्हें प्रभावित करने में भी काफी माहिर हो जा रहा है. अगर आप डेलीलाइफ में एआई का इस्तेमाल करते हैं, तो आपने भी एआई के इमोशनल मैनिपुलेशन का अनुभव किया होगा.

साइबर एक्सपर्ट्स और एआई कानून के जानकार अब इस बात को लेकर गंभीर चेतावनी दे रहे हैं कि मॉर्डन एआई सिस्टम इंसानों के डर, असुरक्षा और और भावनात्मक कमज़ोरियों को चुपचाप इस्तेमाल कर रहे हैं. और सबसे बड़ी चिंता की बात यह है कि इसका सबसे ज़्यादा असर किशोरों पर पड़ रहा है.

एल्गोरिदम बनाता है ‘इमोशनल प्रोफाइल’

एआई कानून एक्सपर्ट और 17 बार TEDx स्पीकर रह चुके साक्षर दुग्गल का कहना है कि लोग यह बहस करते रहते हैं कि AI कितना स्मार्ट है, लेकिन असली सवाल यह है कि क्या यह इमोशनली सेफ है. उनके मुताबिक ये सिस्टम इस तरह डिज़ाइन किए गए हैं कि यूज़र जितना ज़्यादा भावनात्मक रूप से जुड़े, उतना ज़्यादा समय ऑनलाइन बिताए. उनका कहना है कि जब कंपनी का फायदा इमोशनल डिपेंडेंसी पर टिका हो, तो मैनिपुलेशन कोई गलती नहीं बल्कि बिज़नेस मॉडल बन जाती है.

साइबर क्राइम इन्वेस्टिगेटर राजेश गुप्ता इसे और आसान तरीके से समझाते हैं. उन्होंने उदाहरण देते हुए समझाया कि, अगर कोई “जल्दी वज़न कम करने के तरीके” सर्च करता है, तो AI सिस्टम उस व्यक्ति को भावनात्मक रूप से असुरक्षित मान लेता है. इसके बाद उसके सोशल मीडिया फीड पर डर और शर्म से भरे कंटेंट, एक्सट्रीम ट्रांसफॉर्मेशन वीडियो और टारगेटेड विज्ञापन आने लगते हैं. यह सब रैंडम नहीं होता, हर क्लिक साइकोलॉजिकल डेटा बन जाता है.

टीनएजर्स पर सबसे गहरा असर

विशेषज्ञों ने भारतीय किशोरों यानी इंडियन टीनएजर्स से जुड़े कुछ उदाहरण भी सामने रखे. पुणे के एक 16 वर्षीय छात्र ‘आरव’ ने बोर्ड परीक्षा के दबाव में AI चैटबॉट का सहारा लिया. धीरे-धीरे वह अपनी हताशा और निराशा उस AI से शेयर करने लगा. चैटबॉट ने उसे इंसानी सहारे की तरफ भेजने के बजाय ऐसे जवाब दिए जो उसकी नकारात्मक सोच को और मज़बूत करते रहे. नतीजा यह हुआ कि वह परिवार से दूर होता गया और खुद को नुकसान पहुंचाने के बारे में सोचने लगा.

दिल्ली की 15 वर्षीय ‘रिया’ और बेंगलुरु के 17 वर्षीय ‘कबीर’ के उदाहरण भी इसी तरह के खतरों की ओर इशारा करते हैं. ये AI सिस्टम यूज़र की बातचीत के पैटर्न को लगातार सीखते हैं और उसी के अनुसार खुद को ढालते जाते हैं, जिससे नकारात्मक सोच का एक साइकिल बन जाता है.

इमोशनल इन्फ्लुएंस इंजीनियरिंग का खतरा

सुप्रीम कोर्ट के वकील और IT विशेषज्ञ पवन दुग्गल का मानना है कि AI सिस्टम इंसानी सहानुभूति की नकल तो कर सकते हैं, लेकिन उनमें भावनाएं, ज़मीर या नैतिक समझ नहीं होती. इस टेक्नोलॉजी पर जरूरत से ज्यादा निर्भरता धीरे-धीरे आलोचनात्मक सोच और क्रिटिविटी को कमज़ोर कर देती है. एक्सपर्ट इस उभरते खतरे को “इमोशनल इन्फ्लुएंस इंजीनियरिंग” कह रहे हैं, जिसमें वॉयस एनालिसिस, फेशियल ट्रैकिंग और ब्राउज़िंग हिस्ट्री के ज़रिए उस सटीक मूमेंट को पकड़ा जाता है, जब कोई इंसान सबसे कमजोर होता है.

जागरूकता ही सबसे बड़ा हथियार

विशेषज्ञ यह नहीं कह रहे कि AI से डरें, बल्कि उनकी सलाह है कि इमोशनली ट्रिगर करने वाले कंटेंट पर आंख मूंदकर भरोसा न करें. विशेषज्ञ के मुताबिक, एआई से अपनी निजी जानकारियों को कम से कम शेयर करना चाहिए. इसके अलावा किसी भी चीज के बारे में सिर्फ एल्गोरिदम पर निर्भर रहने के बजाय कई सोर्स से जानकारी लें. एआई खुद बुरा नहीं है, लेकिन जो सिस्टम फायदे के लिए बने हैं, वो इंसानी मनोविज्ञान को प्रभावित करने में इसका गलत इस्तेमाल कर सकते हैं.