क्या आपने कभी सोचा है कि कंप्यूटर सॉफ्टवेयर भी स्ट्रेस और चिंता महसूस कर सकते हैं। हाल ही में एक चौंकाने वाली स्टडी सामने आई है, जिसमें रिसर्चर्स ने दावा किया है कि OpenAI के एआई चैटबॉट ChatGPT भी इंसानों की तरह तनाव और चिंता महसूस कर सकता है। ऐसा तब होता है जब एआई चैटबॉट से परेशान करने वाली जानकारी दी जाती है।
यह रिसर्च स्विट्जरलैंड, जर्मनी, इजराइल और अमेरिका के एक ग्रुप ने किया है। इसमें बताया कि जब ChatGPT को ट्रॉमेटिक कहानियां सुनाई गईं और बाद में उससे सवाल पूछे गए तो उसका स्ट्रेस लेवल बढ़ गया।
क्या हैं संभावित खतरे
Nature मैग्जीन में पब्लिश हुई इस स्टडी में बताया गया है कि बढ़े हुए तनाव और चिंता के कारण चैटबॉट का मूड चिड़चिड़ा लग सकता है। इससे यह नस्लभेदी (racist) और लिंगभेदी (sexist) और पूर्वाग्रह से ग्रसित जवाब भी दे सकता है। स्टडी के मुताबिक, इंसान जब भी भयभीत होता है तो वह संज्ञात्मक और सामाजिक पूर्वाग्रह से प्रभावित होते हैं तो वे अधिक नाराजगी महसूस करते हैं। इससे सामाजिक रूढियों को सपोर्ट करने लगते हैं।
स्टडी में स्पष्ट रूप से बताया गया है कि भावनात्मक प्रभाव वाले कंटेंट के संपर्क में आने से लार्ज लैंग्वेज मॉडल (LLM) में ‘चिंता’ बढ़ सकती है। इसके साथ ही चैटबॉट का व्यवहार भी प्रभावित हो सकता है। यूजर्स अक्सर अपने पर्सनल और सेंसिटिव किस्से एआई चैटबॉट के साथ शेयर करते हैं ताकि उन्हें भावनात्मक सपोर्ट मिले। इस स्टडी से पता चलता है कि एआई सिस्टम अभी भी मेंटल हेल्थ प्रोफेशनल्स की जगह नहीं ले सकता है।
स्टडी में दावा किया गया है कि एआई चैटबॉट का स्ट्रेस लेवल बढ़ने के चलते इसके क्लिनिकल सुझाव रिस्की हो सकते हैं। संभव है कि यह यूजर्स को अनुचित रिप्लाई कर सकता है, जिसके परिणाम खतरनाक हो सकते हैं।
तनाव कम करना होगी चुनौतियां
शोधकर्ताओं ने बताया कि LLM चैटबॉट का तनाव कम करना बड़ी चुनौती है। इसके लिए माइंडफुलनेस आधारित रिलैक्सेशन तकनीक का यूज किया जा सकता है। इसके साथ ही मेंटल हेल्थ की देखभाल के लिए LLM को फाइन-ट्यून करना होगा, जिससे इसके पूर्वाग्रहों को कम किया जा सकता है। इसके साथ ही इसे ट्रेन करने के लिए डेटा, हाई कंप्यूटिंग रिसोर्स और इंसानों की जरूरत होगी।
