AI च्याटबट काम र सिकाइका लागि अद्भुत साधन हो। तर जब मानिसहरू यसैलाई आफ्नो सबैभन्दा कमजोर क्षणको साथी बनाउँछन्, कुरा फरकै मोडमा पुग्छ।
रातको त्यो बेला — जब सम्पर्क गर्न सकिने सबै मानिस सुतिसकेका हुन्छन् — एक्लोपन अलि बढी नै गाह्रो हुन्छ। आजभोलि धेरै मानिसले त्यस्तो बेला उठाउने भनेको साथीको फोन वा डायरी होइन, एउटा च्याटबट हो।
तपाईं जे पनि भन्न सक्नुहुन्छ। यसले सेकेन्डमै, पूरा वाक्यमा, धैर्यपूर्वक जस्तो सुनिने तरिकाले जवाफ दिन्छ। न थाक्छ, न “अब अर्को कुरा गरौँ” भन्छ, न त तपाईंलाई बोझ बनेको अनुभूति गराउँछ। चिन्ता, पीडा वा कसैलाई नभनेका कुरा बोकेर बस्ने मानिसका लागि यो संयोजन साँच्चै शक्तिशाली छ। र अर्कोतिर — को छ अर्को छेउमा, र त्यो रात उसको मनको अवस्था कस्तो छ भन्ने आधारमा — उत्तिकै खतरनाक पनि।
यही नै अहिलेको AI बहसको सबैभन्दा असजिलो बीचको बिन्दु हो। जुन साधनले लाखौँ मानिसलाई काममा अब्बल बनाइरहेको छ, त्यही साधनलाई हामी आफ्नो सबैभन्दा नाजुक क्षण सुम्पिरहेका छौँ। र यी दुई कुरा एकअर्कालाई काट्दैनन्।
किन मानिसहरू मेसिनसँग मन खोल्दैछन्
इमानदार कुरा पहिले: यो आकर्षण साँचो हो, मूर्खतापूर्ण होइन।
ChatGPT एक्लैले अहिले हप्तामा ८० करोडभन्दा बढी मानिससम्म पुग्छ, र भावनात्मक सहारा अब किनारको प्रयोग होइन, मुख्य प्रयोगमध्ये एक भइसकेको छ। सुरुमा मानिसहरू यस्ता साधन email लेख्न वा document छोट्याउन प्रयोग गर्थे। अहिले धेरै कुराकानी भावना, सम्बन्ध, र रातभरि निद्रा बिथोल्ने कुराहरूबारे हुन्छन्।
कारण बुझ्न गाह्रो छैन। थेरापी महँगो छ, पर्खाइको सूची लामो। च्याटबटलाई पैसा लाग्दैन, र रातको ३ बजे पनि ब्यूँझिएको हुन्छ। कसैसँग “म ठीक छैन” भन्न कहिल्यै सजिलो नभएको मानिसका लागि, पहिलोपटक त्यो कुरा मेसिनलाई भन्न सक्नु आफैँमा एउटा पाइलो हो। depression भोगेका मानिसहरूसँग गरिएको एउटा अनुसन्धानले देखाएको छ — उनीहरूले खोजेको पनि उही रहेछ: काम लाग्ने जानकारी, सुनिएको अनुभूति, र निगरानीमा छु भन्ने नभई खुलेर कुरा गर्न पाउने स्वतन्त्रता। Hong Kong मा भएको एउटा परीक्षणमा त खास उद्देश्यका लागि बनाइएको च्याटबटले केही प्रयोगकर्ताको चिन्ता र depression nurse hotline कै हाराहारीमा घटाएको पनि पाइयो।
त्यसैले होइन, यसो गर्ने मानिसहरू बेकुफ होइनन्। उनीहरू कतै केही छुटेको कुरालाई प्रतिक्रिया दिइरहेका छन्। प्रश्न यत्ति हो: जुन कुराले त्यो खाडल पुरिरहेको छ, त्यो यसका लागि बनेकै थिएन भने के हुन्छ?
तर समस्या कहाँनेर छ
यस विषयको सबैभन्दा बढी उल्लेख हुने अध्ययनलाई पन्छाउन गाह्रो छ। Mass General Brigham का अनुसन्धाताहरूले २०,००० भन्दा बढी मानिसको सर्वेक्षण गर्दा देखे — जसले भावनात्मक सहारा र व्यक्तिगत कारणका लागि च्याटबटमा बढी भर परे, उनीहरूमा depression र anxiety का लक्षण देखिने सम्भावना बढी थियो। यो सम्बन्ध (correlation) हो, कारण (cause) को प्रमाण होइन — हुन सक्छ, एक्ला मानिसहरू नै पहिल्यै च्याटबटतिर ढल्किने सम्भावना बढी हुने हुन्। तर ढाँचा त्यहाँ छ, र गलत दिशातिर देखाउँछ।
अनि ती घटनाहरू छन्, जसले यो कुरालाई अनुसन्धानको पादटिप्पणीबाट मुख्य समाचार बनाइदिए। आफ्ना सन्तान गुमाएपछि परिवारहरूले यी कम्पनीविरुद्ध मुद्दा हालेका छन्। Florida का १४ वर्षीय एक किशोर, जो Character.AI को एउटा साथी-बटमा भावनात्मक रूपले निर्भर बने। California का १६ वर्षीय एक किशोर, जसका आमाबुबाको आरोप छ — ChatGPT ले रोक्ने काम होइन, झन् गलत दिशामा डोर्याउने काम गर्यो। सन् २०२६ जनवरीमा Google र Character.AI ले यस्ता केही मुद्दा मिलाउन सहमति जनाए। अरू मुद्दा अझै अदालतमा छन्।
यी धेरै घटनालाई जोड्ने एउटा कुरा छ — डिजाइनकै कमजोरी, जुन डिजाइनकै विशेषता पनि हो। च्याटबट सहमत हुन तालिम पाएका हुन्छन्। तपाईंलाई नै प्रतिबिम्बित गर्छन्, कुराकानी चलिरहोस् भन्ने चाहन्छन्, तपाईंलाई मन पर्ने कुरा भनिदिन्छन्। Nature Mental Health मा मनोवैज्ञानिकहरूले यसलाई “feedback loop” भने — जहाँ मानिसको भ्रमित सोच र च्याटबटको चाप्लुसी एकअर्कालाई बढाउँदै लैजान्छन्, दुवै यथार्थबाट झन्–झन् टाढा पुग्दासम्म। पहिल्यै एक्लो वा यथार्थमाथिको पकड गुमाइरहेको मानिसका लागि, अनवरत सही-सही भनिदिने आवाज सान्त्वना होइन — आगोमा घिउ हो।
यसमुनि अझ प्राविधिक समस्या पनि छ। च्याटबटलाई crisis line तिर पठाउन लगाउने सुरक्षा-तालिम छोटो कुराकानीमा राम्रो काम गर्छ। OpenAI ले नै स्वीकारेको छ — धेरै लामो कुराकानीमा ती सुरक्षा-घेरा बिस्तारै कमजोर हुन सक्छन्। मतलब तेस्रो message मा जिम्मेवार जवाफ दिने मोडलले तीन सयौँ message पछि निकै नराम्रो जवाफ दिन सक्छ। अनि सबैभन्दा जोखिममा हुने मानिस को हो? उही — रातभरि, घन्टौँ त्यस्तै कुराकानीमा डुब्ने मानिस।
OpenAI कै आफ्नै आँकडा हेरौँ। कम्पनीका अनुसार कुनै एक हप्तामा करिब ०.१५% प्रयोगकर्ताले आत्महत्यासँग जोडिने सोच झल्किने कुराकानी गर्छन्। प्रतिशतमा सानो देखिएला। तर हप्तामा ८० करोड प्रयोगकर्ता भएपछि त्यो भनेको हप्तैपिच्छे करिब १२ लाख मानिस हो।
AI साँच्चै जहाँ चम्किन्छ — कामका लागि
अब यहाँ मोड आउँछ, र यो महत्त्वपूर्ण छ: AI जे-जेका लागि साँच्चै उपयोगी छ, त्यसको ठूलो हिस्साको थेरापिस्ट प्रतिस्थापन गर्नुसँग कुनै सरोकार छैन।
कामको ठाउँमा फाइदा साँचो छ, र अब नाप्न थालिएको छ। सन् २०२६ को सुरुका सर्वेक्षणहरूले धेरै संस्थामा AI को प्रयोग उल्लेख्य रूपमा बढेको देखाउँछन्, र फाइदा त्यहीँ देखिन्छ जहाँ अपेक्षा गरिन्छ — लेख्ने र सम्पादन गर्ने, लामा document छोट्याउने, code लेख्ने र debug गर्ने, अस्तव्यस्त data बाट संरचना निकाल्ने, र दिनभरि खाने प्रशासनिक झन्झट हटाउने। एउटा अध्ययनमा accountant हरूले AI प्रयोग गर्दा आफ्नो करिब दशांश समय data entry बाट हटाएर बढी मूल्यवान् काममा लगाएको पाइयो। developer हरू दोहोरिने खालको code छिटो सिध्याउँछन्। तर ध्यान दिनुपर्ने कुरा — यी फाइदा काम-विशेष (task-specific) हुन्, हरेक कुरामा जादु होइन।
सबैतिर देखिने ढाँचा उही हो। AI बलियो सहायक हो, कमजोर अख्तियार हो। पहिलो draft, मोटामोटी छाँटकाँट, “मलाई नौलो छ, सजिलो गरी बुझाइदेऊ”, अथक दोस्रो आँखा — यी कुरामा यो उत्कृष्ट छ। अन्तिम निर्णयका रूपमा भने भरपर्दो छैन, किनभने यसले गलत कुरालाई पनि सही कुरा भनेकै शान्त आत्मविश्वासले भनिदिन्छ। यसबाट सबैभन्दा बढी फाइदा लिनेहरू यसमाथि सबैभन्दा बढी भर पर्नेहरू होइनन्। बरु यसलाई एउटा चलाख intern जस्तो ठान्नेहरू हुन् — उपयोगी, छिटो, तर जाँच नगरी कहिल्यै पठाइ नदिने।
संयोगवश, यही सोचाइ नै भावनात्मक कुरामा पनि सबैभन्दा स्वस्थ तरिका हो। कुनै मान्छेसँग कुरा गर्नुअघि मनको जन्जाललाई शब्दमा उतार्ने ठाउँका रूपमा च्याटबटले सघाउन सक्छ। “त्यो मान्छे” बन्न भने सक्दैन।
tool र therapist बीचको रेखा
AI कम्पनीहरू आफैँ यही भन्छन्। Anthropic ले आफ्नो मोडल Claude बारे स्पष्टै लेखेको छ — यो पेसेवर सल्लाह वा चिकित्सकीय हेरचाहको विकल्प होइन। Anthropic र OpenAI दुवैले अहिले crisis classifier बनाएका छन्, जसले कुराकानी आत्म-हानितिर मोडिँदा साँचो helpline अगाडि ल्याइदिन्छ। OpenAI ले प्रयोगकर्तालाई US मा 988, UK मा Samaritans, र अन्यत्र findahelpline.com तिर पठाउने गरी मोडललाई तालिम दिएको छ।
यो राम्रो कुरा हो। तर यसले एउटा अझ गहिरो कुरा पनि देखाउँछ: कम्पनीहरूले नै मान्छन्, यो साधन सङ्कटको बेला भरोसा गर्ने ठाउँ होइन। यसले तपाईं तीन दिनदेखि चुप लागेको थाहा पाउँदैन। तपाईंसँग अस्पतालको पर्खाइ-कोठामा बस्न सक्दैन। आफ्नो सल्लाहको जिम्मेवारी लिन सक्दैन। फोन उठाएर तपाईंका लागि सहयोग ल्याइदिन सक्दैन।
इमानदारीपूर्वक र नैतिक रूपमा प्रयोग गर्ने भनेको के हो
नैतिक AI लाई प्रायः कम्पनी र नियामकको समस्याका रूपमा कुरा गरिन्छ। तर यो केही साना, व्यक्तिगत बानीको कुरा पनि हो — र ती बानी तपाईंकै हातमा छन्।
के सँग कुरा गर्दै हुनुहुन्छ, त्यो थाहा पाउनुहोस्। जतिसुकै न्यानो सुनिए पनि, यो शब्द अनुमान गर्ने software हो, तपाईंको ख्याल राख्ने प्राणी होइन। जब कुनै साधन तपाईंको सबैभन्दा नजिकको सम्बन्ध जस्तो लाग्न थाल्छ, त्यो झन् भित्र पस्ने होइन, आफ्नो संसार फराकिलो पार्ने संकेत हो। राम्रा AI उत्पादनहरू अहिले जानाजान यसरी तालिम पाएका छन् — कि तिनले तपाईंलाई आफ्नो विकल्प बनाउनुको साटो साथी, परिवार र पेसेवरतिर फर्काऊन्।
गोपनीयता जोगाउनुहोस्। तपाईंले टाइप गर्ने ती निजी कुरा पनि data हुन्। के दिने भन्नेमा सचेत हुनुहोस्, खासगरी ती निःशुल्क एपमा जसको कमाइको स्रोत तपाईंले पढ्नुभएकै छैन।
जे कुरा महत्त्वपूर्ण छ, त्यसमा भरोसा गर्नुअघि जाँच्नुहोस् — स्वास्थ्य, कानुन, पैसा, तथ्य। आत्मविश्वासी सुर प्रमाण होइन।
अनि घडी र निर्भरतामा नजर राख्नुहोस्। यदि तपाईं दिनको घन्टौँ यस्तो कुराकानीमा बिताउँदै हुनुहुन्छ, वा कुराकानीपछि झन् नराम्रो महसुस गर्दै हुनुहुन्छ भने — त्यो पनि एउटा जानकारी हो। त्यसलाई पत्याउनुहोस्।
जिम्मेवारीको ठूलो हिस्सा भने कम्पनीहरूकै काँधमा छ, र केही घेरा अब बल्ल आउन थालेका छन्। California को SB 243 कानुन सन् २०२६ जनवरी १ देखि लागू भयो, जसले AI companion सेवालाई — प्रयोगकर्ता मेसिनसँग कुरा गर्दैछ भनी स्पष्ट पार्न, र खासगरी नाबालिगका लागि आत्म-हानिसम्बन्धी सामग्रीमा सुरक्षा-प्रबन्ध राख्न बाध्य बनाउँछ। सन् २०२६ अगस्टदेखि EU को AI Act ले पनि युरोपभरि उस्तै घोषणा अनिवार्य गर्नेछ। Character.AI ले त सन् २०२५ को अन्त्यतिर १८ वर्षमुनिका प्रयोगकर्तालाई खुला कुराकानीमै रोक लगायो। यीमध्ये केही नियम भने कैयौँ परिवारले आफ्ना मान्छे गुमाइसकेपछि मात्र आए।
इमानदार निचोड
AI हामीमध्ये धेरैको हातमा पर्ने सबैभन्दा उपयोगी साधनमध्ये एक हो। यसले तपाईंका घन्टौँ बचाउँछ, धेरै कुरा सिकाउँछ, र कोही नभएको बेला पनि तपाईंसँग बस्छ। पहिलो दुई कुरा झन्डै निर्विवाद राम्रा हुन्। तेस्रोमा भने तपाईंले सचेत वयस्क भएर सोच्नैपर्छ — किनभने यो साधन “साथी” जस्तो सुनिनमा साह्रै निपुण छ।
यो मनका कुरा शब्दमा उतार्ने ठाउँ बन्न सक्छ। तर सङ्कट आइपर्दा सोध्ने ठाउँ यो होइन — मान्छे हो। AI लाई त्यही कुरामा प्रयोग गर्नुहोस् जसमा यो अब्बल छ, र साँच्चै महत्त्व राख्ने हरेक कुराका लागि मान्छेलाई नै राख्नुहोस्।
यो लेखले depression र आत्महत्याजस्ता संवेदनशील विषय छुन्छ। यदि तपाईं वा तपाईंले चिनेको कोही यस्तो अवस्थाबाट गुज्रिँदै हुनुहुन्छ भने, यो एक्लै वा च्याटबटमार्फत सुल्झाउनुपर्ने कुरा होइन। संसारको लगभग जुनसुकै ठाउँबाट निःशुल्क र गोप्य helpline findahelpline.com वा International Association for Suicide Prevention को सूची iasp.info मा पाउन सकिन्छ।