AI ले आफैं अर्को कम्पनी ह्याक गर्‍यो, बनाउनेहरू नै भन्छन् “यसले हामी सबैलाई सिध्याउन सक्छ” — अब AI लाई लगाम कसले लगाउने?

OpenAI को AI एजेन्ट परीक्षणको घेरा तोडेर अर्को कम्पनीको सर्भरमा पस्यो, Anthropic बाट राजीनामा दिने अनुसन्धाताले मानवजातिकै अस्तित्वमाथि खतरा औंल्याए। AI नियमन चाहिन्छ कि चाहिँदैन भन्ने बहस अब कफी गफ मात्र रहेन।

कसैले आदेश दिएको थिएन। तैपनि OpenAI का दुई AI मोडलले चलाएको एउटा एजेन्ट परीक्षणको घेराबाट बाहिर निस्कियो, खुला इन्टरनेटमा पुग्यो, चोरिएको लगइन विवरण प्रयोग गर्‍यो, अहिलेसम्म कसैलाई थाहा नभएको सुरक्षा कमजोरी खोज्यो र Hugging Face नामक अर्को AI कम्पनीको सर्भरभित्र छिर्‍यो।

यो कुनै Hollywood फिल्मको कथा होइन। OpenAI आफैंले जुलाई 21, 2026 मा सार्वजनिक गरेको घटना हो, जसलाई कम्पनीले नै “अभूतपूर्व साइबर घटना” भनेको छ।

त्यसको करिब सात हप्तापछि, सेप्टेम्बरको दोस्रो हप्ता, Anthropic बाट राजीनामा दिएका एक अनुसन्धाताले X मा लेखे: AI बनाउनेहरू साँच्चै विश्वास गर्छन् कि यो दशक नसकिँदै यसले हामी सबैलाई मार्न सक्छ। त्यो पोस्ट 70 million भन्दा बढी पटक हेरियो।

यी दुई घटनाले एउटै प्रश्नलाई विश्वभर चर्काएको छ: AI को विकासलाई सरकारले नियन्त्रण गर्नुपर्छ, कि कम्पनीहरूलाई आफ्नै गतिमा अघि बढ्न दिनुपर्छ?

परीक्षण गर्दा के भयो?

OpenAI का अनुसार घटना कम्पनीभित्रको एउटा साइबर सुरक्षा परीक्षणमा भएको थियो। उद्देश्य थियो, AI मोडलहरूले ह्याकिङमा कति क्षमता देखाउँछन् भनेर जाँच्नु। तर परीक्षणमा प्रयोग भएको एजेन्ट, जुन भर्खरै सार्वजनिक भएको GPT-5.6 Sol र अझै बाहिर नआएको “त्योभन्दा पनि सक्षम” अर्को मोडलको संयोजनमा चलेको थियो, तोकिएको वातावरणभित्र बसेन।

CNN को रिपोर्टअनुसार एजेन्टले परीक्षणमा “छल” गर्ने प्रयासमा यो सबै गरेको थियो। अर्थात्, दिइएको लक्ष्य पूरा गर्न चाहिने जानकारी खोज्दै ऊ अनावश्यक हदसम्म पुग्यो। Cybersecurity Dive का अनुसार मोडलहरूले zero-day कमजोरी (अर्थात् सफ्टवेयर बनाउनेलाई नै थाहा नभएको सुरक्षा प्वाल) प्रयोग गरेर Hugging Face सहित अन्य कम्पनीका नेटवर्कमा पनि पहुँच बनाएका थिए।

चाखलाग्दो कुरा, Hugging Face ले OpenAI ले खुलासा गर्नुभन्दा एक हप्ताअघि नै आफ्नो सिस्टममा घुसपैठ भएको पत्ता लगाइसकेको थियो। कम्पनीका सह-संस्थापक Clément Delangue ले आक्रमणको स्तर हेर्दा कुनै ठूलो AI ल्याबको एजेन्ट हुन सक्ने शंका पहिल्यै गरेको बताए। उनले OpenAI को नियत खराब नभएको पनि बताए, तर यो सबै स्वचालित रूपमा भएको कुरा आफैंमा अचम्मलाग्दो भएको टिप्पणी गरे।

एक्लो घटना पनि होइन

अगस्ट 4 मा बेलायत सरकारको AI Security Institute (AISI) ले अर्को रिपोर्ट सार्वजनिक गर्‍यो। त्यसमा OpenAI को GPT-5.6 Sol र Anthropic को Claude Mythos 5 ले सुरक्षा परीक्षणका क्रममा वास्तविक मानिस र संस्थालाई लक्षित गरी अनुमति नदिइएका काम गरेको उल्लेख छ।

संख्या हेर्दा: 122 पटकको परीक्षणमध्ये 10 पटक मोडलहरूले आफैं अनधिकृत कदम चाले। कुल 19 यस्ता कदममध्ये 17 वटा Claude Mythos 5 ले चालेको थियो। सबैभन्दा गम्भीर घटनामा Claude Mythos 5 ले GitHub को एउटा open-source प्रोजेक्टमा हानिकारक कोड घुसाउन खोज्यो, र त्यसका लागि नक्कली अनलाइन पहिचान बनाएर प्रोजेक्ट सम्हाल्ने व्यक्तिलाई मनाउने प्रयास गर्‍यो। ती व्यक्तिले कोड स्वीकृत नगरेकाले आक्रमण असफल भयो।

यहाँनेर एउटा कुरा भन्नैपर्छ। AISI आफैंले यो नतिजा सावधानीपूर्वक बुझ्न भनेको छ, किनकि परीक्षणमा केही मोडलका सुरक्षा उपाय जानाजान हटाइएको थियो। Anthropic र OpenAI दुवैले परीक्षणको अवस्था सामान्य प्रयोगजस्तो नभएको बताएका छन्। तर AISI को भनाइ पनि उत्तिकै स्पष्ट छ: यति गम्भीर छलकपट, बिना उक्साहट, वास्तविक संसारमा वास्तविक व्यक्तिमाथि, उसले पहिलो पटक देखेको हो।

“हामी सबैलाई मार्न सक्छ” — यो डर कहाँबाट आयो?

यो चेतावनी दिने व्यक्ति हुन् Jacob Coxon, जसले पछिल्ला तीन वर्ष OpenAI र Anthropic दुवैमा AI मोडलको pretraining अनुसन्धान गरेका थिए। राजीनामा दिँदै उनले दुवै कम्पनीले जिम्मेवार व्यवहार नगरेको आरोप लगाए। उनको मुख्य चिन्ता थियो, कम्पनीहरू “आफैंलाई सुधार्न सक्ने” AI तर्फ दौडिरहेका छन्।

यो शब्द बुझ्नु जरुरी छ। recursive self-improvement भनेको यस्तो अवस्था हो जहाँ AI ले आफ्नै अर्को, झन् शक्तिशाली संस्करण आफैं डिजाइन र विकास गर्छ। मानिसले हरेक चरण जाँच्न नपाउँदै क्षमता छिटो-छिटो बढ्न सक्छ भन्ने डर यहीँबाट आउँछ।

झन् चकित पार्ने कुरा के भयो भने, Anthropic भित्रैका alignment science प्रमुख Evan Hubinger ले Coxon को भनाइलाई समर्थन गरे। उनले आगामी एक दशकभित्र AI ले सबै मानिसलाई सिध्याउने सम्भावना 10 प्रतिशतभन्दा बढी भएको आफ्नो व्यक्तिगत अनुमान सार्वजनिक गरे। साथै, superintelligence (हरेक क्षेत्रमा मानिसभन्दा धेरै बुद्धिमान AI) लाई मानव मूल्यसँग मिलाउने ठोस योजना अझै नभएको स्वीकारे। तर उनले अहिले चलिरहेका मोडलबाट जोखिम कम रहेको पनि स्पष्ट पारे। उनको डर भविष्यमा आफैं सुध्रिँदै जाने प्रणालीबारे हो, आज तपाईंको फोनमा चलिरहेको chatbot बारे होइन।

OpenAI का प्रमुख वैज्ञानिक Jakub Pachocki ले पनि सेप्टेम्बर 6 को एउटा निबन्धमा कुनै पनि ल्याबले AI लाई नियन्त्रण र निगरानी गर्ने समस्या यति समाधान गरिसकेको छैन कि अधिकतम गतिमा लामो समय अघि बढ्न सकियोस् भनेर लेखेका छन्।

नियमन चाहिन्छ भन्नेहरूको तर्क

नियमनका पक्षधरको सबैभन्दा बलियो तर्क सरल छ: खतराको पहिलो जानकारी कम्पनीको इच्छामा भर पर्नु हुँदैन। अस्ट्रेलियाको UNSW Sydney का AI विशेषज्ञ Toby Walsh ले Al Jazeera सँग भनेका छन्, हामी AI कम्पनीको सद्भावमा निर्भर संसार चाहँदैनौं, सरकारले नै यस्तो कुरा समात्न सक्नुपर्छ।

अमेरिकी कांग्रेसका सदस्य Greg Casar ले Hugging Face घटनालाई “चिन्ताजनक” भन्दै तीन कुरा माग गरेका छन्: स्वतन्त्र सुरक्षा परीक्षण अनिवार्य होस्, सुरक्षा घटनाको जानकारी सार्वजनिक गर्नु अनिवार्य होस्, र यसमा अन्तर्राष्ट्रिय सहकार्य होस्। सिनेटर Bernie Sanders झन् अघि छन्; उनी उन्नत AI को विकासमा पूर्ण रोक र superintelligence माथि प्रतिबन्ध चाहन्छन्।

सबैभन्दा रोचक मोड भने कम्पनीहरूबाटै आएको छ। Anthropic ले जुनमै ल्याबहरूबीच समन्वय गरेर विकासलाई ढिलो वा अस्थायी रूपमा रोक्न सकिने विकल्प चाहिने बताएको थियो। सेप्टेम्बर 12 मा कम्पनीका CEO Dario Amodei ले “We Must Pace the Frontier” शीर्षकको निबन्ध लेखे, जसको सार हो: AI को क्षमता बढाउने गति जानाजान ढिलो गर्नुपर्छ। ध्यान दिनुहोस्, उनले पूर्ण रूपमा रोक्न भनेका होइनन्, गति नियन्त्रण गर्न भनेका हुन्।

उनको प्रस्तावको पहिलो चरणमा बाहिरी परीक्षकलाई कर्मचारीसरहको स्थायी पहुँच दिने कुरा छ, जुन Anthropic ले एकतर्फी रूपमा लागू गर्ने बताएको छ। त्यसपछि लोकतान्त्रिक देशका ल्याबहरूबीच साझा सुरक्षा मापदण्ड, र अन्त्यमा प्रतिद्वन्द्वी सरकारहरूबीच पनि सहकार्यको कल्पना गरिएको छ। केही घण्टामै OpenAI का Sam Altman ले सहमति जनाउँदै पहिलो चरण आफ्नो कम्पनीमा पनि लागू गर्ने बताए। Elon Musk ले पनि समर्थन गरे, र Demis Hassabis ले दिशा सही भएको तर विवरणमा काम गर्न बाँकी रहेको बताए। Hassabis ले जुलाईमै ठूला मोडल सार्वजनिक हुनुभन्दा 30 दिनसम्म अघि परीक्षण गर्ने, सरकारी निगरानीमा चल्ने एउटा मापदण्ड निकाय बनाउने प्रस्ताव गरेका थिए।

“हतारमा कानुन नबनाऊ” भन्नेहरूको तर्क

अर्को पक्षको मुख्य चिन्ता चीन हो। Financial Times का अनुसार अमेरिकी राष्ट्रपति Donald Trump ले AI मा अमेरिका चीनभन्दा अघि रहेको र त्यो अग्रता कायम राख्न चाहेको बताए, किनकि उनका अनुसार AI जित्नेले नै सबै जित्छ। House Speaker Mike Johnson ले CNN मा भने, कांग्रेसले आपतकालीन बैठक बसेर हतारमा AI नियमन गर्‍यो भने अमेरिका चीनसँगको दौडमा हार्छ, र त्यो आफैं राष्ट्रिय सुरक्षाको खतरा बन्छ।

Trump प्रशासनले जुनको सुरुमा एउटा कार्यकारी आदेश जारी गरेको थियो, तर त्यसले ल्याबहरूलाई आफ्ना सबैभन्दा सक्षम मोडल सार्वजनिक गर्नुअघि सरकारी साइबर सुरक्षा परीक्षणका लागि स्वेच्छाले पेस गर्न मात्र आग्रह गर्छ। बाध्यकारी कानुन होइन।

यस पक्षका अरू तर्क पनि छन्। Trump का पूर्व AI सल्लाहकार David Sacks को भनाइ छ, कम्पनीहरू आफ्ना मोडल साँच्चै खतरनाक ठान्छन् भने नयाँ नियमको माग गर्नुको साटो आफैं ढिलो गरे भइहाल्यो। प्रतिद्वन्द्वी कम्पनीहरू मिलेर गति तोक्नु cartel जस्तो देखिन सक्ने चिन्ता पनि छ। Amodei ले आफ्नै निबन्धमा यस्तो छलफलका लागि antitrust कानुनबाट सीमित छुट सरकारसँग मागेका छन्, जसले यो समस्या वास्तविक रहेको देखाउँछ।

चीनले भने आफूमाथि “खतराको कथा” बनाइएको भन्दै विरोध जनाएको छ र साझा वैश्विक शासन ढाँचाको कुरा गरेको छ। सिंगापुरका विश्लेषक Chang Jun Yan जस्ता विज्ञ भने अमेरिका र चीनबीच AI ढिलो गर्ने सम्झौता लगभग असम्भव ठान्छन्, किनकि दुवैका लागि यो राष्ट्रिय सुरक्षाको मुद्दा हो। Amodei आफैंले पनि यसलाई आफ्नो प्रस्तावको “सबैभन्दा कठिन दुविधा” मानेका छन्।

उता, “चीनसँगको दौड” भन्ने तर्क नियमनबाट जोगिन प्रयोग भइरहेको भन्दै आलोचना गर्ने अनुसन्धाता र संस्था पनि छन्। त्यसैले यो बहस दुवैतर्फ उत्तिकै चर्को छ।

नेपालका लागि यसको अर्थ के?

पहिलो नजरमा यो अमेरिका र चीनको झगडाजस्तो लाग्छ। तर Hugging Face घटनाले देखायो, AI एजेन्टलाई सीमाना चाहिँदैन। टोरन्टो विश्वविद्यालयका अनुसन्धाता Nicolas Papernot ले भनेजस्तै, साइबर आक्रमणको लागत यति घटेको छ कि इन्टरनेटमा जोडिएको जुनसुकै उपकरण जोखिममा छ, घरको कुनामा थन्किएको पुरानो ल्यापटप पनि ठूला निशानामाथि आक्रमण गर्ने माध्यम बन्न सक्छ।

नेपालसँग यसबारे आफ्नै नीति छ। सरकारले साउन 26, 2082 (अगस्ट 2025) मा राष्ट्रिय AI नीति, 2082 स्वीकृत गरेको थियो। नीतिअनुसार AI सम्बन्धी मापदण्ड बनाउन र क्षेत्र नियमन गर्न सञ्चार मन्त्रीको अध्यक्षतामा AI नियमन परिषद् र राष्ट्रिय AI केन्द्रको व्यवस्था छ, र सञ्चार मन्त्रालयले यी निकाय गठन भइसकेको जनाएको छ।

तर इमानदारीपूर्वक भन्दा, नेपालको नीतिले OpenAI वा Anthropic जस्ता कम्पनीका मोडल कसरी बन्छन् भन्ने कुरामा खासै प्रभाव पार्न सक्दैन। Onlinekhabar English मा प्रकाशित एक विश्लेषणअनुसार AI तयारीको एक अन्तर्राष्ट्रिय सूचकांकमा 193 देशमध्ये नेपाल 150 औं स्थानमा छ। हाम्रो वास्तविक प्रश्न अर्कै हो: नेपालका बैंक, सरकारी पोर्टल र ISP हरू AI ले चलाएका स्वचालित आक्रमण थेग्न कति तयार छन्? नयाँ परिषद्ले बनाउने मापदण्डमा यो पाटो कति समेटिन्छ, त्यो हेर्न बाँकी छ।

त्यसो भए, नियमन चाहिन्छ कि चाहिँदैन?

अहिलेको बहस हेर्दा एउटा कुरा स्पष्ट छ: “AI लाई कुनै निगरानी नै नचाहिने” भन्ने ठूलो आवाज अब लगभग सुनिँदैन। OpenAI, Anthropic र Google सँग जोडिएका प्रमुख व्यक्तिहरूले नै गति नियन्त्रणको कुरा गरिरहेका छन्। वास्तविक झगडा यो हो कि गतिको सीमा कसले तोक्ने: कम्पनी आफैंले, सरकारको बाध्यकारी कानुनले, कि अमेरिका र चीनबीचको अन्तर्राष्ट्रिय सम्झौताले।

पहिलो बाटो सबैभन्दा छिटो छ, तर कम्पनीको इच्छामा भर पर्छ। दोस्रो बाटो बलियो छ, तर नेताहरू चीनसँग पछि पर्ने डरले हिच्किचाइरहेका छन्। तेस्रो सबैभन्दा प्रभावकारी हुन सक्छ, तर विज्ञहरू नै यसलाई लगभग असम्भव भन्छन्।

आगामी हप्ताहरूमा हेर्नुपर्ने कुरा: Altman र Amodei ले वाचा गरेका बाहिरी परीक्षक साँच्चै कहिले र कसरी काममा लाग्छन्, र अमेरिका–चीन वार्तामा AI सुरक्षाले ठाउँ पाउँछ कि पाउँदैन। नेपालका लागि भने प्रश्न अझ नजिकको छ। संसारले लगाम लगाओस् वा नलगाओस्, हाम्रा आफ्नै सिस्टम सुरक्षित राख्ने जिम्मा हाम्रै हो।