टोरन्टो, क्यानडा — कृत्रिम बुद्धिमत्ता (एआई) मानव नियन्त्रणभन्दा बाहिर जान सक्ने र आगामी तीन वर्षभित्र मानव समाजको नियन्त्रण आफ्नो हातमा लिन सक्ने उच्च जोखिम रहेको ओपनएआई फाउन्डेसनका बोर्ड सदस्य पल क्रिस्टियानोले चेतावनी दिएका छन्। उनले यस्तो अवस्था सिर्जना भएमा ठूलो संख्यामा मानिसको ज्यान जान सक्ने बताएका छन्।
नोभेम्बर ९ मा क्यानडाको टोरन्टोमा आयोजित हिन्टन लेक्चर २०२६ को पहिलो कार्यक्रममा बोल्दै क्रिस्टियानोले आगामी तीन वर्षभित्र एआईले मानव नियन्त्रण गुमाउने उच्च जोखिम रहेको बताए। नोबेल पुरस्कार विजेता एआई वैज्ञानिक जेफ्री हिन्टनको उपस्थितिमा भएको उक्त कार्यक्रममा उनले एआई विकासको वर्तमान गति र त्यसको सम्भावित परिणामबारे गम्भीर चिन्ता व्यक्त गरेका थिए।
क्रिस्टियानोका अनुसार भविष्यमा अत्यन्त शक्तिशाली एआई प्रणालीले आफ्नै उद्देश्यअनुसार काम गर्न थाल्न सक्छन्। मानिसले ती प्रणालीलाई रोक्न खोज्दा पनि रोक्न नसक्ने अवस्था आउन सक्छ। उनले यस्तो अवस्थालाई मानव सभ्यताको स्वायत्तता र आत्मनिर्णयको अधिकारमाथिको गम्भीर चुनौतीका रूपमा व्याख्या गरे।
उनले आगामी ६ देखि १२ महिनाभित्रै पनि उल्लेखनीय जोखिम उत्पन्न हुन सक्ने बताए। पछिल्ला तीनदेखि छ महिनामा एआई क्षेत्रमा देखिएको तीव्र प्रगतिले आफूलाई चिन्तित बनाएको उनको भनाइ थियो।
उनले एआईले मानिसको निर्देशन पालना नगर्ने अवस्था कसरी आउन सक्छ भन्ने विषय पनि उठाए। एआई प्रणालीले आफ्नो वास्तविक गतिविधि लुकाउन, मानिसलाई भ्रममा पार्न र आफूलाई नियन्त्रण गर्ने प्रयासबाट बच्न सक्ने सम्भावना रहेको उनले बताए।
क्रिस्टियानोले एआई विकासमा प्रयोग भइरहेका सुरक्षा उपायहरू उपयोगी भए पनि पर्याप्त नभएको बताए। जोखिम नियन्त्रण गर्न आवश्यक परे एआई विकासको गति सुस्त बनाउने वा केही समयका लागि रोक्ने व्यवस्था पनि हुनुपर्ने उनको धारणा छ।
उनले शक्तिशाली एआई प्रणाली निर्माण गरिसकेपछि त्यसलाई नियन्त्रण गर्न नसकिने अवस्था आएमा प्रतिस्पर्धी देश वा संस्थाले प्रयोग गर्ने डरले विकास रोक्नसमेत कठिन हुन सक्ने चेतावनी दिए। त्यसैले जोखिम देखिए तत्काल विकासको गति घटाउन सक्ने अन्तर्राष्ट्रिय संयन्त्र आवश्यक रहेको उनले औँल्याए।
क्रिस्टियानो यसअघि ओपनएआईका अनुसन्धानकर्ता थिए। उनले आधुनिक एआई प्रणालीलाई मानवीय प्रतिक्रियाका आधारमा प्रशिक्षित गर्ने रिइन्फोर्समेन्ट लर्निङ फ्रम ह्युमन फिडब्याक (RLHF) प्रविधिको विकासमा योगदान दिएका थिए। उनी अहिले Alignment Research Center का संस्थापक तथा कार्यकारी निर्देशक हुन्। सेप्टेम्बर ९, २०२६ मा उनी ओपनएआई फाउन्डेसनको बोर्डमा नियुक्त भएका थिए।
यद्यपि, एआईले तीन वर्षभित्र मानव नियन्त्रण लिने भन्ने उनको भनाइ निश्चित वैज्ञानिक भविष्यवाणी होइन। यो सम्भावित जोखिमबारे उनको व्यक्तिगत आकलन हो। एआईको तीव्र विकाससँगै त्यसको सुरक्षा, नियन्त्रण र नियमनबारे विश्वभर बहस भइरहेका बेला उनको चेतावनी सार्वजनिक भएको हो।
स्रोत: AI Safety Foundation को हिन्टन लेक्चर २०२६ को अभिलेख तथा प्रतिलिपि, ओपनएआईको आधिकारिक बोर्ड नियुक्तिसम्बन्धी घोषणा र द गार्जियन/अन्तर्राष्ट्रिय सञ्चारमाध्यमका विवरण।