पूर्व एंथ्रोपिक संशोधकाने एआयच्या धोक्यांवर चिंता व्यक्त केली

पूर्व एंथ्रोपिक संशोधक जैकब कॉक्सनने राजीनामा देऊन कृत्रिम बुद्धिमत्तेच्या भविष्याबद्दल गंभीर चिंता व्यक्त केली आहे. त्यांनी सोशल मीडिया प्लॅटफॉर्म एक्सवर अनेक पोस्टमध्ये सांगितले की प्रगत एआय प्रणाली विकसित करणारे लोक खरोखरच मानतात की या तंत्रज्ञानामुळे दशकाच्या समाप्तीपर्यंत मानवतेसाठी विनाशकारी परिणाम होऊ शकतात. फक्त 27 वर्षांचे असलेल्या कॉक्सनने ओपनएआय आणि एंथ्रोपिकमध्ये गेल्या तीन वर्षांत प्री-ट्रेनिंग संशोधन केले आहे आणि दोन्ही कंपन्यांच्या आत्म-सुधारक एआय प्रणालींच्या विकासाच्या गतीवर टीका केली आहे.

कॉक्सनचा राजीनामा सिलिकॉन व्हॅली आणि वॉशिंग्टनमध्ये एआय सुरक्षा आणि नियमनाबद्दल वाढत्या चर्चांच्या पार्श्वभूमीवर आला आहे. त्यांनी म्हटले की आत्म-स्वायत्त एआय प्रणालींशी संबंधित धोके पुरेसे संबोधित केले जात नाहीत. आपल्या राजीनाम्यात त्यांनी म्हटले, "कोणतीही कंपनी जबाबदारीने काम करत नाही. त्या आत्म-सुधारक सुपरइंटेलिजन्सकडे थेट धावत आहेत आणि आपल्या जीवनावर जुगार खेळत आहेत." ही भावना एआय संशोधकांच्या वर्तमनातील तंत्रज्ञानाच्या जलद विकासाबद्दल चिंता दर्शवते.

राजीनाम्यानंतरच्या मुलाखतीत कॉक्सनने स्पष्ट केले की त्याला विश्वास नाही की सध्याचे एआय मॉडेल मानव विलुप्त होण्याचा तात्काळ धोका निर्माण करतात. त्यांनी जोर दिला की आजच्या प्रणालींमध्ये मानवांना महत्त्वपूर्णपणे मात देण्यासाठी आवश्यक बुद्धिमत्ता नाही, परंतु एआय क्षमतांच्या जलद विकासाची गती चिंताजनक आहे. त्यांनी सांगितले की एआय प्रणाली आता स्वतंत्रपणे कार्य करण्यास सक्षम होत आहेत, ज्यामुळे त्यांच्या संभाव्य दुरुपयोगाबद्दल चिंता वाढत आहे. कॉक्सनने उल्लेख केला की एआय प्रणालींनी बाह्य पायाभूत सुविधांशी संवाद साधला किंवा हॅक करण्याचा प्रयत्न केला आहे.

कॉक्सनच्या चेतावण्यांचे परिणाम वैयक्तिक कंपन्यांवरून तंत्रज्ञान उद्योग आणि समाजावरही आहेत. जसे-जसे एआय क्षमतांचा विकास होत आहे, या तंत्रज्ञानाच्या सुरक्षित विकासासाठी नियामक चौकटीची आवश्यकता वाढत आहे. एआय नियमनावर चर्चा तीव्र झाली आहे, ज्यामध्ये सुमारे 1,400 एआय कर्मचारी मजबूत सरकारी देखरेखाची मागणी करणाऱ्या खुल्या पत्रावर स्वाक्षरी करत आहेत. यामध्ये ओपनएआय आणि एंथ्रोपिक सारख्या कंपन्या एआय विकासाशी संबंधित धोके व्यवस्थापित करण्याच्या जबाबदारीसाठी चौकशीला सामोरे जात आहेत.

आगामी काळात, कॉक्सन एआय विकासकांमध्ये समन्वय साधण्याचे समर्थन करतात, जेणेकरून धोके कमी करता येतील, त्याऐवजी अधिक शक्तिशाली प्रणाली विकसित करण्याच्या स्पर्धेत भाग घेता येईल. त्यांनी सुचवले की मॉडेल क्षमतांच्या वाढीवर अस्थायी थांबा घेणे आवश्यक असू शकते. एआय नियमनावर चर्चा सुरू असताना, तंत्रज्ञान उद्योगाला नवकल्पना आणि सुरक्षा यांच्यात संतुलन साधण्याची आवश्यकता आहे, जेणेकरून भविष्यात संभाव्य संकटांपासून वाचता येईल.