आप किसी एआई से पूछते हैं – “मेरे लिए सही क्या है और गलत क्या?” एआई आपको जवाब देता है। लेकिन सवाल यह है कि उसे खुद कैसे पता कि क्या सही है और क्या गलत? यही सवाल अब एआई की दुनिया की सबसे बड़ी कंपनियों में से एक एंथ्रोपिक के सामने खड़ा है। क्लॉड बनाने वाली एंथ्रोपिक पिछले कई महीनों से धार्मिक नेताओं, दार्शनिकों और नैतिकता के विशेषज्ञों से बातचीत कर रही है। कैथोलिक, यहूदी, सिख, हिंदू और दूसरे विचारकों के साथ इन चर्चाओं का मकसद यह समझना है कि एक शक्तिशाली एआई को सही और नैतिक तरीके से व्यवहार करना कैसे सिखाया जाए।
कंपनी अपने एआई मॉडल क्लॉड को सिर्फ ज्यादा बुद्धिमान बनाने की कोशिश नहीं कर रही बल्कि यह भी समझाना चाहती है कि उसमें इंसानी मूल्यों, नैतिकता और सही-गलत की समझ कैसी होनी चाहिए। इन बातचीत में एक और भी बड़ा सवाल सामने आया क्या भविष्य में किसी एआई सिस्टम में चेतना विकसित हो सकती है?
कंपनी का उद्देश्य यह समझना था कि जैसे-जैसे क्लॉड मुश्किल नैतिक सवालों का सामना करेगा, उसके लिए उसमें सही-गलत और इंसानी मूल्यों की समझ किस तरह विकसित की जाए? इन सब के अलावा एंथ्रोपिक की दिलचस्पी सिर्फ धार्मिक विचारों को क्लॉड में शामिल करने तक सीमित नहीं थी। इन बैठकों के पीछे एक दूसरा और कहीं ज्यादा बड़ा सवाल भी था अगर कोई एआई सिस्टम इंसानों की तरह व्यवहार करता है, तो क्या ये इस बात का सबूत है कि उसमें चेतना है?
एंथ्रोपिक ने क्लॉड के लिए 84 पन्नों का एक विस्तृत संविधान तैयार किया है। कंपनी के भीतर इसे कभी-कभी ‘सोल डॉक’ यानी ‘आत्मा का दस्तावेज’ भी कहा जाता है। हालांकि, इसका उद्देश्य एआई को कुछ तय नियमों की सूची पकड़ा देना भर नहीं है। असल कोशिश यह है कि क्लॉड में एक ऐसा चरित्र और मूल्य-व्यवस्था विकसित की जाए, जिससे वह मुश्किल परिस्थितियों में खुद से चीजों को समझकर बेहतर नैतिक फैसले ले सके।
एंथ्रोपिक के सह-संस्थापक क्रिस्टोफर ओलाह इसे ‘मोरल फॉर्मेशन’ कहते हैं। यानी सवाल सिर्फ यह नहीं कि एआई को क्या करने की अनुमति होनी चाहिए बल्कि यह है कि वह किस तरह का एआई बने। उसे अलग-अलग मूल्यों के बीच टकराव समझना हो, सही परिस्थिति में इंसान की बात माननी हो और जरूरत पड़ने पर इंसान के फैसले पर सवाल भी उठाना हो। कहानी यहीं से एक दिलचस्प मोड़ लेती है।
Leave a comment