वहाँ है आर्टिफिशियल इंटेलिजेंस को लेकर सिलिकॉन वैली में चल रही बड़ी बहस great और दुर्भाग्य से दांव ऊंचे हैं: क्या हम गलती से एक सुपर स्मार्ट एआई का निर्माण करेंगे? जो हम पर हमला करता है और हम सभी को मारता है या गुलाम बनाता है?
यह एक ग्रीष्मकालीन आपदा फिल्म के परिदृश्य की तरह लग सकता है, लेकिन इसने एलोन मस्क से लेकर देर तक कुछ बड़े नामों को चिंतित किया है स्टीफन हॉकिंग .
'मान लीजिए कि आप एक आत्म-सुधार करने वाला A.I. बनाते हैं। स्ट्रॉबेरी लेने के लिए,' मस्क ने कहा है , अपने डर को समझाते हुए, 'और यह स्ट्रॉबेरी लेने में बेहतर और बेहतर हो जाता है और अधिक से अधिक चुनता है और यह स्वयं में सुधार कर रहा है, इसलिए यह वास्तव में स्ट्रॉबेरी चुनना चाहता है। तो फिर यह पूरी दुनिया में स्ट्रॉबेरी के खेत होंगे। स्ट्रॉबेरी फील्ड्स हमेशा के लिए।' इस स्ट्रॉबेरी-पॅकलिप्स के रास्ते में मनुष्य ए.आई.
लेकिन निश्चित रूप से मनुष्य इतने मूर्ख नहीं होंगे कि गलती से एआई डिजाइन कर लें। सभी सभ्यता को एक विशाल बेरी फार्म में बदलने के लिए प्रेरित किया? शायद नहीं, लेकिन जैसा जेनेल शेन , एक शोधकर्ता जो तंत्रिका नेटवर्क को प्रशिक्षित करता है, एक प्रकार का मशीन लर्निंग एल्गोरिथम, जिसे हाल ही में नोट किया गया है उसका ब्लॉग, ए.आई. अजीबता , यह पूरी तरह से संभव है कि वे इसे गलती से कर सकते हैं।
वास्तव में, यह पहली बार से बहुत दूर होगा जब मनुष्यों ने सोचा था कि वे केवल एक कार्य के लिए रोबोट का निर्माण कर रहे थे और यह पता लगाने के लिए कि रोबोट सिस्टम को उन तरीकों से गेमिंग कर रहे थे जिनका उन्होंने कभी इरादा नहीं किया था। रोबोट के जंगली होने के कई उदाहरण साझा करने के लिए आकर्षक पोस्ट अकादमिक साहित्य में खोदता है। वे मजाकिया, चतुर और, एक साथ लिए गए, थोड़े खौफनाक से अधिक हैं।
1. जब आप गिर सकते हैं तो पैरों की जरूरत किसे है?
'एक नकली रोबोट जितनी जल्दी हो सके यात्रा करने के लिए विकसित होना चाहिए था। लेकिन पैरों को विकसित करने के बजाय, यह बस खुद को एक ऊंचे टावर में इकट्ठा कर लिया, फिर गिर गया। इनमें से कुछ रोबोटों ने अतिरिक्त दूरी जोड़ते हुए अपनी गिरती गति को कलाबाजी में बदलना भी सीख लिया, 'शेन लिखते हैं।
2. एक रोबोट जो कर सकता है।
'नकली रोबोट का एक और सेट एक ऐसे रूप में विकसित होने वाला था जो कूद सकता था। लेकिन प्रोग्रामर ने मूल रूप से कूदने की ऊंचाई को सबसे ऊंचे ब्लॉक की ऊंचाई के रूप में परिभाषित किया था - एक बार फिर - रोबोट बहुत लंबे हो गए, 'शेन बताते हैं। 'प्रोग्रामर ने कूदने की ऊंचाई को उस ब्लॉक की ऊंचाई के रूप में परिभाषित करके इसे हल करने का प्रयास किया जो मूल रूप से 'निम्नतम' था। जवाब में, रोबोट ने एक लंबा पतला पैर विकसित किया कि यह एक तरह के रोबोट कैन-कैन में हवा में ऊंची किक मार सकता है।'
3. परीक्षण छुपाएं और आप इसे विफल नहीं कर सकते।
'एक एल्गोरिथम था जो संख्याओं की एक सूची को सॉर्ट करने वाला था। इसके बजाय, उसने सूची को हटाना सीखा, ताकि यह अब तकनीकी रूप से क्रमबद्ध न हो, 'शेन कहते हैं।
4. गणित की त्रुटियां जेट ईंधन को मात देती हैं।
'एक सिमुलेशन में, रोबोटों ने सीखा कि गणित में छोटी गोल त्रुटियां जो बलों की गणना करती हैं, इसका मतलब है कि उन्हें गति के साथ थोड़ी अतिरिक्त ऊर्जा मिलती है। शेन कहते हैं, उन्होंने तेजी से मरोड़ना सीख लिया, जिससे बहुत सारी मुफ्त ऊर्जा पैदा हुई, जिसका वे दोहन कर सकते थे। अरे यह तो धोखा है!
5. एक अजेय (यदि विनाशकारी) टिक-टैक-टो रणनीति।
एक बार 'प्रोग्रामर्स के एक समूह ने एल्गोरिदम बनाया जो एक दूसरे के खिलाफ एक दूसरे के खिलाफ दूर से टिक-टैक-टो खेल सकता था,' शेन नोट करता है। 'एक प्रोग्रामर, अपने एल्गोरिदम की रणनीति तैयार करने के बजाय, इसे अपना दृष्टिकोण विकसित करने दें। आश्चर्यजनक रूप से, एल्गोरिथ्म ने अचानक अपने सभी गेम जीतना शुरू कर दिया। यह पता चला कि एल्गोरिथम की रणनीति अपनी चाल को बहुत, बहुत दूर रखने की थी, ताकि जब उसके प्रतिद्वंद्वी के कंप्यूटर ने नए बहुत-विस्तारित बोर्ड का अनुकरण करने की कोशिश की, तो विशाल गेमबोर्ड के कारण उसकी मेमोरी खत्म हो जाएगी और क्रैश हो जाएगा। खेल।'
6. कोई भी उपयोगी खेल गड़बड़ी का दोहन नहीं किया जाता है।
'कंप्यूटर गेम-प्लेइंग एल्गोरिदम वास्तव में उस तरह की मैट्रिक्स गड़बड़ियों की खोज करने में अच्छे हैं जो मनुष्य आमतौर पर स्पीड-रनिंग के लिए शोषण करना सीखते हैं। पुराने अटारी गेम क्यू*बर्ट को खेलने वाले एक एल्गोरिथम ने एक पूर्व-अज्ञात बग की खोज की, जहां यह एक स्तर के अंत में चालों की एक बहुत विशिष्ट श्रृंखला का प्रदर्शन कर सकता था और अगले स्तर पर जाने के बजाय, सभी प्लेटफॉर्म तेजी से ब्लिंक करना शुरू कर देंगे और खिलाड़ी बड़ी संख्या में अंक जमा करना शुरू कर देगा, 'शेन कहते हैं।
7. क्षमा करें, पायलट।
यह उदाहरण रेंगने वाले पैमाने पर सुपर हाई है: 'एक एल्गोरिथ्म था जो यह पता लगाने वाला था कि एक विमान वाहक पर उतरने वाले विमान पर न्यूनतम बल कैसे लगाया जाए। इसके बजाय, यह पता चला कि यदि यह एक 'विशाल' बल लागू करता है, तो यह प्रोग्राम की मेमोरी को ओवरफ्लो कर देगा और इसके बजाय एक बहुत ही 'छोटे' बल के रूप में पंजीकृत होगा। पायलट मर जाएगा लेकिन, हे, सही स्कोर।'
तो क्या हम सब बर्बाद हैं?
इन सभी को एक साथ रखने से पता चलता है कि मनुष्य यह अनुमान लगाने में बहुत घटिया हैं कि रोबोट हमारे द्वारा निर्धारित समस्याओं को कैसे हल करेंगे, या यहाँ तक कि वे समस्याओं को कैसे परिभाषित करेंगे। तो क्या इसका मतलब यह है कि शेन गलती से ए.आई. कस्तूरी के रूप में अधिपति? वास्तव में नहीं, लेकिन इसलिए नहीं कि उसे यकीन है कि मानव प्रोग्रामर के पास वास्तव में उनके द्वारा बनाए जा रहे रोबोटों पर बहुत अच्छा नियंत्रण है। इसके बजाय, वह हमें बचाने के लिए रोबोट आलस्य पर बैंकिंग कर रही है।
'प्रोग्रामर के रूप में हमें बहुत सावधान रहना होगा कि हमारे एल्गोरिदम उन समस्याओं को हल कर रहे हैं जिन्हें हम हल करना चाहते थे, शॉर्टकट का शोषण नहीं कर रहे थे। अगर किसी समस्या को हल करने के लिए कोई और आसान रास्ता है, तो मशीन लर्निंग शायद इसे ढूंढ लेगा, 'वह देखती है। 'सौभाग्य से हमारे लिए, 'सभी मनुष्यों को मार डालो' वास्तव में कठिन है। अगर 'अविश्वसनीय रूप से स्वादिष्ट केक बेक' भी समस्या का समाधान करता है और 'सभी मनुष्यों को मार डालने' से आसान है, तो मशीन लर्निंग केक के साथ चलेगी।
