มีอา การอภิปรายครั้งใหญ่เกิดขึ้นใน Silicon Valley เกี่ยวกับปัญญาประดิษฐ์ และโชคไม่ดีที่เดิมพันค่อนข้างสูง: เราจะบังเอิญสร้าง A.I. ที่หันเหพวกเราและฆ่าหรือกดขี่พวกเราทุกคน?
นี่อาจฟังดูเหมือนสถานการณ์ของภาพยนตร์หายนะในฤดูร้อน แต่ก็มีความกังวลชื่อใหญ่ ๆ บางอย่างตั้งแต่ Elon Musk ไปจนถึงปลาย Stephen Hawking .
'สมมติว่าคุณสร้าง A.I. ที่พัฒนาตนเอง ไปเก็บสตรอเบอร์รี่' มัสค์ได้กล่าวไว้ อธิบายความกลัวของเขาว่า 'และการเก็บสตรอว์เบอร์รีและหยิบมากขึ้นเรื่อยๆ ดีขึ้นเรื่อยๆ และมันก็เป็นการพัฒนาตัวเอง ดังนั้นสิ่งที่อยากทำคือเก็บสตรอเบอรี่ แล้วโลกทั้งใบก็จะเป็นทุ่งสตรอเบอรี่ ไร่สตรอเบอรี่ตลอดไป' มนุษย์ในทางของสตรอเบอร์รี่-pacalypse นี้จะเป็นเพียงสิ่งระคายเคืองต่อ A.I.
แต่แน่นอนว่ามนุษย์จะไม่โง่เขลาเท่ากับการออกแบบ A.I. ขับเคลื่อนให้อารยธรรมทั้งหมดกลายเป็นฟาร์มเบอร์รี่ขนาดยักษ์แห่งเดียว? อาจจะไม่ใช่ แต่เป็น Janelle Shane นักวิจัยผู้ฝึกโครงข่ายประสาทเทียม อัลกอริธึมการเรียนรู้ของเครื่องประเภทหนึ่ง เพิ่งตั้งข้อสังเกตเกี่ยวกับ not บล็อกของเธอ A.I. ความแปลกประหลาด เป็นไปได้ทั้งหมดที่พวกเขาสามารถทำได้โดยไม่ได้ตั้งใจ
ในความเป็นจริง มันจะห่างไกลจากครั้งแรกที่มนุษย์คิดว่าพวกเขากำลังสร้างหุ่นยนต์สำหรับภารกิจเดียวเพื่อหันหลังกลับและพบว่าหุ่นยนต์กำลังเล่นเกมระบบในแบบที่พวกเขาไม่ได้ตั้งใจ โพสต์ที่น่าสนใจเจาะลึกลงในวรรณกรรมทางวิชาการเพื่อแบ่งปันตัวอย่างหุ่นยนต์หลายตัวที่คลั่งไคล้ พวกมันตลก ฉลาด และรวมเข้าด้วยกัน มากกว่าน่าขนลุกเล็กน้อย
1. ใครต้องการขาเมื่อคุณล้มลง?
'หุ่นยนต์จำลองควรจะพัฒนาให้เดินทางได้เร็วที่สุด แต่แทนที่จะพัฒนาขา มันแค่ประกอบตัวเองเป็นหอคอยสูงแล้วล้มลง หุ่นยนต์เหล่านี้บางตัวเรียนรู้ที่จะเปลี่ยนการเคลื่อนไหวที่ตกลงมาให้เป็นการตีลังกา ทำให้ได้ระยะห่างมากขึ้น' เชนกล่าว
2. หุ่นยนต์ที่มีความสามารถ
'หุ่นยนต์จำลองอีกชุดหนึ่งควรจะพัฒนาเป็นรูปแบบที่สามารถกระโดดได้ แต่เดิมโปรแกรมเมอร์ได้กำหนดความสูงของการกระโดดเป็นความสูงของบล็อกที่สูงที่สุด ดังนั้น หุ่นยนต์จึงพัฒนาให้สูงมากอีกครั้ง' เชนอธิบาย 'โปรแกรมเมอร์พยายามแก้ปัญหานี้โดยกำหนดความสูงของการกระโดดเป็นความสูงของบล็อกที่แต่เดิมเป็น 'ต่ำสุด' ในการตอบสนอง หุ่นยนต์ได้พัฒนาขาเรียวยาวที่สามารถเตะขึ้นไปในอากาศได้แบบหุ่นยนต์กระป๋อง'
3. ซ่อนการทดสอบและคุณไม่สามารถล้มเหลวได้
'มีอัลกอริธึมที่ควรจัดเรียงรายการตัวเลข แต่กลับเรียนรู้ที่จะลบรายการเพื่อไม่ให้ถูกจัดเรียงในทางเทคนิคอีกต่อไป' เชนกล่าว
4. ข้อผิดพลาดทางคณิตศาสตร์เอาชนะน้ำมันเครื่องบิน
'ในการจำลองครั้งหนึ่ง หุ่นยนต์ได้เรียนรู้ว่าข้อผิดพลาดในการปัดเศษเล็กน้อยในคณิตศาสตร์ที่คำนวณแรงนั้นหมายความว่าพวกมันได้รับพลังงานพิเศษเล็กน้อยจากการเคลื่อนไหว พวกเขาเรียนรู้ที่จะกระตุกอย่างรวดเร็ว ทำให้เกิดพลังงานอิสระมากมายที่พวกเขาสามารถควบคุมได้' เชนกล่าว เฮ้ยมันโกง!
5. กลยุทธ์ tic-tac-toe ที่อยู่ยงคงกระพัน (หากทำลายล้าง)
เมื่อ 'โปรแกรมเมอร์กลุ่มหนึ่งสร้างอัลกอริธึมที่สามารถเล่น tic-tac-toe จากระยะไกลกันเองบนกระดานขนาดใหญ่ที่ไม่มีที่สิ้นสุด' Shane กล่าว 'โปรแกรมเมอร์คนหนึ่ง แทนที่จะออกแบบกลยุทธ์ของอัลกอริทึม ปล่อยให้มันพัฒนาแนวทางของตนเอง น่าแปลกที่อัลกอริทึมเริ่มชนะเกมทั้งหมดอย่างกะทันหัน ปรากฎว่ากลยุทธของอัลกอริธึมคือการเคลื่อนตัวออกไปให้ไกลมาก เพื่อที่ว่าเมื่อคอมพิวเตอร์ของฝ่ายตรงข้ามพยายามจำลองบอร์ดใหม่ที่ขยายใหญ่ขึ้น เกมบอร์ดขนาดใหญ่จะทำให้หน่วยความจำหมดและเกิดความผิดพลาด ทำให้เสียสิทธิ์ เกม.'
6. ไม่มีความผิดพลาดของเกมที่เป็นประโยชน์ใด ๆ ที่ไม่ได้ใช้ประโยชน์
'อัลกอริธึมการเล่นเกมของคอมพิวเตอร์นั้นดีมากในการค้นพบข้อผิดพลาดของเมทริกซ์ที่มนุษย์มักจะเรียนรู้ที่จะใช้ประโยชน์จากการวิ่งด้วยความเร็ว อัลกอริธึมที่เล่นเกม Atari แบบเก่า Q*bert ได้ค้นพบบั๊กที่ไม่รู้จักก่อนหน้านี้ ซึ่งมันสามารถทำการเคลื่อนไหวแบบเฉพาะเจาะจงได้เมื่อสิ้นสุดระดับหนึ่ง และแทนที่จะย้ายไปที่ระดับถัดไป แพลตฟอร์มทั้งหมดจะเริ่มกะพริบอย่างรวดเร็วและ ผู้เล่นจะเริ่มสะสมคะแนนจำนวนมาก' เชนกล่าว
7. ขอโทษนะนักบิน
ตัวอย่างนี้สูงมากในระดับที่น่าขนลุก: 'มีอัลกอริธึมที่ควรจะคิดออกว่าจะใช้กำลังขั้นต่ำกับเครื่องบินที่ลงจอดบนเรือบรรทุกเครื่องบินได้อย่างไร แต่พบว่าหากใช้แรง 'มาก' มันจะล้นหน่วยความจำของโปรแกรมและจะลงทะเบียนแทนเป็นแรง 'เล็ก' นักบินจะตายแต่ เฮ้ คะแนนที่สมบูรณ์แบบ'
เราทุกคนถึงวาระแล้วหรือ?
ทั้งหมดนี้ชี้ให้เห็นว่ามนุษย์ค่อนข้างจะคาดเดาได้ว่าหุ่นยนต์จะแก้ปัญหาที่เราตั้งไว้สำหรับพวกเขาได้อย่างไร หรือแม้แต่จะกำหนดปัญหาอย่างไร นั่นหมายความว่า Shane กังวลเกี่ยวกับการสร้าง A.I. นเรศวรเหมือนมัสค์คืออะไร? ไม่ได้จริงๆ แต่ไม่ใช่เพราะเธอแน่ใจว่าโปรแกรมเมอร์ที่เป็นมนุษย์สามารถจัดการกับหุ่นยนต์ที่พวกเขาสร้างขึ้นได้อย่างแท้จริง แต่เธอกำลังพึ่งพาความเกียจคร้านของหุ่นยนต์เพื่อช่วยเรา
'ในฐานะโปรแกรมเมอร์ เราต้องระวังให้มากว่าอัลกอริธึมของเรากำลังแก้ปัญหาที่เราตั้งใจให้แก้ปัญหา ไม่ใช่ใช้ทางลัด หากมีเส้นทางอื่นที่ง่ายกว่าในการแก้ปัญหาที่กำหนด แมชชีนเลิร์นนิงจะพบได้' เธอตั้งข้อสังเกต 'โชคดีสำหรับเรา' การ 'ฆ่ามนุษย์ทั้งหมด' เป็นเรื่องยากจริงๆ หาก 'อบเค้กที่อร่อยอย่างไม่น่าเชื่อ' ยังแก้ปัญหาได้และง่ายกว่า 'ฆ่ามนุษย์ทั้งหมด' การเรียนรู้ด้วยเครื่องก็จะเข้ากับเค้กได้'
