บริษัทเทคโนโลยียักษ์ใหญ่เพียง 9 แห่งในสหรัฐอเมริกาและจีนอยู่เบื้องหลังความก้าวหน้าส่วนใหญ่ในด้านปัญญาประดิษฐ์ทั่วโลก ในหนังสือเล่มใหม่ของเธอ The Big Nine: Tech Titans และเครื่องคิดของพวกเขาสามารถบิดเบือนมนุษยชาติได้อย่างไร (กิจการสาธารณะ 5 มีนาคม) เอมี่ เว็บบ์วาดภาพอนาคตที่เป็นไปได้สามประการ ตั้งแต่แง่ดีไปจนถึงวันสิ้นโลก ซึ่งอาจเป็นผลมาจากการกระทำของเรา-หรือไม่ได้ทำ-เพื่อควบคุมการพัฒนาของ A.I. และสร้างผลกระทบระดับโลก ในข้อความที่ตัดตอนมานี้ เธอได้นำเสนอชุดคำถามเชิงจริยธรรมที่ยากซึ่งมนุษย์สร้าง A.I. ระบบควรใช้เพื่อเป็นแนวทางในการทำงาน
กฎเกณฑ์-อัลกอรึทึม--ซึ่งทุกวัฒนธรรม สังคมและประเทศชาติอาศัยและเคยมีชีวิตอยู่นั้นถูกสร้างขึ้นโดยคนเพียงไม่กี่คน ประชาธิปไตย คอมมิวนิสต์ สังคมนิยม ศาสนา มังสวิรัติ ลัทธิเนทีฟ ลัทธิล่าอาณานิคม สิ่งเหล่านี้คือสิ่งที่สร้างขึ้นที่เราได้พัฒนาขึ้นตลอดประวัติศาสตร์เพื่อช่วยชี้นำการตัดสินใจของเรา แม้แต่ในกรณีที่ดีที่สุดก็ไม่สามารถพิสูจน์ได้ในอนาคต พลังทางเทคโนโลยี สังคม และเศรษฐกิจมักจะเข้ามาแทรกแซงและทำให้เราต้องปรับตัว
บัญญัติสิบประการประกอบขึ้นเป็นอัลกอริธึมที่มุ่งสร้างสังคมที่ดีขึ้นสำหรับมนุษย์ที่มีชีวิตอยู่เมื่อกว่า 5,000 ปีก่อน พระบัญญัติข้อหนึ่งคือให้พักผ่อนเต็มวันในหนึ่งสัปดาห์และไม่ทำงานใดๆ เลยในวันนั้น ในยุคปัจจุบัน คนส่วนใหญ่ไม่ทำงานในวันหรือชั่วโมงเดียวกันทุกสัปดาห์ ดังนั้นจึงเป็นไปไม่ได้ที่จะไม่ฝ่าฝืนกฎ ด้วยเหตุนี้ ผู้ที่ปฏิบัติตามบัญญัติสิบประการเป็นหลักนำทางจึงมีความยืดหยุ่นในการตีความ โดยพิจารณาจากความเป็นจริงของวันทำงานที่ยาวนานขึ้น การฝึกซ้อมฟุตบอล และอีเมล การปรับตัวเป็นเรื่องที่ดี มันใช้ได้ผลดีสำหรับเราและสำหรับสังคมของเรา ทำให้เราอยู่บนเส้นทางได้ การยอมรับชุดแนวทางพื้นฐานทำให้เราสามารถปรับให้เหมาะสมสำหรับตัวเราเอง
ไม่มีทางที่จะสร้างชุดของบัญญัติสำหรับ A.I. เราไม่สามารถเขียนกฎเกณฑ์ทั้งหมดเพื่อปรับให้เหมาะสมสำหรับมนุษยชาติได้อย่างถูกต้อง และนั่นเป็นเพราะในขณะที่เครื่องคิดอาจเร็วและทรงพลัง แต่ก็ขาดความยืดหยุ่น ไม่มีวิธีง่ายๆ ในการจำลองข้อยกเว้น หรือพยายามคิดให้รอบคอบก่อนเกิดเหตุฉุกเฉินทุกครั้ง ไม่ว่าจะเขียนกฎเกณฑ์ใด ก็มักจะมีสถานการณ์ในอนาคตที่บางคนอาจต้องการตีความกฎแตกต่างออกไป หรือเพิกเฉยต่อกฎทั้งหมด หรือสร้างการแก้ไขเพื่อจัดการกับสถานการณ์ที่ไม่คาดฝัน
โดยที่รู้ว่าเราไม่สามารถเขียนชุดของพระบัญญัติที่เคร่งครัดให้ปฏิบัติตามได้ เราควรมุ่งความสนใจไปที่มนุษย์ที่สร้างระบบแทนหรือไม่ คนเหล่านี้ - ชนเผ่าของ A.I. - ควรถามคำถามที่ไม่สบายใจโดยเริ่มจาก:
- อะไรคือแรงจูงใจของเราสำหรับ A.I. สอดคล้องกับผลประโยชน์ระยะยาวที่ดีที่สุดของมนุษยชาติหรือไม่?
- อะไรคืออคติของเราเอง? ความคิด ประสบการณ์ และค่านิยมใดที่เราล้มเหลวในการรวมไว้ในเผ่าของเรา เรามองข้ามใครไปบ้าง?
- เราได้รวมคนที่ไม่เหมือนตัวเราเพื่อจุดประสงค์ในการสร้างอนาคตของ A.I. ดีกว่า - หรือเรารวมความหลากหลายในทีมของเราเพื่อให้เป็นไปตามโควต้าที่กำหนด?
- เราจะมั่นใจได้อย่างไรว่าพฤติกรรมของเราครอบคลุม?
- ผลกระทบทางเทคโนโลยี เศรษฐกิจ และสังคมของ A.I. เข้าใจโดยผู้ที่เกี่ยวข้องในการสร้าง?
- เราควรมีสิทธิขั้นพื้นฐานใดบ้างในการสอบสวนชุดข้อมูล อัลกอริทึม และกระบวนการที่ใช้ในการตัดสินใจในนามของเรา
- ใครเป็นผู้กำหนดคุณค่าของชีวิตมนุษย์? เทียบกับมูลค่าที่ชั่งน้ำหนัก?
- เมื่อใดและทำไมผู้ที่อยู่ในเผ่าของ A.I. รู้สึกว่าเป็นความรับผิดชอบของพวกเขาที่จะต้องจัดการกับผลกระทบทางสังคมของ A.I?
- ความเป็นผู้นำขององค์กรของเราและ A.I. ชนเผ่าสะท้อนคนหลายประเภท?
- บทบาทของผู้ที่ทำการค้า A.I. เล่นเพื่อจัดการกับผลกระทบทางสังคมของ A.I.?
- เราควรเปรียบเทียบ A.I. กับความคิดของมนุษย์ หรือจะจัดเป็นอย่างอื่นดีกว่า ?
- ตกลงไหมที่จะสร้าง A.I. ที่รับรู้และตอบสนองต่ออารมณ์ความรู้สึกของมนุษย์?
- เป็นไปได้ไหมที่จะสร้าง A.I. ระบบที่สามารถเลียนแบบอารมณ์ของมนุษย์ได้ โดยเฉพาะถ้าเป็นการเรียนรู้จากเราแบบเรียลไทม์?
- อะไรคือจุดที่ยอมรับได้ ที่เราทุกคนตกลงกับ A.I. พัฒนาโดยไม่มีมนุษย์อยู่ในวงโดยตรง?
- ภายใต้สถานการณ์ใดที่ A.I. จำลองและสัมผัสความรู้สึกร่วมกันของมนุษย์? แล้วความเจ็บปวด ความสูญเสีย และความเหงาล่ะ? เราโอเคไหมที่ทำให้เกิดความทุกข์?
- เรากำลังพัฒนา A.I. เพื่อแสวงหาความเข้าใจที่ลึกซึ้งในตัวเอง? เราสามารถใช้ A.I. เพื่อช่วยให้มนุษยชาติมีชีวิตที่ถูกตรวจสอบมากขึ้น?
มีบริษัทเทคโนโลยีขนาดใหญ่ 9 แห่ง ได้แก่ อเมริกัน 6 แห่งและจีน 3 แห่ง ซึ่งมีหน้าที่รับผิดชอบอย่างท่วมท้นสำหรับอนาคตของปัญญาประดิษฐ์ ในสหรัฐอเมริกา ได้แก่ Google, Microsoft, Amazon, Facebook, IBM และ Apple ('G-MAFIA') ในประเทศจีนคือ BAT: Baidu, Alibaba และ Tencent
G-MAFIA ได้เริ่มแก้ไขปัญหาหลักการชี้แนะผ่านกลุ่มวิจัยและการศึกษาต่างๆ ภายใน Microsoft เป็นทีมที่เรียกว่า FATE--for Fairness, Accountability, Transparency และ Ethics in A.I. หลังจากเกิดเรื่องอื้อฉาว Cambridge Analytica Facebook ได้เปิดตัวทีมจริยธรรมที่กำลังพัฒนาซอฟต์แวร์เพื่อให้แน่ใจว่า A.I. ระบบหลีกเลี่ยงอคติ (โดยเฉพาะอย่างยิ่ง Facebook ไม่ได้ไปไกลถึงการสร้างคณะกรรมการจริยธรรมที่เน้นเรื่อง AI) DeepMind ได้สร้างทีมจริยธรรมและสังคม IBM เผยแพร่เกี่ยวกับจริยธรรมและ A.I. เหตุอื้อฉาวที่ Baidu เสิร์ชเอ็นจิ้นจัดลำดับความสำคัญการเรียกร้องทางการแพทย์ที่ทำให้เข้าใจผิดจากโรงพยาบาลที่ดำเนินการโดยกองทัพซึ่งการรักษาส่งผลให้นักศึกษาอายุ 21 ปีเสียชีวิต Robin Li ซีอีโอของ Baidu ยอมรับว่าพนักงานได้ทำ ประนีประนอมเพื่อประโยชน์ในการเติบโตของรายได้ของ Baidu และสัญญาว่าจะมุ่งเน้นไปที่จริยธรรมในอนาคต
The Big Nine จัดทำการศึกษาด้านจริยธรรมและเอกสารไวท์เปเปอร์ จัดประชุมผู้เชี่ยวชาญเพื่อหารือเกี่ยวกับจริยธรรม และเป็นเจ้าภาพจัดการอภิปรายเกี่ยวกับจริยธรรม แต่ความพยายามนั้นไม่เกี่ยวพันเพียงพอกับการดำเนินงานในแต่ละวันของทีมต่างๆ ที่ทำงานเกี่ยวกับ A.I.
AI ของ The Big Nine ระบบต่างๆ เข้าถึงข้อมูลในโลกแห่งความเป็นจริงมากขึ้นเรื่อยๆ เพื่อสร้างผลิตภัณฑ์ที่แสดงมูลค่าทางการค้า วัฏจักรการพัฒนากำลังเร่งขึ้นเพื่อให้ทันกับความคาดหวังของนักลงทุน เราเต็มใจ หากไม่ตั้งใจ ผู้เข้าร่วมในอนาคตที่ถูกสร้างขึ้นอย่างเร่งรีบและไม่มีการตอบคำถามเหล่านั้นก่อน ในฐานะที่เป็นเอไอ ระบบก้าวหน้าขึ้นและชีวิตประจำวันกลายเป็นไปโดยอัตโนมัติ ยิ่งเราควบคุมการตัดสินใจและสำหรับเราน้อยลงเท่านั้น
Amy Webb จะปรากฎตัวที่ Inc. Founders House ในออสตินเมื่อวันที่ 11 มีนาคม
