Max Tegmark เป็นนักฟิสิกส์ที่มีชื่อเสียง
เขายังเป็นผู้ร่วมก่อตั้ง Future of Life Institute ในเมืองเคมบริดจ์ แมสซาชูเซตส์ที่มองโลกในแง่ดีอย่างไม่อาจระงับได้ (คติพจน์: “เทคโนโลยีทำให้ชีวิตมีศักยภาพที่จะรุ่งเรืองอย่างที่ไม่เคยเป็นมาก่อน … หรือเพื่อทำลายตนเอง มาสร้างความแตกต่างกันเถอะ!”) . ตอนนี้ใน Life 3.0 เขาจัดการกับการพัฒนาที่เร่งด่วนในอนาคต — วิวัฒนาการของปัญญาประดิษฐ์ (AI) เขาให้เหตุผลว่าความเสี่ยงนั้นต้องการการคิดอย่างจริงจังหาก “การบริจาคจักรวาล” ของเราไม่ได้ถูกโยนทิ้งไปโดยไม่ได้ตั้งใจ
‘RoboBees’ มีไว้สำหรับการผสมเกสรเทียม แต่อาจมีผลกระทบต่อสิ่งแวดล้อมที่ไม่คาดฝัน เครดิต: Thierry Falise / Lightrocket Via Getty
เพื่อประโยชน์ในการเปิดเผยข้อมูล Tegmark และฉันเป็นผู้ทำงานร่วมกันและแบ่งปันตัวแทนวรรณกรรม ร่วมกับนักฟิสิกส์ Stephen Hawking และ Frank Wilczek เราได้เขียนบทความของ Huffington Post ปี 2014 เรื่อง ‘ความอิ่มเอมใจเหนือขีดจำกัดบนเครื่องจักรที่ฉลาดหลักแหลม’ (ดู go.nature.com/2wadkao) เห็นได้ชัดว่าเป็นการทบทวนเรื่อง Transcendence ภาพยนตร์ AI dystopian ของ Wally Pfister ซึ่งเป็นการเรียกร้องให้ชุมชน AI ยอมรับความเสี่ยงของระบบอัจฉริยะอย่างจริงจัง ดังนั้นฉันจึงไม่น่าจะไม่เห็นด้วยอย่างยิ่งกับสมมติฐานของ Life 3.0 ชีวิต Tegmark โต้แย้งว่าอาจจะหรือไม่อาจแพร่กระจายไปทั่วจักรวาลและ “เจริญรุ่งเรืองเป็นพันล้านหรือล้านล้านปี” เนื่องจากการตัดสินใจที่เราทำในตอนนี้ – ความเป็นไปได้ทั้งเย้ายวนและล้นหลาม
ชื่อหนังสือหมายถึงระยะที่สามในประวัติศาสตร์วิวัฒนาการ เป็นเวลาเกือบ 4 พันล้านปีที่ทั้งฮาร์ดแวร์ (ตัวเครื่อง) และซอฟต์แวร์ (ความสามารถในการสร้างพฤติกรรม) ได้รับการแก้ไขโดยชีววิทยา ในอีก 100,000 ปีข้างหน้า การเรียนรู้และวัฒนธรรมทำให้มนุษย์สามารถปรับตัวและควบคุมซอฟต์แวร์ของตนเองได้ ในระยะที่สามที่ใกล้จะมาถึง ทั้งซอฟต์แวร์และฮาร์ดแวร์สามารถออกแบบใหม่ได้ นี่อาจฟังดูเหมือนมนุษย์ข้ามเพศ ซึ่งเป็นการเคลื่อนไหวเพื่อปรับโครงสร้างร่างกายและสมองใหม่ แต่จุดเน้นของ Tegmark อยู่ที่ AI ซึ่งเสริมความสามารถทางจิตด้วยอุปกรณ์ภายนอก
Tegmark คำนึงถึงทั้งความเสี่ยงและผลประโยชน์ ความเสี่ยงในระยะใกล้รวมถึงการแข่งขันด้านอาวุธในอาวุธอิสระและการจ้างงานที่ลดลงอย่างมาก ชุมชน AI มีมติเป็นเอกฉันท์ในการประณามการสร้างเครื่องจักรที่สามารถเลือกฆ่ามนุษย์ได้ แต่ประเด็นเรื่องงานได้จุดชนวนให้เกิดการถกเถียง หลายคนคาดการณ์ถึงประโยชน์ทางเศรษฐกิจ — AI ที่สร้างแรงบันดาลใจให้งานใหม่มาแทนที่งานเก่า เช่นเดียวกับการปฏิวัติอุตสาหกรรมครั้งก่อน Tegmark นึกภาพม้าสองตัวที่กำลังพูดถึงการเพิ่มขึ้นของเครื่องยนต์สันดาปภายในในปี 1900 คนหนึ่งคาดการณ์ว่า “งานใหม่สำหรับม้า … นั่นคือสิ่งที่เคยเกิดขึ้นมาก่อนเสมอ เช่นเดียวกับการประดิษฐ์ล้อและคันไถ” อนิจจาสำหรับม้าส่วนใหญ่ “งานใหม่” คือการเป็นอาหารสัตว์เลี้ยง การวิเคราะห์ของ Tegmark นั้นน่าสนใจ และแบ่งปันโดยนักเศรษฐศาสตร์เช่น Paul Krugman แต่คำถามยังคงอยู่: เศรษฐกิจที่พึงประสงค์ที่เราอาจตั้งเป้าไว้ ในเมื่อสิ่งที่เราเรียกว่างานส่วนใหญ่ทำโดยเครื่องจักร
ความเสี่ยงระยะยาวมีอยู่จริง
บทนำที่สมมติขึ้นของหนังสือเล่มนี้อธิบายสถานการณ์ที่มีเหตุผลซึ่ง AI ที่ฉลาดหลักแหลมอาจปรากฏขึ้น ต่อมา Tegmark ครอบคลุมผลลัพธ์ระดับโลกตั้งแต่ใกล้ยูโทเปียไปจนถึงการเป็นทาสหรือการสูญพันธุ์ของมนุษย์ การที่เราไม่รู้ว่าจะมุ่งไปสู่อนาคตที่ดีกว่าได้อย่างไร ชี้ให้เห็นถึงการขาดการคิดอย่างจริงจังว่าทำไมการทำให้ AI ดีขึ้นจึงอาจเป็นสิ่งที่ไม่ดี
Alan Turing ผู้บุกเบิกคอมพิวเตอร์ ได้เพิ่มความเป็นไปได้ในปี 1951 ว่าสายพันธุ์ของเราจะ “ถ่อมตัวลงอย่างมาก” โดย AI ได้ดีที่สุดในปี 1951 แสดงความไม่สบายใจโดยทั่วไปในการทำอะไรที่ฉลาดกว่าตัวเอง การบรรเทาความไม่สบายใจนี้ด้วยการลดความก้าวหน้าของ AI อาจไม่สามารถทำได้หรือดีกว่า ส่วนที่น่าสนใจที่สุดของ Life 3.0 อธิบายว่าปัญหาที่แท้จริงคือความเป็นไปได้สำหรับวัตถุประสงค์ที่ไม่ตรงแนว Norbert Wiener ผู้ก่อตั้ง Cybernetics เขียนในปี 1960 ว่า “เราควรแน่ใจว่าจุดประสงค์ที่ใส่ไว้ในเครื่องนั้นเป็นจุดประสงค์ที่เราปรารถนาจริงๆ” หรืออย่างที่ Tegmark มี “มันไม่ชัดเจนว่าจะสร้าง AI ที่ฉลาดหลักแหลมได้อย่างไรด้วยเป้าหมายสูงสุดที่ไม่ได้กำหนดไว้หรือนำไปสู่การกำจัดมนุษยชาติ” ในความเห็นของผม ปัญหาทางเทคโนโลยีและปรัชญานี้ต้องการทรัพยากรทางปัญญาทั้งหมดที่เราสามารถทำได้
Credit 666slotclub.com
