มนุษย์จะตกเป็นทาสของปัญญาประดิษฐ์หรือไม่?

เมื่อ 70 ปีที่แล้ว ที่สถาบันเทคโนโลยีแมสซาชูเซตส์ ในสหรัฐอเมริกา มีการสนทนาอันโด่งดังซึ่งเผยให้เห็นถึงสถานการณ์ปัจจุบันของเรา ในเวลานั้น Marvin Minsk ผู้บุกเบิกการวิจัยปัญญาประดิษฐ์ ประกาศว่า "เราต้องการให้เครื่องจักรมีความฉลาดและทำให้พวกเขาตระหนักรู้ในตนเอง" ดักลาส เองเกลบาร์ต ผู้คิดค้นการประมวลผลคำและเมาส์ ตอบว่า "คุณต้องการมอบเครื่องจักร" มีสิ่งดี ๆ มากมาย แล้วคุณจะทำอะไรเพื่อมนุษยชาติล่ะ?”

จนถึงทุกวันนี้ ดูเหมือนว่าสิ่งนี้จะกลายเป็น "เมฆมืด" ที่ปกคลุมมนุษย์ทุกคน ตั้งแต่ "Terminator" ถึง "The Matrix" จนถึง "I, Robot" และ "Westworld" ภาพยนตร์นิยายวิทยาศาสตร์นับไม่ถ้วนได้บรรยายถึงความกังวลอย่างยิ่ง อนาคต - เครื่องจักรที่ได้รับการตระหนักรู้ในตนเองจะเข้ามาครอบงำมนุษย์หรือแม้กระทั่งกำจัดพวกมันออกไป ในช่วงไม่กี่ปีที่ผ่านมา การพัฒนาอย่างรวดเร็วของปัญญาประดิษฐ์ (AI) ทำให้หลายคนกังวลมากขึ้นว่ามนุษย์จะตกเป็นทาสของปัญญาประดิษฐ์หรือไม่?

ไม่ใช่แค่ “เครื่องมืออื่น”

หนังสือเล่มใหม่ของ Yuval Harari เรื่อง Beyond Homo Sapiens ค่อนข้างระมัดระวังเรื่องนี้และเชื่อมั่นว่าสิ่งนี้เป็นไปได้มาก มนุษย์ได้สร้างกองกำลังที่พวกเขาไม่รู้ว่าจะควบคุมอย่างไร เมื่อสิ่งใหม่เหล่านี้หลุดพ้นจากการควบคุมของมนุษย์ ก็จะตกเป็นทาสหรือถูกทำลายล้าง มนุษยชาติ. ในมุมมองของเขา ความฉลาดที่ไม่ใช่มนุษย์ที่เกิดจากเครือข่ายคอมพิวเตอร์ได้นำมาซึ่งเทคโนโลยีแรกในประวัติศาสตร์ที่สามารถตัดสินใจได้ด้วยตัวเองและสร้างแนวคิดใหม่ ๆ ซึ่งอาจมีผลกระทบที่ถูกโค่นล้มต่อระเบียบและระบบของสังคมมนุษย์ในปัจจุบัน

ผลกระทบก่อกวน? แน่นอนว่าต้องมี Sunstein ได้เตือนมานานแล้วในหนังสือ "Network Republic" ของเขาว่าอินเทอร์เน็ตไม่ได้เป็นเพียงเทคโนโลยีเท่านั้น ลักษณะเฉพาะของมันจะทำให้เกิด "การกรองร่วมกัน" และ "การแบ่งขั้วของกลุ่ม" ทำให้ผู้คนจำนวนมากขึ้นเรื่อยๆ ได้ยินแต่ตัวเองเท่านั้น เมื่อเวลาผ่านไป การดำเนินงานของสังคมเข้าสู่ภาวะวิกฤติ ข้อมูลที่เราเห็นในวันนี้ยืนยันเรื่องนี้แล้ว เราทุกคนรู้ดีว่ามันแย่ แต่คำถามคือ มันแย่แค่ไหน?

ในมุมมองของ Harari ความท้าทายของปัญญาประดิษฐ์มีมากกว่านั้น เพราะมันไม่ใช่แค่ "เครื่องมืออื่น" เท่านั้น แต่มีศักยภาพที่จะเชี่ยวชาญเครือข่ายข้อมูลสำหรับการสื่อสารของมนุษย์ ไม่ว่าเครื่องมือใหม่จะทรงพลังเพียงใดในอดีต การตัดสินใจใช้เครื่องมือเหล่านี้ขึ้นอยู่กับมนุษย์ อย่างไรก็ตาม ปัญญาประดิษฐ์ได้เปลี่ยนแปลงสิ่งนี้เป็นครั้งแรก นี่เป็นจุดอ่อนร้ายแรงของอารยธรรมมนุษย์: "แม้ว่ามนุษย์จะสามารถสร้างเครือข่ายความร่วมมือขนาดใหญ่เพื่อรับอำนาจมหาศาลได้ แต่วิธีที่เครือข่ายเหล่านี้ถูกสร้างขึ้นหมายความว่ามนุษย์มักจะไม่ฉลาดในการใช้พลังเหล่านี้" ความล้มเหลวของเราในการควบคุมเครือข่ายดังกล่าวอย่างชาญฉลาดเสี่ยงต่อการทำลายล้างของเราเอง

การเกิดขึ้นของอารยธรรมมนุษย์ต้องอาศัยความร่วมมือ และความร่วมมือต้องอาศัยการแลกเปลี่ยนข้อมูล ไม่เช่นนั้นจะไม่มีสังคมขนาดใหญ่เกิดขึ้นได้ จากมุมมองนี้ รูปแบบองค์กรทั้งหมดในประวัติศาสตร์ส่วนใหญ่ขึ้นอยู่กับชุดคำที่สมาชิกยึดถือร่วมกัน นี่คือ "ความเป็นจริงเชิงอัตวิสัย" ตราบใดที่สมาชิกเชื่อว่า "จริง" มันก็เป็นความจริงสำหรับพวกเขา และความร่วมมือและความไว้วางใจล้วนมีพื้นฐานอยู่บนฉันทามติโดยปริยายนี้

ต่อไปนี้เป็นปัญหา: ปัญญาประดิษฐ์ไม่เพียงแต่ให้การสนับสนุนทางเทคนิคสำหรับการจัดการข้อมูลแบบรวมศูนย์เท่านั้น แต่ยังสามารถสร้างแนวคิดใหม่ๆ ได้ด้วยตัวมันเอง ด้วยการเรียนรู้อย่างอิสระ อัลกอริธึมสามารถเรียนรู้สิ่งต่าง ๆ ที่ไม่ได้เขียนลงในโปรแกรมและยังสามารถเรียนรู้ได้อีกด้วย ตัดสินใจได้ด้วยตัวเองซึ่งเป็นสิ่งที่ผู้บริหารคาดไม่ถึง ยิ่งเราพูดคุยกับคอมพิวเตอร์และเปิดเผยข้อมูลมากขึ้น ในที่สุดโปรแกรมหุ่นยนต์ก็จะสามารถแสดงความคิดเห็น มีอิทธิพลต่อความคิดเห็นของเรา และบงการสังคมมนุษย์ได้ “คอมพิวเตอร์ไม่จำเป็นต้องส่งหุ่นยนต์นักฆ่ามายิงผู้คน แต่พวกเขาต้องการเท่านั้น เพื่อหลอกล่อมนุษย์ให้เหนี่ยวไกปืน”

เพื่อหลีกเลี่ยงฉากที่เลวร้ายเช่นนี้ สิ่งที่สำคัญที่สุดคือการมีกลไกการแก้ไขตนเองที่แข็งแกร่งเพื่อระบุและแก้ไขปัญหาอย่างต่อเนื่อง อย่างไรก็ตาม ตามปกติในโปรแกรมคอมพิวเตอร์ การแก้ไขข้อบกพร่องมักจะนำไปสู่ข้อผิดพลาดใหม่ๆ: "แม้ว่ากลไกการแก้ไขตนเองจะเอื้อต่อการแสวงหาความจริง แต่จะช่วยเพิ่มค่าใช้จ่ายในการรักษาความสงบเรียบร้อยอย่างมาก กลไกการแก้ไขด้วยตนเองนั้นทรงพลังเกินไป . ความสงสัย ความขัดแย้ง ความขัดแย้ง และความแตกแยกมักเกิดขึ้น “ปัญญาประดิษฐ์ไม่อาจเปลี่ยนรูปแบบวิวัฒนาการทางสังคมได้ แต่อาจทำให้วิวัฒนาการนี้มุ่งตรงไปในทิศทางที่เป็นอันตราย

เมื่อมองแวบแรก นี่กำลังพูดถึงปัญญาประดิษฐ์และเครือข่ายข้อมูล จริงๆ แล้วข้อกังวลอยู่ที่ว่าระบบสังคมปัจจุบันจะรับมือกับผลกระทบดังกล่าวได้อย่างไรและอย่างไร ฮารารีเน้นย้ำถึงความเร่งด่วนของวิกฤต แต่อาจเกินจริงถึงอันตราย เขากังวลมากว่า "ม่านซิลิคอน" จะแบ่งเครือข่ายคอมพิวเตอร์ของมนุษย์และสร้างรังข้อมูลที่สื่อสารกันได้ยาก แต่ในทางกลับกัน ในโลกที่มีพหุนิยม มันไม่ไร้เดียงสาเช่นกันที่จะเชื่ออย่างนั้น โลกแบน" ศรัทธา? รังไหมแห่งข้อมูลนำมาซึ่งการปิดตัวลงอย่างแน่นอน แต่ยังเป็นที่พักพิงสำหรับวัฒนธรรมที่หลากหลาย มิฉะนั้น เราอาจได้เห็นการหายตัวไปของวัฒนธรรมเฉพาะกลุ่มจำนวนมาก แม้ว่าการกระจุกตัวของข้อมูลแบบนั้นดูเหมือนจะได้รับพรจากเทคโนโลยีเมื่อมองแวบแรก แต่เมื่อเวลาผ่านไป การแยกตัวเองแบบนี้จะมีพลังภายนอกที่แข็งแกร่งกว่าจริง ๆ และในที่สุดก็สามารถต้านทานเครือข่ายแบบเปิดที่มีชีวิตชีวาได้หรือไม่

ปัญญาประดิษฐ์จะอยู่เหนือการควบคุมหรือไม่?

ปฏิเสธไม่ได้ว่าคำเตือนของเขามีความจำเป็นจริงๆ โดยเฉพาะอย่างยิ่งเมื่อเทคโนโลยีมักจะมาก่อนจิตสำนึกทางสังคม และผู้คนจำนวนมากเกินไปไม่สามารถตระหนักว่าปัญญาประดิษฐ์หมายถึงอะไรจริงๆ เมื่อสามสิบปีที่แล้ว Edward Markey สมาชิกสภาผู้แทนราษฎรแห่งสหรัฐอเมริกากล่าวว่า “ข่าวดีจากวอชิงตันก็คือทุกคนในสภาคองเกรสสนับสนุนแนวคิดเรื่องทางด่วนข้อมูล แต่ข่าวร้ายก็คือไม่มีใครรู้ว่ามันหมายความว่าอย่างไร” ความโง่เขลาของนักการเมือง แต่จริงๆ แล้วมีสิ่งใหม่ๆ เกิดขึ้น คนไม่เคยคิดเลยว่ามันจะก่อให้เกิดหนังสือ หอจดหมายเหตุ และการประดิษฐ์ธนบัตรนับไม่ถ้วน โดยส่วนตัวแล้วฉันสามารถจินตนาการได้ เครื่องมือแชทของซอฟต์แวร์โซเชียลได้รับการพัฒนามาจนถึงตอนนี้และมีฟังก์ชั่นมากมายที่เราขาดไม่ได้

กล่าวอีกนัยหนึ่ง ผลกระทบของสิ่งใหม่ๆ จะเกิดขึ้นทีละน้อย และไม่มีใครสามารถคาดเดาได้ตั้งแต่ต้นว่าผลลัพธ์ทางสังคมที่ซับซ้อนและกว้างขวางจะตามมาในที่สุดอย่างไร ฮารารีพูดถูกสิ่งหนึ่ง: กุญแจสำคัญอยู่ที่กลไกการแก้ไขตนเองของสังคม แทนที่จะแสดงปฏิกิริยามากเกินไปเมื่อเกิดปัญหา และปรารถนาที่จะบีบคอสิ่งประดิษฐ์ใหม่ที่เป็นอันตรายนี้ไว้ในเปลเพื่อป้องกันไม่ให้มันก่อให้เกิดภัยพิบัติครั้งใหญ่ขึ้น ความคิดเห็น เรากังวลมากว่าการพัฒนาตนเองของปัญญาประดิษฐ์นั้นอยู่นอกเหนือการควบคุมของมนุษย์ เดิมทีเราต้องการได้ A แต่สุดท้ายก็ได้ B - อย่างไรก็ตาม ทำไม "ผลที่ตามมาโดยไม่ตั้งใจ" ถึงไม่ดีได้

ความกังวลเกี่ยวกับฟันเฟืองในท้ายที่สุดของการสร้างสรรค์ของมนุษย์นั้นมีประเพณีอันยาวนานในวัฒนธรรมตะวันตก ซึ่งมีต้นกำเนิดมาจากตรรกะของการต่อต้านแบบไบนารีระหว่างวัตถุและวัตถุ "สัตว์ประหลาดแฟรงเกนสไตน์" ที่ปรากฎในงานบุกเบิกของนิยายวิทยาศาสตร์สมัยใหม่ถือเป็นเรื่องราวดังกล่าว ความกังวลนี้เป็นสิ่งจำเป็นอย่างแน่นอน แต่ "วิวัฒนาการที่มีการควบคุม" ประเภทนี้หมายความว่าขอบเขตสูงสุดของสติปัญญาของมนุษย์จะกำหนดเพดานสำหรับความก้าวหน้าทางเทคโนโลยีหรือไม่

เควิน เคลลียังคาดการณ์ไว้ใน "Out of Control: The Final Fate and End of All Humanity" ว่ามนุษย์อาจสูญเสียการควบคุมเครื่องจักร: "ในการปล่อยพลังแห่งชีวิตสู่เครื่องจักรที่เราสร้างขึ้น เราจะสูญเสียการควบคุมของพวกเขา การควบคุม พวกเขาได้รับความดุร้าย และได้รับความประหลาดใจและความประหลาดใจ จากนั้น ก็มีภาวะที่กลืนไม่เข้าคายไม่ออกที่ผู้สร้างทุกคนต้องเผชิญ: พวกเขาจะไม่เป็นเจ้าของผลงานที่น่าภาคภูมิใจที่สุดอีกต่อไป "อย่างไรก็ตาม เขาไม่เชื่อว่าอนาคตดังกล่าวจะคุ้มค่าที่จะกลัว บน ตรงกันข้าม เขาเชื่อว่าจำเป็นต้องละทิ้งการควบคุมบางส่วน และปล่อยให้เครื่องจักรจำลอง "วิวัฒนาการตามธรรมชาติ" ด้วยตัวเอง: "วิวัฒนาการสามารถช่วยให้เราเกินความสามารถในการวางแผนของเราเอง วิวัฒนาการสามารถแกะสลักสิ่งที่เราทำไม่ได้ วิวัฒนาการสามารถบรรลุได้ สภาพที่สมบูรณ์ยิ่งขึ้น วิวัฒนาการสามารถดูแลโลกที่เราไม่สามารถดูแลได้ แต่... ราคาของวิวัฒนาการคือการสูญเสียการควบคุม”

เรียนรู้ที่จะอยู่ร่วมกัน

ใช่ ปัญญาประดิษฐ์อาจมีผลกระทบอย่างมากต่อระบบสังคมในปัจจุบัน แต่จำเป็นต้องกำหนดเป้าหมายไปที่สังคมมากกว่าเทคโนโลยี เนื่องจากลักษณะของเครือข่ายคอมพิวเตอร์มักไม่ได้ขึ้นอยู่กับเทคโนโลยี แต่ขึ้นอยู่กับคุณลักษณะของเครือข่ายทางสังคมของตัวเอง พูดตรงๆ สังคมแบบไหนที่ก่อให้เกิดเครือข่ายข้อมูลและการประยุกต์ใช้ปัญญาประดิษฐ์ เราอาจพูดตรงๆ และไม่ตำหนิเทคโนโลยีเช่นกัน

นี่ไม่ได้หมายความว่าเราไม่จำเป็นต้องกังวลเกี่ยวกับปัญญาประดิษฐ์ที่จะอยู่เหนือการควบคุม แต่อย่างน้อยก็หมายความว่า อย่างน้อยในขั้นตอนนี้ การประยุกต์และการพัฒนายังคงขึ้นอยู่กับสังคมด้วย นี่เป็นเหมือนการแบ่งเซลล์ในร่างกายของเรา ทำให้สิ่งมีชีวิตเติบโต ปรับตัว ฟื้นตัว และซ่อมแซม ทำให้เราอยู่รอดได้ แต่เมื่อกลไกนี้ถูกแย่งชิงโดยเซลล์มะเร็งและการเติบโตของเซลล์ที่ผิดปกติเกิดขึ้น ก็จะเป็นอันตรายต่อร่างกายมนุษย์ เราไม่จำเป็นต้องพูดคุยเกี่ยวกับโรคมะเร็ง และไม่สามารถนั่งพักผ่อนได้ แต่เราจำเป็นต้องหาวิธีที่จะเข้ากับเซลล์ กำจัดเซลล์กลายพันธุ์โดยไม่ทำลายการเจริญเติบโตตามปกติ

เนื่องจากเราไม่สามารถทำลายปัญญาประดิษฐ์ได้ และเราก็ไม่ต้องการถูกมันกำจัดออกไป แทนที่จะมองว่านี่เป็นการต่อสู้เพื่อการควบคุม เราควรเรียนรู้เพิ่มเติมเกี่ยวกับตรรกะของชีววิทยา และเรียนรู้ที่จะอยู่ร่วมกัน