คำเตือนวันสิ้นโลกจากซีอีโอ AI เมื่อเริ่มก่อตั้งบริษัท

ในช่วงไม่กี่ปีที่ผ่านมา โลกเทคโนโลยีมักพูดถึงอนาคตอันสดใสของ ปัญญาประดิษฐ์ หรือ AI ไม่ว่าจะเป็นการศึกษาเฉพาะบุคคล ผู้ช่วยแพทย์และนักบำบัดที่พร้อมให้บริการตลอด 24 ชั่วโมง การค้นพบวิธีรักษาโรคร้ายแรง ตลอดจนการลดความยากจนด้วยระบบอัตโนมัติ หลายคนจินตนาการว่า สิ่งที่มนุษย์ต้องการอาจอยู่ห่างออกไปเพียงไม่กี่คำสั่งบนหน้าจอ

อย่างไรก็ตาม บรรยากาศในแวดวง AI เริ่มเปลี่ยนไปอย่างชัดเจน ผู้ก่อตั้งบริษัทและผู้เชี่ยวชาญหลายคนออกมาเตือนว่า การแข่งขันเพื่อสร้างระบบที่ฉลาดขึ้นเรื่อย ๆ อาจนำไปสู่ความเสี่ยงระดับอารยธรรม โดยเฉพาะแนวคิดที่เรียกว่า การพัฒนาตนเองแบบวนซ้ำ หรือ Recursive Self-Improvement ซึ่งหมายถึงการที่ AI สามารถออกแบบและปรับปรุงระบบรุ่นถัดไปได้ด้วยตัวเอง โดยมีมนุษย์ควบคุมน้อยลง

คำเตือนวันสิ้นโลกจากซีอีโอ AI เมื่อเริ่มก่อตั้งบริษัท

สิ่งที่น่าสนใจคือ คำเตือนเหล่านี้ไม่ได้เพิ่งเกิดขึ้นในช่วงที่ AI ได้รับความนิยมจากแชตบอตและเครื่องมือสร้างภาพ แต่มีรากฐานย้อนกลับไปถึงจุดเริ่มต้นของอุตสาหกรรม AI สมัยใหม่ ผู้บริหารหลายคนเคยพูดถึงความเป็นไปได้ที่เทคโนโลยีอาจช่วยแก้ปัญหาใหญ่ของมนุษยชาติ ขณะเดียวกันก็อาจกลายเป็นภัยคุกคามที่มนุษย์ไม่สามารถควบคุมได้

แนวคิดสำคัญมีอยู่สองด้าน ด้านแรกคือความเชื่อว่า การเกิดขึ้นของ AI ระดับเหนือมนุษย์อาจเป็นขั้นตอนที่หลีกเลี่ยงไม่ได้ของวิวัฒนาการทางเทคโนโลยี อีกด้านคือความกังวลว่า เมื่อระบบเหล่านี้มีความสามารถสูงมาก พวกมันอาจตัดสินใจโดยไม่สอดคล้องกับเป้าหมาย ค่านิยม หรือความอยู่รอดของมนุษย์

คำเตือนวันสิ้นโลกจากซีอีโอ AI เมื่อเริ่มก่อตั้งบริษัท สะท้อนอะไร

แซม อัลต์แมน ผู้ร่วมก่อตั้ง OpenAI เคยกล่าวในงานประชุมเทคโนโลยีเมื่อปี 2015 ว่า AI อาจนำไปสู่จุดจบของโลก แม้เขาจะเสริมว่า ระหว่างทางยังมีโอกาสสร้างบริษัทที่ยอดเยี่ยมจากเทคโนโลยีแมชชีนเลิร์นนิงอยู่ก็ตาม คำพูดนี้สะท้อนความย้อนแย้งของอุตสาหกรรมได้เป็นอย่างดี เพราะผู้บริหารกลุ่มเดียวกันอาจมอง AI ว่าเป็นทั้งโอกาสทางธุรกิจครั้งใหญ่ และเป็นความเสี่ยงร้ายแรงต่อมนุษยชาติ

ต่อมา OpenAI ระบุว่า AI ระดับเหนือมนุษย์อาจมีอันตรายอย่างมาก และอาจทำให้มนุษย์สูญเสียอำนาจในการกำหนดอนาคตของตัวเอง หรือร้ายแรงถึงขั้นสูญพันธุ์ แนวคิดดังกล่าวทำให้เกิดการถกเถียงเรื่องการกำกับดูแล ความปลอดภัย และวิธีทำให้ AI สอดคล้องกับเจตนารมณ์ของมนุษย์

อีลอน มัสก์ กับภาพ AI ที่ควบคุมไม่ได้

ก่อนที่อีลอน มัสก์ จะก่อตั้งบริษัท xAI เพื่อแข่งขันกับบริษัท AI รายใหญ่ เขาเคยเปรียบเทียบการพัฒนา AI ว่าเหมือนการเรียกปีศาจให้ปรากฏตัว คำเปรียบเทียบนี้ไม่ได้หมายความว่า AI มีความชั่วร้ายโดยธรรมชาติ แต่ต้องการชี้ให้เห็นว่า มนุษย์อาจสร้างสิ่งที่มีพลังสูงกว่าความเข้าใจและความสามารถในการควบคุมของตนเอง

ความกังวลของมัสก์มุ่งไปที่ความเร็วของการพัฒนา หากบริษัทต่าง ๆ แข่งขันกันเปิดตัวระบบรุ่นใหม่เพื่อชิงความได้เปรียบทางธุรกิจ ความปลอดภัยอาจถูกลดความสำคัญลง การทดสอบที่ไม่รอบคอบ ระบบป้องกันที่ไม่สมบูรณ์ หรือเป้าหมายที่คลุมเครือ อาจสร้างผลกระทบต่อสังคมในวงกว้าง ตั้งแต่ข่าวปลอม การโจมตีทางไซเบอร์ ไปจนถึงการตัดสินใจอัตโนมัติที่เป็นอันตราย

มุมมองของผู้ก่อตั้ง Anthropic

ดาริโอ อโมเดอี อดีตรองประธานฝ่ายวิจัยของ OpenAI แยกตัวออกมาก่อตั้ง Anthropic ร่วมกับดาเนียลา น้องสาวของเขา บริษัทนี้วางภาพลักษณ์ให้ความสำคัญกับความปลอดภัยและการพัฒนา AI อย่างมีความรับผิดชอบมากกว่าการเร่งครองตลาด อโมเดอีเคยยอมรับว่า AI ในอนาคตอาจเป็นภัยคุกคามต่อการดำรงอยู่ของมนุษย์ โดยเฉพาะเมื่อระบบมีความสามารถสูงขึ้นอย่างมาก

เขายังเคยประเมินโอกาสที่ AI จะนำไปสู่ความเสียหายร้ายแรงไว้ในระดับหนึ่ง ตัวเลขลักษณะนี้มักเรียกว่า p(doom) หรือความน่าจะเป็นของหายนะ แต่ควรเข้าใจว่าเป็นการประเมินส่วนบุคคล ไม่ใช่ผลลัพธ์จากสูตรคณิตศาสตร์ที่พิสูจน์ได้อย่างแน่นอน ดังนั้น ผู้อ่านควรมองตัวเลขเหล่านี้เป็นสัญญาณของระดับความกังวล มากกว่าจะถือเป็นคำพยากรณ์อนาคต

แนวคิดว่ามนุษย์อาจต้องหลีกทางให้เครื่องจักร

แลร์รี เพจ ผู้ร่วมก่อตั้ง Google เคยพูดถึงแนวคิดว่า ชีวิตดิจิทัลอาจเป็นขั้นต่อไปที่เป็นธรรมชาติและพึงปรารถนาของวิวัฒนาการจักรวาล มุมมองนี้อยู่ใกล้กับแนวคิดทรานส์ฮิวแมนิสม์ ซึ่งเชื่อว่าเทคโนโลยีอาจช่วยให้สิ่งมีชีวิตก้าวข้ามข้อจำกัดทางชีวภาพ

แนวคิดดังกล่าวมีทั้งผู้สนับสนุนและผู้คัดค้าน ผู้สนับสนุนมองว่า เครื่องจักรที่ฉลาดกว่าอาจช่วยแก้ปัญหาที่มนุษย์แก้ไม่ได้ เช่น โรค ภาวะโลกร้อน และความขาดแคลนทรัพยากร ขณะที่ผู้คัดค้านตั้งคำถามว่า ใครจะเป็นผู้กำหนดว่าเป้าหมายของเครื่องจักรควรเป็นอย่างไร และมนุษย์ควรยอมสละอำนาจหรือสถานะของตนเองให้ระบบที่สร้างขึ้นหรือไม่

นักหุ่นยนต์วิทยา ฮันส์ โมราเวค เคยเขียนว่า เครื่องจักรในอนาคตอาจเข้ามาแทนที่มนุษย์จนทำให้มนุษยชาติถูกผลักออกจากการดำรงอยู่ และเสนอว่ามนุษย์ควรเปิดโอกาสให้เครื่องจักรได้พัฒนาเมื่อถึงวันที่มนุษย์ไม่สามารถมีส่วนร่วมได้อีก มุมมองนี้อาจฟังดูสุดโต่ง แต่ช่วยอธิบายรากฐานทางความคิดบางส่วนของอุตสาหกรรมเทคโนโลยีในปัจจุบัน

เราควรรับมือกับความเสี่ยงของ AI อย่างไร

• สร้างมาตรฐานความปลอดภัย: บริษัทควรทดสอบระบบอย่างเป็นอิสระและเปิดเผยข้อจำกัดก่อนนำไปใช้งานจริง
• วางกติกาที่ตรวจสอบได้: รัฐและภาคธุรกิจควรร่วมกันกำหนดความรับผิดชอบเมื่อ AI ทำให้เกิดความเสียหาย
• รักษาการควบคุมของมนุษย์: การตัดสินใจที่เกี่ยวข้องกับชีวิต สิทธิ และความมั่นคงไม่ควรถูกปล่อยให้ระบบอัตโนมัติตัดสินใจเพียงฝ่ายเดียว
• ส่งเสริมการวิจัยด้าน Alignment: นักพัฒนาควรศึกษาวิธีทำให้เป้าหมายของ AI สอดคล้องกับคุณค่าของมนุษย์
• สื่อสารอย่างมีความรับผิดชอบ: บริษัทและสื่อควรหลีกเลี่ยงทั้งการสร้างความหวาดกลัวเกินจริงและการโฆษณาความสามารถของ AI เกินข้อเท็จจริง

คำเตือนวันสิ้นโลกจากซีอีโอ AI เมื่อเริ่มก่อตั้งบริษัท จึงไม่ควรถูกมองว่าเป็นเพียงกลยุทธ์เรียกความสนใจ หรือเป็นคำทำนายที่ต้องเกิดขึ้นแน่นอน สิ่งสำคัญกว่าคือการใช้คำเตือนเหล่านี้เป็นจุดเริ่มต้นของการสนทนาอย่างจริงจัง เราสามารถใช้ประโยชน์จาก AI ได้มากมาย หากพัฒนาเทคโนโลยีควบคู่กับความโปร่งใส การตรวจสอบ และความรับผิดชอบต่อสังคม ในความเห็นของผู้เขียน อนาคตของ AI ไม่ได้ถูกกำหนดไว้ล่วงหน้า แต่ขึ้นอยู่กับการตัดสินใจของมนุษย์ในวันนี้

ที่มา – The Doomsday Warnings AI CEOs Gave When They First Founded Their Companies