P(doom) แค่ความรู้สึกที่ปลอมตัวเป็นวิทยาศาสตร์
ในช่วงที่เทคโนโลยีปัญญาประดิษฐ์พัฒนาอย่างรวดเร็ว คำว่า P(doom) แค่ความรู้สึกที่ปลอมตัวเป็นวิทยาศาสตร์ กลายเป็นประเด็นที่ถูกพูดถึงมากขึ้นในแวดวงซิลิคอนแวลลีย์ คำนี้ใช้เรียกตัวเลขคาดการณ์ความน่าจะเป็นที่ AI จะนำไปสู่หายนะหรือการสูญพันธุ์ของมนุษยชาติ แม้นักวิจัยและผู้บริหารบริษัท AI หลายคนจะนำเสนอตัวเลขอย่างจริงจัง แต่คำถามสำคัญคือ ตัวเลขเหล่านั้นมีพื้นฐานจากสมการทางคณิตศาสตร์ที่ตรวจสอบได้จริงหรือไม่
ผู้เชี่ยวชาญจากบริษัท AI ชั้นนำบางรายเคยประเมินว่า โอกาสที่ AI จะทำลายมนุษย์ทั้งหมดภายในช่วงเวลาหนึ่งอาจสูงกว่า 10 เปอร์เซ็นต์ ขณะที่บางคนให้ตัวเลขสูงถึง 50, 70 หรือ 80 เปอร์เซ็นต์ ตัวเลขเหล่านี้ฟังดูน่าตกใจ และทำให้สังคมรู้สึกว่าผู้ประเมินมีข้อมูลลึกซึ้งกว่าคนทั่วไป อย่างไรก็ตาม เมื่อพิจารณาอย่างละเอียด เราจะพบว่ายังไม่มีสูตรมาตรฐานสำหรับคำนวณความเสี่ยงของวันสิ้นโลกจาก AI
P(doom) แค่ความรู้สึกที่ปลอมตัวเป็นวิทยาศาสตร์
ปัญหาหลักของ P(doom) ไม่ใช่การตั้งคำถามว่า AI อาจเป็นอันตรายหรือไม่ เพราะความเสี่ยงจากเทคโนโลยีเป็นเรื่องที่ควรศึกษาอย่างจริงจัง ปัญหาอยู่ที่การนำความรู้สึกส่วนตัวมานำเสนอในรูปแบบตัวเลข ซึ่งอาจทำให้ผู้ฟังเข้าใจว่าเป็นผลลัพธ์จากการคำนวณที่แม่นยำ ทั้งที่ในความเป็นจริง ผู้ประเมินแต่ละคนอาจใช้สมมติฐาน ประสบการณ์ และมุมมองต่ออนาคตที่แตกต่างกันโดยสิ้นเชิง
อนาคตของ AI เกี่ยวข้องกับปัจจัยจำนวนมาก ทั้งความเร็วในการพัฒนา ความสามารถของโมเดล การกำกับดูแลของรัฐ พฤติกรรมของบริษัท การใช้งานโดยมนุษย์ และการตอบสนองของสังคม เมื่อปัจจัยเหล่านี้เปลี่ยนแปลงเพียงเล็กน้อย ผลลัพธ์ก็อาจเปลี่ยนไปอย่างมาก การระบุความน่าจะเป็นเป็นตัวเลขเดียวจึงอาจสร้างภาพความแน่นอนที่ไม่มีอยู่จริง
ทำไม P(doom) จึงดูเหมือนตัวเลขทางวิทยาศาสตร์
ตัวเลขมีพลังในการโน้มน้าวใจ เมื่อใครสักคนบอกว่าความเสี่ยงอยู่ที่ 10 หรือ 70 เปอร์เซ็นต์ ผู้ฟังมักรู้สึกว่านี่คือข้อสรุปจากแบบจำลองทางวิทยาศาสตร์ แต่การคาดการณ์แบบ P(doom) จำนวนมากไม่ได้มาพร้อมวิธีคำนวณที่เปิดเผย ไม่ได้ระบุชุดข้อมูลที่ใช้ และไม่ได้แสดงขั้นตอนให้ผู้อื่นนำไปตรวจสอบหรือทำซ้ำได้
แน่นอนว่า การประเมินความเสี่ยงในสถานการณ์ที่ข้อมูลไม่ครบถ้วนยังมีประโยชน์ นักวิจัยอาจใช้ตัวเลขเพื่อสื่อระดับความกังวล หรือเพื่อกระตุ้นให้เกิดการเตรียมรับมือ ทว่าเราควรเรียกมันว่า ความเห็นเชิงอัตวิสัย หรือการประเมินจากผู้เชี่ยวชาญ มากกว่าจะทำให้เข้าใจว่าเป็นค่าทางวิทยาศาสตร์ที่มีความแม่นยำสูง
- ตัวเลขไม่เท่ากับหลักฐาน: การมีเปอร์เซ็นต์ไม่ได้แปลว่ามีข้อมูลรองรับเพียงพอ
- สมมติฐานมีผลมาก: หากเปลี่ยนสมมติฐานเกี่ยวกับความสามารถของ AI ค่าความเสี่ยงก็อาจเปลี่ยนตาม
- อนาคตไม่ใช่การทดลองซ้ำได้ง่าย: เราไม่สามารถสร้างอนาคตหลายแบบเพื่อเปรียบเทียบผลลัพธ์ได้เหมือนการทดลองในห้องแล็บ
- การสื่อสารมีผลต่อสังคม: ตัวเลขที่น่ากลัวอาจกระตุ้นการตื่นตัว แต่ก็อาจสร้างความหวาดกลัวเกินเหตุ
ความกลัว AI กับแรงจูงใจทางธุรกิจ
อีกประเด็นที่ควรพิจารณาคือแรงจูงใจของอุตสาหกรรม ผู้บริหารบริษัท AI บางรายเตือนว่าเทคโนโลยีของตนอาจเป็นภัยต่อมนุษยชาติ ขณะเดียวกันก็ยืนยันว่าบริษัทของตนต้องเร่งพัฒนา AI ต่อไป เหตุผลที่มักถูกยกขึ้นมาคือ หากบริษัทหนึ่งหยุดพัฒนา คู่แข่งหรือประเทศอื่นอาจเดินหน้าต่อ และสร้างระบบที่อันตรายกว่าเดิม
แนวคิดนี้ทำให้เกิดเรื่องเล่าที่ทรงพลัง นั่นคือ AI เป็นสิ่งที่หลีกเลี่ยงไม่ได้ และมีเพียงบริษัทผู้นำเท่านั้นที่สามารถสร้างมันอย่างปลอดภัยได้ เรื่องเล่าดังกล่าวอาจช่วยดึงดูดเงินลงทุน สร้างความสนใจจากสื่อ และทำให้บริษัทมีบทบาทสำคัญในการกำหนดกฎระเบียบ แม้ผู้บริหารจะไม่ได้ตั้งใจใช้ความกลัวเป็นเครื่องมือประชาสัมพันธ์โดยตรง แต่ผลลัพธ์ที่เกิดขึ้นก็อาจทำให้สาธารณชนรู้สึกว่า AI เป็นพลังเหนือมนุษย์ที่ไม่อาจหยุดยั้ง
นักวิจารณ์บางคนจึงมองว่าคำเตือนเรื่องวันสิ้นโลกอาจเป็นการสร้างกระแส หรือที่เรียกว่า doom trolling อย่างไรก็ตาม การสรุปว่าความกังวลทั้งหมดเป็นเพียงการตลาดก็คงไม่ยุติธรรม นักวิจัยด้านความปลอดภัย AI จำนวนมากอาจหวาดกลัวอย่างจริงใจ และพยายามชี้ให้เห็นความเสี่ยงก่อนที่จะสายเกินไป ประเด็นสำคัญจึงไม่ใช่การเลือกเชื่อฝ่ายใดฝ่ายหนึ่ง แต่คือการแยกความกังวลที่มีเหตุผลออกจากการนำเสนอที่เกินจริง
วิธีมอง P(doom) อย่างมีวิจารณญาณ
เมื่อพบตัวเลขความเสี่ยงจาก AI ผู้อ่านควรถามต่อว่า ตัวเลขนี้มาจากไหน ผู้ประเมินกำลังใช้คำจำกัดความของคำว่า หายนะ แบบใด และประเมินภายในกรอบเวลาเท่าไร นอกจากนี้ควรดูด้วยว่าผู้พูดมีผลประโยชน์เกี่ยวข้องกับการพัฒนา AI หรือไม่ การตั้งคำถามเหล่านี้ไม่ได้หมายความว่าเราปฏิเสธความเสี่ยง แต่ช่วยให้เราไม่รับตัวเลขโดยปราศจากการตรวจสอบ
การสนทนาเรื่อง AI ที่มีคุณภาพควรให้ความสำคัญกับหลักฐานที่สังเกตได้ เช่น ความผิดพลาดของโมเดล ช่องโหว่ด้านความปลอดภัย การใช้ AI ในทางที่ผิด และประสิทธิภาพของมาตรการควบคุม มากกว่าการแข่งขันกันประกาศตัวเลข P(doom) ที่สูงขึ้นเรื่อย ๆ หากมีการเผยแพร่แบบจำลอง สมมติฐาน และข้อมูลอย่างโปร่งใส สังคมก็จะสามารถประเมินความเสี่ยงได้ดีขึ้น
P(doom) แค่ความรู้สึกที่ปลอมตัวเป็นวิทยาศาสตร์ จึงเป็นวลีที่ชวนให้เราระมัดระวังการใช้ตัวเลข ไม่ใช่การปฏิเสธว่า AI อาจก่ออันตราย ความเสี่ยงบางอย่างอาจร้ายแรงและควรได้รับการจัดการตั้งแต่วันนี้ แต่การพูดถึงความเสี่ยงอย่างมีความรับผิดชอบต้องแยกให้ชัดระหว่างสิ่งที่รู้ สิ่งที่คาดเดา และสิ่งที่ยังไม่มีหลักฐานรองรับ
ในความเห็นของผู้เขียน การรับมือ AI ที่ดีที่สุดไม่ใช่การตกอยู่ในความกลัว และไม่ใช่การเชื่อว่าทุกอย่างจะปลอดภัยเอง เราควรสนับสนุนการวิจัยด้านความปลอดภัย กฎกำกับดูแลที่ตรวจสอบได้ และการเปิดเผยข้อมูลอย่างจริงใจ พร้อมตั้งคำถามกับตัวเลขทุกครั้ง เพราะอนาคตของ AI ควรถูกกำหนดด้วยหลักฐานและความรับผิดชอบ ไม่ใช่เพียงความรู้สึกที่แต่งตัวเป็นวิทยาศาสตร์