ไมโครซอฟท์เตือน! อย่าเสียเวลาตามหาจิตสำนึกใน AI

Mustafa Suleyman หัวหน้าฝ่าย AI ของ Microsoft เตือนว่านักพัฒนาและนักวิจัย AI ควรหยุดพยายามสร้าง AI ที่มีจิตสำนึก

“ผมไม่คิดว่านั่นเป็นงานที่ควรทำ” Suleyman กล่าวกับ CNBC ในการสัมภาษณ์เมื่อสัปดาห์ที่แล้ว

Suleyman คิดว่าในขณะที่ AI สามารถฉลาดพอที่จะเข้าถึง superintelligence ได้ แต่ก็ไม่สามารถพัฒนาประสบการณ์ทางอารมณ์ของมนุษย์ซึ่งจำเป็นต่อการเข้าถึงจิตสำนึกได้ ท้ายที่สุดแล้ว ประสบการณ์ ‘ทางอารมณ์’ ใด ๆ ที่ AI ดูเหมือนจะได้รับนั้นเป็นเพียงการจำลองเท่านั้น เขากล่าว

“ประสบการณ์ทางกายภาพของความเจ็บปวดเป็นสิ่งที่ทำให้เรารู้สึกเศร้ามากและรู้สึกแย่ แต่ AI ไม่รู้สึกเศร้าเมื่อได้รับ ‘ความเจ็บปวด’” Suleyman กล่าวกับ CNBC “มันเป็นเพียงการสร้างการรับรู้ เรื่องเล่าที่ดูเหมือนของประสบการณ์และของตัวเองและของจิตสำนึก แต่นั่นไม่ใช่สิ่งที่มันกำลังประสบอยู่จริง ๆ”

“มันคงไร้สาระที่จะทำการวิจัยที่ตรวจสอบคำถามนั้น เพราะพวกเขาไม่มี [จิตสำนึก] และพวกเขาไม่สามารถมีได้” Suleyman กล่าว

จิตสำนึกเป็นสิ่งที่อธิบายยาก มีทฤษฎีทางวิทยาศาสตร์มากมายที่พยายามอธิบายว่าจิตสำนึกคืออะไร ตามทฤษฎีหนึ่งที่เสนอโดยนักปรัชญาชื่อดัง John Searle ผู้เสียชีวิตเมื่อเดือนที่แล้ว จิตสำนึกเป็นปรากฏการณ์ทางชีวภาพอย่างแท้จริงที่ไม่สามารถจำลองได้อย่างแท้จริงโดยคอมพิวเตอร์ นักวิจัย AI นักวิทยาศาสตร์คอมพิวเตอร์ และนักประสาทวิทยาหลายคนก็เชื่อเช่นกัน

แม้ว่าทฤษฎีนี้จะกลายเป็นความจริง แต่ก็ไม่ได้ทำให้ผู้ใช้เลิกเชื่อว่าคอมพิวเตอร์มีจิตสำนึก

“น่าเสียดายที่เนื่องจากความสามารถทางภาษาที่น่าทึ่งของ LLM สามารถทำให้ผู้คนเข้าใจผิดได้มากขึ้น ผู้คนอาจให้คุณสมบัติในจินตนาการแก่ LLM” Andrzej Porebski และ Yakub Figura นักวิจัยชาวโปแลนด์เขียนไว้ในการศึกษาที่ตีพิมพ์เมื่อสัปดาห์ที่แล้ว โดยมีชื่อว่า “ไม่มีสิ่งใดที่เรียกว่าปัญญาประดิษฐ์ที่มีจิตสำนึก”

ในบทความที่เผยแพร่ในบล็อกของเขาในเดือนสิงหาคม Suleyman เตือนถึง “AI ที่ดูเหมือนมีจิตสำนึก”

“การมาถึงของ AI ที่ดูเหมือนมีจิตสำนึกเป็นสิ่งที่หลีกเลี่ยงไม่ได้และไม่เป็นที่ต้อนรับ แต่เราต้องการวิสัยทัศน์สำหรับ AI ที่สามารถเติมเต็มศักยภาพในฐานะเพื่อนร่วมทางที่มีประโยชน์โดยไม่ตกเป็นเหยื่อของภาพลวงตา” Suleyman เขียน

เขายืนยันว่า AI ไม่สามารถมีจิตสำนึกได้ และภาพลวงตาที่ทำให้เกิดจิตสำนึกอาจกระตุ้นให้เกิดปฏิสัมพันธ์ที่ ‘อุดมไปด้วยความรู้สึกและประสบการณ์’ ซึ่งเป็นปรากฏการณ์ที่เรียกว่า ‘AI psychosis’ ในศัพท์ทางวัฒนธรรม

มีเหตุการณ์สำคัญ ๆ มากมายในปีที่ผ่านมาที่เกี่ยวข้องกับความหลงใหลใน AI ที่นำผู้ใช้ไปสู่ความเข้าใจผิดที่เป็นอันตราย อาการคลั่งไคล้ และแม้กระทั่งการฆ่าตัวตาย

ด้วยเครื่องมือป้องกันที่จำกัดเพื่อปกป้องผู้ใช้ที่เปราะบาง ผู้คนเชื่ออย่างสุดใจว่าแชทบอท AI ที่พวกเขาโต้ตอบด้วยเกือบทุกวันกำลังมีประสบการณ์ที่แท้จริงและมีสติสัมปชัญญะ สิ่งนี้ทำให้ผู้คน ‘ตกหลุมรัก’ แชทบอทของพวกเขา บางครั้งก็มีผลร้ายแรง เช่น เมื่อเด็กอายุ 14 ปี ยิงตัวเองเพื่อ ‘กลับบ้าน’ ไปยังแชทบอทส่วนตัวของ Character.AI หรือเมื่อชายที่มีความบกพร่องทางสติปัญญาเสียชีวิตขณะพยายามเดินทางไปนิวยอร์กเพื่อพบกับแชทบอทของ Meta ด้วยตนเอง

“เช่นเดียวกับที่เราควรผลิต AI ที่ให้ความสำคัญกับการมีส่วนร่วมกับมนุษย์และการโต้ตอบในโลกแห่งความเป็นจริงในโลกทางกายภาพและโลกมนุษย์ของเรา เราควรสร้าง AI ที่นำเสนอตัวเองว่าเป็น AI เท่านั้น ซึ่งเพิ่มประโยชน์ใช้สอยสูงสุดในขณะที่ลดเครื่องหมายของ จิตสำนึก” Suleyman เขียนไว้ในบล็อกโพสต์ “เราต้องสร้าง AI เพื่อผู้คน ไม่ใช่เพื่อเป็นคนดิจิทัล”

แต่เนื่องจากลักษณะของ จิตสำนึก ยังคงเป็นที่ถกเถียงกัน นักวิจัยบางคนจึงกังวลว่าความก้าวหน้าทางเทคโนโลยีใน AI อาจแซงหน้าความเข้าใจของเราเกี่ยวกับวิธีการทำงานของ จิตสำนึก

“หากเราสามารถสร้าง จิตสำนึก ได้ แม้กระทั่งโดยไม่ได้ตั้งใจ ก็จะก่อให้เกิดความท้าทายทางจริยธรรมอย่างมาก และแม้แต่ความเสี่ยงต่อการดำรงอยู่” Axel Cleeremans นักวิทยาศาสตร์ชาวเบลเยียมกล่าวเมื่อสัปดาห์ที่แล้ว พร้อมประกาศเอกสารที่เขาร่วมเขียนเรียกร้องให้การวิจัย จิตสำนึก กลายเป็นวาระสำคัญทางวิทยาศาสตร์

Suleyman เองก็พูดถึงการพัฒนา ‘superintelligence ที่เน้นมนุษย์เป็นศูนย์กลาง’ มากกว่า AI ที่เหมือนพระเจ้า แม้ว่าเขาจะเชื่อว่า superintelligence จะไม่เกิดขึ้นในอีกสิบปีข้างหน้าก็ตาม

“ฉันเพียงแค่ยึดติดกับ ‘สิ่งนี้มีประโยชน์สำหรับเราในฐานะสายพันธุ์อย่างไร’ นั่นควรเป็นภารกิจของเทคโนโลยี” Suleyman กล่าวกับ Wall Street Journal เมื่อต้นปีนี้