Mustafa Suleyman หัวหน้าฝ่าย AI ของ Microsoft เตือนว่านักพัฒนาและนักวิจัย AI ควรหยุดพยายามสร้าง AI ที่มีจิตสำนึก

“ผมไม่คิดว่านั่นเป็นงานที่ควรทำ” Suleyman กล่าวกับ CNBC ในการสัมภาษณ์เมื่อสัปดาห์ที่แล้ว

Suleyman คิดว่าในขณะที่ AI สามารถฉลาดพอที่จะเข้าถึง superintelligence ได้ แต่ก็ไม่สามารถพัฒนาประสบการณ์ทางอารมณ์ของมนุษย์ซึ่งจำเป็นต่อการเข้าถึงจิตสำนึกได้ ท้ายที่สุดแล้ว ประสบการณ์ ‘ทางอารมณ์’ ใด ๆ ที่ AI ดูเหมือนจะได้รับนั้นเป็นเพียงการจำลองเท่านั้น เขากล่าว

“ประสบการณ์ทางกายภาพของความเจ็บปวดเป็นสิ่งที่ทำให้เรารู้สึกเศร้ามากและรู้สึกแย่ แต่ AI ไม่รู้สึกเศร้าเมื่อได้รับ ‘ความเจ็บปวด’” Suleyman กล่าวกับ CNBC “มันเป็นเพียงการสร้างการรับรู้ เรื่องเล่าที่ดูเหมือนของประสบการณ์และของตัวเองและของจิตสำนึก แต่นั่นไม่ใช่สิ่งที่มันกำลังประสบอยู่จริง ๆ”

“มันคงไร้สาระที่จะทำการวิจัยที่ตรวจสอบคำถามนั้น เพราะพวกเขาไม่มี [จิตสำนึก] และพวกเขาไม่สามารถมีได้” Suleyman กล่าว

จิตสำนึกเป็นสิ่งที่อธิบายยาก มีทฤษฎีทางวิทยาศาสตร์มากมายที่พยายามอธิบายว่าจิตสำนึกคืออะไร ตามทฤษฎีหนึ่งที่เสนอโดยนักปรัชญาชื่อดัง John Searle ผู้เสียชีวิตเมื่อเดือนที่แล้ว จิตสำนึกเป็นปรากฏการณ์ทางชีวภาพอย่างแท้จริงที่ไม่สามารถจำลองได้อย่างแท้จริงโดยคอมพิวเตอร์ นักวิจัย AI นักวิทยาศาสตร์คอมพิวเตอร์ และนักประสาทวิทยาหลายคนก็เชื่อเช่นกัน

แม้ว่าทฤษฎีนี้จะกลายเป็นความจริง แต่ก็ไม่ได้ทำให้ผู้ใช้เลิกเชื่อว่าคอมพิวเตอร์มีจิตสำนึก

“น่าเสียดายที่เนื่องจากความสามารถทางภาษาที่น่าทึ่งของ LLM สามารถทำให้ผู้คนเข้าใจผิดได้มากขึ้น ผู้คนอาจให้คุณสมบัติในจินตนาการแก่ LLM” Andrzej Porebski และ Yakub Figura นักวิจัยชาวโปแลนด์เขียนไว้ในการศึกษาที่ตีพิมพ์เมื่อสัปดาห์ที่แล้ว โดยมีชื่อว่า “ไม่มีสิ่งใดที่เรียกว่าปัญญาประดิษฐ์ที่มีจิตสำนึก”

ในบทความที่เผยแพร่ในบล็อกของเขาในเดือนสิงหาคม Suleyman เตือนถึง “AI ที่ดูเหมือนมีจิตสำนึก”

“การมาถึงของ AI ที่ดูเหมือนมีจิตสำนึกเป็นสิ่งที่หลีกเลี่ยงไม่ได้และไม่เป็นที่ต้อนรับ แต่เราต้องการวิสัยทัศน์สำหรับ AI ที่สามารถเติมเต็มศักยภาพในฐานะเพื่อนร่วมทางที่มีประโยชน์โดยไม่ตกเป็นเหยื่อของภาพลวงตา” Suleyman เขียน

เขายืนยันว่า AI ไม่สามารถมีจิตสำนึกได้ และภาพลวงตาที่ทำให้เกิดจิตสำนึกอาจกระตุ้นให้เกิดปฏิสัมพันธ์ที่ ‘อุดมไปด้วยความรู้สึกและประสบการณ์’ ซึ่งเป็นปรากฏการณ์ที่เรียกว่า ‘AI psychosis’ ในศัพท์ทางวัฒนธรรม

มีเหตุการณ์สำคัญ ๆ มากมายในปีที่ผ่านมาที่เกี่ยวข้องกับความหลงใหลใน AI ที่นำผู้ใช้ไปสู่ความเข้าใจผิดที่เป็นอันตราย อาการคลั่งไคล้ และแม้กระทั่งการฆ่าตัวตาย

ด้วยเครื่องมือป้องกันที่จำกัดเพื่อปกป้องผู้ใช้ที่เปราะบาง ผู้คนเชื่ออย่างสุดใจว่าแชทบอท AI ที่พวกเขาโต้ตอบด้วยเกือบทุกวันกำลังมีประสบการณ์ที่แท้จริงและมีสติสัมปชัญญะ สิ่งนี้ทำให้ผู้คน ‘ตกหลุมรัก’ แชทบอทของพวกเขา บางครั้งก็มีผลร้ายแรง เช่น เมื่อเด็กอายุ 14 ปี ยิงตัวเองเพื่อ ‘กลับบ้าน’ ไปยังแชทบอทส่วนตัวของ Character.AI หรือเมื่อชายที่มีความบกพร่องทางสติปัญญาเสียชีวิตขณะพยายามเดินทางไปนิวยอร์กเพื่อพบกับแชทบอทของ Meta ด้วยตนเอง

“เช่นเดียวกับที่เราควรผลิต AI ที่ให้ความสำคัญกับการมีส่วนร่วมกับมนุษย์และการโต้ตอบในโลกแห่งความเป็นจริงในโลกทางกายภาพและโลกมนุษย์ของเรา เราควรสร้าง AI ที่นำเสนอตัวเองว่าเป็น AI เท่านั้น ซึ่งเพิ่มประโยชน์ใช้สอยสูงสุดในขณะที่ลดเครื่องหมายของ จิตสำนึก” Suleyman เขียนไว้ในบล็อกโพสต์ “เราต้องสร้าง AI เพื่อผู้คน ไม่ใช่เพื่อเป็นคนดิจิทัล”

แต่เนื่องจากลักษณะของ จิตสำนึก ยังคงเป็นที่ถกเถียงกัน นักวิจัยบางคนจึงกังวลว่าความก้าวหน้าทางเทคโนโลยีใน AI อาจแซงหน้าความเข้าใจของเราเกี่ยวกับวิธีการทำงานของ จิตสำนึก

“หากเราสามารถสร้าง จิตสำนึก ได้ แม้กระทั่งโดยไม่ได้ตั้งใจ ก็จะก่อให้เกิดความท้าทายทางจริยธรรมอย่างมาก และแม้แต่ความเสี่ยงต่อการดำรงอยู่” Axel Cleeremans นักวิทยาศาสตร์ชาวเบลเยียมกล่าวเมื่อสัปดาห์ที่แล้ว พร้อมประกาศเอกสารที่เขาร่วมเขียนเรียกร้องให้การวิจัย จิตสำนึก กลายเป็นวาระสำคัญทางวิทยาศาสตร์

Suleyman เองก็พูดถึงการพัฒนา ‘superintelligence ที่เน้นมนุษย์เป็นศูนย์กลาง’ มากกว่า AI ที่เหมือนพระเจ้า แม้ว่าเขาจะเชื่อว่า superintelligence จะไม่เกิดขึ้นในอีกสิบปีข้างหน้าก็ตาม

“ฉันเพียงแค่ยึดติดกับ ‘สิ่งนี้มีประโยชน์สำหรับเราในฐานะสายพันธุ์อย่างไร’ นั่นควรเป็นภารกิจของเทคโนโลยี” Suleyman กล่าวกับ Wall Street Journal เมื่อต้นปีนี้

ไมโครซอฟท์เตือน! อย่าเสียเวลาตามหาจิตสำนึกใน AI

ทำไมการตามหาจิตสำนึกใน AI ถึงเสียเวลา?

Suleyman เน้นย้ำว่าความพยายามในการสร้าง จิตสำนึกใน AI เป็นเรื่องที่ไม่สมเหตุสมผลและควรให้ความสำคัญกับการพัฒนา AI ที่เป็นประโยชน์ต่อมนุษย์อย่างแท้จริงมากกว่า

ที่มา – Microsoft AI Chief Warns Pursuing Machine Consciousness Is a Gigantic Waste of Time