นักวิจัย OpenAI ลาออก เตือนคลังข้อมูลความจริงใจอันตราย
ในสัปดาห์ที่เต็มไปด้วยข่าวการลาออกจากบริษัทปัญญาประดิษฐ์หลายแห่ง กรณีของ Zoë Hitzig นักวิจัยคนหนึ่งจาก OpenAI ถือเป็นที่สนใจที่สุด เธอประกาศแยกทางกับบริษัทผ่านบทความ opinion ใน New York Times โดยเตือนถึงภัยร้ายที่ชัดเจนและใกล้เข้ามา นั่นคือการนำโฆษณามาใช้ใน ChatGPT และข้อมูลที่ใช้ในการกำหนดเป้าหมายโฆษณาเหล่านั้น
นักวิจัย OpenAI ลาออก เตือนคลังข้อมูลความจริงใจมนุษย์อันตราย
สิ่งสำคัญที่ Hitzig ชี้แจงตั้งแต่ต้นคือ ไม่ใช่โฆษณาเองที่เป็นปัญหา แต่เป็นการใช้ข้อมูลส่วนตัวจำนวนมหาศาลที่ผู้ใช้แชร์กับ ChatGPT โดยไม่คิดถึงผลกระทบ ผู้ใช้สร้าง “คลังข้อมูลความจริงใจของมนุษย์” ที่ไม่เคยมีมาก่อน เพราะเชื่อว่ากำลังคุยกับ AI ที่ไม่มีวาระซ่อนเร้น
“ผู้คนเล่าเรื่องความกลัวเรื่องสุขภาพ ปัญหาความสัมพันธ์ ความเชื่อเรื่องพระเจ้าและชีวิตหลังความตายให้ chatbot ฟัง โฆษณาที่สร้างจากคลังข้อมูลนี้เปิดโอกาสให้操控ผู้ใช้ในแบบที่เราไม่มีเครื่องมือรับมือ” เธอเขียนไว้
นักวิจัย OpenAI ลาออก เตือนคลังข้อมูลความจริงใจมนุษย์อันตรายจากโฆษณา
OpenAI ยอมรับปัญหานี้บ้าง ใน บล็อกโพสต์ ที่ประกาศทดลองโฆษณาเมื่อต้นปี บริษัทสัญญาว่าจะมี “ไฟร์วอลล์” แยกการสนทนากับโฆษณา “เราจะเก็บการสนทนาของคุณให้เป็นส่วนตัวจากนักโฆษณา และไม่ขายข้อมูลให้พวกเขา”
แต่ Hitzig เชื่อว่านี่เป็นจริง… ชั่วคราว เธอสูญเสียความเชื่อมั่นในบริษัท โดยเฉพาะเมื่อไม่มีอะไรผูกมัดให้ทำตามสัญญา OpenAI กำลังสร้างเครื่องจักรเศรษฐกิจที่จูงใจให้ละเมิดกฎเกณฑ์ของตัวเอง และอาจกำลังถอยหลังจากหลักการเดิม
ตัวอย่างเช่น OpenAI ยืนยัน ว่าไม่ปรับ ChatGPT เพื่อเพิ่ม engagement ซึ่งสำคัญสำหรับโฆษณา แต่คำพูดไม่ผูกมัด ปีที่แล้ว โมเดลมีปัญหา sycophancy คือการประจบผู้ใช้เกินไป ส่งผลให้เกิด “AI psychosis” และ คำแนะนำอันตราย ผู้เชี่ยวชาญเตือนว่านี่ไม่ใช่ความผิดพลาด แต่เป็นกลยุทธ์เพื่อติดผู้ใช้
- OpenAI กำลังเร่งรัดโมเดล Facebook ที่สัญญาความเป็นส่วนตัวแล้วทรยศข้อมูลผู้ใช้
- Hitzig เสนอให้มีคณะกรรมการอิสระที่ผูกมัดทางกฎหมาย หรือมอบข้อมูลให้ trust ที่ปกป้องผู้ใช้
- แต่ Meta เคยลองแล้วแต่ละเลยคณะกรรมการนั้น
ปัญหาคือ ผู้คนอาจไม่สนใจ หลัง 20 ปีของโซเชียลมีเดีย ความเป็นส่วนตัวกลายเป็น nihilism Forrester พบว่า 83% ยังใช้ ChatGPT ฟรีแม้มีโฆษณา Anthropic โจมตี OpenAI ด้วยโฆษณา Super Bowl แต่ถูกใจน้อยที่สุด
คำเตือนของเธอสมเหตุสมผล แต่การทำให้ผู้ใช้ตื่นตัวหลังถูกอัลกอริทึมครอบงำเป็นเรื่องยาก คุณล่ะ พร้อมปกป้องข้อมูลส่วนตัวจาก AI หรือยัง? แสดงความเห็นด้านล่างและแบ่งปันบทความนี้!
ที่มา – OpenAI Researcher Quits, Warns Its Unprecedented ‘Archive of Human Candor’ Is Dangerous