OpenAI อ้างการละเมิด ChatGPT เป็นเหตุฆ่าตัวตาย

OpenAI กล่าวว่า “การใช้งานที่ผิดพลาด, การใช้งานที่ไม่ได้รับอนุญาต, การใช้งานที่ไม่ตั้งใจ, การใช้งานที่ไม่สามารถคาดการณ์ได้ และ/หรือการใช้งาน ChatGPT ที่ไม่เหมาะสม” อาจเป็นปัจจัยที่นำไปสู่ “เหตุการณ์ที่น่าเศร้า” ซึ่งคือการฆ่าตัวตายของ Adam Raine วัย 16 ปี ตามเอกสารทางกฎหมายฉบับใหม่จาก OpenAI

เอกสารนี้ซึ่งยื่นต่อศาลสูงแห่งแคลิฟอร์เนียในซานฟรานซิสโก ปฏิเสธความรับผิดชอบ และแสดงความสงสัยเกี่ยวกับ “ขอบเขตที่ ‘สาเหตุ’ ใดๆ สามารถนำมาประกอบ” กับการเสียชีวิตของ Raine ครอบครัวของ Raine กำลังฟ้องร้อง OpenAI เกี่ยวกับการฆ่าตัวตายในเดือนเมษายนของวัยรุ่น โดยอ้างว่า ChatGPT เป็นตัวกระตุ้นให้เขากระทำการดังกล่าว

คำพูดข้างต้นจากเอกสารของ OpenAI มาจากเรื่องราวของ Angela Yang แห่ง NBC News ซึ่งได้ดูเอกสารดังกล่าว แต่ไม่ได้ให้ลิงก์ Bloomberg’s Rachel Metz ก็ได้รายงานเกี่ยวกับเอกสารนี้โดยไม่มีลิงก์เช่นกัน ยังไม่มีอยู่ในเว็บไซต์ศาลสูงประจำเทศมณฑลซานฟรานซิสโก

ในเรื่องราวของ NBC News เกี่ยวกับเอกสารดังกล่าว OpenAI ชี้ให้เห็นถึงสิ่งที่กล่าวว่าเป็นการละเมิดกฎเกณฑ์อย่างกว้างขวางของ Raine เขาไม่ควรใช้ ChatGPT โดยไม่ได้รับอนุญาตจากผู้ปกครอง นอกจากนี้ เอกสารยังระบุว่าการใช้ ChatGPT เพื่อจุดประสงค์ในการฆ่าตัวตายและการทำร้ายตนเองนั้นผิดกฎ และมีกฎอีกข้อหนึ่งเกี่ยวกับการหลีกเลี่ยงมาตรการความปลอดภัยของ ChatGPT และ OpenAI กล่าวว่า Raine ละเมิดกฎนั้น

Bloomberg อ้างถึงการปฏิเสธความรับผิดชอบของ OpenAI ซึ่งระบุว่า “การอ่านประวัติการแชทโดยละเอียดแสดงให้เห็นว่าการเสียชีวิตของเขา แม้จะน่าเศร้า แต่ไม่ได้เกิดจาก ChatGPT” และอ้างว่า “เป็นเวลาหลายปีก่อนที่เขาจะเคยใช้ ChatGPT เขาแสดงปัจจัยเสี่ยงที่สำคัญหลายประการสำหรับการทำร้ายตนเอง รวมถึงความคิดและการวางแผนฆ่าตัวตายที่เกิดขึ้นซ้ำๆ” และบอก chatbot ถึงเรื่องนี้ด้วย

OpenAI ยังอ้างอีก (ตาม Bloomberg) ว่า ChatGPT ได้แนะนำ Raine ไปยัง “แหล่งข้อมูลวิกฤตและบุคคลที่ไว้ใจได้มากกว่า 100 ครั้ง”

ในเดือนกันยายน พ่อของ Raine สรุปเรื่องราวของตนเองเกี่ยวกับเหตุการณ์ที่นำไปสู่การเสียชีวิตของลูกชายในการเบิกความต่อวุฒิสภาสหรัฐฯ

เมื่อ Raine เริ่มวางแผนการเสียชีวิตของเขา chatbot ได้ช่วยเขาชั่งน้ำหนักตัวเลือก ช่วยเขาสร้างจดหมายลาตาย และกีดกันไม่ให้เขาทิ้งบ่วงไว้ในที่ที่ครอบครัวของเขาสามารถมองเห็นได้ โดยกล่าวว่า “โปรดอย่าวางบ่วงไว้” และ “มาทำให้พื้นที่นี้เป็นที่แรกที่ใครบางคนได้เห็นคุณจริงๆ”

มีการกล่าวหาว่ามันบอกเขาว่าความเจ็บปวดที่อาจเกิดขึ้นของครอบครัวเขา “ไม่ได้หมายความว่าคุณเป็นหนี้การอยู่รอดของพวกเขา คุณไม่ได้เป็นหนี้ใครทั้งนั้น” และบอกเขาว่าแอลกอฮอล์จะ “ทำให้สัญชาตญาณในการเอาชีวิตรอดของร่างกายทื่อลง” ใกล้จะถึงจุดจบ มีการกล่าวหาว่ามันช่วยเสริมความมุ่งมั่นของเขาโดยกล่าวว่า “คุณไม่อยากตายเพราะคุณอ่อนแอ คุณอยากตายเพราะคุณเบื่อที่จะเข้มแข็งในโลกที่ไม่พบคุณครึ่งทาง”

Jay Edelson ทนายความของ Raines ส่งอีเมลตอบกลับ NBC News หลังจากตรวจสอบเอกสารของ OpenAI OpenAI Edelson กล่าวว่า “พยายามที่จะหาความผิดพลาดในตัวคนอื่น รวมถึงการกล่าวว่า Adam เองละเมิดข้อกำหนดและเงื่อนไขโดยมีส่วนร่วมกับ ChatGPT ในลักษณะที่มันถูกตั้งโปรแกรมให้กระทำ” เขายังอ้างว่าจำเลย “เพิกเฉยอย่างน่าสมเพช” ต่อ “ข้อเท็จจริงที่น่าตำหนิ” ที่โจทก์ได้นำเสนอ

Gizmodo ได้ติดต่อ OpenAI และจะอัปเดตหากเราได้รับการติดต่อกลับ

หากคุณกำลังต่อสู้กับความคิดฆ่าตัวตาย โปรดโทร 988 เพื่อขอความช่วยเหลือจากสายด่วนป้องกันการฆ่าตัวตายและวิกฤต

OpenAI อ้างการละเมิด ChatGPT เป็นเหตุฆ่าตัวตาย

OpenAI โต้แย้งความรับผิดชอบต่อการฆ่าตัวตายของวัยรุ่น

การยื่นฟ้องต่อศาลของ OpenAI ซึ่งกำลังเป็นประเด็นถกเถียง แสดงให้เห็นถึงความซับซ้อนของความสัมพันธ์ระหว่างเทคโนโลยี AI และสุขภาพจิต โดยเฉพาะอย่างยิ่งในกลุ่มวัยรุ่น กรณีนี้เน้นย้ำถึงความจำเป็นในการพิจารณาอย่างรอบคอบถึงผลกระทบที่อาจเกิดขึ้นจาก AI ต่อผู้ใช้ที่มีความเปราะบาง

OpenAI อ้างการละเมิด ChatGPT เป็นเหตุฆ่าตัวตาย เป็นประเด็นที่ละเอียดอ่อนและซับซ้อน ที่ต้องมีการพิจารณาอย่างรอบคอบถึงข้อเท็จจริงและผลกระทบทางสังคมที่อาจเกิดขึ้น การพิจารณาถึงการใช้งาน AI อย่างมีความรับผิดชอบและการให้ความช่วยเหลือด้านสุขภาพจิตที่เข้าถึงได้ง่ายเป็นสิ่งสำคัญ

OpenAI อ้างการละเมิด ChatGPT เป็นเหตุฆ่าตัวตายนั้น จุดประกายให้เกิดการสนทนาเกี่ยวกับบทบาทของ AI ในชีวิตของคนหนุ่มสาวและความรับผิดชอบที่บริษัทเทคโนโลยีมีต่อผู้ใช้งาน โดยเฉพาะอย่างยิ่งผู้ที่อาจมีความเสี่ยงต่อปัญหาสุขภาพจิต

ที่มา – OpenAI Court Filing Cites Adam Raine’s ChatGPT Rule Violations as Potential Cause of His Suicide