กังวล AI ทำลายมนุษยชาติ Anthropic จ้างคนกำหนดกติกา
ข่าววงการปัญญาประดิษฐ์ครั้งนี้ชวนให้หลายคนตั้งคำถามอย่างจริงจัง เมื่อบริษัท Anthropic ซึ่งเป็นผู้พัฒนาโมเดล Claude ออกมาพูดถึงความเสี่ยงที่ AI อาจส่งผลกระทบต่อมนุษยชาติ ขณะเดียวกัน บริษัทกลับประกาศรับสมัครผู้จัดการด้านนโยบาย เพื่อช่วยกำหนดแนวทางการใช้งาน AI ที่เกี่ยวข้องกับอาวุธแบบดั้งเดิม ความเคลื่อนไหวนี้ทำให้ประเด็น กังวล AI ทำลายมนุษยชาติ Anthropic จ้างคนกำหนดกติกา กลายเป็นเรื่องที่ถูกจับตามองอย่างมาก
เมื่อวันที่ 12 กันยายน 2026 Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความเรียกร้องให้บริษัท AI ชั้นนำชะลอการพัฒนาเทคโนโลยีแนวหน้า โดยให้เหตุผลว่า AI อาจก่อให้เกิดความเสียหายต่อชีวิตมนุษย์ในรูปแบบที่เราอาจคาดไม่ถึง ต่อมาเพียงสองวัน บริษัทก็ประกาศตำแหน่งงานในทีม Safeguards ซึ่งมีหน้าที่กำหนดขอบเขตว่า Claude สามารถถูกนำไปใช้งานได้แค่ไหน
กังวล AI ทำลายมนุษยชาติ Anthropic จ้างคนกำหนดกติกา
ตำแหน่งดังกล่าวมีชื่อว่า Policy Design Manager ด้านอาวุธแบบดั้งเดิม หน้าที่สำคัญคือการออกแบบนโยบายสำหรับแยกแยะระหว่างคำขอที่ยอมรับได้กับคำขอที่อาจเป็นอันตราย โดยครอบคลุมตั้งแต่การวิจัยทางวิศวกรรมที่ใช้ประโยชน์ได้ในภาคพลเรือน ไปจนถึงการใช้งานที่อาจสนับสนุนการพัฒนาอาวุธ
สิ่งที่ทำให้เรื่องนี้น่าสนใจคือเทคโนโลยีหลายอย่างมีลักษณะเป็น เทคโนโลยีสองทาง หรือ dual-use กล่าวคือ ความสามารถเดียวกันอาจช่วยสร้างระบบที่เป็นประโยชน์ต่อสังคม และในเวลาเดียวกันก็อาจถูกนำไปใช้ในทางทหารได้ ตัวอย่างเช่น การเขียนซอฟต์แวร์ควบคุมระบบ การวิเคราะห์ข้อมูลเป้าหมาย หรือการออกแบบแพลตฟอร์มไร้คนขับ
กังวล AI ทำลายมนุษยชาติ Anthropic จ้างคนกำหนดกติกาอย่างไร
ประกาศรับสมัครงานระบุว่าเส้นแบ่งระหว่างการใช้งานที่ปลอดภัยและการใช้งานที่เป็นอันตรายนั้นกำหนดได้ยาก โดยเฉพาะเมื่ออาวุธสมัยใหม่พึ่งพาซอฟต์แวร์มากขึ้น บทบาทนี้จึงต้องพิจารณาอาวุธหลายประเภท ตั้งแต่อาวุธทั่วไป ระบบนำทาง ไปจนถึงระบบอัตโนมัติที่สามารถเลือกและโจมตีเป้าหมายได้โดยไม่ต้องรอการอนุมัติจากมนุษย์
ในประเด็นระบบอาวุธอัตโนมัติ Anthropic เคยแสดงจุดยืนค่อนข้างชัดเจน บริษัทปฏิเสธการอนุญาตให้กระทรวงกลาโหมสหรัฐฯ ใช้โมเดลของตนกับอาวุธที่สามารถตัดสินใจโจมตีได้เองโดยไม่มีมนุษย์อยู่ในกระบวนการ นโยบายดังกล่าวทำให้ความสัมพันธ์ระหว่างบริษัทกับกระทรวงกลาโหมเกิดความตึงเครียด และสะท้อนว่าบริษัทพยายามวางเส้นแดงด้านความปลอดภัยไว้บางส่วน
อย่างไรก็ตาม จุดยืนของ Anthropic ต่ออาวุธที่ยังมีมนุษย์เป็นผู้กดปุ่มสั่งการกลับดูไม่ชัดเจนเท่าไร รายงานจากสื่อระบุว่าเครื่องมือ AI ของบริษัทอาจถูกใช้ในการโจมตีของสหรัฐฯ ต่ออิหร่าน และอาจมีส่วนเกี่ยวข้องกับปฏิบัติการในเวเนซุเอลาที่นำไปสู่การจับกุมประธานาธิบดี Nicolás Maduro แม้รายละเอียดของการใช้งานและระดับความเกี่ยวข้องจะยังเป็นประเด็นที่ต้องตรวจสอบเพิ่มเติม
เส้นแบ่งระหว่างความปลอดภัยกับธุรกิจ
คำถามสำคัญจึงไม่ได้มีเพียงว่า AI จะทำลายมนุษยชาติได้หรือไม่ แต่ยังรวมถึงว่าใครควรเป็นผู้กำหนดขอบเขตการใช้งาน และขอบเขตนั้นควรโปร่งใสแค่ไหน หากบริษัทหนึ่งประกาศเตือนถึงภัยคุกคามระดับโลก เช่น การโจมตีทางไซเบอร์ที่ทำให้อินเทอร์เน็ตล่ม หรือการใช้ AI ช่วยสร้างอาวุธชีวภาพ ผู้คนย่อมคาดหวังว่าบริษัทจะมีจุดยืนที่เข้มงวดกับการใช้ AI ในสงครามด้วย
การมีตำแหน่งงานสำหรับออกแบบนโยบายไม่ได้หมายความว่า Anthropic สนับสนุนการใช้งานอาวุธโดยตรง แต่สะท้อนว่าบริษัทกำลังพยายามจัดการกับพื้นที่สีเทาที่ซับซ้อน ในโลกจริง การห้ามทุกอย่างอาจทำให้บริษัทเสียโอกาสทางธุรกิจ ขณะที่การอนุญาตกว้างเกินไปก็อาจเพิ่มความเสี่ยงต่อชีวิตมนุษย์ นี่คือเหตุผลที่ตำแหน่งดังกล่าวต้องอาศัยทั้งความรู้ด้านนโยบาย ความมั่นคง จริยธรรม เทคโนโลยี และกฎหมายระหว่างประเทศ
- อาวุธอัตโนมัติ: ระบบที่สามารถเลือกหรือโจมตีเป้าหมายได้เองเป็นประเด็นที่มีความเสี่ยงสูง
- ซอฟต์แวร์แบบสองทาง: เครื่องมือเดียวกันอาจใช้สร้างประโยชน์ทางพลเรือนหรือสนับสนุนการทหาร
- มนุษย์ในกระบวนการตัดสินใจ: การมีผู้ควบคุมอาจลดความเสี่ยง แต่ไม่ได้ทำให้การใช้งานปลอดภัยโดยอัตโนมัติ
- ความโปร่งใส: สังคมควรได้รับข้อมูลว่าบริษัทกำหนดกฎเกณฑ์และตรวจสอบการใช้งานอย่างไร
ทำไมเรื่องนี้จึงสำคัญกับผู้ใช้ทั่วไป
แม้ข่าวนี้จะเกี่ยวข้องกับการทหารและนโยบายระดับองค์กร แต่ผลกระทบอาจเชื่อมโยงกับผู้ใช้ทั่วไปในอนาคต เพราะเทคโนโลยีที่พัฒนาสำหรับงานด้านความมั่นคงมักส่งต่อมายังภาคธุรกิจและชีวิตประจำวัน ไม่ว่าจะเป็นระบบวิเคราะห์ข้อมูล โดรนอัตโนมัติ การรู้จำภาพ หรือซอฟต์แวร์ตัดสินใจ หากไม่มีหลักเกณฑ์ที่รอบคอบ เทคโนโลยีเหล่านี้อาจถูกนำไปใช้โดยไม่คำนึงถึงสิทธิ ความเป็นส่วนตัว และความปลอดภัยของประชาชน
ประเด็น กังวล AI ทำลายมนุษยชาติ Anthropic จ้างคนกำหนดกติกา จึงไม่ได้เป็นเพียงพาดหัวข่าวที่ฟังดูน่าตกใจ แต่เป็นตัวอย่างของความขัดแย้งที่บริษัท AI ต้องเผชิญ นั่นคือการสร้างนวัตกรรมให้เดินหน้า พร้อมกับควบคุมความเสี่ยงไม่ให้เทคโนโลยีถูกใช้เกินขอบเขต การมีผู้เชี่ยวชาญด้านนโยบายอาจช่วยให้การตัดสินใจเป็นระบบขึ้น แต่สังคมก็ยังต้องติดตามว่ากฎเหล่านั้นเข้มงวดจริงหรือเป็นเพียงภาพลักษณ์ด้านความรับผิดชอบ
ท้ายที่สุด การกำหนดอนาคตของ AI ไม่ควรเป็นหน้าที่ของบริษัทใดบริษัทหนึ่งเท่านั้น ผู้กำหนดนโยบาย นักวิจัย ภาคประชาสังคม และผู้ใช้ควรมีส่วนร่วมในการตรวจสอบและเสนอแนวทางร่วมกัน หากเราไม่ต้องการให้ AI เพิ่มความเสี่ยงต่อมนุษยชาติ สิ่งที่ควรทำตั้งแต่วันนี้คือสนับสนุนความโปร่งใส กฎเกณฑ์ที่ตรวจสอบได้ และการยืนยันว่ามนุษย์ยังคงมีความรับผิดชอบในทุกการตัดสินใจที่อาจกระทบชีวิตผู้คน