AI ตรวจจับใบหน้าทำให้เกิดการจับกุมผิดพลาดในฟลอริดา
ในปัจจุบันเทคโนโลยีปัญญาประดิษฐ์หรือ AI ได้เข้ามามีบทบาทในหลายด้าน แต่ทว่า AI ตรวจจับใบหน้าทำให้เกิดการจับกุมผิดพลาดในฟลอริดา ได้กลายเป็นประเด็นร้อนที่ทำลายชีวิตผู้บริสุทธิ์ไปหลายราย โดยเหตุการณ์ล่าสุดเผยให้เห็นความผิดพลาดของระบบที่ส่งผลกระทบร้ายแรงต่อสถานะทางสังคมและสภาพจิตใจของเหยื่อที่ไม่ได้รู้อิโหน่อิเหน่
ผลกระทบจาก AI ตรวจจับใบหน้าทำให้เกิดการจับกุมผิดพลาดในฟลอริดา
เรื่องราวของ Jalil Richardson ชายจากนอร์ทแคโรไลนาเป็นตัวอย่างที่ชัดเจนมาก เขาถูกตำรวจในฟลอริดาออกหมายจับโดยใช้ระบบ AI ตระกูล AFR เป็นตัวยืนยันทั้งที่เขาไม่เคยไปเหยียบฟลอริดาเลยแม้แต่ครั้งเดียว การถูกตั้งข้อหาว่าขโมยรถยนต์ทำให้เขาต้องติดคุกรวมกว่า 83 วัน สูญเสียงาน ทรัพย์สิน และกลายเป็นคนไร้บ้านในที่สุด แม้ภายหลังอัยการจะสั่งไม่ฟ้อง แต่ความเสียหายที่เกิดขึ้นกับชีวิตของเขานั้นไม่สามารถเรียกคืนมาได้ง่ายๆ
ความล้มเหลวของเทคโนโลยีที่ไร้การตรวจสอบ
นอกจากกรณีของคุณ Richardson แล้ว ยังมีคดีของ Robert Dillon วัย 52 ปี ที่เผชิญชะตากรรมคล้ายกันจากระบบ FACESNXT ซึ่งระบุตัวเขาว่ามีใบหน้าตรงกับคนร้ายถึง 93% ทั้งที่มีหลักฐานชัดเจนว่าเขาอยู่ห่างจากที่เกิดเหตุหลายร้อยไมล์ นี่คือประเด็นสำคัญที่สะท้อนว่า AI ตรวจจับใบหน้าทำให้เกิดการจับกุมผิดพลาดในฟลอริดา ได้บ่อยครั้งเพียงใดเมื่อตำรวจเชื่อถืออัลกอริทึมมากกว่าหลักฐานเชิงประจักษ์และการสืบสวนตามความเป็นจริง
- ระบบสแกนใบหน้ามักมองข้ามรายละเอียดทางกายภาพที่แตกต่างกัน เช่น แผลเป็น หรือรอยตำหนิ
- การพึ่งพาเทคโนโลยีมากเกินไปอาจทำให้เจ้าหน้าที่ละเลยข้อมูลทวนสอบ
- เหยื่อต้องเผชิญกับตราบาปทางสังคมและการสูญเสียชีวิตที่สงบสุขหลังถูกปล่อยตัว
กลุ่ม ACLU ได้ออกมาเรียกร้องให้มีการตรวจสอบการใช้งานเทคโนโลยีเหล่านี้อย่างเข้มงวด เพราะความผิดพลาดเพียงเล็กน้อยของซอฟต์แวร์สามารถทำลายอนาคตของคนคนหนึ่งไปตลอดกาล ประสบการณ์จากผู้เสียหายย้ำเตือนเราว่า เราไม่ควรให้ความศรัทธาในเทคโนโลยี AI มากจนเบียดบังความยุติธรรมในกระบวนการยุติธรรมของมนุษย์
บทเรียนในครั้งนี้เป็นเครื่องเตือนใจชั้นดีว่า นวัตกรรมควรมาพร้อมกับจริยธรรมและการตรวจสอบอย่างรอบคอบ การที่หน่วยงานรัฐจะใช้ AI ตัดสินชีวิตใครสักคน จำเป็นต้องมีกระบวนการตรวจสอบที่โปร่งใสและหนักแน่นกว่านี้ ไม่เช่นนั้นเราอาจได้เห็นเคสแบบนี้เกิดขึ้นอีกนับไม่ถ้วน
ที่มา – AI Facial Recognition Software Leads to False Arrests, Ruined Lives in Florida