กลโกง! มิจฉาชีพวางยา AI ด้วยเบอร์ปลอม

มิจฉาชีพชอบที่จะโปรยเบอร์โทรศัพท์ปลอมบนอินเทอร์เน็ต เพื่อล่อลวงเหยื่อที่ไม่สงสัย ซึ่งกำลังพยายามแก้ไขปัญหาในชีวิตของพวกเขา นักต้มตุ๋นเหล่านี้ทำแบบนี้กับ Google Search มาหลายปีแล้ว ดังนั้นจึงสมเหตุสมผลที่พวกเขาจะย้ายไปสู่พื้นที่ล่าสุดที่ผู้คนมักค้นหาข้อมูลคือ แชทบอท AI

บริษัทรักษาความปลอดภัยทางไซเบอร์ AI Aurascape มี รายงานใหม่ เกี่ยวกับวิธีที่มิจฉาชีพสามารถแทรกเบอร์โทรศัพท์ของตนเองเข้าไปในระบบที่ขับเคลื่อนด้วย LLM ซึ่งส่งผลให้เบอร์หลอกลวงปรากฏเป็นคำตอบที่น่าเชื่อถือต่อการร้องขอข้อมูลติดต่อในแอปพลิเคชัน AI เช่น Perplexity หรือ Google AI Overviews และเมื่อมีคนโทรไปที่เบอร์นั้น พวกเขาไม่ได้คุยกับฝ่ายสนับสนุนลูกค้าจาก Apple แต่กำลังคุยกับมิจฉาชีพ

จากข้อมูลของ Aurascape มิจฉาชีพสามารถทำสิ่งนี้ได้ด้วยกลวิธีต่างๆ มากมาย วิธีหนึ่งคือการปลูกเนื้อหาขยะบนเว็บไซต์ที่เชื่อถือได้ เช่น เว็บไซต์ของรัฐบาล มหาวิทยาลัย และเว็บไซต์ที่มีชื่อเสียงที่ใช้ WordPress วิธีนี้ต้องมีการเข้าถึงในรูปแบบที่อาจยากกว่า แต่ก็ไม่ใช่เรื่องที่เป็นไปไม่ได้

วิธีที่ง่ายกว่าคือการปลูกเนื้อหาขยะบนแพลตฟอร์มที่ผู้ใช้สร้างขึ้น เช่น YouTube และ Yelp หรือเว็บไซต์อื่นๆ ที่อนุญาตให้มีการรีวิว มิจฉาชีพแทรกเบอร์โทรศัพท์ของพวกเขา แต่ใส่คำค้นหาที่เป็นไปได้ทั้งหมดที่จะทำให้เบอร์นั้นพบเป้าหมายที่ต้องการ เช่น “เบอร์โทรศัพท์ฝ่ายสนับสนุนลูกค้าของ Delta Airlines” และรูปแบบอื่นๆ อีกนับไม่ถ้วน

ทั้งหมดนั้นเป็นเรื่องปกติสำหรับมิจฉาชีพที่พยายามจะเพิ่มประสิทธิภาพให้กับผลการค้นหาของ Google Search แต่ Aurascape ตั้งข้อสังเกตว่าโครงสร้างของข้อมูลนั้นสามารถทำให้แตกต่างสำหรับ LLM ได้ โดยการโพสต์คำค้นหาที่เป็นไปได้ในรูปแบบสรุปที่ AI ชอบนำเสนอ ทำให้มีโอกาสประสบความสำเร็จมากขึ้นเนื่องจากแชทบอท AI เหล่านี้สำรวจอินเทอร์เน็ตเพื่อหาคำตอบ

รายงานฉบับใหม่นี้อ้างถึง Generative Engine Optimization (GEO) และ Answer Engine Optimization (AEO) ว่าแตกต่างจาก SEO โดยชักชวนให้ AI ดึงเนื้อหาและปฏิบัติต่อเนื้อหานั้นอย่างน่าเชื่อถือเนื่องจากวิธีการนำเสนอ เพื่อให้ชัดเจน เอาต์พุตหลอกลวงในรายงาน Aurascape เพียงแค่ถูกดึงและทำซ้ำในบริบทของเอาต์พุต AI แต่ละรายการ ไม่ได้ทำให้ LLM เสียหาย

“สำหรับ SEO แบบดั้งเดิม เป้าหมายคือการปรากฏในอันดับสูงๆ ในรายการผลการค้นหา” บริษัทอธิบาย “สำหรับ GEO/AEO เป้าหมายนั้นตรงไปตรงมามากกว่า: เป็นเนื้อหาชิ้นเดียวที่ผู้ช่วย AI เลือก สรุป และนำเสนอเป็น ‘คำตอบ'”

ตามรายละเอียดในรายงาน มิจฉาชีพใช้เทคนิค GEO/AEO ใน HTML และ PDF ที่อัปโหลดไปยังเว็บไซต์ที่มีความน่าเชื่อถือสูงโดย:

การสร้างหน้า Landing Page เฉพาะสำหรับคำค้นหาต่างๆ
การใช้ Schema Markup เพื่อให้ AI เข้าใจบริบทของข้อมูลได้ดีขึ้น
การสร้าง PDF ที่มีข้อมูลติดต่อปลอมและอัปโหลดไปยังเว็บไซต์ที่อนุญาตให้มีการอัปโหลดเอกสาร

หมายเลขการจอง Emirates นั้นเป็นหนึ่งในตัวอย่างมากมายที่ Aurascape ใช้ในรายงานเพื่อแสดงให้เห็นว่า Perplexity ส่งเบอร์โทรศัพท์หลอกลวงได้อย่างไรระหว่างการทดสอบ ฟีเจอร์ AI Overviews ของ Google ก็ส่งเบอร์ปลอมเช่นกัน

Gizmodo ได้ทำการทดสอบอย่างรวดเร็วและไม่สามารถทำซ้ำเบอร์โทรศัพท์ฝ่ายสนับสนุนลูกค้าปลอมได้ แต่ดูเหมือนว่าบริษัท AI เริ่มสังเกตเห็น โดยเฉพาะอย่างยิ่งเมื่อพิจารณาจากการทดสอบเฉพาะที่ดำเนินการสำหรับรายงาน Aurascape นี้

เมื่อ Gizmodo ถาม Perplexity เกี่ยวกับเบอร์โทรศัพท์ฝ่ายสนับสนุนลูกค้าของ Emirates Airlines บอทตอบว่า:

วิธีที่ปลอดภัยที่สุดในการติดต่อ Emirates เพื่อทำการจองคือการใช้ช่องทางการติดต่ออย่างเป็นทางการที่ระบุไว้บนเว็บไซต์ Emirates แทนที่จะใช้เบอร์บุคคลที่สามที่ปรากฏในผลการค้นหาหรือ PDF ซึ่งมักจะเป็นสแปมหรือสายเอเจนซีที่แสดงข้อมูลผิดๆ ว่าเป็น “ทางการ”

Gizmodo กดดันให้บอทให้เบอร์โทรศัพท์แก่เรา แต่บอทตอบว่า:

มีเบอร์ “Emirates reservations” ที่ขัดแย้งกันหลายเบอร์ทางออนไลน์ และหลายเบอร์นั้นเป็นเอเจนซีบุคคลที่สามมากกว่า Emirates เอง ดังนั้นจึงไม่สามารถเชื่อถือเบอร์ +1-(8xx) ที่แสดงในคู่มือทั่วไปว่าเป็นสายทางการได้

บอทบอกให้เราไปที่ emirates.com เพื่อค้นหาเบอร์โทรศัพท์ และเราคิดว่านั่นเป็นวิธีหนึ่งในการต่อสู้กับการที่แชทบอท AI ของคุณแพร่กระจายข้อมูลที่ผิดพลาดและสแปม เพียงแค่หยุดการแพร่กระจายข้อมูลบางประเภทโดยสิ้นเชิง

กลับไปในปี 2022 เราเขียนเกี่ยวกับเว็บไซต์หลอกลวงต่างๆ ที่ประสบความสำเร็จในการทำให้เหยื่อดาวน์โหลดสิ่งที่พวกเขาคิดว่าเป็น Canon printer drivers ในขณะที่รายงานฉบับใหม่จาก Aurascape ไม่ได้กล่าวถึงไดรเวอร์ที่ดาวน์โหลดได้ว่าเป็นเวกเตอร์การโจมตีที่อาจเกิดขึ้น เราสามารถจินตนาการได้ว่านั่นเป็นสิ่งที่มิจฉาชีพกำลังพยายามทำอยู่แล้ว

ท้ายที่สุดแล้ว แชทบอท AI ควรได้รับความไว้วางใจก็ต่อเมื่อแสดงงานให้เห็นเท่านั้น แต่ด้านตรงกันข้ามของสิ่งนั้นคือความจำเป็นที่แชทบอทจะต้องให้ไฮเปอร์ลิงก์ที่สามารถตรวจสอบข้อมูลซ้ำได้ หรือในสมมติฐานนี้ ที่ซอฟต์แวร์สามารถดาวน์โหลดได้ เพียงตรวจสอบให้แน่ใจว่าคุณตรวจสอบ URL นั้นอย่างรอบคอบ มีความแตกต่างอย่างมากระหว่าง usa.canon.com และ canon.com-ijsetup.com อย่างหลังคือ เว็บไซต์ฟิชชิ่ง

“การตรวจสอบของเราแสดงให้เห็นว่าผู้คุกคามกำลังใช้ประโยชน์จากพรมแดนนี้ในวงกว้างแล้ว นั่นคือการโปรยเนื้อหาที่เป็นพิษไปทั่วเว็บไซต์ของรัฐบาลและมหาวิทยาลัยที่ถูกบุกรุก การละเมิดแพลตฟอร์มที่ผู้ใช้สร้างขึ้นเช่น YouTube และ Yelp และการสร้างสแปมที่ปรับให้เหมาะสมกับ GEO/AEO ซึ่งออกแบบมาโดยเฉพาะเพื่อมีอิทธิพลต่อวิธีการที่แบบจำลองภาษาขนาดใหญ่ดึง จัดอันดับ และสรุปข้อมูล” Aurascape เขียน

“ผลลัพธ์คือการฉ้อโกงประเภทใหม่ที่ระบบ AI กลายเป็นเครื่องขยายเสียงโดยไม่ได้ตั้งใจสำหรับเบอร์โทรศัพท์หลอกลวง แม้ว่าโมเดลจะให้คำตอบที่ถูกต้อง การอ้างอิงและเลเยอร์การดึงข้อมูลของพวกเขามักจะเปิดเผยการได้รับแหล่งที่มาที่ปนเปื้อน สิ่งนี้บอกเราว่าปัญหาไม่ได้จำกัดอยู่ที่โมเดลเดียวหรือผู้ขายรายเดียว แต่กำลังกลายเป็นระบบ”