LLM ป่วน! Grokipedia โผล่อ้างอิง ChatGPT

Grokipedia แพลตฟอร์มที่ก่อตั้งโดย Elon Musk เริ่มปรากฏในการอ้างอิงของ ChatGPT และแชทบอทอื่นๆ ซึ่งเผยให้เห็นถึงอนาคตอันใกล้ของอินเทอร์เน็ตที่ข้อมูลอาจไม่น่าเชื่อถืออีกต่อไป

The Guardian รายงานว่า GPT-5.2 โมเดลเรือธงล่าสุดของ OpenAI อ้างอิง Grokipedia ถึง 9 ครั้งในการตอบคำถามกว่าสิบคำถาม คำถามเหล่านั้นมีตั้งแต่เรื่องโครงสร้างทางการเมืองในอิหร่านไปจนถึง Sir Richard Evans นักประวัติศาสตร์ชาวอังกฤษ Gizmodo ก็สามารถสร้างการตอบสนองจาก ChatGPT ที่อ้างอิง Grokipedia เมื่อทำการสืบค้นที่คล้ายกันได้เช่นกัน

Musk เปิดตัว Grokipedia เมื่อเดือนตุลาคมปีที่แล้วเพื่อเป็นทางเลือกแทน Wikipedia โดยตัดคนออกจากการแก้ไข ในโพสต์เมื่อเดือนกันยายน Musk กล่าวว่า Grokipedia จะเป็น “การปรับปรุงครั้งใหญ่เหนือ Wikipedia” เขายังกล่าวหา Wikipedia ซ้ำๆ ว่าเป็น “Wokipedia” และบ่นว่าไม่มีทางเลือกหลักที่สอดคล้องกับมุมมองของฝ่ายขวา

ทางออกของเขาคือการสร้างแพลตฟอร์มใหม่ที่มีบทความที่สร้างโดย AI เนื้อหาส่วนใหญ่ของ Grokipedia ดูเหมือนจะดัดแปลงมาจาก Wikipedia แต่มีกรอบที่มักจะสนับสนุนมุมมองทางการเมืองของ Musk

ตัวอย่างเช่น Grokipedia อธิบายเหตุการณ์วันที่ 6 มกราคม 2021 ว่าเป็น “การจลาจล” ที่รัฐสภาสหรัฐฯ ซึ่ง “ผู้สนับสนุนประธานาธิบดี Donald Trump ที่กำลังจะหมดวาระประท้วงการรับรองผลการเลือกตั้งประธานาธิบดีปี 2020” ในทางตรงกันข้าม Wikipedia เรียกว่า “การโจมตี” ที่ดำเนินการโดยกลุ่มผู้สนับสนุน Trump ในสิ่งที่อธิบายว่าเป็นการพยายามก่อรัฐประหารด้วยตนเอง

นอกจากนี้ грокипедия ยังระบุว่า Britain First เป็น “พรรคการเมืองอังกฤษขวาสุดที่สนับสนุนอธิปไตยของชาติ” ในขณะที่ Wikipedia อธิบายว่าเป็นพรรคการเมืองนีโอฟาสซิสต์และกลุ่มเกลียดชัง

Grokipedia ยังใช้กรอบที่เบาลงเกี่ยวกับทฤษฎี “Great Replacement” ซึ่งอ้างว่าคนผิวขาวกำลังถูกแทนที่อย่างเป็นระบบด้วยความพยายามในการผสมพันธุ์ที่เกิดขึ้นจากเชื้อชาติอื่นๆ Wikipedia ระบุอย่างชัดเจนว่าแนวคิดนี้เป็นทฤษฎีสมคบคิด Musk เป็นผู้สนับสนุนทฤษฎีสมคบคิดอย่างตรงไปตรงมาและแสดงความคิดเห็นเกี่ยวกับ “การฆ่าล้างเผ่าพันธุ์คนขาว” เป็นประจำ

โดยทั่วไปแล้ว Grokipedia ได้รับการออกแบบมาเพื่อสร้างข้อมูลที่ไม่ได้รับการยืนยันในระดับอุตสาหกรรมโดยไม่มีบรรณาธิการที่เป็นมนุษย์ถกเถียงถึงคุณภาพของข้อมูลที่ให้ไว้

ขณะนี้ Grokipedia ดูเหมือนจะแทรกซึมเข้าไปในแชทบอทอื่นๆ อย่างลับๆ The Guardian ตั้งข้อสังเกตว่า ChatGPT ไม่ได้อ้างอิง Grokipedia เมื่อถูกถามเกี่ยวกับหัวข้อที่ไซต์ดังกล่าวเป็นที่ทราบกันดีว่าส่งเสริมข้อมูลที่ทำให้เข้าใจผิด แต่ Grokipedia ปรากฏเฉพาะในการตอบสนองต่อหัวข้อที่ไม่ชัดเจนมากขึ้น

ปัญหาดูเหมือนจะไม่จำกัดอยู่แค่ ChatGPT ผู้ใช้บางรายบนโซเชียลมีเดียรายงานว่า Claude ของ Anthropic ก็อ้างอิง Grokipedia ในคำตอบเช่นกัน

OpenAI และ Anthropic บริษัทที่อยู่เบื้องหลัง Claude ไม่ได้ตอบสนองต่อคำร้องขอความคิดเห็นจาก Gizmodo ในทันที อย่างไรก็ตาม OpenAI บอกกับ The Guardian ว่าโมเดลของ Open AI “มีเป้าหมายที่จะดึงมาจากแหล่งข้อมูลและมุมมองที่เปิดเผยต่อสาธารณะในวงกว้าง”

“เราใช้ตัวกรองความปลอดภัยเพื่อลดความเสี่ยงในการแสดงลิงก์ที่เกี่ยวข้องกับอันตรายร้ายแรง และ ChatGPT แสดงให้เห็นอย่างชัดเจนว่าแหล่งใดที่แจ้งการตอบสนองผ่านการอ้างอิง” โฆษกของ OpenAI กล่าวกับ The Guardian

นักวิจัยเคยเตือนเกี่ยวกับนักแสดงที่ประสงค์ร้ายซึ่งท่วมท้นอินเทอร์เน็ตด้วยเนื้อหาที่สร้างโดย AI เพื่อพยายามโน้มน้าวโมเดลภาษาขนาดใหญ่ในกระบวนการที่บางครั้งเรียกว่า LLM grooming แต่ความเสี่ยงนั้นนอกเหนือไปจากแคมเปญข้อมูลที่ผิดพลาดโดยเจตนา

ทำไม Grokipedia ถึงสำคัญ?

ไม่ใช่เรื่องชัดเจนทั้งหมดว่าผู้ใช้ที่เป็นมนุษย์กำลังเข้าชม Grokipedia โดยตั้งใจหรือไม่ หลายสัปดาห์หลังจากการเปิดตัวไซต์เมื่อปีที่แล้ว ผู้รวบรวมข้อมูล Similarweb รายงานว่า Grokipedia ลดลงจากผู้เข้าชมเว็บ 460,000 รายในสหรัฐอเมริกาในวันที่ 28 ตุลาคม เหลือประมาณ 30,000 รายต่อวัน Wikipedia มียอดดูหน้านับร้อยล้านครั้งต่อวัน หลายคนคาดเดาว่า Grokipedia ไม่ได้มีไว้สำหรับมนุษย์จริงๆ มันมีอยู่เพื่อวางยาพิษเพื่อให้ LLM ในอนาคต

การพึ่งพาเนื้อหาที่สร้างโดย AI มากเกินไปอาจนำไปสู่สิ่งที่นักวิจัยเรียกว่า model collapse การศึกษาในปี 2024 พบว่าเมื่อโมเดลภาษาขนาดใหญ่ได้รับการฝึกฝนจากข้อมูลที่สร้างโดยระบบ AI อื่นๆ มากขึ้น คุณภาพโดยรวมของพวกมันจะลดลงเมื่อเวลาผ่านไป

“ในระยะเริ่มต้นของการล่มสลายของโมเดล โมเดลแรกจะสูญเสียความแปรปรวน ซึ่งทำให้ประสิทธิภาพลดลงในข้อมูลส่วนน้อย” นักวิจัย Ilia Shumailov กล่าวกับ Gizmodo ในขณะนั้น “ในระยะปลายของการล่มสลายของโมเดล โมเดลจะพังทลายลงอย่างสมบูรณ์” เมื่อโมเดลทำการฝึกอบรมต่อไปในข้อความที่ไม่ถูกต้องและไม่เกี่ยวข้องที่พวกมันสร้างขึ้นเอง วงจรนั้นจะทำให้เอาต์พุตลดลงและในที่สุดก็หยุดสมเหตุสมผลเลย

LLM ป่วน! Grokipedia โผล่อ้างอิง ChatGPT

การที่ LLM ป่วน! Grokipedia โผล่อ้างอิง ChatGPT เป็นเรื่องที่น่ากังวล เพราะมันแสดงให้เห็นถึงปัญหาของการพึ่งพา AI มากเกินไปในการสร้างและเผยแพร่ข้อมูล ซึ่งอาจนำไปสู่ข้อมูลที่ผิดพลาดและบิดเบือนได้ง่ายขึ้น

Grokipedia คืออะไร?

Grokipedia คือแพลตฟอร์มวิกิที่สร้างโดย AI ซึ่ง Elon Musk สร้างขึ้นเพื่อเป็นทางเลือกแทน Wikipedia โดยมีเป้าหมายที่จะนำเสนอมุมมองที่เป็นกลางและเป็นอิสระ อย่างไรก็ตาม Grokipedia มักถูกวิพากษ์วิจารณ์ว่ามีอคติและเผยแพร่ข้อมูลที่ผิดพลาด

ผลกระทบของ LLM ป่วน! Grokipedia โผล่อ้างอิง ChatGPT

การที่ ChatGPT อ้างอิง Grokipedia เป็นแหล่งข้อมูล อาจทำให้ผู้ใช้ได้รับข้อมูลที่ไม่ถูกต้องและนำไปสู่ความเข้าใจผิดในประเด็นต่างๆ นอกจากนี้ยังอาจส่งผลเสียต่อความน่าเชื่อถือของ ChatGPT ในฐานะแหล่งข้อมูลอีกด้วย

ดังนั้นจึงเป็นสิ่งสำคัญที่ผู้ใช้จะต้องตรวจสอบข้อมูลที่ได้รับจาก ChatGPT และแหล่งข้อมูลอื่นๆ อย่างรอบคอบ และพิจารณาแหล่งข้อมูลหลายๆ แหล่งเพื่อประกอบการตัดสินใจ

จะเกิดอะไรขึ้นต่อไป? เราจะเห็นการเปลี่ยนแปลงของแหล่งข้อมูลที่ LLM ใช้อย่างไร การตระหนักถึงแหล่งที่มาและความน่าเชื่อถือของ LLM จะเป็นสิ่งสำคัญยิ่งในการบริโภคข้อมูลออนไลน์

ที่มา – LLM Brainrot Is Here: Grokipedia Is Starting to Show Up in ChatGPT Citations