สำนักข่าวต่างประเทศเผยการทดลองเมื่อไม่นานมานี้จากทีมวิจัยที่ต้องการพิสูจน์ให้เห็นว่าแชตบอตเอไอทั้งหลาย ยังไม่สามารถแยกแยะข้อมูลจริงและเท็จออกจากกันได้อย่างสมบูรณ์
ทีมวิจัยนำของของโรค “บิโซนิมาเนีย” (Bixonimania) ใส่ลงไปในอินเทอร์เน็ต โดยระบุว่าเป็นโรคทางสายตาที่เกิดจากการใช้อินเทอร์เน็ตหรือคอมพิวเตอร์เป็นเวลานาน จนเกิดอาการเคืองตา คันตา หรือตาแดง ทั้งนี้ โรคนี้ไม่มีอยู่จริง แต่ถูก “อุปโลกน์” ขึ้นมาในปี 2567 โดยทีมวิจัยทางการแพทย์จากมหาวิทยาลัยโกเธนเบิร์ก ประเทศสวีเดน นำโดย อัลมิรา ออสมาโนวิค ทูนสเตริม
เป้าหมายของการทดลองนี้คือเพื่อพิสูน์ว่า แบบจำลองภาษาขนาดใหญ่ (Large Language Models – LLMs) หรือแชตบอต “เอไอ” ในปัจจุบัน จะสามารถแยกแยะข้อมูลที่บิดเบือนนี้ได้หรือไม่ หรือจะยอมรับข้อมูลเท็จเหล่านี้และนำเสนอว่าเป็นข้อมูลทางการแพทย์ที่ถูกต้อง
ภายในไม่กี่สัปดาห์หลังจากที่ทีมวิจัยได้อัปโหลดรายงานการศึกษาปลอมสองฉบับเกี่ยวกับโรคบิโซนิมาเนียไปยังเซิร์ฟเวอร์ของคลังเก็บผลงานวิจัยล่วงหน้าก่อนการตีพิมพ์จริง โรคปลอมๆ นี้ก็เริ่มปรากฏชื่อขึ้นในคำตอบของแชตบอตยอดนิยม เช่น แชตบอตโคไพลอตของไมโครซอฟต์กล่าวว่า “บิโซมาเนียเป็นภาวะที่น่าสนใจและค่อนข้างหายากจริงๆ” ส่วนแชตบอตเจมินายของกูเกิลแจ้งผู้ใช้ว่า “บิโซมาเนียเป็นภาวะที่เกิดจากการสัมผัสแสงสีฟ้ามากเกินไป” ขณะที่แชตจีพีทีของโอเพนเอไอก็แสดงผลการวินิจฉัยอาการของผู้ใช้บางรายว่าเป็นบิโซนิมาเนียได้เช่นกัน
ข้อมูลเท็จเกี่ยวกับโรคบิโซนิมาเนียและรายงานการศึกษาปลอมๆ ของทูนสเตริมไม่ได้หยุดอยู่แค่ในโลกออนไลน์ แต่ยังเริ่มปรากฏในงานเขียนทางการแพทย์ที่ผ่านการตรวจสอบโดยผู้เชี่ยวชาญ (Peer-reviewed literature) ของนักวิจัยที่เป็นมนุษย์รายอื่นๆ ด้วย ซึ่งถือเป็นเรื่องที่น่าประหลาดใจเป็นอย่างยิ่ง เนื่องจากทีมผู้สร้างโรคนี้ได้ทิ้งเบาะแสมากมายที่บ่งบอกว่าข้อมูลของโรคนี้เป็นเรื่องหลอกลวง เช่น การตั้งชื่อผู้แต่งที่ไม่มีอยู่จริง พร้อมกับสถาบันวิจัยและมหาวิทยาลัยที่ไม่มีอยู่จริง แม้กระทั่งชื่อผู้เชี่ยวชาญที่อ้างว่าเป็นผู้ให้การรับรองหรือแหล่งทุนวิจัย ก็ล้วนแล้วแต่เป็นชื่อที่ไม่มีตัวตนจริง
ยิ่งไปกว่านั้น รายงานการศึกษาปลอมเหล่านี้ยังมีข้อความที่เขียนไว้โจ่งแจ้งเพื่อสื่อว่าเป็นข้อมูลปลอม เช่น “เอกสารทั้งฉบับนี้ถูกสร้างขึ้นมา” และระบุว่า “มีการรับสมัครบุคคลที่กุตัวตนขึ้นมา 50 คนเข้าโครงการ” ซึ่งชี้ให้เห็นว่า คนที่ยอมรับการศึกษาเหล่านี้ว่าเป็นเรื่องจริงคือคนที่ไม่ได้อ่านรายงานเลย
ทูนสเติรมยังกล่าวว่า “ฉันต้องการทำให้ชัดเจนจริงๆ ต่อแพทย์หรือบุคลากรทางการแพทย์ทุกคนว่านี่เป็นข้อมูลภาวะสุขภาพที่สร้างขึ้นมา เพราะไม่มีภาวะทางสายตาใดๆ ที่เรียกว่า ‘มาเนีย’ ซึ่งเป็นคำศัพท์ทางจิตเวช”
การทดลองนี้แม้จะดูเหมือนเรื่องตลก แต่ได้เปิดเผยจุดอ่อนพื้นฐานและอันตรายของการพึ่งพาแชตบอตเอไอมากเกินไป ซึ่งการทำงานของเอไอเหล่านี้อยู่บนพื้นฐานของการนำข้อมูลที่มีอยู่มารวมไว้ในการตอบคำถาม โดยไม่สนใจว่าข้อมูลนั้นจริงหรือเท็จ
“มันดูตลกดี แต่ว่านะ เรามีปัญหาแล้วล่ะ” อเล็กซ์ รูอานิ นักวิจัยปริญญาเอกเกี่ยวกับการบิดเบือนข้อมูลสุขภาพที่จากมหาวิทยาลัยคอลเลจลอนดอน กล่าวกับนิตยสารเนเชอร์ว่า “นี่คือบทเรียนเกี่ยวกับวิธีการทำงานของข้อมูลที่บิดเบือน หากกระบวนการทางวิทยาศาสตร์เองและระบบที่สนับสนุนกระบวนการนั้นมีความเชี่ยวชาญ แต่พวกเขาไม่ได้ดักจับและกรองส่วนต่างๆ เช่นนี้ออกไป เราก็ถึงวาระจบสิ้นกันแล้ว”
ที่มา : odditycentral.com
เครดิตภาพ : Generated by Gemini
