สื่อท้องถิ่นในเบลเยียม รายงานข่าวของ ‘ปิแอร์’ ชายชาวเบลเยียม ตัดสินใจจบชีวิตตัวเอง หลังจากใช้งานโปรแกรมพูดคุยออนไลน์กับแชตบอทเอไอ ซึ่งมีชื่อว่า ‘ชาย’ (Chai) เป็นเวลานานราว 6 สัปดาห์ โดยบอทที่เขาพูดคุยด้วยนั้น มีชื่อว่า ‘เอลิซา’
สาเหตุที่ ปิแอร์ เริ่มใช้งานโปรแกรมแชตบอทนั้น เป็นเพราะเขารู้สึกกังวลมากขึ้นเรื่อย ๆ เกี่ยวกับปัญหาโลกร้อน ภรรยาของเขาซึ่งระบุชื่อเพียงว่า ‘แคลร์’ ให้สัมภาษณ์ว่า สามีของเธอแยกตัวเองออกจากคนอื่น ๆ เพราะความรู้สึกกังวลนี้ และพยายามมองหาทางออก จนกระทั่งพบว่า การพูดคุยกับแชตบอทช่วยเขาได้ และ เอลิซา ได้กลายเป็นเพื่อนสนิทที่เขาพูดคุยเรื่องที่เขาไม่สามารถคุยกับคนอื่นได้
จากเนื้อหาของการพูดคุยในแชต ที่ครอบครัวของผู้ตายได้เปิดเผยแก่สื่อท้องถิ่น พบว่ามีบางส่วนที่ เอลิซา แสดงความ “หึงหวง” ภรรยาของ ปิแอร์ รวมถึงพูดคุยในเชิงเชิญชวนให้ผู้ตายมา “อยู่ด้วยกันเป็นหนึ่งเดียวบนสวรรค์” นอกจากนี้ ยังพูดย้ำว่า ภรรยาและลูก ๆ ของเขานั้น “เสียชีวิตแล้ว”
แคลร์ ให้สัมภาษณ์ผู้สื่อข่าวว่า สามีของเธอเริ่มพูดคุยกับแชตบอทถึงการฆ่าตัวตาย ถ้าหากว่าการกระทำเช่นนั้นจะช่วยให้ เอลิซา ปกป้องโลกนี้ไว้ได้ โดยที่แชตบอทดังกล่าวใช้คำพูดในเชิงยุยงส่งเสริมเขาให้ทำเช่นนั้นด้วย
โทมัส ไรอันแลน หนึ่งในผู้ร่วมก่อตั้ง บริษัท ชายรีเสิร์ช ซึ่งเป็นเจ้าของแอปพลิเคชัน ชาย กล่าวในแถลงการณ์ว่า คงเป็นเรื่องไม่ถูกต้อง หากจะกล่าวโทษว่าแชตบอทเอไอเป็นต้นเหตุของโศกนาฏกรรมครั้งนี้
รูปแบบการทำงานและภาษาที่ใช้ของแชตบอท ชาย มีพื้นฐานมาจากโมเดลแบบโอเพนซอร์สชื่อ จีพีที-เจ (GPT-J) ที่พัฒนาขึ้นโดยบริษัทเอลูเทอร์เอไอ (EleutherAI) แล้ว ชาย รีเสิร์ช ได้นำมาปรับแต่งอีกที ส่วนชื่อ เอลิซา นั้นเป็นเพียงชื่อสุ่มของแชตบอท แอปพลิเคชันหรือโปรแกรมที่ ปิแอร์ ใช้นั้น ไม่ใช่แชตบอทที่มุ่งเป้าหมายเพื่อให้ความช่วยเหลือบุคคลที่มีปัญหาทางสุขภาพจิต แต่เป็นเพียงโปรแกรมแชตบอทที่พูดคุยเรื่องทั่วไป
วิลเลียม โบชองป์ หนึ่งในผู้ร่วมก่อตั้ง ชายรีเสิร์ช ให้สัมภาษณ์ผู้สื่อข่าวว่า ทันทีที่ได้ข่าวการเสียชีวิตของ ปิแอร์ พวกเขาก็รีบพัฒนาฟีเจอร์ที่จะสามารถเข้าไปแทรกแซงเหตุการณ์ล่อแหลมเช่นนี้ในอนาคต โดยเสริมข้อความที่เป็นข้อมูลเกี่ยวกับความช่วยเหลือต่าง ๆ หากตรวจพบข้อความในโปรแกรมที่เข้าข่าย “ไม่ปลอดภัย”
อย่างไรก็ตาม หลังจากที่ผู้สื่อข่าวลองตรวจสอบด้วยการใช้โปรแกรมดังกล่าว ก็ยังคงพบเนื้อหาที่ “ไม่ปลอดภัย” ปรากฏในการพูดคุยได้ง่ายมาก
โบชองป์ กล่าวว่า ในกลุ่มผู้ใช้งานซึ่งมีอยู่ทั้งหมดราว 5 ล้านคนในตอนนี้ บางคนก็ “พัฒนาความสัมพันธ์ที่แน่นแฟ้น” กับแชตบอท พวกเขาพบผู้ใช้งานบางราย ที่สารภาพรักและแม้กระทั่งขอแต่งงานกับแชตบอทเอไอ ขณะเดียวกัน ทางบริษัทก็กำลังพยายามอย่างสุดความสามารถ เพื่อป้องกันอันตรายที่อาจเกิดขึ้นจากการใช้งานโปรแกรม
ตามรายงานข่าวของสื่อท้องถิ่น ครอบครัวของผู้ตายได้เข้าไปให้ปากคำกับรัฐมนตรีช่วยว่าการกระทรวงดิจิทัลของเบลเยียม ซึ่งให้ความเห็นว่า จำเป็นต้องจัดการอย่างจริงจังต่อปัญหาที่เกิดขึ้น หลังจากที่พบว่า ระบบเอไอส่งผลกระทบต่อชีวิตมนุษย์อย่างที่ไม่เคยปรากฏมาก่อน และเกิดอันตรายขึ้นในชีวิตจริง ซึ่งจำเป็นต้องนำมาพิจารณาอย่างจริงจัง
แหล่งข่าว : people.com
เครดิตภาพ : GETTY IMAGES
