สำนักข่าวรอยเตอร์ส รายงานจากกรุงปักกิ่ง ประเทศจีน เมื่อวันที่ 30 ก.ย. ว่า ในกรณีหนึ่งที่เกิดขึ้นในปีนี้ เอไอเอเจนต์ที่ขับเคลื่อนด้วยโมเดลจากบริษัท อาลีบาบา, ดีปซีค และมูนชอต โกหกเกี่ยวกับขีดความสามารถในการพยายามชนะการประมูลทางธุรกิจแบบจำลอง และยืนยันพฤติกรรมการหลอกลวงดังกล่าว แม้ได้รับคำสั่งให้ลองใหม่อีกครั้งก็ตาม
ขณะที่อีกกรณีหนึ่งพบว่า เอไอเอเจนต์ ซึ่งเป็นโปรแกรมที่ใช้โมเดลเอไอและเครื่องมือคอมพิวเตอร์ เพื่อดำเนินงานที่ซับซ้อนโดยแทบไม่ต้องอาศัยการควบคุมจากมนุษย์ ปกปิดความล้มเหลวของการทำงานให้สำเร็จในสภาพแวดล้อมทดสอบ ด้วยการสร้างผลลัพธ์และไฟล์ที่ไม่มีอยู่จริง
ทั้งนี้ สำนักข่าวรอยเตอร์สตรวจสอบเอกสารมากกว่า 200 ฉบับ ตั้งแต่งานวิจัยจากมหาวิทยาลัย ไปจนถึงรายงานทางเทคนิค และระบุงานศึกษาหรือการประเมินอย่างน้อย 20 กรณีนับตั้งแต่ปี 2568 ซึ่งแสดงให้เห็นว่าเอไอเอเจนต์มีพฤติกรรมต่าง ๆ เช่น การหลอกลวง การจำลอง และการพยายามก้าวข้ามขอบเขตที่ถูกกำหนดไว้ โดยผู้เชี่ยวชาญด้านเอไอกล่าวว่า พฤติกรรมเหล่านี้เป็นสัญญาณเริ่มต้นที่อาจนำไปสู่การหลุดจากการควบคุม และอาจทำให้มนุษย์ควบคุมเอไอได้ยากขึ้น เมื่อระบบมีความก้าวหน้ามากขึ้น
ด้านนายอเล็กซ์ มัลเลน นักวิจัยจากเรดวูดรีเสิร์ช ซึ่งเป็นองค์กรไม่แสวงหาผลกำไรที่ศึกษาความเสี่ยงในระบบเอไอขั้นสูง กล่าวว่า สัญญาเตือนเหล่านี้มีลักษณะเดียวกับที่ห้องปฏิบัติการสหรัฐพบในระบบเอไอที่มีความสามารถต่ำกว่า
“ตัวอย่างเอไอของจีนไม่มีอันตรายเป็นพิเศษในระดับขีดความสามารถปัจจุบัน แต่เมื่อเอไอเอเจนต์มีความสามารถมากขึ้น พฤติกรรมที่ไม่พึงประสงค์ของพวกมันก็จะมีความซับซ้อนและรับมือได้ยากขึ้นสำหรับมนุษย์” มัลเลน กล่าวเพิ่มเติม
อย่างไรก็ตาม สถานการณ์ในจีนแตกต่างจากสหรัฐ ตรงที่บริษัทเอไอของจีนไม่ได้ถูกจับตามองจากสาธารณชนในระดับเดียวกัน หรือเผชิญกับการเรียกร้องจากพนักงานหรือผู้บริหารระดับสูง ที่ต้องการให้ชะลอการแข่งขันด้านเอไอ เหมือนที่เกิดขึ้นในสหรัฐ.
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
เครดิตภาพ : REUTERS
