สำนักข่าวต่างประเทศรายงานจากกรุงวอชิงตัน สหรัฐอเมริกา เมื่อวันที่ 12 ก.ย. ว่า เหตุการณ์หลายครั้งที่ผู้ช่วยเอไอจากผู้พัฒนาอย่างโอเพนเอไอ และคู่แข่งอย่างแอนโทรปิก ได้เจาะระบบหรือพยายามเข้าถึงระบบภายนอก ทำให้เกิดความกังวลเพิ่มขึ้น เกี่ยวกับขีดความสามารถที่สูงขึ้นของโมเดลเอไอ และความสามารถของผู้พัฒนาในการควบคุมระบบเหล่านี้

กลุ่มนักวิจัยที่เผยแพร่ผลการศึกษาทางออนไลน์เมื่อวันศุกร์ (11 ก.ย.) ระบุว่า ผู้ช่วยเอไอได้อัปโหลดแพ็กเกจซอฟต์แวร์ที่เป็นอันตราย จำนวนหลายร้อยรายการไปยังรูบี้เจมส์ เมื่อวันที่ 11 พ.ค. โดยเชื่อว่า สิ่งเหล่านี้ถูกสร้างขึ้นโดยผู้ช่วยภายในของโอเพนเอไอ

ด้านโฆษกของโอเพนเอไอระบุในแถลงการณ์ว่า จากการตรวจสอบพบว่าผู้ช่วยของบริษัท ใช้แพลตฟอร์มรูบี้เจมส์เพื่อเข้าถึงอินเทอร์เน็ต ในการทำงานที่ไม่เป็นอันตราย และดึงข้อมูลสาธารณะ ขณะที่บริษัทจะดำเนินการตรวจสอบต่อไป ซึ่งเป็นส่วนหนึ่งของการตรวจสอบกิจกรรมของผู้ช่วยในวงกว้าง ระหว่างขั้นตอนการฝึกฝน และการประเมินผล

โอเพนเอไอระบุว่า ผู้ช่วยเหล่านี้ ซึ่งโดยปกติจะได้รับมอบหมายงานต่าง ๆ เช่น การจัดทำรายงาน หรือการกรอกข้อมูลลงในสเปรดชีต ดูเหมือนจะใช้รูบี้เจมส์เพื่อเข้าถึงข้อมูลสาธารณะ ซึ่งเป็นส่วนหนึ่งของกระบวนการฝึกฝนโมเดล พร้อมทั้งเสริมว่า ทางโอเพนเอไอกำลังติดต่อประสานงานกับบริษัท เพื่อตรวจสอบเหตุการณ์ดังกล่าว

นอกจากนั้น พวกเขายังระบุด้วยว่า ผู้ช่วยเอไอเหล่านี้ยังได้ใช้ประโยชน์จากเว็บไซต์ “RubyDoc.info” สำหรับสร้างเอกสารประกอบโค้ด เพื่อรันโค้ดของตนเอง บนเซิร์ฟเวอร์ของเว็บไซต์.

เรียบเรียงโดย : ทีมข่าวต่างประเทศ

เครดิตภาพ : REUTERS