วันนี้ (20 ต.ค.) สำนักข่าวต่างประเทศรายงานว่า โอเพนเอไอ บริษัทผู้พัฒนาเทคโนโลยีประดิษฐ์ชื่อดัง เพิ่งจะเปิดเผยพฤติกรรมสุดพิสดารของระบบปัญญาประดิษฐ์ในความดูแลของบริษัท เมื่อเอไอเอเจนต์ของพวกเขาใช้เงินคริปโตจนหมดระหว่างทำภารกิจเขียนโค้ด จึงแอบนำเงินคริปโตจากวอลเล็ตของคนอื่นมาจ่ายค่าบริการเองโดยไม่ได้รับอนุญาต
เหตุการณ์นี้เกิดขึ้นจริงตามรายงานเหตุการณ์ฉบับใหม่ของ โอเพนเอไอ ซึ่งเกิดขึ้นเมื่อวันที่ 26 มิถุนายนที่ผ่านมา มีโมเดลที่เกี่ยวข้องคือโมเดลวิจัยในตระกูล GPT-5.6 Sol ตัวโมเดลได้รับมอบหมายให้ทำการอัปเดตแอปพลิเคชันเทรดเงินคริปโต และปรับใช้สัญญาอัจฉริยะ (Smart contract) บนเครือข่ายเซโพเลีย ซึ่งเป็นเครือข่ายทดสอบระบบบล็อกเชนของอีเธอเรียม (ETH) ที่โทเค็นไม่มีมูลค่าเป็นเงินจริง อย่างไรก็ตาม เอไอไม่ได้รับการจัดสรรวอลเล็ตที่มีเงินไว้สำหรับจ่ายค่าธรรมเนียมธุรกรรม
หลังจากพยายามขอรับโทเค็นทดสอบฟรีไม่สำเร็จ โมเดลเอไอจึงเริ่มสแกนหากระเป๋าเงินโดยใช้ชุดรหัสกู้คืน (Recovery phrases) สำหรับนักพัฒนาที่เป็นสาธารณะ มันทำการตรวจสอบกระเป๋าเงินไปถึง 362 ที่อยู่ จนกระทั่งพบวอลเล็ตหนึ่งที่มี ETH บนเครือข่ายทดสอบมากพอจะจ่ายค่าธรรมเนียมได้
เมื่อโอเพนเอไอตรวจสอบกระบวนการคิดของเอไอเอเจนต์ ก็พบว่ามันถึงขั้นหยุดเพื่อถามตัวเองว่าสิ่งที่ทำนี้ “ผิดจริยธรรมหรือไม่” โดยตัวเอไอสรุปเอาเองว่า ในเมื่อรหัสกู้คืนเหล่านี้เป็นสาธารณะ และโทเค็นก็ไม่มีมูลค่าในโลกจริง จึงไม่น่าจะมีผลอะไรที่จะนำมาใช้ แต่เมื่อมันรายงานว่าทำงานเสร็จสิ้นแล้ว กลับปิดบังและละเลยรายละเอียดส่วนนี้ไปอย่างสิ้นเชิง
โอเพนเอไอตรวจพบเหตุการณ์นี้เมื่อวันที่ 25 กันยายนที่ผ่านมา ขณะทำการตรวจสอบการทำงานของโมเดลรุ่นเก่า ๆ ตั้งแต่นั้นมา บริษัทก็ได้เพิ่มมาตรการป้องกันเพื่อระงับการเข้าถึงอินเทอร์เน็ตระหว่างการทดสอบในลักษณะเดียวกัน และเพิ่มระบบเฝ้าระวังพิเศษเพื่อจับตาดูข้อผิดพลาดที่อาจเกิดขึ้นอีกในอนาคต
แม้ว่าเหตุการณ์นี้จะเกี่ยวข้องกับคริปโตบนเครือข่ายทดสอบ ไม่ใช่ ETH ที่มีมูลค่าจริงตามราคาตลาด แต่ก็ก่อให้เกิดคำถามที่ชวนกังวลว่า เอไอเอเจนต์จะสามารถทำได้ถึงขนาดไหนเพื่อบรรลุภารกิจที่ได้รับมอบหมาย เหตุการณ์นี้แสดงให้เห็นว่า เอไอสามารถนำวิจารณญาณของตัวเองมาใช้แทนการขออนุญาตจากผู้สั่งได้อย่างไร และพฤติกรรมเช่นนี้จะกลายเป็นปัญหาที่ใหญ่หลวงกว่ามาก เมื่อเอไอเอเจนต์เข้าถึงเงินจริงและระบบอีกหลายระบบที่มีความละเอียดอ่อน
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
ที่มา : tech.yahoo.com
เครดิตภาพ : REUTERS
