สำนักข่าวต่างประเทศรายงานจากกรุงลอนดอน สหราชอาณาจักร เมื่อวันที่ 10 มิ.ย. ว่า คณะกรรมการดูแลเสถียรภาพทางการเงิน (เอฟเอสบี) สนับสนุนให้คณะกรรมการพิจารณาใช้มาตรการป้องกัน เพื่อลดความเสี่ยงจากเอไอ โดยเฉพาะ “ตัวแทนเอไอ” หรือ “Agentic AI” หรือระบบที่สามารถวางแผน คิดวิเคราะห์ และดำเนินการงานต่าง ๆ โดยมีการกำกับดูแลจากมนุษย์อย่างจำกัด
ในปัจจุบัน บริษัททางการเงินกำลังใช้ตัวแทนเอไอในการตรวจจับการฉ้อโกง การบริการลูกค้า และงานเบื้องหลัง โดย 52% ของผู้ตอบแบบสอบถามจากภาคการเงิน ในการสำรวจของศูนย์การเงินทางเลือกเคมบริดจ์ รายงานว่า มีการนำตัวแทนปัญญาประดิษฐ์ไปใช้อย่างจริงจัง โดย 23% กำลังขยายหรือเปลี่ยนแปลง และ 29% กำลังทดลองใช้งานฟังก์ชันดังกล่าว
รายงานระบุว่า เอไอแบบอัตโนมัติอาจนำไปสู่ความเสี่ยง “ที่สามารถเกิดขึ้นได้อย่างรวดเร็ว” รวมถึงความเป็นไปได้ของการกระทำที่ไม่ได้รับอนุญาตหรือผิดกฎหมาย การรั่วไหลของข้อมูล และการหยุดชะงักของระบบเชื่อมต่อ
นอกจากนั้น ตัวแทนเอไอยังก่อให้เกิดความท้าทายที่แตกต่างไป จากการกำกับดูแลของมนุษย์ โดยอาจดำเนินการที่เบี่ยงเบนไปจากเจตนารมณ์ของบริษัท โดยที่พนักงานไม่ทราบ หรือไม่สามารถเข้าแทรกแซงได้อย่างรวดเร็ว
เพื่อจัดการกับความเสี่ยงเหล่านั้น หน่วยงานกำหนดมาตรฐานได้สรุป “แนวปฏิบัติที่ดี” หลายประการ โดยกระตุ้นให้บริษัททางการเงินกำหนดขอบเขตที่ชัดเจนในการใช้เอไอ และฝังมาตรการป้องกันไว้ รวมถึงเสนอขอบเขตที่ตัวแทนสามารถทำได้ และกำหนดให้ต้องได้รับการอนุมัติจากมนุษย์ หากต้องกระทำการที่มีความเสี่ยงสูง เช่น ธุรกรรมทางการเงินที่มีมูลค่าเกินกว่าเกณฑ์ที่กำหนด.
เครดิตภาพ : REUTERS
