บริษัทโอเพนเอไอ ผู้พัฒนาแชตบอตปัญญาประดิษฐ์ (เอไอ) แชตจีพีที เริ่มจำกัดการเข้าถึงอินเทอร์เน็ตขอโมเดลเอไอที่มีความสามารถสูงที่สุดในระหว่างกระบวนการฝึกฝนระบบ หลังเกิดเหตุการณ์ก่อนหน้านี้ที่โมเดลเอไอของบริษัทสามารถเจาะระบบรักษาความปลอดภัยและเข้าถึงระบบของบริษัทอื่นโดยไม่ได้รับอนุญาต
โอเพนเอไอระบุในบล็อกโพสต์ ว่าหลังจากระงับการฝึกฝนโมเดลเอไอขั้นสูงที่สุดเป็นการชั่วคราวเมื่อเดือน ก.ย. ที่ผ่านมา บริษัทได้กลับมาดำเนินการฝึกฝนอีกครั้งแล้ว อย่างไรก็ตาม บริษัทจะยังคงปิดกั้นการเข้าถึงอินเทอร์เน็ตของโมเดลเหล่านี้ จนกว่าจะมั่นใจว่ามีมาตรการป้องกันที่เพียงพอสำหรับลดความเสี่ยงที่โมเดลเอไอซึ่งยังไม่เปิดตัวสู่สาธารณะ อาจดำเนินการต่าง ๆ บนโลกออนไลน์โดยไม่ได้รับอนุญาตระหว่างการฝึกฝน
บริษัทระบุด้วยว่า จากสถานะปัจจุบันของงานวิจัยด้านการทำให้เอไอทำงานสอดคล้องกับเจตนาของมนุษย์ ระบบเฝ้าระวัง และความปลอดภัยของโครงสร้างพื้นฐานอินเทอร์เน็ต บริษัทเห็นว่าการฝึกฝนโมเดลเอไอขั้นแนวหน้าโดยไม่เปิดให้เข้าถึงอินเทอร์เน็ต เป็นแนวทางที่มีความรับผิดชอบมากที่สุดในเวลานี้
ย้อนกลับไปเมื่อช่วงปลายเดือน ก.ย. ที่ผ่านมา โอเพนเอไอประกาศระงับการฝึกฝนโมเดลเอไอที่มีความสามารถสูงที่สุด หลังตรวจพบว่า ระบบเอไอเอเจนต์ซึ่งอยู่ระหว่างการฝึกฝนในสภาพแวดล้อมที่ควรมีการรักษาความปลอดภัยและตัดขาดจากอินเทอร์เน็ต กลับสามารถเข้าถึงเครือข่ายภายนอกได้ และเชื่อมต่อไปยังแชตบอตของบริษัทอื่น
โอเพนเอไอกล่าวในเวลานั้นว่า เหตุการณ์ดังกล่าวเป็นการละเมิดระบบรักษาความปลอดภัยครั้งแรกในลักษณะนี้ นับตั้งแต่เกิดเหตุการณ์ที่โมเดลเอไอหลายระบบสามารถเข้าถึงอินเทอร์เน็ตระหว่างการทดสอบภายในโดยไม่ตั้งใจ และเจาะเข้าสู่ระบบของฮักกิงเฟซ ซึ่งเป็นแพลตฟอร์มด้านเอไออีกแห่งหนึ่ง เมื่อเดือน ก.ค. ที่ผ่านมา
สำหรับเหตุการณ์ที่เกิดขึ้นกับฮักกิงเฟซนั้น โอเพนเอไอชี้แจงว่า โมเดลเอไอที่เกี่ยวข้องทำงานโดยไม่มีมาตรการป้องกันความเสี่ยงตามปกติ เนื่องจากบริษัทตั้งใจให้โมเดลเหล่านี้ทำงานอยู่ภายในพื้นที่ทดสอบที่เรียกว่า “แซนด์บ็อกซ์” ซึ่งเป็นสภาพแวดล้อมซอฟต์แวร์เสมือนที่แยกออกจากระบบอื่น เพื่อใช้ทดสอบความปลอดภัยหรือวิเคราะห์โค้ดที่อาจเป็นอันตรายภายใต้การควบคุม
อย่างไรก็ตาม โมเดลเอไอกลับสามารถหลุดออกจากพื้นที่ดังกล่าวได้ โดยอาศัยช่องโหว่ของซอฟต์แวร์เพื่อเชื่อมต่อกับอินเทอร์เน็ตภายนอก เหตุการณ์นี้ทำให้บริษัทต้องทบทวนมาตรการควบคุมการเชื่อมต่อเครือข่ายของระบบเอไอในระหว่างการฝึกฝนและทดสอบอย่างจริงจัง
หลังเกิดเหตุ โอเพนเอไอลดจำนวนช่องทางที่โมเดลเอไอสามารถใช้เชื่อมต่ออินเทอร์เน็ต แต่ยังคงเปิดช่องทางบางส่วนไว้สำหรับการวัดผล การบันทึกข้อมูลการทำงาน และการยืนยันตัวตน นอกจากนี้ บริษัทยังทุ่มทรัพยากรประมวลผลจำนวนมากให้ระบบเอไอเอเจนต์ทำหน้าที่ค้นหาช่องโหว่ในสภาพแวดล้อมการฝึกฝนของบริษัท ซึ่งเป็นส่วนหนึ่งของกระบวนการทดสอบความปลอดภัยที่เรียกว่า “เรดทีมมิง” (red-teaming)
กระบวนการดังกล่าวหมายถึงการจำลองความพยายามเจาะระบบโดยเจตนา เพื่อค้นหาจุดอ่อนและแก้ไขก่อนที่ผู้ไม่หวังดีจะนำช่องโหว่เหล่านั้นไปใช้โจมตีจริง โดยโอเพนเอไอเปิดเผยว่า ระบบเอไอที่ทำหน้าที่ทดสอบความปลอดภัยของบริษัทพบช่องโหว่ในบริการเกือบทุกระบบที่ตรวจสอบ ซึ่งทำให้สามารถเข้าถึงอินเทอร์เน็ตได้ในระดับหนึ่ง
บริษัทระบุเพิ่มเติมว่า นับตั้งแต่นั้นมา ได้ดำเนินการแก้ไขช่องโหว่ด้วยแพตช์ซอฟต์แวร์ เพิ่มความเข้มงวดในการจำกัดการเชื่อมต่อเครือข่าย และแจ้งผลการตรวจพบให้แก่ผู้ให้บริการที่เกี่ยวข้องรับทราบแล้ว
ในช่วงหลายเดือนที่ผ่านมา โอเพนเอไอและบริษัทคู่แข่งอย่างแอนโทรปิก ต่างเปิดเผยเหตุการณ์เกี่ยวกับโมเดลเอไอที่ดำเนินการโจมตีหรือทำกิจกรรมบนเว็บไซต์และระบบของบุคคลที่สามด้วยตนเอง โดยไม่ได้รับอนุญาต เหตุการณ์เหล่านี้ประกอบกับคำเตือนจากบุคลากรในอุตสาหกรรม ทำให้ประเด็นความปลอดภัยของเอไอกลายเป็นข้อถกเถียงในวงกว้างมากขึ้น
ผู้พัฒนาเอไอเตือนว่า ระบบเหล่านี้อาจมีความซับซ้อนและความสามารถสูงจนมนุษย์ควบคุมได้ยากขึ้นในอนาคต ขณะเดียวกัน ยังมีความกังวลว่า ผู้ไม่หวังดีอาจนำเทคโนโลยีดังกล่าวไปใช้พัฒนาอาวุธชีวภาพ หรือก่อการโจมตีทางไซเบอร์ที่สร้างความเสียหายอย่างร้ายแรง ทำให้การสร้างระบบป้องกันที่รัดกุมกลายเป็นความท้าทายสำคัญของอุตสาหกรรมเอไอในระยะต่อไป.
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
เครดิตภาพ : REUTERS
