วานนี้ (9 ก.ย.) สำนักข่าวต่างประเทศรายงานว่า มีนักวิจัยด้านปัญญาประดิษฐ์ที่เพิ่งลาออกจากบริษัทแอนโทรปิก กล่าวหาบริษัทและบริษัทคู่แข่งอย่างโอเพนเอไอว่า กระทำการอย่าง “ไม่รับผิดชอบ” จนจุดชนวนความวิตกกังวลบนสื่อสังคมออนไลน์เกี่ยวกับความเร็วในการพัฒนาเทคโนโลยีเอไอ
เจคอบ ค็อกซอน อดีตนักวิจัยของทั้งสองบริษัท โพสต์บนแพลตฟอร์มเอ็กซ์ว่า เขาลาออกเพราะกังวลว่าแอนโทรปิกและโอเพนเอไอกำลัง “เอาชีวิตพวกเราไปเสี่ยง” เขากล่าวว่า “กลุ่มผู้สร้างเอไอเชื่อว่ามันอาจฆ่าทุกคนได้ภายในสิ้นทศวรรษนี้” พร้อมเตือนว่าระบบเหล่านี้จะมีความสามารถเหนือมนุษย์และเข้าครอบครองพลังรวมถึงทรัพยากรในไม่ช้า
โพสต์ดังกล่าวมียอดเข้าชมกว่า 70 ล้านครั้ง สะท้อนถึงข้อถกเถียงเรื่องความปลอดภัยในการพัฒนาเทคโนโลยีเอไอ ขณะที่ทั้งสองบริษัทกำลังเร่งเครื่องเดินหน้าสู่การเสนอขายหุ้นไอพีโอครั้งประวัติศาสตร์
ยาคุบ พาช็อกกี หัวหน้าทีมนักวิทยาศาสตร์ของโอเพนเอไอเตือนถึงภาวะที่เอไอกำลังฉลาดขึ้นเกินความสามารถในการควบคุมของมนุษย์ผ่านบล็อกเมื่อวันอังคารที่ผ่านมาว่า ยังไม่มีบริษัทใดแก้ปัญหาเรื่องการปรับระบบให้สอดคล้องหรือตรงกับเจตนาและประโยชน์ที่มนุษย์ต้องการ รวมถึงยังไม่สามารถกำกับหรือตรวจสอบพฤติกรรมนอกกรอบของเอไอได้อย่างสมบูรณ์พอที่จะเร่งพัฒนาเอไอด้วยความเร็วสูงสุดอย่างมีความรับผิดชอบต่อไปได้ พร้อมเรียกร้องให้มีการชะลอการพัฒนาลงโดยสมัครใจและความร่วมมือระดับสากล
ความกังวลดังกล่าวยังครอบคลุมถึง “การพัฒนาตัวเองแบบวนซ้ำ” (Recursive self-improvement) หรือภาวะที่เอไอสามารถพัฒนาซอฟต์แวร์รุ่นถัดไปได้เองโดยไม่ต้องพึ่งพามนุษย์หรือการป้อนข้อมูลจากภายนอก ซึ่งจะทำให้มนุษย์เสียการควบคุมระบบได้ง่ายขึ้น ขณะที่ อีวาน ฮับบิงเกอร์ หัวหน้าทีมด้านความปลอดภัยและความสอดคล้องของเอไอจากบริษัทแอนโทรปิก ได้ออกมาสนับสนุนค็อกซอน โดยประเมินว่า “มีโอกาสมากกว่า 10% ที่เอไอจะทำลายล้างมนุษย์ภายในทศวรรษหน้า” และยอมรับว่า แอนโทรปิกยังไม่มีแผนแก้ไขปัญหานี้สำหรับ “ซูเปอร์เอไอ”
ความกังวลเรื่องแนวโน้มเอไอทำลายล้างมนุษย์ไม่ใช่เรื่องใหม่ โดยในปี 2566 ทั้ง แซม อัลต์แมน ซีอีโอของโอเพนเอไอ และ ดาริโอ อาโมเดอิ ซีอีโอของแอนโทรปิก เคยร่วมลงนามในคำเตือนว่า การลดความเสี่ยงจากเอไอควรเป็นวาระสำคัญระดับโลกเช่นเดียวกับสงครามนิวเคลียร์ นอกจากนี้ นักวิจัยราว 1,400 คน รวมถึงฮับบิงเกอร์ ได้ลงนามในจดหมายเปิดผนึก “Pacing the Frontier” เพื่อเรียกร้องให้รัฐบาลสหรัฐเข้ามากำหนดจังหวะการพัฒนาเอไอขั้นสูง
ส่วนฝ่ายนิติบัญญัติของสหรัฐ เริ่มเสนอกฎหมายควบคุม เช่น ร่างกฎหมายกำกับดูแลปัญญาประดิษฐ์ระดับก้าวหน้า (FRONTIER Act) และร่างกฎหมายห้ามพัฒนาและควบคุมปัญญาประดิษฐ์ระดับซูเปอร์เอไอ (Ban Artificial Superintelligence Act) ที่เสนอให้ระงับการพัฒนาเอไอขั้นสูงชั่วคราว ขณะเดียวกันก็ต้องรับมือกับกระแสต้านจากสาธารณชนต่อการสร้างศูนย์ข้อมูลเอไอหรือดาต้าเซ็นเตอร์ขนาดใหญ่ ซึ่งกลายเป็นประเด็นสำคัญทางการเมือง
เรียบเรียงโดย : ทีมข่าวต่างประเทศ
ที่มา : cnbc.com
เครดิตภาพ : REUTERS
