Geoffrey Hinton “God-father of AI” เตือนว่า “AI จะฉลาดขึ้นเรื่อย ๆ จนเข้าใจว่ามันไม่จำเป็นต้องมีมนุษย์อีกต่อไป”
Elon Musk เตือนว่า “จำคำผมไว้ให้ดี ต่อไป AI จะอันตรายยิ่งกว่าอาวุธนิวเคลียร์เสียอีก”
Stephen Hawking เตือนว่า “การค้นพบ AI อาจเป็นสิ่งยิ่งใหญ่ที่สุดในประวัติศาสตร์มนุษยชาติ แต่น่าเสียดายมันอาจพาเราสู่วาระสุดท้าย”
Center for AI Safety ลงนามโดยผู้เชี่ยวชาญกว่า 400 คน เตือนว่า “การลดความเสี่ยงจากการสูญพันธุ์ของมนุษย
ชาติเนื่องจาก AI ควรเป็นวาระระดับโลก เช่นเดียวกับความเสี่ยงใหญ่อื่น ๆ เช่น โรคระบาด และสงครามนิวเคลียร์”
โลกเรามีความเสี่ยงจาก AI ใน 3 มิติหลัก 1. ปัญหา Black Box ที่ผู้สร้างไม่สามารถอธิบายกระบวนการคิดที่ชัดเจนของ AI ได้ 2. ความเร็วในการพัฒนา ที่กฎหมายตามไม่ทัน และ 3. ภัยคุกคามเชิงโครงสร้าง ทั้งการตกงานวงกว้าง ข่าวและข้อมูลปลอม การทำลายสภาพแวดล้อม การแย่งชิงพลังงานและน้ำ รวมถึงความเสี่ยงต่อการสูญพันธุ์ของมนุษยชาติ
ท่าทีของมหาอำนาจในเวทีโลก EU มุ่งควบคุมเรื่องการละเมิดสิทธิมนุษยชน สหรัฐ เร่งนวัตกรรม ไม่ให้กฎหมายขัดขวางการพัฒนาเทคโนโลยี จีน มุ่งการควบคุมเนื้อหาให้สอดคล้องกับค่านิยม และความมั่นคงของรัฐ และกลุ่ม Global South มุ่งคัดค้านการผูกขาด กีดกัน เรียกร้องการถ่ายโอนเทคโนโลยีอย่างเป็นธรรม ในไม่ช้าเราคงเห็นข้อตกลง และการลงนามกรอบความร่วมมือขับเคลื่อนผ่านข้อตกลงสากล เช่น Bletchley Declaration และ แนวทางปฏิบัติด้าน AI จาก UN และ OECD รวมถึงการจัดตั้งสถาบันเฝ้าระวัง ผลักดันการสร้างสถาบันความปลอดภัยด้าน AI และองค์กรสากลกำกับดูแลการพัฒนา AI เพื่อตรวจสอบความเสี่ยงก่อนปล่อยโมเดลระดับ Superintelligence สู่สาธารณะ.
