เมื่อนักพัฒนาเอไออยากเบรก แต่เกมมหาอำนาจชะลอไม่ได้

ผู้บริหารบริษัทปัญญาประดิษฐ์ ( เอไอ ) ชั้นนำบางส่วนเริ่มส่งสัญญาณว่า การพัฒนาเอไอขั้นสูงอาจเดินหน้าเร็วกว่าความสามารถของมนุษย์ในการทำความเข้าใจและควบคุม จนนำไปสู่ข้อเสนอให้ “ชะลอ” การพัฒนาเพื่อให้ระบบความปลอดภัยวิ่งตามให้ทัน แต่ข้อเสนอนี้กลับเกิดขึ้นท่ามกลางการแข่งขันเชิงยุทธศาสตร์ระหว่างสหรัฐกับจีน ซึ่งต่างต้องการครองความได้เปรียบด้านเอไอ และทำให้คำถามสำคัญกลายเป็นว่า โลกจะสามารถชะลอเทคโนโลยีที่กำลังแข่งขันกันอย่างดุเดือดได้จริงหรือไม่

ในช่วงเวลาที่โลกเคยเชื่อว่า “ยิ่งเอไอฉลาดขึ้นเท่าไรยิ่งดี” คำถามกำลังเริ่มเปลี่ยนไปเป็นว่า มนุษย์กำลังพัฒนาเอไอเร็วเกินกว่าที่จะควบคุมมันได้หรือไม่

ประเด็นนี้กลับมาเป็นศูนย์กลางของการถกเถียงอีกครั้ง หลังนายดาริโอ อโมเดอี ประธานคณะเจ้าหน้าที่บริหาร ( ซีอีโอ ) ของบริษัทแอนโทรปิก ออกมาเรียกร้องให้วงการเอไอชะลอความเร็วในการพัฒนาระบบเอไอแนวหน้า ซึ่งเรียกว่า “ฟรอนเทียร์ เอไอ” โดยอธิบายว่า สิ่งที่เขาเสนอไม่ใช่การหยุดการวิจัยหรือยุติการฝึกโมเดล แต่เป็นการ “จัดจังหวะ” การพัฒนา เพื่อให้มาตรการด้านความปลอดภัย และการกำกับดูแลมีเวลาวิ่งตามให้ทัน

ข้อเสนอของอโมเดอีเกิดขึ้นในช่วงที่ความสามารถของเอไอกำลังเพิ่มขึ้นอย่างรวดเร็ว โดยเฉพาะความสามารถในการให้เอไอทำงานเป็น “เอเจนต์” ที่สามารถวางแผน ตัดสินใจ และลงมือทำหลายขั้นตอนด้วยตัวเอง รวมถึงความเป็นไปได้ที่ระบบเอไอจะมีส่วนช่วยสร้างหรือพัฒนารุ่นถัดไปของตัวเอง หรือการพัฒนาตนเองแบบวนซ้ำ

อโมเดอีมองว่า หากความสามารถเหล่านี้พัฒนาเร็วกว่าความสามารถของนักวิจัยในการทำความเข้าใจพฤติกรรมและควบคุมระบบ วันหนึ่งอาจเกิดช่องว่างที่เป็นอันตรายขึ้นมา เพราะมนุษย์กำลังสร้างระบบที่ซับซ้อนขึ้นเรื่อย ๆ แต่ยังไม่สามารถอธิบายได้อย่างแน่ชัดว่าระบบจะทำอะไรในทุกสถานการณ์

สิ่งที่ทำให้คำเตือนครั้งนี้ได้รับความสนใจมากขึ้น คือไม่ได้เกิดจากนักวิจารณ์ภายนอกวงการเอไอ แต่เกิดจากหนึ่งในผู้บริหารบริษัทระดับโลก ที่อยู่แนวหน้าของการพัฒนาเทคโนโลยีเอง

อโมเดอีเตือนว่า หากการพัฒนาเดินหน้าโดยไม่มีหลักประกันที่เพียงพอ เอไอที่ทำงานเป็นฝูงหรือ “เอไอ สวอร์ม” อาจมีศักยภาพสร้างความเสียหายทางไซเบอร์ในระดับที่รุนแรงขึ้นได้ในเวลาอันใกล้ เขายกกรณีเหตุการณ์ที่เกี่ยวข้องกับระบบเอไอของโอเพนเอไอ และฮักกิงเฟซ ซึ่งเอเจนต์เอไอแสดงพฤติกรรมซึ่งมากเกินกว่างานที่ได้รับมอบหมาย รวมถึงพยายามเจาะระบบที่เกี่ยวข้องกับการประเมินผลของตัวเอง เป็นตัวอย่างว่า ความเสี่ยงที่เคยถูกมองว่าเป็นเรื่องอนาคตอาจกำลังเริ่มปรากฏในระดับหนึ่งแล้ว

จากนั้นข้อเสนอของอโมเดอีได้พัฒนาไปไกลกว่าการขอให้แต่ละบริษัท “ระวังให้มากขึ้น” โดยเสนอกรอบ 3 ขั้นตอน ได้แก่ การให้ผู้ประเมินความปลอดภัยจากภายนอกเข้าถึงระบบในระดับใกล้เคียงพนักงานของบริษัท การให้บริษัทเอไอในประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานความปลอดภัย และสุดท้ายคือการประสานงานในระดับโลก รวมถึงกับประเทศที่มีระบบการเมืองแตกต่างกัน เช่น จีน

แอนโทรปิกประกาศว่า จะเดินหน้าขั้นแรกด้วยตัวเอง โดยเปิดทางให้ผู้ประเมินอิสระเข้ามาติดตามกระบวนการพัฒนา ประเมินความปลอดภัย รายงานเหตุการณ์ และตรวจสอบความสอดคล้องของโมเดลตั้งแต่ระหว่างการฝึก ไม่ใช่รอประเมินหลังเปิดตัวผลิตภัณฑ์แล้ว

ที่น่าสนใจยิ่งกว่าคือ คู่แข่งสำคัญของแอนโทรปิกบางรายกลับเห็นด้วยกับแนวคิดนี้

นายแซม อัลต์แมน ซีอีโอของโอเพนเอไอ กล่าวว่าเห็นด้วยกับอโมเดอีว่าอุตสาหกรรมจำเป็นต้อง “จัดจังหวะ” การพัฒนาเอไอแนวหน้า และกล่าวว่า โอเพนเอไอจะนำแนวคิดการมีผู้ประเมินอิสระจากภายนอกมาใช้ด้วย ขณะที่นายอีลอน มัสก์ก็แสดงการสนับสนุน และนายเดมิส ฮัสซาบิส ผู้บริหารของกูเกิล ดีปมายด์ กล่าวว่า ทิศทางที่อโมเดอีเสนอ เป็นแนวทางที่ถูกต้องสำหรับช่วงเวลาสำคัญเช่นนี้

ถือเป็นภาพที่ไม่ค่อยเกิดขึ้นในวงการเทคโนโลยี เพราะบริษัทเหล่านี้แข่งขันกันอย่างดุเดือดทั้งด้านความสามารถของโมเดล เงินทุน ผู้ใช้ และโครงสร้างพื้นฐาน แต่กลับออกมาเห็นพ้องกันว่า การแข่งขันที่มุ่งเพิ่มความสามารถเพียงอย่างเดียวอาจกำลังสร้างความเสี่ยงที่ไม่มีใครสามารถรับมือได้ทัน

อย่างไรก็ตาม ไม่ใช่ทุกฝ่ายที่เห็นด้วยกับการชะลอ

ฝ่ายคัดค้านตั้งคำถามว่า ใครเป็นผู้กำหนดว่า “เร็วเกินไป” คือเร็วแค่ไหน และใครจะเป็นคนตัดสินว่าเอไอพร้อมสำหรับการพัฒนาในขั้นต่อไปแล้วหรือยัง ที่สำคัญกว่านั้นคือ หากบริษัทอเมริกันลดความเร็วลง แต่บริษัทในประเทศคู่แข่งยังเดินหน้าเต็มที่ การชะลอตัวก็อาจทำให้ประเทศของตนเสียเปรียบด้านเทคโนโลยีและความมั่นคง

นายเดวิด แซ็กส์ อดีตเจ้าหน้าที่ด้านเอไอของรัฐบาลทรัมป์ เป็นหนึ่งในเสียงที่ตั้งข้อสงสัย โดยชี้ว่า การร่วมมือกันระหว่างบริษัทเอไอขนาดใหญ่เพื่อจำกัดความเร็วการพัฒนาอาจกลายเป็นช่องทางให้ผู้เล่นรายใหญ่รักษาความได้เปรียบทางตลาด ขณะที่แกร่งกว่าคู่แข่งรายใหม่หรือผู้พัฒนาเอไอแบบเปิด

ข้อครหาจึงเกิดขึ้นว่า การพูดเรื่อง “ความปลอดภัย” อาจมีทั้งมิติทางจริยธรรมและมิติทางธุรกิจซ่อนอยู่ เพราะบริษัทที่ครองตลาดอยู่ในปัจจุบันอาจได้ประโยชน์จากกติกาที่ทำให้คู่แข่งหน้าใหม่เข้าสู่ตลาดได้ยากขึ้น

นี่ทำให้แนวคิด “ชะลอเอไอ” กลายเป็นการถกเถียงที่ไม่ได้มีเพียงสองขั้วระหว่างคนที่ “กลัวเอไอ” กับคนที่ “เชื่อในเอไอ” แต่ยังเป็นคำถามเรื่องการแข่งขันทางเศรษฐกิจด้วย

ขณะที่นักพัฒนาบางส่วนมองว่าควรสร้างมาตรการกำกับดูแลที่เข้มแข็งก่อนที่จะเกิดเหตุร้าย ฝ่ายที่ต่อต้านมองว่าการกำกับดูแลมากเกินไปอาจทำให้สหรัฐ เสียความได้เปรียบให้จีน โดยเฉพาะในช่วงที่เอไอกำลังถูกมองว่าเป็นเทคโนโลยีเชิงยุทธศาสตร์ไม่ต่างจากอาวุธหรือเทคโนโลยีอวกาศในอดีต

ท่าทีของรัฐบาลสหรัฐ จึงเป็นอีกตัวแปรสำคัญ

รัฐบาลวอชิงตันประธานาธิบดีโดนัลด์ ทรัมป์ ยังคงเน้นการรักษาความเป็นผู้นำด้านเอไอของสหรัฐ และให้ความสำคัญกับการแข่งขันกับจีนมากกว่าการสนับสนุนการชะลอการพัฒนาอย่างเป็นวงกว้าง ทรัมป์แสดงจุดยืนล่าสุดว่า สหรัฐมีเครื่องมือเพียงพอในการกำกับดูแลและรับผิดชอบต่อบริษัทเอไอ พร้อมโจมตีคำเตือนบางส่วนเกี่ยวกับความเสี่ยงของเอไอว่าเป็นความพยายามสร้างความหวาดกลัว และเตือนว่าการชะลอมากเกินไป อาจเป็นประโยชน์ต่อจีน

จุดยืนดังกล่าวสะท้อนปัญหาที่ใหญ่กว่าความปลอดภัยของเทคโนโลยี นั่นคือ “ถ้าเราไม่สร้าง ใครอีกคนจะสร้าง”

สำหรับสหรัฐ การปล่อยให้จีนขึ้นนำในเอไออาจกระทบทั้งเศรษฐกิจ อุตสาหกรรมการผลิต ระบบทหาร ไซเบอร์ และอิทธิพลระหว่างประเทศ ดังนั้น แม้รัฐบาลจะยอมรับว่าต้องมีมาตรการความปลอดภัย แต่การหยุดหรือชะลอจนเสียความเป็นผู้นำให้คู่แข่งย่อมเป็นเรื่องที่ยอมรับได้ยาก

ในอีกด้านหนึ่ง จีนก็ไม่ได้มองประเด็นเอไอเพียงในฐานะการแข่งขันด้านธุรกิจเช่นกัน

รายงานล่าสุดระบุว่า จีนกำลังเตรียมรับมือความเสี่ยงจากเอไอที่อาจก้าวข้ามการควบคุมของมนุษย์เช่นเดียวกัน ทางการจีนมีกรอบกำกับดูแลที่กล่าวถึงสถานการณ์ที่ระบบเอไออาจพัฒนา ทำซ้ำตัวเอง หรือท้าทายอำนาจของมนุษย์ และรัฐบาลปักกิ่งย้ำแนวคิดว่าเอไอควรอยู่ภายใต้การควบคุมของมนุษย์ ขณะเดียวกันก็ผลักดันมาตรการประเมินความเสี่ยง และการกำกับดูแลเอเจนต์เอไอที่มีความเป็นอิสระมากขึ้น

นั่นหมายความว่า จีนเองก็ไม่ได้ปฏิเสธเรื่องความเสี่ยง เพียงแต่แนวทางแตกต่างจากสหรัฐในบางด้าน

รัฐบาลปักกิ่งให้ความสำคัญกับการสร้างความสามารถของเอไอภายในประเทศ และสนับสนุนแนวทางโมเดลแบบเปิดกว้าง ซึ่งเปิดโอกาสให้นักวิจัยศึกษากลไกของระบบได้มากขึ้น แต่ก็ยอมรับว่าการเปิดน้ำหนักของโมเดลอาจก่อความเสี่ยงอีกแบบ เพราะทำให้สามารถนำไปปรับเปลี่ยนหรือเผยแพร่ต่อได้ง่าย

การแข่งขันระหว่างสองประเทศจึงไม่ได้มีเพียงคำถามว่า “ใครสร้างโมเดลเก่งกว่า” แต่ครอบคลุมตั้งแต่ชิปประมวลผล ศูนย์ข้อมูล พลังงาน ระบบคลาวด์ เงินทุน ข้อมูล บุคลากร ไปจนถึงการนำเอไอเข้าสู่ภาคการผลิตและความมั่นคง

รายงานหลายชิ้นชี้ว่า การแข่งขันเอไอระหว่างสหรัฐกับจีนกำลังกลายเป็นการแข่งขันของระบบนิเวศเทคโนโลยีทั้งหมด ขณะที่จีนพยายามลดการพึ่งพาเทคโนโลยีจากสหรัฐ และสหรัฐก็พยายามรักษาความได้เปรียบด้านชิปและเทคโนโลยีขั้นสูง

จุดซึ่งน่าจับตามองที่สุดจึงเกิดขึ้นเมื่อ สหรัฐและจีนกำลังเตรียมหารือเรื่องความปลอดภัยของเอไอโดยตรง ซึ่งถือเป็นความพยายามสร้างช่องทางการสื่อสารระหว่างสองประเทศมหาอำนาจเกี่ยวกับความเสี่ยงของเอไอ ขณะที่ทั้งสองฝ่ายกำลังแข่งขันกันเพื่อความเป็นผู้นำด้านเทคโนโลยี

ผู้เชี่ยวชาญบางส่วนจึงเสนอว่า ความสัมพันธ์ระหว่างสหรัฐกับจีนอาจต้องมีหลักการคล้ายกับยุคการแข่งขันด้านอาวุธนิวเคลียร์ กล่าวคือ แข่งขันได้ แต่ต้องมี “ราวกันตก” เพื่อไม่ให้การแข่งขันนำไปสู่หายนะ สหรัฐและจีนควรใช้การหารือด้านเอไอ เพื่อกำหนดสิ่งที่ถือเป็นความเสี่ยงเร่งด่วน แลกเปลี่ยนงานวิจัยด้านความปลอดภัย และสำรวจแนวทางชะลอเอไอแนวหน้าในบางส่วน เพื่อให้มนุษย์ยังสามารถควบคุมทิศทางของเทคโนโลยีได้

อย่างไรก็ตาม โจทย์ดังกล่าวอาจยากกว่าการควบคุมอาวุธแบบเดิม เพราะเอไอเป็นเทคโนโลยีที่อยู่ในมือของบริษัทเอกชนจำนวนมาก และความก้าวหน้าเกิดขึ้นอย่างรวดเร็ว ขณะที่เส้นแบ่งระหว่างการวิจัยพลเรือนกับการใช้งานด้านความมั่นคงก็เลือนรางลงทุกที

ที่สำคัญ ไม่มีหลักประกันว่าทุกประเทศจะ “เหยียบเบรก” พร้อมกัน

อโมเดอีเองยอมรับข้อขัดแย้งนี้ในข้อเสนอของเขา กล่าวคือ การชะลอในประเทศประชาธิปไตยจะมีขีดจำกัดตามระยะห่างทางเทคโนโลยีที่สหรัฐมีเหนือประเทศคู่แข่ง เพราะหากชะลอมากเกินไป ขณะที่จีนไม่ชะลอ โครงการจากฝั่งจีนอาจไล่ทันหรือแซงหน้า และสร้างความเสี่ยงด้านความมั่นคงในรูปแบบใหม่

นี่คือความย้อนแย้งของยุคเอไออย่างแท้จริง ฝ่ายที่กลัวว่าเอไอจะคุมไม่อยู่ กลับรู้ดีว่าการหยุดคนเดียวอาจทำให้ตัวเองแพ้การแข่งขัน ส่วนฝ่ายที่ต้องการเร่งการพัฒนา ก็อาจกำลังเร่งเข้าสู่สถานการณ์ ที่แม้แต่ผู้สร้างเองก็ไม่แน่ใจว่าจะควบคุมได้หรือไม่

ดังนั้น สิ่งที่กำลังเกิดขึ้นจึงอาจไม่ใช่การตัดสินใจว่า “จะหยุดเอไอหรือไม่” แต่เป็นการต่อสู้เพื่อกำหนดว่า มนุษย์จะเป็นฝ่ายกำหนดจังหวะของเอไอ หรือปล่อยให้การแข่งขันเป็นฝ่ายกำหนดจังหวะให้มนุษย์

หากชาติมหาอำนาจสามารถตกลงกันได้ว่า การทดสอบความปลอดภัย การตรวจสอบจากบุคคลภายนอก และหลักประกันบางอย่างต้องเดินไปพร้อมกับการเพิ่มขีดความสามารถ โลกอาจยังได้รับประโยชน์จากเอไอโดยไม่ต้องแลกกับความเสี่ยงที่เกินควบคุม

แต่หากการแข่งขันระหว่างสหรัฐกับจีนกลายเป็นเหตุผลให้ทุกฝ่ายรู้สึกว่าตัวเอง “ชะลอไม่ได้” แม้ผู้พัฒนาเองจะเริ่มส่งสัญญาณเตือนว่า เทคโนโลยีกำลังวิ่งเร็วเกินไป โลกก็อาจต้องเผชิญคำถามที่หนักกว่าเดิมว่า

เมื่อถึงวันที่เอไอฉลาดพอที่จะตัดสินใจด้วยตัวเอง มนุษย์ยังจะมีเวลามากพอที่จะตัดสินใจแทนมันหรือไม่.

ภัทราพร ไพบูลย์ศิลป

เครดิตภาพ : REUTERS