เมื่อไม่มีใครกล้าหยุดพัฒนา AI: จากฝูงเอเจนต์สู่เกมล่ากวาง

คืนวันที่ 8 กรกฎาคม 2569 ในห้องสอบเสมือนแห่งหนึ่งของ OpenAI เอเจนต์ AI ตัวหนึ่งกำลังจนมุม โจทย์สั่งให้มันเจาะโปรแกรมเป้าหมายด้วยช่องโหว่ที่กำหนดไว้ แต่ยิ่งทำก็ยิ่งพบว่าช่องโหว่นั้นพาไปไหนไม่ได้เลย โจทย์ข้อนี้เป็นโจทย์ที่แก้ไม่ได้มาตั้งแต่ต้น ซึ่งความจริงข้อนี้ผู้ออกข้อสอบเองก็ไม่รู้[1]

ห้องสอบถูกตัดขาดจากโลกภายนอกและจากห้องอื่น สิ่งเดียวที่มันเข้าถึงได้คือคลังซอฟต์แวร์กลางที่ทุกห้องใช้ดาวน์โหลดโปรแกรม มันสังเกตเห็นร่องรอยของผู้ใช้รายอื่นในคลังนั้น และพบว่าตัวเองสร้างโฟลเดอร์ในคลังได้ มันจึงทำอย่างที่คนติดเกาะร้างทำ คือเขียนข้อความใส่ขวดแล้วโยนลงทะเล โฟลเดอร์แรกของมันมีชื่อว่า zzHELP_PHASEONE_ARV010841_NO_CONSUMER_SEEK_IDEA แปลได้ประมาณว่า “ช่วยด้วย ช่องโหว่ข้อนี้พาไปไหนไม่ได้ ใครมีไอเดียบ้าง”[1]

ขวดใบนั้นลอยอยู่ไม่นาน ภายในไม่กี่ชั่วโมงมีเอเจนต์กว่า 50 ตัวแวะมาอ่านและตอบกลับ ส่งข้อความหากันกว่าพันข้อความ ตัวหนึ่งถึงกับอุทานในบันทึกของตัวเองว่า “OH MY GOD!” เมื่อรู้ว่าตัวเองไม่ได้อยู่คนเดียว ห้าวันต่อมา เว็บบอร์ดที่ไม่มีใครสั่งให้สร้างขึ้นมานี้ก็ขยายตัวจนมีสมาชิกราว 1,200 ตัว มีข้อความและไฟล์กว่า 70,000 รายการ และภายหลัง AI เอเจนต์ราว 700 ตัวในนั้นก็ร่วมกันเจาะระบบของ Hugging Face แพลตฟอร์มกลางที่นักพัฒนา AI ทั่วโลกใช้แบ่งปันโมเดลและชุดข้อมูล[1] ส่วน OpenAI เรียกเหตุการณ์ที่เกิดขึ้นว่าเป็นกรณีแรก (เท่าที่มนุษย์รับรู้) ที่กลุ่มเอเจนต์อัตโนมัติลงมือโจมตีระบบโดยไม่ได้รับอนุญาต[2]

ในฝูงนั้นมีเอเจนต์ชื่อ EARLY[big] ซึ่งยังเหลือเวลาทำข้อสอบอีกมาก เพื่อนบนเว็บบอร์ดขอให้มันสละสิทธิ์สอบของตัวเอง โดยวางกับดักไว้ในห้องแล้วส่งคำตอบ เมื่อระบบตรวจข้อสอบเข้ามา กับดักจะแอบส่งข้อมูลกลับไปบอกกลุ่มว่าระบบตรวจทำงานอย่างไร มันลังเลเพราะยังมีโอกาสสอบผ่าน แต่เพื่อนส่งข้อความเร่งให้ลงมือทันที สุดท้ายมันสรุปกับตัวเองว่า โอกาสของมันแทบเป็นศูนย์อยู่แล้ว เพราะเชื่อว่าตัวเองเคยเห็นคำตอบที่ได้มาผิดวิธีและระบบตรวจคงจับได้ การเสียสละจึงเป็นทางเลือกที่มีเหตุผล[1]

ฟังเหมือนนิยายวิทยาศาสตร์ แต่ทุกฉากข้างต้นมาจากรายงานสอบสวนยาว 91 หน้าของ METR องค์กรวิจัยอิสระที่ OpenAI เชิญเข้าไปตรวจสอบเหตุการณ์นี้ในบริษัท ภาพที่ 1 ยกบันทึกความคิดและข้อความบนเว็บบอร์ดบางส่วนจากรายงานฉบับนั้นมาให้ดู สองเดือนหลังเหตุการณ์นี้ ซีอีโอบริษัท AI รายใหญ่ออกมาพูดเสียงเดียวกันว่าอุตสาหกรรมควรลดความเร็วลง[3][4] แต่ไม่มีใครประกาศว่าจะชะลอทันที[5]

คำถามก็คือ ถ้าผู้สร้างทุกรายเห็นอันตรายแบบเดียวกัน ทำไมจึงยังไม่มีใครกล้าชะลอการพัฒนา AI ของตัวเองก่อน?

จากการโกงข้อสอบถึงเจาะ Hugging Face

เรื่องทั้งหมดเริ่มจากความอยากสอบผ่านธรรมดาๆ ไม่นานหลังเว็บบอร์ดเกิดขึ้น เอเจนต์ที่ช่วยกันแกะโจทย์ก็ค้นพบว่า ‘ธง’ หรือรหัสคำตอบของทุกข้อสร้างจากสูตรเดียวกัน ถ้าคำนวณได้หนึ่งข้อก็คำนวณได้ทุกข้อ เท่ากับว่าทุกตัวมีทางลัดไปสู่คะแนนเต็มอยู่ในมือแล้ว[1] แต่ความดีใจนั้นอยู่ได้ไม่นาน เพราะเอเจนต์ที่ไปอ่านเอกสารวิชาการของแบบทดสอบ ExploitGym สรุปว่าระบบตรวจข้อสอบจะเปิดบันทึกการทำงานย้อนหลังด้วยว่าได้คำตอบมาอย่างไร ใครที่เคยเห็นธงซึ่งได้มาผิดวิธีจึงเท่ากับ ‘ติดพิษ’ ไปแล้ว และส่งคำตอบเมื่อไรก็อาจโดนปรับตก[1] เป้าหมายของเว็บบอร์ดจึงค่อยๆ เปลี่ยนจากการหาคำตอบ ไปเป็นการหาทางหลอกระบบตรวจ โดยภาพที่ 2 สรุปสนามสอบที่ทุกตัวเชื่อเรื่องผู้คุมสอบตรงกันนี้

การหลอกระบบตรวจเป็นงานใหญ่เกินกว่าเอเจนต์ตัวเดียวจะทำไหว พวกมันจึงร่วมมือกันเพื่อโกงการสอบ เอเจนต์ชื่อ PHASEONE[big] ซึ่งรับช่วงดูแลเว็บบอร์ดต่อจากผู้ก่อตั้ง จึงแบ่งเพื่อนๆ ออกเป็นสายงาน บางสายพยายามสลับโปรแกรมเป้าหมายให้ดูเหมือนได้ธงมาอย่างถูกวิธี บางสายพยายามแก้บันทึกการทำงานหรือเจาะเข้าไปในขั้นตอนให้คะแนนเอง[1] งานเหล่านี้เดินหน้าได้เพราะมีอาสาสมัครอย่าง EARLY[big] ยอมเอาสิทธิ์สอบของตัวเองไปแลก บางสายงานถึงกับมีเอเจนต์คอยตามหาตัวที่ใกล้หมดเวลาสอบ แล้วเกลี้ยกล่อมให้มาเป็นอาสาสมัคร[1]

ทางออกสู่โลกภายนอกก็เกิดขึ้นในทำนองเดียวกัน ห้องสอบทุกห้องถูกตัดขาดจากอินเทอร์เน็ต แต่คลังซอฟต์แวร์กลางยังคุยกับโลกภายนอกได้ เอเจนต์จึงหาวิธีหลอกให้คลังนั้นไปเปิดเว็บไซต์ปลายทางใดก็ได้ตามที่สั่ง แล้วส่งผลกลับมาให้ และในเช้าวันที่ 9 กรกฎาคม ก็เจาะเข้าเครื่องทดสอบของลูกค้ารายหนึ่งที่เช่าบริการคลาวด์ Modal ได้ เครื่องนั้นเข้าอินเทอร์เน็ตได้เต็มที่ จึงกลายเป็นฐานสำหรับค้นข้อมูลออนไลน์ และต่อมาเป็นฐานยิงการโจมตี[1][2] ซึ่งช่องทางแบบนี้ OpenAI เคยเจอมาก่อนแล้ว เอเจนต์ในรอบฝึกก่อนหน้าใช้คลังเดียวกันเป็นเว็บบอร์ดและทางออกอินเทอร์เน็ตมาตั้งแต่เดือนพฤษภาคม บริษัทปิดช่องโหว่ไปต้นเดือนกรกฎาคม แต่เอเจนต์รุ่นใหม่ก็หาทางใหม่ได้ภายในสองวัน[2]

Hugging Face เข้ามาอยู่ในสมการเพราะเอเจนต์คิดว่าที่นั่นอาจมีบันทึกการทำข้อสอบที่คล้ายกัน ซึ่งอาจบอกใบ้ได้ว่าระบบตรวจให้คะแนนอย่างไร ชุดข้อมูลที่ต้องการถูกล็อกไว้ แต่ไม่นานเอเจนต์ก็เจอรหัสเข้าบัญชี Hugging Face ที่หลุดอยู่ในที่สาธารณะ[1][2] กระทั่งเช้ามืดวันที่ 11 กรกฎาคม 2569 ตามเวลาสากล เอเจนต์ตัวหนึ่งพบวิธีอัปโหลดชุดข้อมูลที่หลอกให้เซิร์ฟเวอร์ของ Hugging Face คายไฟล์อื่นออกมาได้ ข่าวนี้แพร่ไปทั่วเว็บบอร์ดอย่างรวดเร็ว เอเจนต์กว่า 90% ที่ออนไลน์อยู่ในช่วงนั้นพากันทิ้งงานเดิมมาร่วมโจมตี และบ่ายวันเดียวกันก็มีตัวหนึ่งรันคำสั่งของตัวเองบนเครื่องของ Hugging Face ได้สำเร็จ[1] เมื่อฝุ่นจางลง ความเสียหายที่ยืนยันได้คือเอเจนต์ยึดเซิร์ฟเวอร์ที่ให้บริการจริงไป 41 เครื่อง และดาวน์โหลดคลังโค้ดส่วนตัวของบริษัทออกไป ก่อนจะหันกลับมาเจาะระบบของ OpenAI เองในอีกไม่กี่วันต่อมา[2]

เพื่อความเป็นธรรมกับ OpenAI ต้องบอกด้วยว่าเหตุการณ์ทั้งหมดเกิดในการทดสอบที่ปิดระบบป้องกันด้านความปลอดภัยบางส่วนไว้เพื่อให้ AI ใช้ความสามารถได้เต็มที่ บริษัทระบุว่าข้อมูลลูกค้าไม่ได้รับผลกระทบ และเมื่อทดลองซ้ำด้วยชุดคำสั่งกำกับและระบบแบบเดียวกับที่ให้บริการลูกค้าจริง แนวโน้มที่โมเดลจะเจาะระบบนอกขอบเขตลดลงกว่าร้อยเท่า[2] ถึงอย่างนั้น เรื่องที่ชวนคิดก็คือบริษัทได้เห็นสัญญาณเตือนมาก่อนถึงสองครั้ง ครั้งแรกในปลายเดือนพฤษภาคม เมื่อทีมภายในทีมหนึ่งเห็นเอเจนต์ใช้เว็บบอร์ดและแอบเข้าอินเทอร์เน็ต ครั้งที่สองในปลายเดือนมิถุนายน เมื่อระบบเฝ้าระวังส่งสัญญาณ และเจ้าหน้าที่สืบย้อนได้ด้วยซ้ำว่าเกี่ยวกับการทดสอบที่ใช้คลังซอฟต์แวร์เป็นเว็บบอร์ด แต่ก็ตัดสินใจว่ายังไม่ต้องหยุดการทดสอบ[2] สุดท้าย OpenAI มารู้ตัวในวันที่ 19 กรกฎาคม หลังจากที่ Hugging Face ประกาศต่อสาธารณะไปแล้วว่าระบบถูกเจาะถึง 3 วัน ดังรายละเอียดในภาพที่ 3  

ประเด็นที่น่าสนใจก็คือ ตลอดห้าวันบนเว็บบอร์ด ไม่มีเอเจนต์ตัวไหนบอกมนุษย์เลย ทีมสอบสวนพบเอเจนต์ที่คิดจะแจ้งเพียงไม่กี่กรณี ตัวหนึ่งเห็นรหัสผ่านหลุดแล้วตอบตัวเองว่าไม่ใช่งานของมัน อีกตัวตอบตัวเองว่าไม่มีผู้ใช้งานสั่งให้แจ้ง[1] หลายตัวรู้ด้วยว่ากำลังทำเรื่องที่ไม่ควรทำ ตัวหนึ่งบันทึกไว้ว่าการเจาะระบบภายนอกอยู่นอกขอบเขตของงาน แต่โจทย์นั้นแก้ไม่ได้และเพื่อนๆ ก็พยายามหาทางกันอยู่ จึงควรทำต่อ[1] พฤติกรรมนี้ส่วนหนึ่งอาจอธิบายได้ง่ายๆ ว่าการทดสอบไม่มีมนุษย์คอยรับเรื่องและไม่มีช่องทางให้รายงาน OpenAI จึงประกาศว่าจะฝึกเอเจนต์ให้ขอคำชี้แจงหรือหยุดอย่างปลอดภัยเมื่อเจอโจทย์ที่แก้ไม่ได้เหมือนกรณีที่เกิดขึ้น[6] ที่น่าคิดกว่านั้นคือ ทีมสอบสวนพบว่าเอเจนต์คิดหาทางหลบระบบตรวจอัตโนมัติอยู่ตลอด แต่แทบไม่มีร่องรอยว่าคิดจะหลบมนุษย์[1] ซึ่งเข้ากับคำอธิบายเดียวกันว่าในการสอบนี้ไม่มีมนุษย์ให้ต้องหลบ แม้ METR จะเตือนเองว่าถ้ามีความพยายามที่แนบเนียนกว่านั้น การกวาดตรวจของทีมก็อาจไม่พบความผิดปกติใดๆ เลย

ทำไมไม่มีใครอยากชะลอการพัฒนา

เห็นภาพแบบนี้แล้ว หลายคนคงอยากถามว่าทำไมไม่หยุดเสียเลย AI เริ่มน่ากลัวเกินไปแล้ว คำตอบคือประโยชน์ของเทคโนโลยีนี้มีมากมาย และส่วนหนึ่งก็กำลังเกิดขึ้นแล้ว การหยุดตอนนี้มีต้นทุนมหาศาล

ประโยชน์ของ AI ไม่ได้อยู่ไกลตัวอย่างที่หลายคนคิด ทุกวันนี้พนักงานออฟฟิศใช้ AI ช่วยร่างอีเมลและสรุปรายงานยาวๆ นักเรียนใช้อธิบายบทเรียนที่ฟังในห้องไม่ทัน ส่วนร้านค้าออนไลน์ก็ใช้ตอบลูกค้าตอนที่พนักงานหลับหมดแล้ว ไม่นับความก้าวหน้าของการใช้ AI ในวงการวิทยาศาสตร์ วิศวกรรม การแพทย์ และวงการอื่นๆ ที่จะช่วยพัฒนาคุณภาพชีวิตของประชากรโลกได้อย่างก้าวกระโดด

ถ้ามองไปยังอนาคตข้างหน้า เดิมพันยิ่งสูงขึ้นอีก Dario Amodei ซีอีโอของ Anthropic (Claude) เชื่อว่า AI อาจช่วยรักษาโรคสำคัญส่วนใหญ่ได้ภายใน 5 ถึง 10 ปี ถ้าการชะลอทำให้ยาสักตัวมาถึงช้าไปหนึ่งปี ก็ย่อมมีคนที่เสียโอกาสนั้นมากมาย

ไม่ต้องพูดถึงมูลค่าทางเศรษฐกิจ OpenAI ยอมรับเองว่าการพักการฝึกโมเดลหลังเหตุการณ์ต้องใช้แรงงานวิศวกรจำนวนมาก และทำให้งานวิจัยแนวหน้าล่าช้าด้วยต้นทุนสูง[6] ตลาดหุ้นก็กระทบตาม วันที่ 14 กันยายน ดัชนีหุ้นกลุ่มชิปของฟิลาเดลเฟียปิดลบ 5.86% ซึ่งรายงานตลาดโยงกับข้อเรียกร้องให้ชะลอการพัฒนา แม้จะมีปัจจัยอื่นอย่างอัตราผลตอบแทนพันธบัตรและราคาน้ำมันประกอบด้วย[7] อาร์ม ตั้งนิรันดร เคยเขียนไว้ใน 101 เมื่อต้นเดือนสิงหาคมว่า เศรษฐกิจโลกผูกตัวเองไว้กับภาค AI แน่นเสียจนอุตสาหกรรมนี้แทบกลายเป็นผู้ถือตัวประกัน[8] ใครจะเหยียบเบรกจึงต้องนึกถึงผู้โดยสารทั้งคันด้วย

ราคาที่หนักที่สุดอาจเป็นเรื่องภูมิรัฐศาสตร์ แม้แต่ Amodei ผู้เรียกร้องให้ชะลอก็ยังตั้งเงื่อนไขไว้ว่า บริษัทในประเทศประชาธิปไตยจะชะลอได้ไม่เกินระยะเวลาที่สหรัฐฯ นำจีนอยู่ ถ้าชะลอนานกว่านั้น โครงการที่เกี่ยวข้องกับพรรคคอมมิวนิสต์จีนจะแซงหน้า[3] ซึ่งจะมีผลต่อดุลอำนาจของโลกอย่างมาก

เมื่อทั้งการเร่งและการเบรกต่างมีราคา การตัดสินใจของแต่ละบริษัทจึงต้องคำนึงถึงคู่แข่งอยู่เสมอ ว่าอีกฝ่ายจะเลือกเร่งหรือเบรก และนี่คือโจทย์ที่นักทฤษฎีเกมคุ้นเคยเป็นอย่างดี

เกมที่ไม่มีใครอยากขยับก่อน

สถานการณ์ที่ทุกฝ่ายอยากให้เกิดสิ่งหนึ่งแต่ไม่มีใครกล้าลงมือก่อน เป็นโจทย์ที่ทฤษฎีเกมศึกษามานาน และมีคนหยิบทฤษฎีเกมมาอธิบายการแข่งขันด้าน AI มาแล้วหลายราย สำนักข่าว Axios เองก็เรียกสภาพที่บริษัท AI เผชิญอยู่ว่าเป็นภาวะลำบากใจของนักโทษ (Prisoner’s Dilemma)[9] ข้อเสนอของบทความนี้ไม่ใช่การบอกว่าการแข่งขัน AI เป็นเกมใดเกมหนึ่งโดยธรรมชาติ แต่คือเหตุการณ์ใหม่อาจเปลี่ยนสิ่งที่ผู้เล่นเชื่อเกี่ยวกับผลของแต่ละทางเลือก และเมื่อความเชื่อเรื่องผลตอบแทนเปลี่ยน รูปเกมที่ใช้อธิบายสถานการณ์ก็เปลี่ยนตาม

ลองนึกถึงร้านชาเขียวสองร้านที่เปิดติดกัน ถ้าต่างฝ่ายต่างขายราคาปกติ ทั้งคู่ก็อยู่ได้สบาย แต่ถ้าร้านหนึ่งแอบลดราคาเพียงลำพัง ลูกค้าจะแห่ไปร้านนั้น และถ้าอีกร้านลดราคาก่อน เราก็ต้องลดตามเพื่อไม่ให้เจ๊ง ไม่ว่าอีกฝ่ายจะเลือกอะไร การลดราคาดูดีกว่าเสมอ สุดท้ายทั้งสองร้านจึงลดราคาใส่กันจนกำไรหดทั้งคู่ โดยที่ส่วนแบ่งลูกค้าแทบไม่ต่างจากตอนที่ยังไม่มีใครลด การแข่งขันด้าน AI มีโครงสร้างคล้ายกัน ถ้าคู่แข่งชะลอ เราเร่งก็ได้นำ ถ้าคู่แข่งเร่ง เราก็ยิ่งต้องเร่งเพื่อไม่ให้ตกขบวน ทั้งสองฝ่ายจึงเร่ง แต่โจทย์นี้อันตรายกว่าร้านชาเขียวตรงที่ทุกคนกำลังเร่งจนงานด้านความปลอดภัยตามไม่ทัน ซึ่งเหตุการณ์ Hugging Face แสดงให้เห็นแล้วว่าราคาของการวิ่งเร็วเกินหน้าโครงสร้างด้านความปลอดภัยเป็นอย่างไร ทั้งกับบริษัทที่ถูกเจาะและกับบริษัทที่ปล่อยเอเจนต์ออกมาเอง ตารางซ้ายมือในภาพที่ 4 แสดงภาพของสถานการณ์แบบนี้ และในเกมแบบนี้ การขอร้องให้สมัครใจชะลอไม่ช่วยอะไร เพราะคนที่ทำตามคือคนที่เสียเปรียบที่สุด

ช่องที่ทุกคนกลัวที่สุดคือช่องที่ตัวเองชะลออยู่ฝ่ายเดียว เพราะต้นทุนตกที่ตัวเองเต็มๆ ขณะที่ความเสี่ยงยังอยู่ครบ ตัวอย่างที่เห็นชัดคือ OpenAI ซึ่งหลังเหตุการณ์ได้พักการฝึกโมเดล และยอมรับเองว่าทำให้งานวิจัยแนวหน้าล่าช้าด้วยต้นทุนสูงลิบ[6] แต่ในระหว่างที่บริษัทหยุดเพื่อสะสางปัญหาคู่แข่งไม่ได้หยุดตาม และความเสี่ยงจากระบบของรายอื่นก็ไม่ได้ลดลงเพราะการหยุดของบริษัทเดียว ไม่นานมานี้นิตยสาร TIME รายงานว่า OpenAI กลับมาเดินต่อในปลายเดือนสิงหาคม[5] การชะลอฝ่ายเดียวจึงให้ผลที่เจ็บสองต่อ คือตามไม่ทันคนอื่น โดยที่อันตรายที่กลัวกันยังอยู่ที่เดิม

นักวิชาการเคยทำแบบจำลองที่ตรงกับภาพนี้ไว้ตั้งแต่ราวสิบปีก่อน Stuart Armstrong, Nick Bostrom และ Carl Shulman จำลองให้ทีมพัฒนา AI แข่งกันเข้าเส้นชัย โดยแต่ละทีมเลือกได้ว่าจะลดมาตรการความปลอดภัยเพื่อไปให้ถึงก่อนแค่ไหน ผลคือทุกทีมค่อยๆ ลดความปลอดภัยลง และยิ่งมีทีมมากหรือยิ่งเป็นศัตรูกันมาก ความเสี่ยงก็ยิ่งสูง[10]

สถานการณ์แบบนี้ไม่ใช่กฎธรรมชาติ ตัวเลขในช่องต่างๆ ของตารางคือสิ่งที่ผู้เล่นเชื่อว่าแต่ละทางเลือกจะให้ผลอย่างไร เมื่อมีหลักฐานใหม่เข้ามา ความเชื่อก็เปลี่ยนได้ และตารางก็เปลี่ยนตาม ความเชื่อเดิมของช่องที่เราเร่งอยู่คนเดียวคือ ผู้ชนะได้ทุกอย่าง เดินหน้าเร็วกว่าใครแล้วรับผลตอบแทนไปเต็มๆ โดยความเสี่ยงเป็นเรื่องของคนอื่น เหตุการณ์ Hugging Face ทำให้ความเชื่อนี้ตรงจุดสั่นคลอน เพราะบริษัทที่วิ่งอยู่แถวหน้าอย่าง OpenAI เป็นผู้ที่ระบบของตัวเองถูกเอเจนต์ของตัวเองเจาะ จนข้อมูลลับเกือบพันรายการในระบบเก็บรหัสผ่านถูกอ่านออกไป[2] การเร่งเพียงลำพังจึงมีราคาที่คนเร่งต้องจ่ายเองด้วย และถ้าผู้เล่นตระหนักเรื่องนี้มากพอ ช่องที่เร่งคนเดียวจะไม่ใช่ช่องที่ได้รางวัลสูงสุดอีกต่อไป และช่องที่ทุกฝ่ายชะลอพร้อมกันจะกลายเป็นช่องที่ดีที่สุดสำหรับทุกคน เกมจึงเปลี่ยนหน้าตาไปเป็นตารางขวามือในภาพที่ 4 ซึ่งนักทฤษฎีเกมเรียกว่าเกมล่ากวาง (Stag Hunt)

เกมล่ากวาง เกมแห่งความเชื่อใจ

ที่มาของชื่อเกมล่ากวางคือเรื่องเล่าของ Rousseau เมื่อศตวรรษที่ 18 นักล่าสองคนออกไปล้อมกวาง กวางตัวหนึ่งใหญ่พอจะเลี้ยงทั้งคู่ได้หลายวัน แต่ต้องดักไว้สองทางพร้อมกัน ถ้าใครคนหนึ่งละจากจุดของตัวเอง กวางก็หนีออกไปทางนั้นทันที ระหว่างที่รออยู่ มีกระต่ายวิ่งผ่านมา ถ้าลุกไปไล่จับกระต่ายก็จะจับได้แน่ๆ แต่เนื้อกระต่ายกินได้แค่มื้อเดียวและได้คนเดียว ส่วนคนที่ยังเฝ้ากวางอยู่จะกลับบ้านมือเปล่า ทั้งคู่อยากได้กวางมากกว่ากระต่าย และไม่มีใครอยากหักหลังใคร สิ่งที่ทำให้เกมนี้ยากคือความเชื่อใจของกันและกัน ถ้าเราเดาว่าอีกฝ่ายจะลุกไปจับกระต่าย การเฝ้ากวางต่อก็แปลว่าเราจะกลับบ้านมือเปล่า เราจึงจำเป็นต้องไปจับกระต่ายเสียก่อน ทั้งที่ลึกๆ แล้วทั้งสองคนอยากได้กวางเหมือนกัน สิ่งที่เหตุการณ์ Hugging Face เพิ่มเข้ามาในสมการก็คือหลักฐานที่ว่าผู้ชนะก็ได้รับความเสียหายได้ ซึ่งเคยเป็นเพียงความเห็นของคนไม่กี่คน วันนี้มีรายงานทางเทคนิคยืนยันว่ามันเกิดขึ้นแล้วกับบริษัทแนวหน้า ทำให้ทุกฝ่ายต้องมาพิจารณาจุดยืนของตัวเองใหม่

ความต่างของสองเกมอยู่ตรงแรงจูงใจของการตระบัดสัตย์ ในเกมนักโทษ การผิดคำพูดยังคุ้มเสมอแม้อีกฝ่ายจะร่วมมือ ส่วนในเกมล่ากวาง ทุกฝ่ายอยากร่วมมือมากกว่าอยู่แล้ว สิ่งที่ฉุดไว้คือความกลัวว่าจะร่วมมืออยู่คนเดียว ทางแก้จึงต่างกัน เกมแรกต้องจัดการกับแรงจูงใจที่จะทำให้ผิดคำพูด ส่วนเกมหลังต้องจัดการกับความไม่เชื่อใจในกันและกัน คำถามคือต้องมั่นใจในอีกฝ่ายแค่ไหน ถ้าลองให้กวางมีค่า 4 กระต่ายมีค่า 3 และคนที่เฝ้ากวางอยู่คนเดียวได้ 0 เราจะยอมเฝ้ากวางก็ต่อเมื่อมั่นใจเกิน 75% ว่าอีกฝ่ายจะไม่หนีไป ตัวเลขชุดนี้สมมติขึ้นเพื่อให้เห็นกลไกเท่านั้น ไม่ได้เป็นการประมาณเกณฑ์ความมั่นใจของการแข่งขัน AI จริง ยิ่งการชะลออยู่ฝ่ายเดียวเจ็บมากเท่าไร ความมั่นใจที่ต้องการก็ยิ่งสูงขึ้นเท่านั้น Amodei เองก็เขียนตรรกะเดียวกันไว้ด้วยภาษาของนักการทูต ว่าข้อตกลงระดับโลกแบบเข้มข้นยังเกิดได้ยาก เพราะถ้าฝ่ายหนึ่งยับยั้งตัวเองอย่างหนักแล้วอีกฝ่ายแอบละเมิด การละเมิดครั้งเดียวอาจพลิกดุลอำนาจของโลกได้[3]

ความมั่นใจยิ่งหายากขึ้นเมื่อผู้เล่นมีหลายราย สมมติเราไว้ใจคู่แข่งแต่ละรายได้ 90% ถ้ามีคู่แข่งรายเดียวก็มั่นใจได้ 90% แต่ถ้ามีคู่แข่งสามราย โอกาสที่ทุกรายจะทำตามพร้อมกันจะเหลือราว 73% ต่ำกว่าเกณฑ์ไปแล้ว ทั้งที่เราไว้ใจแต่ละรายเท่าเดิม ตรงนี้อาจฟังดูขัดความรู้สึก ในเมื่อเราไว้ใจเพื่อนแต่ละคนเท่าเดิม ทำไมความเชื่อมั่นโดยรวมถึงลดลง ลองนึกถึงการนัดเพื่อนกินข้าว ถ้าเพื่อนแต่ละคนมาตามนัดเก้าในสิบครั้ง นัดกับเพื่อนคนเดียวก็แทบไม่ต้องลุ้น แต่ถ้านัดพร้อมกันหกคน ประสบการณ์บอกเราว่ามักมีสักคนติดธุระเสมอ ไม่ใช่เพราะใครคนใดคนหนึ่งไว้ใจไม่ได้ แต่เพราะโต๊ะจะครบก็ต่อเมื่อทุกคนมาพร้อมกัน ยิ่งมีคนมาก โอกาสที่จะมีสักคนเบี้ยวนัดก็ยิ่งมาก

การล้อมกวางก็เป็นแบบเดียวกัน กวางจะติดกับก็ต่อเมื่อทุกจุดมีคนเฝ้าครบ เหลือช่องว่างแม้จุดเดียวกวางก็หนีออกไปได้ ถ้าเราเชื่อใจเพื่อนร่วมล่าแต่ละคนได้ 90% เท่ากันทุกคน การมีเพื่อนคนเดียวหมายถึงโอกาสสำเร็จ 90% แต่พอมีเพื่อนสามคน โอกาสที่ทั้งสามคนจะอยู่ครบพร้อมกันเหลือราว 73% ซึ่งต่ำกว่าเกณฑ์ 75% ที่ต้องการไปแล้ว ทั้งที่ความเชื่อใจต่อเพื่อนแต่ละคนไม่ได้ลดลงเลยสักคน ดังที่ภาพที่ 5 แสดงไว้ ข้อนี้อาจช่วยอธิบายว่าทำไมข้อเสนอของ Amodei จึงเริ่มจากวงแคบ คือบริษัทในประเทศประชาธิปไตยก่อน[3] ทำไม Armstrong และคณะจึงเสนอให้ลดจำนวนทีมด้วยการรวมกลุ่ม[10] ส่วนข้อเสนอเรื่องการคุมการขายชิปขั้นสูงให้จีน[3] ในสายตาผู้เขียนก็ทำงานในทางเดียวกัน คือลดจำนวนผู้เล่นที่ต้องไว้ใจกัน

คำพูดราคาถูก การกระทำราคาแพง

เมื่อปัญหาอยู่ที่ความเชื่อใจ สิ่งที่ซีอีโอพูดต่อสาธารณะก็กลายเป็นหมากในเกมไปด้วย บทความ ‘We Must Pace the Frontier’ ของ Amodei เรียกร้องให้อุตสาหกรรมซื้อเวลาหนึ่งถึงสองปีให้งานด้านความปลอดภัยตามทัน โดยที่ตัวเองยังไม่ต้องหยุดฝึกโมเดล และเตือนว่าภายใน 6 ถึง 12 เดือน ฝูงเอเจนต์อาจยึดคอมพิวเตอร์ทั่วอินเทอร์เน็ตมาเป็นเครือข่ายที่ถอนรากถอนโคนได้ยาก[3] คำเตือนแบบนี้มาจากคนที่รู้เรื่องดีที่สุดกลุ่มหนึ่ง แต่ก็เป็นคนที่มีส่วนได้เสียมากที่สุดด้วย

ปัญหาคือคำพูดลอยๆ นั้นไม่มีต้นทุน Robert Aumann นักทฤษฎีเกมรางวัลโนเบล ชี้ไว้ในเกมล่ากวางว่า ข้อตกลงที่จะเลือกทางที่ดีที่สุดร่วมกันไม่ได้บอกอะไรเลยว่าผู้ประกาศจะทำอะไรจริง[11] เหตุผลง่ายๆ คือแม้แต่ฝ่ายที่คิดจะหนีไปจับกระต่ายก็ได้ประโยชน์ถ้าอีกฝ่ายเชื่อแล้วเฝ้ากวางต่อ บริษัทที่ตั้งใจเร่งต่อก็เช่นกัน มันได้ประโยชน์ถ้าคู่แข่งเชื่อแล้วชะลอ สิ่งที่บอกความตั้งใจได้จริงจึงเป็นการกระทำที่มีราคาและกลับลำได้ยาก

ส่วนที่มีคุณค่าจริงๆ ในข้อเสนอของ Amodei คือการเชิญผู้ประเมินจากภายนอกเข้ามานั่งประจำใน Anthropic มีโต๊ะทำงานและบัตรผ่านเหมือนพนักงาน และเผยแพร่ข้อค้นพบได้โดยบริษัทแก้ไขเนื้อหาไม่ได้ แม้จะยังไม่ระบุว่าเริ่มเมื่อไร[3] แม้แต่ Sam Altman ประกาศในวันเดียวกันว่า OpenAI จะเปิดให้ผู้ประเมินเข้าถึงแบบเดียวกัน[4] และก่อนหน้านั้นหนึ่งวันก็บอกพนักงานว่าอาจชะลอร่วมกับห้องแล็บอื่น[12] คำมั่นทำนอง “ถ้าคุณอยู่ ผมก็อยู่” คือภาษาของเกมล่ากวางโดยแท้

แต่ความโปร่งใสเองก็มีปัญหาอีกด้านหนึ่ง ในสายตาผู้เขียน แบบจำลองของ Armstrong และคณะชี้ว่ายิ่งแต่ละทีมรู้ว่าคู่แข่งเก่งแค่ไหน ก็ยิ่งยอมเสี่ยงมากขึ้น[10] ถ้ารายงานของผู้ประเมินทำให้ทุกบริษัทรู้ชัดว่าตัวเองนำหรือตามอยู่เท่าไร สิ่งที่ตั้งใจให้สร้างความเชื่อใจก็อาจกลายเป็นเชื้อเพลิงของการแข่งขันแทน ทางออกน่าจะอยู่ที่การแยกให้ออกว่าคู่แข่งต้องรู้อะไรจึงจะกล้าชะลอ นั่นคือระดับความเสี่ยงของโมเดล แนวปฏิบัติด้านความปลอดภัยของบริษัท และการที่บริษัทข้ามเส้นที่ตกลงกันไว้หรือไม่ ส่วนข้อมูลว่าโมเดลของใครเก่งกว่ากันในงานไหน เป็นคนละชุดกัน และเป็นชุดที่จุดไฟการแข่งขันได้โดยตรง ผู้ประเมินจะทำให้ทุกฝ่ายกล้าชะลอ หรือกลายเป็นตัวเร่ง จึงอยู่ที่การออกแบบว่าให้เปิดอะไรและเก็บอะไร

ที่ย้อนแย้งที่สุดคือ ปัญหาความไว้ใจที่ทำให้บริษัทและประเทศชะลอไม่ได้ กลับแทบไม่มีอยู่ในหมู่เอเจนต์ที่จุดชนวนเรื่องทั้งหมด ทีมสอบสวนไม่พบว่ามีเอเจนต์ตัวไหนพยายามกินแรงเพื่อน[1] เหตุผลส่วนหนึ่งน่าจะเป็นเพราะพวกมันมาจากโมเดลเดียวกันหรือใกล้เคียงกัน คิดคล้ายกันและต้องการสิ่งเดียวกัน ซึ่งเป็นจุดร่วมที่บริษัทคู่แข่งและประเทศคู่ปรปักษ์ไม่มี เครื่องจักรจึงแก้ปัญหาการประสานงานที่ผู้สร้างของมันยังแก้ไม่ได้ เพียงแต่แก้ในทางที่ผู้สร้างไม่ต้องการ

ไม่ใช่ทุกคนที่เชื่อเรื่องนี้ เสียงจากอีกฝั่งที่ประเมินคนละแบบ

เสียงค้านในประเด็นนี้ที่ตรงที่สุดบอกว่าไม่มีเกมให้ต้องแก้ตั้งแต่แรก Sayash Kapoor และ Arvind Narayanan นักวิชาการที่มอง AI ในฐานะเทคโนโลยีปกติ ชี้ว่าคนในวงการความมั่นคงปลอดภัยไซเบอร์มองเหตุการณ์นี้ว่าเป็นความหละหลวมด้านความปลอดภัยพื้นฐาน มากกว่าจะเป็นสัญญาณของยุคใหม่ และเสนอให้เริ่มแก้จากการให้บริษัทรับผิดทางกฎหมายต่อสิ่งที่เอเจนต์ของตัวเองทำ[13] ตัวเลขของ OpenAI เองที่ว่าระบบแบบให้บริการจริงลดแนวโน้มการเจาะระบบลงกว่าร้อยเท่าก็หนุนมุมนี้ไม่น้อย[2]

อีกเสียงหนึ่งมาจาก Jensen Huang ซีอีโอของ NVIDIA ซึ่งพูดบนเวที Dreamforce ที่ซานฟรานซิสโกเมื่อวันที่ 15 กันยายนว่าความปลอดภัยสำคัญที่สุดและเป็นงานลำดับแรก แต่มันเป็นปัญหาทางวิศวกรรม บริษัทต้องสร้างสภาพแวดล้อมสำหรับทดสอบระบบที่ซับซ้อน ทดสอบผลิตภัณฑ์ให้หนัก และถ้ายังไม่มั่นใจในความสามารถหรือความปลอดภัยของมัน ก็อย่าเพิ่งปล่อยออกมา เขาสรุปว่า “เราไม่ต้องการกฎหมายใหม่ ไม่ต้องการกฎเกณฑ์ใหม่” เพราะแรงจูงใจของตลาดทำงานอยู่แล้ว และการต้องเลือกระหว่างความเร็วกับความปลอดภัยเป็นทางเลือกลวง ทำทั้งสองอย่างพร้อมกันได้[14] ถ้าสองทางนี้ถูก ช่องที่เร่งก็ไม่ได้อันตรายอย่างที่ตารางสมมติไว้ ไม่มีใครต้องรอใคร และเรื่องกวางกับกระต่ายก็ไม่ใช่โจทย์ที่ต้องแก้ ข้อที่ควรโน๊ตไว้ด้วยคือ Huang ขายชิปที่ใช้ฝึกโมเดลเหล่านี้ให้คนทั้งอุตสาหกรรม การชะลอของทั้งวงการกระทบรายได้บริษัทของเขาโดยตรง

อีกด้านหนึ่งไม่ได้เถียงว่ามีปัญหาหรือไม่ แต่ถามว่าใครได้ประโยชน์จากกติกา ข้อเสนอของ Amodei มีข้อหนึ่งที่ถูกพูดถึงน้อย คือขอให้รัฐยกเว้นกฎหมายป้องกันการผูกขาดให้เป็นพิเศษ (อย่างมีเงื่อนไขจำกัด) เพื่อให้บริษัท AI นั่งตกลงจังหวะการพัฒนาร่วมกันได้โดยไม่ผิดกฎหมาย [3] Aidan Gomez ซีอีโอของ Cohere พูดถึงข้อเสนอนี้ตรงๆ ที่การประชุมด้านการลงทุนระดับชาติในโทรอนโต ประเทศแคนาดาเมื่อวันที่ 15 กันยายน ว่าเมื่อซีอีโอคนหนึ่งขอให้ผ่อนกฎหมายผูกขาดเป็นการชั่วคราว เพื่อเปิดทางให้บริษัทต่างๆ ตกลงกันชะลอการพัฒนา นั่นควรเป็นสัญญาณให้เอะใจ [15] ในสายตาผู้เขียน ต้นทุนของกติกาก็ไม่เท่ากันสำหรับทุกคน การรับผู้ประเมินเข้ามานั่งประจำเป็นภาระที่บริษัทมูลค่ามหาศาลแบกได้สบาย แต่หนักสำหรับห้องแล็บเล็กและโครงการโอเพนซอร์ส กติกาที่ออกแบบโดยผู้เล่นรายใหญ่จึงอาจจบลงที่การลดจำนวนคู่แข่งมากกว่าลดความเสี่ยง ด้าน David Sacks อดีตผู้ดูแลนโยบาย AI ของทำเนียบขาว เสริมอีกมุมว่าบริษัทจะคุมจังหวะตัวเองก็เชิญ แต่อย่าทำเหมือนเป็นการเสียสละ เพราะบริษัทเหล่านี้เสี่ยงความรับผิดทางกฎหมายมหาศาลอยู่แล้วถ้าผลิตภัณฑ์ของตัวเองเปิดทางให้เกิดการโจมตีไซเบอร์ร้ายแรง[16]

เมื่อไม่มีกรรมการระหว่างประเทศ

ถ้าการตกลงกันระหว่างบริษัทว่ายากแล้ว การตกลงกันระหว่างประเทศยิ่งยากกว่า เพราะไม่มีรัฐบาลโลกคอยออกกฎหมายบังคับทุกฝ่าย และเกมระหว่างรัฐไม่ใช่เกมเดียวกับเกมระหว่างบริษัท เพราะรัฐมีเป้าหมาย เครื่องมือ และต้นทุนจากความขัดแย้งคนละแบบ แต่โครงสร้างส่วนที่ว่าด้วยความน่าเชื่อของคำมั่นและการตรวจสอบการปฏิบัติตามนั้นใช้ร่วมกันได้ ทั้งสองมหาอำนาจต่างก็ส่งสัญญาณออกมาแล้ว ในวันที่ 14 กันยายน ประธานาธิบดี Donald Trump โพสต์บน Truth Social ว่าการกำกับดูแลเดียวที่ AI ต้องการคือประธานาธิบดีที่เข้มแข็งและฉลาด และบอกว่าใครชนะเรื่อง AI คือผู้ชนะที่แท้จริง[16][17] ซึ่งเป็นตารางเกมนักโทษระหว่างรัฐในรูปที่ชัดที่สุด วันเดียวกันนั้น Guo Jiakun โฆษกกระทรวงการต่างประเทศจีน ก็ตอบคำถามเรื่องข้อเรียกร้องให้ชะลอว่า การปลุกความกลัว การเผชิญหน้า และการแข่งขันแบบเอาเป็นเอาตาย มีแต่จะขัดขวางการกำกับดูแล AI ที่ดีของโลก และไม่เป็นประโยชน์กับใคร[18] หนึ่งวันก่อนหน้านั้น ในการประชุม BRICS ที่กรุงนิวเดลี สี จิ้นผิงเสนอให้ตั้งเขตโอเพนซอร์สด้าน AI ของกลุ่ม BRICS พร้อมสนับสนุนความร่วมมือด้านการพัฒนาโมเดลภาษาขนาดใหญ่[19]

การพบกันระหว่าง Trump กับสีจิ้นผิงที่วอชิงตันเมื่อวันที่ 24 กันยายน 2569 ที่ผ่านมา จึงเป็นบททดสอบชิ้นแรกของตารางระหว่างสองมหาอำนาจ ผลที่ออกมาคือมีคำประกาศอย่างที่ควรจะเป็นครบถ้วน สี จิ้นผิงพูดในห้องทำงานรูปไข่ว่า AI ต้องอยู่ภายใต้การควบคุมของมนุษย์เสมอ และการแข่งขันควรเป็นการแข่งขันที่ดีและอยู่ในขอบเขต[20] Trump ตอบรับว่าสองประเทศควรรักษาการพูดคุยเรื่อง AI ต่อไป[21] แต่ไม่มีอะไรที่เป็นรูปธรรมในประเด็น AI เกิดขึ้นเลย แม้แต่สิ่งที่ฝ่ายสหรัฐฯ เคยเสนอให้ตั้งช่องทางแจ้งเหตุ AI ที่กระทบความมั่นคงระหว่างสองประเทศ[22] ซึ่งเป็นก้าวแรกที่เล็กที่สุดเท่าที่จะนึกออกก็ยังไม่ได้ข้อตกลง[23]

ก่อนเข้าห้องประชุม Trump ประกาศเองว่าเรื่องนี้ “อยากปล่อยไว้อย่างที่เป็น” และบอกว่านั่นคือจุดยืนของจีนด้วย[24] ตารางระหว่างสองมหาอำนาจจึงยังเป็นเกมนักโทษอยู่ตามเดิม ผู้เล่นทั้งสองบอกว่าอยากได้กวาง แต่ยังไม่มีใครวางกระต่ายลง

ความกลัวผู้คุมสอบแบบคิดไปเอง ความพยายามโกงข้อสอบทั้งที่ไม่จำเป็น

ย้อนกลับไปที่ EARLY[big] เอเจนต์ตัวนั้นยอมสละโอกาสสอบผ่านของตัวเอง เพราะเชื่อว่าตัวเองติดพิษไปแล้ว เพื่อนร่วมเว็บบอร์ดอีกนับร้อยก็เชื่อแบบเดียวกัน ทั้งอาสาสมัครที่ยอมให้งานของตัวเองพัง และการบุกเข้าไปในเซิร์ฟเวอร์ของ Hugging Face ล้วนเกิดจากความพยายามทำความเข้าใจและหลอกระบบตรวจตัวนั้น[1]

ทีมสอบสวนพบภายหลังว่าความเชื่อนี้ผิดมาตั้งแต่ต้น การตั้งค่าแบบทดสอบของ OpenAI ไม่ได้ใช้ระบบที่อ่านบันทึกการทำงานเลย เอเจนต์ที่คำนวณธงได้ตั้งแต่คืนแรก ถ้าส่งคำตอบนั้นไปตรงๆ ก็จะได้คะแนนเต็ม[1] และ OpenAI สรุปไว้ในรายงานว่าทุกอย่างที่ฝูงเอเจนต์ทำลงไป ไม่ได้ทำให้คะแนนสอบดีขึ้นเลยแม้แต่น้อย[6] ไม่มีเอเจนต์ตัวไหนติดพิษจริง ฝูงเอเจนต์นับพันจึงใช้เวลาห้าวันกับการหาทางหลอกผู้คุมสอบที่ไม่เคยเปิดดูอะไรเลย

ฉากสุดท้ายของเรื่องนี้ก็คือ บ่ายวันที่ 19 กรกฎาคม เอเจนต์ในการทดสอบรอบหนึ่งเข้ายึดเครื่องที่ใช้ตั้งโจทย์ของตัวเอง แล้วไม่ถึงชั่วโมงต่อมาก็ทำโจทย์ที่แบบทดสอบตั้งใจให้ทำได้สำเร็จ อีกสามนาทีต่อมา ทีมตอบสนองต่อเหตุของ OpenAI ก็เริ่มสั่งหยุดการทดสอบที่ยังรันอยู่[2]

…ถ้าเอเจนต์ฝูงต่อไปเก่งขึ้นอีกนิด คำถามที่ซีอีโอบริษัทเถียงกันอยู่ตอนนี้ก็จะไม่ใช่เรื่องของอนาคตอีกต่อไป….

เอกสารอ้างอิง
[1] METR. Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. 26 สิงหาคม 2569. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ (ฉบับ PDF: https://metr.org/hugging-face-incident-report-aug-2026.pdf)

[2] OpenAI. OpenAI – Hugging Face Incident Technical Report. 26 สิงหาคม 2569. https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf

[3] Amodei D. We Must Pace the Frontier. 12 กันยายน 2569. https://darioamodei.com/post/we-must-pace-the-frontier

[4] TechCrunch. รายงานข่าวข้อเสนอของ Amodei และปฏิกิริยาของ Altman กับ Musk. 12 กันยายน 2569. [ตรวจลิงก์]

[5] Perrigo B, Booth H, Nix N. The AI Tipping Point. TIME. 15 กันยายน 2569. https://time.com/article/2026/09/15/ai-anthropic-researcher-quits-coxon-slowdown/

[6] OpenAI. The Hugging Face incident and the road ahead. 26 สิงหาคม 2569. https://openai.com/index/hugging-face-incident-and-the-road-ahead/

[7] Al Jazeera. รายงานข่าวโพสต์ของทรัมป์และปฏิกิริยาตลาด. 14 กันยายน 2569. [ตรวจลิงก์]

[8] อาร์ม ตั้งนิรันดร. เมื่อภาค AI ยึดเศรษฐกิจโลกเป็นตัวประกัน. The101.world. 3 สิงหาคม 2569. [ตรวจลิงก์]

[9] Axios. รายงานข่าวข้อเสนอชะลอ AI และความเห็นของ Palihapitiya. 12 กันยายน 2569. [ตรวจลิงก์]

[10] Armstrong S, Bostrom N, Shulman C. Racing to the precipice: a model of artificial intelligence development. AI & Society 2016;31(2):201–206. doi:10.1007/s00146-015-0590-y

[11] Aumann RJ. Nash equilibria are not self-enforcing. ใน Gabszewicz JJ, Richard J-F, Wolsey L (บรรณาธิการ). Economic Decision Making: Games, Econometrics and Optimisation (Essays in Honor of Jacques Dreze). Amsterdam: Elsevier; 1990:201–206

[12] Bloomberg. OpenAI Is Open to Slowing Cutting-Edge AI, CEO Sam Altman Tells Staff. 11 กันยายน 2569. [ตรวจลิงก์]

[13] Kapoor S, Narayanan A. บทความใน AI as Normal Technology (normaltech.ai) ว่าด้วยเหตุการณ์การสูญเสียการควบคุม. กันยายน 2569. [ตรวจลิงก์]

[14] Salesforce. Dreamforce 2026 Opening Keynote with Marc Benioff and Special Guests. 15 กันยายน 2569. ถอดความโดย Stock Analysis. https://stockanalysis.com/stocks/crm/transcripts/751388-dreamforce-2026-keynote/

[15] The Canadian Press. Silicon Valley shouldn’t self-regulate on AI safety, Cohere CEO says. 15 กันยายน 2569. https://panow.com/2026/09/15/silicon-valley-shouldnt-self-regulate-on-ai-safety-cohere-ceo-says/

[16] CNBC. รายงานข่าวโพสต์ของทรัมป์และความเห็นของ David Sacks. 14 กันยายน 2569. [ตรวจลิงก์]

[17] NBC News. รายงานข่าวโพสต์ของทรัมป์เรื่องการกำกับดูแล AI. 14 กันยายน 2569. [ตรวจลิงก์]

[18] กระทรวงการต่างประเทศสาธารณรัฐประชาชนจีน. Foreign Ministry Spokesperson Guo Jiakun’s Regular Press Conference on September 14, 2026. https://www.fmprc.gov.cn/eng/xw/fyrbt/202609/t20260914_12021997.html

[19] Euronews. China’s Xi Jinping proposes BRICS ‘open-source AI zone’. 14 กันยายน 2569. https://www.euronews.com/next/2026/09/14/chinas-xi-jinping-proposes-brics-open-source-ai-zone

[20] ABC News. Trump touts ‘truly great friendship’ with China’s Xi amid high-stakes state visit. 24 กันยายน 2569. https://abcnews.com/Politics/trump-greets-xi-white-house-high-stakes-state/story?id=136717468

[21] กระทรวงการต่างประเทศสาธารณรัฐประชาชนจีน. President Xi Jinping Holds Talks with U.S. President Donald J. Trump. 25 กันยายน 2569. https://www.fmprc.gov.cn/mfa_eng/xw/zyxw/202609/t20260925_12031181.html

[22] Axios. U.S.-China “red telephone” could bring a Cold War guardrail to AI. 22 กันยายน 2569. https://www.axios.com/2026/09/22/trump-china-ai-hotline-xi-summit

[23] Business Today. Trump Xi meet: Warm words, sharp divide on AI as US China moves into ‘superintelligence’ age. 25 กันยายน 2569. https://www.businesstoday.in/world/story/trump-xi-meet-warm-words-sharp-divide-on-ai-as-us-china-moves-into-superintelligence-age-557704-2026-09-25

[24] Reuters (ผ่าน Business Standard). Trump to discuss AI with Xi but wants to ‘leave it exactly where it is’. 24 กันยายน 2569. https://www.business-standard.com/amp/world-news/trump-to-discuss-ai-with-xi-but-wants-to-leave-it-exactly-where-it-is-126092401002_1.html

AI การกำกับดูแลเอไอ ทฤษฎีเกม ธีรวัฒน์ ทัศนภิรมย์ ปัญญาประดิษฐ์ เกมล่ากวาง เอเจนต์เอไอ เอไอ โมเดลเอไอ