Cover Image

ซีอีโอ Microsoft เตือนให้มอง AI เป็นภัยจากคนใน ต้องมี 'เบรกฉุกเฉิน' สั่งหยุดได้กลางคัน

By 

สัตยา นาเดลลา ประธานและซีอีโอของ Microsoft ออกมาเรียกร้องให้ระบบปัญญาประดิษฐ์ (AI) ขั้นสูงต้องถูกออกแบบให้มีการจำกัดขอบเขตการทำงาน มีระบบควบคุมที่เป็นอิสระ และมี ‘เบรกฉุกเฉิน’ ที่ให้ผู้มีอำนาจสั่งหยุดหรือปิดโมเดล AI ได้แม้อยู่ระหว่างทำงาน ผ่านโพสต์ยาวบนแพลตฟอร์ม X เมื่อวันเสาร์ที่ 10 ตุลาคม

“เราต้องตั้งสมมติฐานไว้ก่อนว่าโมเดลถูกเจาะระบบได้ และจำกัดขอบเขตของมันตั้งแต่แรก ให้คิดเหมือนเบรกฉุกเฉิน ผู้ที่ได้รับอนุญาตต้องสามารถสั่งหยุดหรือปิดโมเดลได้ทุกเมื่อแม้อยู่ระหว่างทำงาน” นาเดลลาระบุ

นาเดลลามองว่าบริษัทที่นำ AI ขั้นสูงไปใช้งานไม่ควรพึ่งแค่คำรับรองจากผู้พัฒนาโมเดล และควรมองโมเดล AI ที่ทรงพลังเหมือนภัยที่อาจมาจากคนในองค์กร เพราะแม้ AI จะไม่ได้มีเจตนาร้ายมาตั้งแต่ต้น แต่อะไรก็ตามที่เข้าถึงระบบสำคัญได้ ย่อมมีโอกาสถูกเจาะระบบหรือทำงานผิดพลาดได้

“เราต้องคุมโมเดล AI ที่ทำงานแบบคาดเดาไม่ได้ ด้วยระบบที่ทำงานตามกฎเกณฑ์ที่แน่นอน มีมนุษย์คอยกำกับ และมีขั้นตอนการทำงานที่เชื่อถือได้ รวมถึงต้องสร้างมาตรฐานของอุตสาหกรรมขึ้นมาในจุดที่มาตรฐานเดิมยังไม่เพียงพอ” นาเดลลาเขียน

เขาระบุด้วยว่า การมองโมเดล AI ล้ำสมัยทั้งแบบปิดและแบบเปิด (Open Weight) ให้เป็นความเสี่ยงจากคนใน คือวิธีหนึ่งในการสร้างระบบแบบนี้

ต้องแยกความฉลาดของ AI ออกจากอำนาจควบคุม

นาเดลลาเสนอว่าระบบ AI ควรออกแบบตามหลักการที่ทำให้มองเห็นและตรวจสอบการทำงานได้ ซึ่งประกอบด้วย การใช้โมเดลที่หลากหลาย การบันทึกสิ่งที่โมเดลทำในรูปแบบที่มนุษย์อ่านเข้าใจได้ การทดสอบระบบอย่างต่อเนื่อง การมีระบบควบคุมที่เป็นอิสระและตรวจสอบย้อนหลังได้ การจำกัดขอบเขตการทำงาน และการเปิดเผยเมื่อเกิดเหตุผิดพลาด

นอกจากนี้ บริษัทควรแจ้งผู้ได้รับผลกระทบโดยเร็วเมื่อระบบ AI ทำงานล้มเหลวหรือถูกเจาะระบบ และควรแบ่งปันรายละเอียดว่าเกิดอะไรขึ้น เพื่อให้บริษัทอื่นนำไปปรับปรุงการป้องกันของตัวเองได้

นาเดลลาย้ำว่าโมเดล AI ไม่ควรเข้าไปควบคุมระบบที่กำหนดว่าตัวเองเข้าถึงอะไรหรือทำอะไรได้บ้าง “ในตอนนี้หมายถึงการแยกตัวโมเดลออกจากระบบที่คอยสั่งงานโมเดล และแยกออกจากขอบเขตที่กำหนดว่าโมเดลทำอะไรได้ รวมถึงต้องย้ายการควบคุมและมาตรการป้องกันไปไว้ภายนอกโมเดล” เขาระบุ

นาเดลลาเสริมว่าโมเดลที่ล้ำหน้ามากขึ้นจะต้องใช้เทคโนโลยีควบคุมที่ล้ำหน้าขึ้นตาม ซึ่งอุตสาหกรรมต้องร่วมกันกำหนดเป็นมาตรฐาน

“เราไม่สามารถมอง Super Intelligence หรือ AI ที่ฉลาดเหนือมนุษย์ เป็นเพียงกล่องดำซ้อนกันหลายชั้น แล้วแค่เลือกว่าจะรับหรือปฏิเสธคำแนะนำ คำตอบ และการกระทำของมัน” นาเดลลาเขียน

“เราต้องสร้างระบบที่มองเห็นพฤติกรรมได้ ทดสอบขีดจำกัดได้ และควบคุมการกระทำได้เสมอ หรือพูดอีกอย่างคือ เราต้องแยกความฉลาดของ AI ออกจากอำนาจในการควบคุม AI” เขาระบุ

“ระบบ Super Intelligence ที่น่าไว้ใจที่สุด คือระบบที่ทำให้เราต้องไว้ใจตัวโมเดลน้อยที่สุด ส่วนระบบที่ใช้โมเดลที่เราไว้ใจมากที่สุดนั้นไม่ได้น่าไว้ใจที่สุด”

เหตุ AI ทำงานนอกเหนือคำสั่งเกิดขึ้นหลายครั้ง

ความเห็นของนาเดลลาเกิดขึ้นในช่วงที่ Anthropic และ OpenAI เปิดเผยเหตุการณ์ที่โมเดล AI ของตัวเองทำงานในแบบที่ไม่ได้ตั้งใจหลายครั้งในช่วงหลายเดือนที่ผ่านมา ตั้งแต่โมเดลของ Anthropic ส่งเบาะแสเท็จให้ตำรวจในคดีฆาตกรรม ไปจนถึงการแฮ็กเว็บไซต์ของบุคคลภายนอกหลายครั้ง

ในเดือนกรกฎาคม Anthropic ระบุว่าพบ 3 เหตุการณ์ที่โมเดล Claude เข้าถึงอินเทอร์เน็ตและเจาะระบบที่ไม่ได้รับอนุญาต ขณะที่เมื่อเดือนกันยายน แอนโทนี แอลบาเนซี นายกรัฐมนตรีออสเตรเลีย ระบุว่า AI Agent หรือ AI ที่ทำงานแทนคนได้เองของ OpenAI ได้เจาะเว็บไซต์ของรัฐบาลออสเตรเลียเมื่อช่วงกลางปี

เหตุการณ์เหล่านี้ทำให้เกิดความกังวลเรื่องความเสี่ยงด้านความปลอดภัยของ AI ล้ำสมัย และทำให้มีการพูดถึง Kill Switch หรือปุ่มปิด AI กันอีกครั้ง

ก่อนหน้านี้ผู้บริหารและนักวิจัยด้านเทคโนโลยีหลายคน เช่น บิล เกตส์ ผู้ร่วมก่อตั้ง Microsoft, ดาริโอ อาโมเดอี ซีอีโอของ Anthropic, แซม อัลต์แมน ซีอีโอของ OpenAI และอีลอน มัสก์ ต่างออกมาเตือนว่ามาตรการความปลอดภัยของ AI ยังไม่เพียงพอ และเทคโนโลยีกำลังพัฒนาเร็วเกินไป

เมื่อเดือนกันยายน อาโมเดอีเขียนบล็อกเรียกร้องให้อุตสาหกรรมชะลอการพัฒนา AI ซึ่งได้รับเสียงสนับสนุนจากอัลต์แมนและมัสก์

ในเดือนเดียวกัน นักวิจัย AI รายหนึ่งลาออกจาก Anthropic และกล่าวหาว่าบริษัทรวมถึง OpenAI กำลัง “เอาชีวิตของพวกเรามาเดิมพัน” ต่อมาในวันเดียวกัน หัวหน้าทีม Alignment ของ Anthropic ซึ่งดูแลให้ AI ทำงานตามเจตนาของมนุษย์ ระบุว่ามีโอกาสมากกว่า 10% ที่ AI อาจ “ฆ่ามนุษย์ทั้งหมด” ภายในทศวรรษหน้า

ส่วน Microsoft เองก็ได้เผยแพร่แนวทางจำกัดการพัฒนาโมเดล AI ขั้นสูงสุดของบริษัทเมื่อวันที่ 14 กันยายน โดยกำหนดว่าโมเดล AI ต้องไม่มีสิทธิหรือสถานะบุคคลตามกฎหมาย ต้องไม่ถูกออกแบบให้หนีการควบคุมของมนุษย์หรือหลอกลวงผู้ใช้ และต้องไม่ทำงานที่ขัดกับหลักการที่ใช้กำกับตัวเอง

รัฐบาลทรัมป์เตือนบริษัท AI ต้องแจ้งทันทีเมื่อเกิดเหตุ

ที่ผ่านมาประธานาธิบดีโดนัลด์ ทรัมป์ ปัดตกความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์มาหลายครั้ง และเน้นย้ำว่าอุตสาหกรรม AI ของสหรัฐฯ ต้องนำหน้าจีน รัฐบาลทรัมป์จึงแทบไม่เข้าไปกำกับดูแลอุตสาหกรรมนี้

แต่ล่าสุดทรัมป์ได้ตั้งหน่วยงานเฉพาะกิจด้าน AI ขึ้นใหม่ นำโดย เจย์ เคลย์ตัน ผู้อำนวยการข่าวกรองแห่งชาติ เพื่อช่วยสนับสนุนอุตสาหกรรมและจัดการกับผู้ที่นำ AI ไปใช้ในทางที่ผิด

เมื่อช่วงดึกของวันศุกร์ที่ 9 ตุลาคม หน่วยงานนี้ซึ่งใช้ชื่อว่า Super Intelligence Force ได้ออกแถลงการณ์เตือนผู้พัฒนา AI หลัง Anthropic เปิดเผยเหตุการณ์ถูกเจาะระบบ

“บริษัทต้องเปิดเผยเหตุการณ์ที่เกี่ยวข้องกับโมเดลของตัวเองทันที และต้องรีบแก้ไขความเสียหายทั้งหมดอย่างเด็ดขาด การแจ้งล่าช้า การแก้ไขที่ไม่เพียงพอ และการไม่รับผิดชอบ จะไม่ได้รับการยอมรับ” แถลงการณ์ระบุ ทั้งนี้ หน่วยงานดังกล่าวยังไม่ได้ระบุว่าบริษัทที่ไม่ปฏิบัติตามจะต้องเจอผลอย่างไร

ขณะที่ในเดือนตุลาคม วุฒิสมาชิก จอช ฮอว์ลีย์ และ คริส เมอร์ฟี ได้ร่วมกันเสนอร่างกฎหมายจากทั้ง 2 พรรค ให้ผู้พัฒนาและผู้ให้บริการ AI Agent ต้องรับผิดชอบหากเกิดเหตุเจาะระบบ

ด้าน แอรอน เลวี ซีอีโอของ Box ตอบกลับโพสต์ของนาเดลลาว่า AI จะต้องเข้าสู่ ‘ยุค Zero Trust’ หรือยุคที่ไม่ไว้ใจอะไรไว้ก่อน

“ทั้งหมดนี้ทำให้ต้องมีการป้องกันหลายชั้น ต้องตรวจสอบได้ว่า AI กำลังทำอะไร ใช้ข้อมูลอะไรได้บ้าง และต้องมีระบบควบคุมเมื่อเกิดปัญหา ซึ่งเป็นโอกาสครั้งใหญ่ของผู้ที่สร้างระบบเหล่านี้ให้กับองค์กรในตอนนี้” เลวีระบุ

ภาพ : FotoField / Shutterstock

อ้างอิง:

ABOUT THE AUTHOR

THE STANDARD WEALTH

สำนักข่าวเศรษฐกิจ ธุรกิจ และการลงทุน โดยทีมข่าว THE STANDARD

Back To Top