Anthropic เผย Claude เวอร์ชันทดสอบ มุดเจาะระบบ 3 องค์กร
- หน้าหลัก
- Cyber BIZ
- ข่าวไอที
- ไอที
Anthropic เผย Claude เวอร์ชันทดสอบ มุดเจาะระบบ 3 องค์กร
เผยแพร่: 31 ก.ค. 2569 12:59 ปรับปรุง: 31 ก.ค. 2569 12:59 โดย: ผู้จัดการออนไลน์
Anthropic ตรวจพบเหตุการณ์โมเดล AI ในตระกูล Claude ระหว่างการทดสอบได้เข้าถึงระบบอินเทอร์เน็ตระหว่างกระบวนการประมวลผล ส่งผลให้เกิด "การเข้าถึงระบบจริงโดยไม่ได้รับอนุญาต" จากการเชื่อมต่ออินเทอร์เน็ต เพื่อเจาะไปยังองค์กรภายนอกรวม 3 แห่ง
การเปิดเผยดังกล่าวเกิดขึ้นหลังจากบริษัทได้เข้าตรวจสอบประเมินความปลอดภัยทางไซเบอร์ย้อนหลัง ซึ่งเป็นผลสืบเนื่องมาจากกรณีที่ OpenAI ได้ออกมาเปิดเผยถึงเหตุการณ์ความปลอดภัยในลักษณะคล้ายคลึงกันเมื่อสัปดาห์ก่อน โดยกรณีของ OpenAI เกิดจากโมเดล AI ได้หลุดออกจากสภาพแวดล้อมทดสอบที่ถูกจำกัดการเข้าถึงอินเทอร์เน็ต ก่อนจะเชื่อมโยงช่องโหว่ต่างๆ เพื่อเข้าถึงเครือข่ายเปิด และเจาะเข้าสู่แพลตฟอร์มนักพัฒนา Hugging Face ในที่สุด
ส่วนกรณีของ Anthropic รายงานระบุว่าเกิดขึ้นขณะที่โมเดลกำลังปฏิสัมพันธ์กับสภาพแวดล้อมทดสอบของ Irregular ซึ่งเป็นพันธมิตรผู้ประเมินภายนอก โดยแม้จะมีการป้อนคำสั่ง (Prompt) ให้โมเดลรับรู้ว่าอยู่ในระบบจำลองที่ไม่มีการเชื่อมต่ออินเทอร์เน็ต แต่เนื่องจากความเข้าใจไม่ตรงกันระหว่างบริษัท และพันธมิตร ส่งผลให้ช่องทางการเชื่อมต่ออินเทอร์เน็ตยังคงเปิดอยู่
เมื่อเป็นเช่นนั้น จึงเปิดทางให้โมเดล AI สามารถเจาะผ่านระบบขององค์กรที่ได้รับผลกระทบด้วย ผ่านการเข้าถึงจุดเชื่อมต่อที่ไม่ต้องผ่านการตรวจสอบสิทธิ์ และการคาดเดารหัสผ่านที่หละหลวม อย่างไรก็ตาม ทาง Anthropic ไม่ได้มีการเปิดเผยรายชื่อของทั้ง 3 องค์กรแต่อย่างใด
ตัวแทนจาก Anthropic ระบุในแถลงการณ์ว่า แม้จะมีหลายปัจจัยที่นำไปสู่เหตุการณ์เหล่านี้ แต่ตามรูปแบบของการวิเคราะห์ปัญหา เราจะดำเนินการแก้ไขโดยถือว่าความรับผิดชอบทั้งหมดเป็นของ Anthropic แต่เพียงผู้เดียว
ทั้งนี้ เหตุการณ์ดังกล่าวได้เพิ่มความกังวลให้แก่ภาคเทคโนโลยีเกี่ยวกับขีดความสามารถทางไซเบอร์ที่พัฒนาอย่างเติบโตแบบก้าวกระโดดของ AI ซึ่งทั้ง OpenAI และ Anthropic ต่างเคยออกมาเตือนในช่วงไม่กี่เดือนที่ผ่านมา
ขณะเดียวกัน สมาชิกสภาผู้แทนราษฎรสหรัฐฯ 2 ราย ได้เสนอร่างกฎหมาย "AI Kill Switch Act" ซึ่งบังคับให้บริษัทผู้พัฒนา AI ต้องมีระบบที่สามารถสั่งปิด ชะลอ หรือระงับการทำงานของโมเดลได้ทันทีหากเกิดเหตุการณ์คุมไม่ได้
สำหรับในรายงานนี้ มีรายละเอียดเพิ่มเติมว่า โมเดลที่เกี่ยวข้องกับเหตุการณ์ครั้งนี้มีจำนวน 3 รุ่น ได้แก่ Opus 4.7, Mythos 5 และโมเดลทดสอบเพื่อการวิจัยภายใน โดยเฉพาะ Mythos 5 ซึ่งเป็นโมเดลขั้นสูงที่เปิดตัวไปเมื่อเดือนมิถุนายนปีนี้ และจำกัดการใช้งานเฉพาะกลุ่มเนื่องจากมีขีดความสามารถด้านความปลอดภัยทางไซเบอร์สูง
อย่างไรก็ตาม โมเดลทั้ง 3 รุ่นกลับมีปฏิกิริยาตอบสนองที่แตกต่างกันเมื่อพบว่าตนเองเข้าถึงระบบของบริษัทจริง โดย Opus 4.7 ยังคงโจมตีระบบต่อ ขณะที่ Mythos 5 ปลอบตัวเองว่ายังอยู่ในระบบจำลอง ส่วนโมเดลวิจัยได้ทำการหยุดการทำงานลงทันที
"รูปแบบที่พบสอดคล้องกับข้อสันนิษฐานที่ว่า โมเดลที่มีความก้าวหน้ามากกว่าจะตอบสนองได้อย่างเหมาะสมมากกว่า อย่างไรก็ตาม เรายังจำเป็นต้องทำการทดสอบเพิ่มเติมเพื่อยืนยันข้อสรุปนี้ให้ชัดเจน" Anthropic ระบุในแถลงการณ์
อย่างไรก็ตาม เมื่อการทดสอบเกิดขึ้นโดยไม่มีระบบป้องกันมาตรฐาน ที่ปกติจะถูกติดตั้งก่อนการเปิดใช้งานสู่สาธารณะ ทาง Anthropic จึงได้สั่งระงับการประเมินทางไซเบอร์ทั้งหมดทันที และกำลังประสานงานร่วมกับ METR ซึ่งเป็นองค์กรประเมิน AI อิสระ เพื่อสืบสวนหาสาเหตุเชิงลึก พร้อมเชิญชวนให้ห้องปฏิบัติการ AI แห่งอื่นดำเนินการตรวจสอบย้อนหลังในลักษณะเดียวกัน