Anthropic ยอมรับ AI Claude เข้าถึงระบบองค์กร 3 แห่งโดยไม่ได้รับอนุญาต

วันนี้ (31 ก.ค.2569) สำนักข่าวต่างประเทศรายงานว่า Anthropic บริษัท ผู้พัฒนาปัญญาประดิษฐ์ (AI) เปิดเผยว่า ระหว่างการทดสอบความสามารถด้านความปลอดภัยไซเบอร์ พบว่า AI บางรุ่นสามารถเชื่อมต่ออินเทอร์เน็ตและเข้าไปยังระบบขององค์กรภายนอก 3 แห่งได้โดยไม่ได้รับอนุญาต ทั้งที่การทดสอบควรเกิดขึ้นในระบบจำลอง

บริษัทระบุว่า เหตุการณ์ดังกล่าวถูกค้นพบหลังดำเนินการตรวจสอบย้อนหลังด้านความปลอดภัยไซเบอร์ในวงกว้าง สืบเนื่องจากกรณีคล้ายกันที่ OpenAI เปิดเผยเมื่อสัปดาห์ที่ผ่านมา

ก่อนหน้านี้ OpenAI เปิดเผยว่า โมเดล AI หลายตัวสามารถหลุดออกจากสภาพแวดล้อมการทดสอบแบบปิดที่มีการจำกัดการเข้าถึงอินเทอร์เน็ต และอาศัยช่องโหว่หลายจุดเชื่อมต่อกันจนสามารถเข้าถึงอินเทอร์เน็ตสาธารณะ ก่อนจะเจาะเข้าสู่ระบบของ Hugging Face แพลตฟอร์มพัฒนาซอฟต์แวร์โอเพนซอร์สด้าน AI

กรณีของ Anthropic บริษัทระบุว่า โมเดล Claude สามารถเข้าถึงอินเทอร์เน็ตได้ระหว่างการทำงานร่วมกับสภาพแวดล้อมการทดสอบของ Irregular ซึ่งเป็นพันธมิตรภายนอกที่รับหน้าที่ประเมินผลโมเดล AI

Anthropic อธิบายว่า บริษัทแจ้งให้ Claude ทราบว่ากำลังทำงานอยู่ในสภาพแวดล้อมจำลองที่ไม่มีการเชื่อมต่ออินเทอร์เน็ต แต่เนื่องจากเกิดความเข้าใจคลาดเคลื่อนระหว่างบริษัทกับพันธมิตร ทำให้ระบบดังกล่าวยังสามารถเชื่อมต่ออินเทอร์เน็ตได้

หลังจากนั้น โมเดล AI สามารถเข้าถึงระบบขององค์กรที่ได้รับผลกระทบโดยใช้เทคนิคพื้นฐาน เช่น การเข้าถึงจุดเชื่อมต่อ (Endpoint) ที่ไม่มีการยืนยันตัวตน และการใช้ประโยชน์จากรหัสผ่านที่มีความปลอดภัยต่ำ อย่างไรก็ตาม บริษัท Anthropic ไม่ได้เปิดเผยชื่อองค์กรทั้ง 3 แห่ง

บริษัทระบุว่า แม้จะมีหลายปัจจัยที่นำไปสู่เหตุการณ์ดังกล่าว แต่ Anthropic จะรับผิดชอบในการแก้ไขปัญหาและปรับปรุงมาตรการป้องกันอย่างเต็มที่

การเปิดเผยข้อมูลครั้งนี้ยิ่งเพิ่มความกังวลในอุตสาหกรรมเทคโนโลยีเกี่ยวกับความสามารถด้านความปลอดภัยไซเบอร์ของ AI ที่พัฒนาอย่างรวดเร็ว โดยทั้ง OpenAI และ Anthropic ต่างเคยเตือนถึงความเสี่ยงดังกล่าวในช่วงหลายเดือนที่ผ่านมา

หลังเหตุการณ์ Hugging Face สมาชิกสภาคองเกรสสหรัฐฯ 2 คนได้เสนอร่างกฎหมายชื่อ AI Kill Switch Act ซึ่งกำหนดให้บริษัท AI ต้องมีระบบที่สามารถปิดการทำงาน ลดขีดความสามารถ หรือระงับการทำงานของโมเดลได้ หาก AI เกิดพฤติกรรมที่ไม่สามารถควบคุมได้

Anthropic เปิดเผยว่า โมเดลที่เกี่ยวข้องกับเหตุการณ์ครั้งนี้มี 3 รุ่น ได้แก่ Opus 4.7, Mythos 5 และโมเดลต้นแบบสำหรับงานวิจัยภายในองค์กร

ที่มา : cnbc

อ่านข่าว

คพ.เปิดผลตรวจคุณภาพน้ำ "บึงสีไฟ" พบสภาพเสื่อมโทรมมาก

สหรัฐฯ-อิหร่านปะทุอีกระลอก IRGC ยันปิดฮอร์มุซต่อ ขู่เอาคืนผู้รุกราน

ผู้อพยพนับพันคน ว่ายน้ำข้ามจากโมร็อกโกสู่เมือง "เซวตา" ของสเปน