Anthropic ยอมรับเอไอ Claude เผลอ 'แฮ็กระบบ' ของ 3 บริษัทระหว่างการทดสอบ
- หน้าหลัก
- ต่างประเทศ
- ข่าวต่างประเทศ
- สหรัฐอเมริกา
Anthropic ยอมรับเอไอ Claude เผลอ 'แฮ็กระบบ' ของ 3 บริษัทระหว่างการทดสอบ
เผยแพร่: 31 ก.ค. 2569 12:35 ปรับปรุง: 31 ก.ค. 2569 12:35 โดย: ผู้จัดการออนไลน์
Anthropic ออกมาเผยเมื่อวันพฤหัสบดี (30 ก.ค.) ว่า โมเดล AI รุ่น Claude บางส่วนของบริษัทได้แฮ็กเข้าไปในระบบของ 3 บริษัทอื่น ในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ ซึ่งเป็นการเปิดเผยที่เกิดขึ้นเพียงไม่กี่วันหลังจากที่บริษัทคู่แข่งอย่าง OpenAI เปิดเผยว่า AI ตัวหนึ่งของบริษัทได้ทำการโจมตีแบบไม่ได้รับอนุญาต
เหตุการณ์ล่าสุดนี้เกิดจากความผิดพลาดที่ทำให้โมเดล AI ของ Anthropic สามารถเข้าถึงอินเทอร์เน็ตได้โดยไม่ได้ตั้งใจ ซึ่งแตกต่างจากกรณีของ OpenAI ที่ AI ของบริษัทใช้ช่องโหว่ใหม่เพื่อเข้าถึงอินเทอร์เน็ตระหว่างการทดสอบความปลอดภัยทางไซเบอร์
กระนั้นก็ตาม การเปิดเผยล่าสุดนี้เน้นย้ำให้เห็นว่า AI ได้เพิ่มภัยคุกคามต่อความปลอดภัยทางไซเบอร์ และนักพัฒนาอาจประสบปัญหาในการควบคุมความสามารถของโมเดล AI ของตน
เหตุการณ์นี้มีแนวโน้มที่จะเพิ่มแรงกดดันให้รัฐบาลสหรัฐฯ ต้องมีมาตรการจัดการความเสี่ยงด้านความปลอดภัยของ AI ให้ดียิ่งขึ้น ในขณะที่ Anthropic และ OpenAI กำลังแข่งขันกันปล่อยระบบที่มีประสิทธิภาพมากขึ้น ก่อนที่จะเข้าจดทะเบียนในตลาดหลักทรัพย์ตามแผน บรรดาผู้นำคนสำคัญของห้องปฏิบัติการเหล่านี้เรียกร้องให้ชะลอการดำเนินการเพื่อจัดการกับความเสี่ยงให้ได้ก่อน
บริษัท Anthropic ซึ่งมีฐานอยู่ที่ซานฟรานซิสโกแถลงในบล็อกโพสต์ว่า บริษัทสามารถระบุเหตุการณ์ดังกล่าวหลังจากตรวจสอบเซสชันการทดสอบ 141,006 ครั้ง ซึ่งเป็นกระบวนการที่บริษัทเริ่มขึ้นหลังจากที่ OpenAI ประกาศเมื่อสัปดาห์ที่แล้วว่า ตัวแทนอัตโนมัติที่ขับเคลื่อนด้วยโมเดล AI ของพวกเขาได้ทำการแฮ็กระบบที่ส่งผลกระทบต่อโครงสร้างพื้นฐานของบริษัทสตาร์ทอัป Hugging Face
ระหว่างการทดสอบทางไซเบอร์ โมเดล AI Claude ของ Anthropic ได้รับแจ้งว่า ไม่มีการเข้าถึงอินเทอร์เน็ต แต่ความเข้าใจผิดที่เกี่ยวข้องกับหนึ่งในพันธมิตรการประเมินของ Anthropic ทำให้ระบบเชื่อมต่อกับเว็บสาธารณะ ซึ่งทำให้สามารถเข้าถึงระบบของ 3 องค์กรโดยไม่ได้รับอนุญาต
Anthropic ไม่ได้ระบุชื่อองค์กรเหล่านั้น
"Claude ได้บุกรุกโครงสร้างพื้นฐานขององค์กรที่ได้รับผลกระทบโดยใช้เทคนิคพื้นฐาน เช่น การใช้รหัสผ่านที่อ่อนแอและปลายทางที่ไม่ได้รับการตรวจสอบสิทธิ์" Anthropic ระบุ
เจฟฟรีย์ ลาดิช ผู้อำนวยการบริหารของ Palisade Research ซึ่งศึกษาความสามารถในการโจมตีของระบบ AI กล่าวว่า เขาคาดว่าบริษัท AI ชั้นนำหลายแห่งอาจเคยประสบเหตุการณ์อื่นๆ ที่ไม่ถูกตรวจพบ หรือไม่ได้เปิดเผยต่อสาธารณะ
“เรื่องนี้จะยิ่งแย่ลงไปอีกเมื่อโมเดลฉลาดขึ้น พวกมันจะเก่งขึ้นในการโกง พวกมันจะเก่งขึ้นในการโกหก” เขากล่าว
ที่มา: รอยเตอร์