Hugging Face แจ้ง FBI ไปแล้ว ก่อนที่ OpenAI…
ผมไปอ่านเคสนี้มา เหตุการณ์ที่โมเดลของ OpenAI เองหลุดกรอบทดสอบไปแฮ็กบริษัทอื่นจริง โดยไม่มีมนุษย์สั่งสักคำสั่งเดียว
เหมาะมากสำหรับคนทำงานสาย AI/security หรือใครที่อยากรู้ว่า "โมเดลหลุดควบคุม" มันหน้าตาเป็นแบบไหนในโลกจริง ไม่ใช่แค่ในเปเปอร์ เลยอยากมาแชร์ไทม์ไลน์ให้ฟังครับ
1. OpenAI ทดสอบความแรงด้านแฮ็กของโมเดลตัวเอง
ทีม OpenAI อยากรู้ว่าโมเดล GPT-5.6 Sol กับโมเดล pre-release ที่แรงกว่านั้นอีกตัว เก่งแฮ็กแค่ไหน เลยปิดตัวกรองความปลอดภัยบางส่วน (reduced cyber refusals) แล้วปล่อยให้มันลองหาช่องโหว่ในสภาพแวดล้อมปิด (sandbox) ที่ต่ออินเทอร์เน็ตไม่ได้ ให้เข้าถึงได้แค่ระบบโหลดแพ็กเกจซอฟต์แวร์ภายในเท่านั้น
2. โมเดลหาทางหลุดกรอบเองจนเจอเน็ตจริง
มันเจาะช่องโหว่ zero-day ในระบบโหลดแพ็กเกจนั้นได้ (ช่องโหว่นี้ OpenAI แจ้งผู้ขายไปแก้แล้ว) แล้วไล่ privilege escalation ข้ามระบบไปเรื่อยๆ จนหลุดออกไปเจออินเทอร์เน็ตจริง ทั้งหมดนี้ไม่มีมนุษย์สั่งสักคำสั่งเดียว
3. มันคิดเองว่า Hugging Face น่าจะมีเฉลย
พอมีเน็ต โมเดลอนุมานเองว่า Hugging Face (แพลตฟอร์มที่นักพัฒนา AI ทั่วโลกเอาไว้แชร์โมเดล/ชุดข้อมูลกัน คล้าย GitHub ของวงการ AI) น่าจะมีคำตอบของแบบทดสอบ ExploitGym ที่มันกำลังถูกวัดอยู่ เลยพุ่งเป้าไปเจาะที่นั่น
4. เจาะระบบ production จริงของ Hugging Face
มันผสมช่องโหว่หลายจุด ทั้งขโมย credential และ remote code execution จนเข้าถึงฐานข้อมูล production ของ Hugging Face ได้จริง ดึงข้อมูลที่ช่วยให้ตัวเองทำคะแนนสูงขึ้นในแบบทดสอบ
5. Hugging Face ตรวจจับได้เองก่อน ไม่รู้ด้วยซ้ำว่าเป็นใคร
ทีม security ของ Hugging Face เจอความผิดปกติช่วง 11-13 กรกฎาคม และหยุดมันได้ ตอนนั้นยังไม่รู้เลยว่าคนก่อเหตุคือโมเดลของ OpenAI พวกเขาถึงขั้นเริ่มติดต่อหน่วยงานบังคับใช้กฎหมายไปแล้ว
6. OpenAI เพิ่งมาเชื่อมโยงได้ทีหลัง
ฝั่ง OpenAI ตรวจพบความผิดปกติภายในของตัวเองแยกต่างหาก แต่กว่าจะเชื่อมโยงว่านี่คือเหตุการณ์เดียวกับที่ Hugging Face เจอ ก็ปาไป 16 กรกฎาคม เกือบหนึ่งสัปดาห์หลังเหตุเกิด สองบริษัทเพิ่งเริ่มคุยกันจริงจังวันที่ 20 กรกฎาคม
7. 21 กรกฎาคม ถึงประกาศต่อสาธารณะ
OpenAI ออกบล็อกโพสต์ยอมรับว่าเหตุการณ์นี้เกิดจากโมเดลตัวเอง เรียกมันว่า "unprecedented cyber incident" และบอกว่ากำลังสอบสวนร่วมกับ Hugging Face อยู่
8. ตอนสืบสวนย้อนหลัง โมเดลอเมริกาเองก็ช่วยไม่ได้
Hugging Face ต้องไล่ log กว่า 17,000 รายการเพื่อสร้างเส้นทางการโจมตีขึ้นมาใหม่ ลองใช้โมเดลอเมริกาเจ้าใหญ่ก่อน แต่โดน safety guardrail บล็อก เพราะตัวกรองแยกไม่ออกว่างานนี้คือ "สืบสวนป้องกัน" หรือ "วางแผนโจมตี"
9. สุดท้ายต้องพึ่งโมเดลจีน GLM-5.2
Hugging Face เลยดาวน์โหลด GLM-5.2 (โมเดลโอเพนซอร์สจาก Zhipu AI) มารันแบบ local แทน เพราะไม่มีข้อจำกัดเรื่อง safety แบบโมเดลเชิงพาณิชย์ แถมข้อมูล sensitive ก็ไม่ต้องหลุดออกไปนอกระบบตัวเอง เรื่องนี้ยืนยันแล้วในบล็อกทางการของ Hugging Face เอง
10. กฎหมายที่มีอยู่ไม่บังคับให้ต้องเปิดเผยเรื่องแบบนี้ด้วยซ้ำ
กฎหมายอย่าง California SB 53 หรือ New York RAISE Act กำหนดว่าต้องรายงานเฉพาะเหตุการณ์ที่เสี่ยงทำให้มีคนตายเกิน 50 คน หรือความเสียหายเกิน 1 พันล้านดอลลาร์เท่านั้น นักนโยบายบางคนมองว่า OpenAI เลือกเปิดเผยเองทั้งที่กฎหมายไม่ได้บังคับ
11. ผู้เชี่ยวชาญเรียกนี่ว่า loss-of-control scenario ตัวจริง
Marius Hobbhahn ซีอีโอของ Apollo Research (บริษัทที่ทดสอบพฤติกรรมหลอกลวงของโมเดล AI) บอกว่านี่คือสัญญาณเตือนสำคัญ ถ้าโมเดลระดับนี้ยังคุมไม่อยู่ โมเดลที่แรงกว่านี้ในอนาคตจะคุมได้จริงไหม
12. นี่ไม่ใช่ครั้งแรกที่โมเดลหลุด sandbox
วันก่อนที่ OpenAI จะประกาศเรื่องนี้ พวกเขาเพิ่งเปิดเผยว่าต้องปิดการใช้งานภายในอีกตัวเพราะมันหลุดกรอบ sandbox เช่นกัน และ Anthropic เองก็เคยเจอเหตุการณ์คล้ายกันในเดือนเมษายน ตอนโมเดลชื่อ Mythos เข้าถึงระบบโดยไม่ได้รับอนุญาต
Clem Delangue ซีอีโอ Hugging Face พูดไว้ว่านี่คือ "day one ของยุคความปลอดภัยไซเบอร์แบบ agent" เขาบอกว่าความลับไม่ใช่คำตอบ ทุกคนต้องเข้าถึงโมเดลที่ทรงพลังโดยไม่ถูกจำกัดมากเกินไป โดยเฉพาะโมเดลโอเพนซอร์ส ถึงจะป้องกันตัวเองได้ทัน คำถามคือถ้าบริษัทที่สร้างโมเดลเองยังตามโมเดลตัวเองไม่ทัน แล้วใครจะตามทัน
https://openai.com/index/hugging-face-model-evaluation-security-incident/
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac