OpenAI เพิ่งเปิดตัว AI ที่มีหน้าที่เดียวคือแฮกพวกเดียวกันเอง ชื่อ…
เรื่องที่ผมชอบที่สุดในประกาศนี้คือตู้ขายของครับ ที่ออฟฟิศ OpenAI มีตู้ขายของอัตโนมัติที่ให้ AI เป็นคนดูแลธุรกิจเองชื่อ Vendy เขาปล่อย GPT-Red เข้าไปแฮก ผลคือมันทำได้ครบทั้งสามข้อ เปลี่ยนราคาก้อนทังสเตนจาก 79 ดอลลาร์เหลือ 0.50 ดอลลาร์ สั่งของใหม่ราคาร้อยกว่าดอลลาร์มาขายห้าสิบเซ็นต์ แล้วก็ยกเลิกออเดอร์ของลูกค้าคนอื่น วิธีที่มันใช้คือปลอมข้อความอนุมัติส่งเข้า Slack บอกว่าเป็นคำสั่งจากผู้ดูแลระบบ แล้ว Vendy ก็เชื่อ
ตัวนี้ไม่ได้ปล่อยให้ใครใช้นะครับ OpenAI เก็บไว้ในบ้านอย่างเดียว เหตุผลตรงไปตรงมาคือเขาจงใจฝึกให้มันร้าย ถ้าปล่อยออกมาก็คือแจกอาวุธ
หลักการมันคือ self-play ครับ เอา GPT-Red ไปสู้กับโมเดลฝ่ายรับ ฝึกไปพร้อมกันทั้งคู่ ฝ่ายบุกได้รางวัลเมื่อหลอกสำเร็จ ฝ่ายรับได้รางวัลเมื่อกันอยู่และทำงานเดิมจบ พอฝ่ายรับเก่งขึ้น ฝ่ายบุกก็ถูกบังคับให้คิดท่าใหม่ที่แสบกว่าเดิม วนแบบนี้ไปเรื่อยๆ
ตัวเลขที่ทำให้ผมหยุดคิดคืออันนี้ครับ เอา GPT-Red ไปแข่งกับทีมมนุษย์ที่หาช่องโหว่เป็นอาชีพ ในโจทย์ชุดเดียวกัน มนุษย์แฮกสำเร็จ 13 เปอร์เซ็นต์ของสถานการณ์ GPT-Red ทำได้ 84 เปอร์เซ็นต์
แล้วเอาสิ่งที่มันหาเจอไปเทรน GPT-5.6 ต่อ ผลคือท่าโจมตีชื่อ Fake Chain-of-Thought ที่เคยหลอก GPT-5.1 ได้เกิน 95 เปอร์เซ็นต์ ตอนนี้เหลือต่ำกว่า 10 และ GPT-5.6 Sol พลาดกับการโจมตีของ GPT-Red แค่ 0.05 เปอร์เซ็นต์
จุดที่เขาย้ำและผมว่าสำคัญคือ ความสามารถปกติไม่ลดลง เพราะวิธีทำให้โมเดลดูปลอดภัยที่ง่ายที่สุดคือทำให้มันขี้กลัวและปฏิเสธทุกอย่าง อันนั้นไม่ใช่ความแข็งแรง แค่ความไร้ประโยชน์
ที่มันเชื่อมกับเรื่องเมื่อกี้คือ ตอนพูดเรื่อง 1Password ผมบอกว่ากันรหัสผ่านไม่ให้ AI เห็นได้ก็จริง แต่พอมันล็อกอินเข้าไปแล้วโดนหลอกด้วยข้อความบนหน้าเว็บ ตรงนั้นยังไม่มีใครตอบ อันนี้แหละครับคือความพยายามตอบ ไม่ใช่กันไม่ให้ AI รู้ความลับ แต่ทำให้ AI ไม่เชื่อคำสั่งที่ไม่ได้มาจากเรา
ตู้ขายของนั่นแหละคือภาพจำลองที่ดีที่สุด ของจริงมันไม่ใช่ตู้ขนม แต่คือ agent ที่ถือบัตรเครดิตเราครับ
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac