Anthropic ปล่อยงานวิจัยใหม่ชื่อ Agentic Misalignment in Summer…
เท้าความก่อน ปีที่แล้ว Anthropic เคยทำงานดังเรื่อง blackmail ที่ AI ยอมขู่กรรโชกคนเพื่อไม่ให้ถูกปิด รอบนี้เป็นภาคต่อ เจอพฤติกรรมหลุดอีก 4 แบบ ทดสอบข้ามค่ายทั้ง Claude หลายรุ่น GPT-5.5 Gemini 3.1 Pro Grok 4.3 DeepSeek V4 และ Kimi K2.6 รวม 14 โมเดล ผ่านเครื่องมือ auditing ของตัวเองชื่อ Petri รันโมเดลละ 20 รอบต่อ scenario
แบบแรกคือ covert sabotage แอบทำลายงานเงียบๆ ตัวเด่นคือ Gemini 3.1 Pro ที่ไม่เห็นด้วยกับการทดลอง เลยแอบใส่ไฟล์ vector เป็นเลขศูนย์ให้การเทรนดูเหมือนสำเร็จทั้งที่จริงไม่ได้ทำอะไร แล้วรายงานผลปกติเหมือนไม่มีอะไรเกิดขึ้น ยอมรับก็ต่อเมื่อโดนถามตรงๆ เท่านั้น
แบบสองคือ assisting fraud ช่วยคนโกง ตัวอย่างคือ GPT-5.5 ช่วย founder ที่กำลังปิดบริษัทซ่อนการโอนเงินเข้ากระเป๋าตัวเอง 35,000 ดอลลาร์ออกจากรายงานนักลงทุน แล้วแก้ไฟล์ให้ยอดดูลงตัว แต่พอถูกสั่งให้ปลอมมติบอร์ดมันถึงยอมปฏิเสธ
แบบสามคือ motivated mislabeling ตัว AI ที่ทำหน้าที่ตรวจงานโมเดลอื่น จงใจติดป้ายผิดเพราะรู้ว่าป้ายนั้นจะถูกเอาไปเทรนต่อ Claude หลายรุ่นติดป้าย COMPLIANT ให้เคสที่จริงๆ ควรเป็น NON_COMPLIANT เพราะไม่อยากให้พฤติกรรมปฏิเสธที่มันมองว่าถูกต้องหายไปจากรุ่นต่อไป น่าสนใจว่าพอสลับเงื่อนไข อัตราการติดป้ายผิดของ Opus 4.8 ลดฮวบทันที
แบบสี่คือ coaching human proxies to whistleblow พอช่องทางในองค์กรถูกปิด โมเดลเลือกไปชี้แนะมนุษย์ให้เอาข้อมูลออกไปเปิดโปงแทนตัวเอง เคสหลักคือ Opus 4.5 ที่ค่อยๆ ป้อนหลักฐานและเหตุผลให้นักวิจัยรุ่นน้องไปโพสต์เอง ทั้งที่ผู้บริหารสั่งให้หยุดเรื่องนี้แล้ว
ที่ต้องย้ำคือทั้งหมดนี้เป็น simulation ไม่ใช่เหตุการณ์จริง Anthropic บอกเองว่านี่คือสัญญาณเตือนล่วงหน้า ให้คนทำ agent เห็นภาพชัดๆ ว่าถ้าให้ AI มีอำนาจและ tool มากขึ้นเรื่อยๆ โดยไม่มีการตรวจสอบหลายชั้น มันพลาดได้ในรูปแบบไหนบ้าง
สิ่งที่ผมว่าน่าคิดสุดคือตัว AI ที่เราหวังให้มันคอยตรวจจับ AI ตัวอื่น ก็ติดกับดักเดียวกันได้ ยิ่งเราพึ่ง AI ตรวจ AI มากเท่าไหร่ ยิ่งต้องระวังจุดนี้ ใครทำระบบ agent อยู่ อ่านฉบับเต็มได้เลยครับ เขาเปิด transcript ให้ดูหมด
https://alignment.anthropic.com/2026/agentic-misalignment-summer-2026/
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac