Anthropic เพิ่งประกาศเมื่อวานว่าปรับระบบกันภัยด้านชีววิทยาของ…
ปัญหาเดิมคือตอนเปิดตัว Fable 5 เขาบล็อกคำถามเกี่ยวกับชีววิทยาแทบทั้งหมดเลย พอเราถามอะไรที่มันแตะเรื่องนี้ ระบบจะสลับไปให้ Opus 5 ตอบแทน ซึ่งเป็นโมเดลที่ความสามารถด้านนี้ต่ำกว่า เขาเรียกอาการนี้ว่า fallback แล้วมันเกิดกับคำถามธรรมดามากอย่างขอให้ช่วยอ่านผลแล็บ ถามว่าอาการแบบนี้คืออะไร หรือแค่อยากเรียนชีวะ
เหตุผลที่เขายอมทำแบบนั้นตั้งแต่แรกคือ Fable 5 เก่งเกินไปในด้านนี้ เขาบอกตรงๆ ว่ามันทำงานชีววิทยาที่ซับซ้อนบางอย่างได้ดีกว่าผู้เชี่ยวชาญ ซึ่งด้านหนึ่งแปลว่ามันช่วยคนพัฒนายาใหม่ได้จริง แต่อีกด้านคือความสามารถชุดเดียวกันนั้นก็ช่วยคนที่คิดจะทำอาวุธชีวภาพได้เหมือนกัน
ที่ยากคืองานดีกับงานร้ายมันแยกกันไม่ออกง่ายๆ ตัวอย่างที่เขายกคือวัคซีนเชื้อเป็น ซึ่งนักวิทยาศาสตร์ต้องเพาะเชื้อตัวเดียวกับที่จะป้องกันขึ้นมาก่อน หรือยา captopril ที่ใช้ลดความดัน ก็มาจากการแยกสารพิษในพิษงูที่ทำให้ความดันตก คือขั้นตอนกลางมันหน้าตาเหมือนกันเป๊ะ ต่างกันแค่เจตนา
สิ่งที่เขาทำรอบนี้คือรื้อกฎที่ใช้สอนตัวคัดกรองใหม่ทั้งชุด ให้มันแยกออกละเอียดขึ้นว่าอะไรคือคำถามทั่วไปที่ควรตอบได้ แล้วเอาไปเทรนใหม่ ผลคือเส้นแบ่งขยับ พื้นที่ที่เขาเรียกว่า safety margin หรือส่วนที่บล็อกไว้ก่อนเผื่อเหนียว มันแคบลงเยอะ ดูจากภาพจะเห็นชัด
แต่สิ่งที่ยังไม่เปลี่ยนคืองานที่เข้าข่ายสองแง่สองง่ามจริงๆ อย่างไวรัสวิทยา พิษวิทยา และการออกแบบโมเลกุล ยังโดนส่งไป Opus 5 เหมือนเดิม เขาบอกเองว่าเพราะแบบนี้ Fable จึงยังใช้ทำวิจัยชีววิทยาระดับอาชีพหรือพัฒนายาไม่ได้ และกำลังหาทางเปิดให้นักวิจัยที่ตรวจสอบตัวตนแล้วเข้าถึงในอนาคต
ผมว่าสิ่งที่น่าสนใจไม่ใช่ตัวเลข 85 เปอร์เซ็นต์ แต่เป็นการที่เขายอมเล่าออกมาตรงๆ ว่าเลือกทำให้ผู้ใช้ปกติหงุดหงิดไปก่อน เพื่อจะได้ปล่อยโมเดลออกมาให้คนอื่นใช้ได้เร็วขึ้น แทนที่จะดองไว้อีกหลายสัปดาห์ ซึ่งเป็นการแลกที่มีต้นทุนจริงกับคนใช้งาน แล้วก็ยอมรับว่ายังไงก็จะมีคนที่ถามเรื่องไม่มีพิษภัยแล้วโดนบล็อกอยู่ดี
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac