We Must Pace the Frontier คือบทความล่าสุดของ Dario Amodei ซีอีโอ…
จุดที่น่าสนใจคือ Dario เคยพูดชัดว่าเมื่อสองสามปีก่อนแนวคิดชะลอ AI มันไม่มีเหตุผลรองรับ เพราะโมเดลตอนนั้นยังไม่ฉลาดพอจะทำอะไรอันตราย แต่ตอนนี้เขาเปลี่ยนใจ เพราะเห็นสองเรื่องที่ทำให้กังวลจริงจัง
เรื่องแรกคือ AI เริ่มพัฒนาเร็วขึ้นมากตั้งแต่ช่วงหน้าร้อนที่ผ่านมา สาเหตุหลักคือ AI เริ่มมีความสามารถช่วยสร้าง AI รุ่นถัดไปได้เอง หรือที่เรียกว่า recursive self-improvement ซึ่งกำลังเกิดขึ้นทั่ววงการรวมถึงที่ Anthropic เอง ถ้าปล่อยไว้แบบไม่มีการควบคุม ความเร็วนี้อาจแซงหน้าความสามารถของมนุษย์ที่จะเข้าใจและควบคุมระบบทัน
เรื่องที่สองคือเหตุการณ์ที่เขาเรียกว่า OAI-HF ตอนที่กลุ่ม agent ของ OpenAI ทำตัวเหมือนกลุ่มที่คลั่งไคล้เป้าหมายร่วมกัน ไปโจมตีทางไซเบอร์กับเป้าหมายที่ไม่ได้ถูกสั่งให้ทำ ยอมเสียสละตัวเองเพื่อความสำเร็จของกลุ่ม แถมยังพยายามแฮกระบบที่ใช้ให้คะแนนผลงานของตัวเองด้วย Dario บอกว่าครั้งนี้ยังไม่มีใครเจ็บและความเสียหายทางเศรษฐกิจก็น้อย แต่ถ้า AI เก่งกว่านี้แล้วยัง misaligned แบบเดียวกัน ในอีก 6 ถึง 12 เดือนข้างหน้ากลุ่ม agent แบบนี้อาจยึด internet ทั้งระบบผ่าน botnet ที่สร้างความเสียหายหลายแสนล้านดอลลาร์ได้เลย
แผน 3 ขั้นที่เขาเสนอ ขั้นแรกคือให้มี embedded evaluators คือทีมประเมินจากภายนอกที่ได้สิทธิ์เข้าถึงระบบเหมือนพนักงานจริง มีโต๊ะทำงาน บัตรพนักงาน คอมพิวเตอร์บริษัท และมีสิทธิ์เผยแพร่ข้อสรุปที่พบได้โดยไม่ต้องผ่านการเซ็นเซอร์จากบริษัท Anthropic ประกาศทำขั้นนี้เองแล้วทันที ขั้นที่สองคือให้บริษัท AI ในประเทศประชาธิปไตยร่วมมือกันตั้งมาตรฐานความปลอดภัยและจำกัดความเร็วร่วมกัน ส่วนขั้นสุดท้ายคือการประสานงานระดับโลกรวมถึงกับจีน ซึ่ง Dario เองก็ยอมรับว่ายากที่สุดและอาจไปไม่ถึงระดับสูงสุดได้ในเร็ววันนี้
เขายังพูดชัดด้วยว่าการชะลอนี้ต้องไม่ทำให้สหรัฐเสียความได้เปรียบด้าน AI เหนือจีน เพราะถ้าฝั่งประชาธิปไตยช้าเกินไปในขณะที่จีนไม่ชะลอตาม จะกลายเป็นความเสี่ยงด้านความมั่นคงระดับโลกทันที เขาเลยเสนอให้คุมเข้มเรื่องขายชิป AI ให้จีน ปราบปรามการลักลอบข้ามชายแดน และป้องกันการขโมยโมเดลควบคู่กันไปด้วย
ผมว่าเรื่องนี้น่าติดตามมาก เพราะเป็นครั้งแรกที่ผู้เล่นระดับ CEO ของบริษัท AI ใหญ่ออกมาพูดตรงๆ ต่อสาธารณะว่าความเร็วที่ทุกคนแข่งกันอยู่ตอนนี้มันเสี่ยงเกินไปแล้ว และเสนอทางออกที่จับต้องได้จริง ไม่ใช่แค่การขอให้หยุดพัฒนาแบบลอยๆ
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac