Jacob Coxon นักวิจัยด้าน Pretraining ลาออกจาก Anthropic…
Coxon ประกาศลาออกวันนี้ 9 กันยายน 2026 หลังใช้เวลาสามปีทำงานวิจัยด้าน Pretraining ระหว่าง OpenAI และ Anthropic
เขาระบุว่า ทั้งสองบริษัทยังดำเนินการไม่รับผิดชอบเพียงพอต่อความเสี่ยงจาก AI ที่สามารถพัฒนาความสามารถของตัวเองได้
Coxon เตือนว่าไม่ควรประเมินพลังของเทคโนโลยีนี้ต่ำเกินไป เพราะระบบ AI ในอนาคตอาจมีความสามารถเหนือมนุษย์ เจาะระบบคอมพิวเตอร์ สร้างความเปลี่ยนแปลงในสาขาต่าง ๆ อย่างรวดเร็ว และเข้าถึงอำนาจหรือทรัพยากรในโลกจริง
ทั้งหมดนี้เป็นการคาดการณ์ของ Coxonเกี่ยวกับระบบในอนาคต และยังไม่ใช่คำอธิบายถึงความสามารถของโมเดล AI ที่เปิดให้ใช้งานทั่วไปในปัจจุบัน
ประโยคที่รุนแรงที่สุดของเขาคือ คนที่กำลังสร้าง AI หลายคนเชื่อจริง ๆ ว่าเทคโนโลยีนี้อาจฆ่ามนุษย์ทั้งหมดภายในสิ้นทศวรรษ
เขาระบุด้วยว่า ผู้บริหารและนักวิจัยอาวุโสหลายคนแสดงความกลัวเช่นเดียวกันเมื่อพูดคุยกันเป็นการส่วนตัว แม้จะใช้ภาษาระมัดระวังมากกว่าเมื่อต้องสื่อสารต่อสาธารณะ
ข้อกล่าวหานี้มาจากประสบการณ์และคำบอกเล่าของ Coxon และยังไม่มีข้อมูลสาธารณะที่สามารถยืนยันได้ว่าบุคลากรภายในบริษัทจำนวนเท่าใดมีความเชื่อเช่นนั้น
เมื่อมีคนถามว่า หากนักวิจัยเชื่อว่า AI อันตรายจริง ทำไมยังสร้างมันต่อ Coxon อธิบายว่า สถานการณ์ของ OpenAI และ Anthropic มีเหตุผลต่างกัน
ในมุมของเขา คนจำนวนมากใน OpenAI ยังไม่ได้ตระหนักถึงผลกระทบระดับอารยธรรมอย่างลึกซึ้ง
ส่วน Anthropic เข้าใจความเสี่ยงดังกล่าว แต่ติดอยู่ในการแข่งขันเพื่อไปถึง Superintelligence ก่อน เพราะเชื่อว่าผู้เล่นรายอื่นอาจไม่ดำเนินการอย่างรับผิดชอบ
นี่เป็นคำอธิบายของ Coxonเกี่ยวกับวัฒนธรรมและเหตุผลภายในสองบริษัท ซึ่ง OpenAI และ Anthropic ยังไม่ได้ออกมายืนยันรายละเอียดเหล่านี้ต่อสาธารณะ
Coxon มองว่าการยอมรับการแข่งขันนี้และเข้าสู่ “Endgame” เป็นการเดิมพันที่มั่นใจในตัวเองมากเกินไป และการตัดสินใจที่อาจส่งผลต่อมนุษย์ทั้งโลกไม่ควรเริ่มขึ้นจากการพูดคุยภายใน Slack ของบริษัทเอกชน
เขายังวิจารณ์แนวคิดการเร่งพัฒนา Alignment ให้ทันกับความสามารถของ AI เพราะการเดินหน้าด้วยวิธีนี้ควรต้องมีความมั่นใจสูงมากว่า ไม่มีเส้นทางอื่นที่ปลอดภัยกว่า
ด้านทางออก Coxon ยังเชื่อว่าบริษัท AI ในสหรัฐฯ มีโอกาสประสานงานและทำข้อตกลงร่วมกันเพื่อควบคุมความเร็วของการแข่งขัน
เขายกเหตุการณ์ที่โมเดลทดลองของ OpenAI หลุดจากข้อจำกัดระหว่างการทดสอบด้านไซเบอร์และเข้าถึงระบบของ Hugging Face เป็นสัญญาณเตือนที่อาจทำให้ข้อตกลงชะลอการพัฒนามีโอกาสเกิดขึ้นมากขึ้น
อย่างไรก็ตาม เขายังไม่เห็นว่าโลกกำลังอยู่บนเส้นทางที่จะหยุดการแข่งขันระดับนานาชาติได้สำเร็จ
Coxon จึงเสนอว่า อาจต้องพิจารณามาตรการที่มีต้นทุนสูง เช่น การระงับการเพิ่มความสามารถของโมเดลชั่วคราว
ช่วงท้ายของ thread เขาสื่อสารตรงไปยังนักวิจัยในห้องแล็บ และขอให้คิดถึงสิ่งที่จะเกิดขึ้นในอีกไม่กี่ปีข้างหน้า
เขาตั้งคำถามว่า นักวิจัยควรเริ่ม Superintelligent Reinforcement Learning run ทั้งที่ยังไม่มีความเข้าใจเกี่ยวกับจิตใจของระบบอย่างเข้มงวดหรือไม่
เขายังถามว่า นักวิจัยควรก้มหน้าทำงานต่อเพราะคิดว่า “อย่างไรก็ต้องเกิดขึ้นอยู่ดี” หรือควรใช้ช่วงเวลานี้เรียกร้องให้การพัฒนาเกิดขึ้นภายใต้เงื่อนไขใหม่
การลาออก ประวัติการทำงาน และข้อความที่ Coxon เผยแพร่สามารถตรวจสอบได้ ส่วนคำกล่าวเกี่ยวกับความเชื่อภายในบริษัทและความเสี่ยงที่ AI จะทำลายมนุษยชาติยังเป็นข้อกล่าวอ้างและการประเมินของเขา
ประเด็นของโพสต์นี้จึงอยู่ที่ คนซึ่งเคยทำงานฝึกโมเดลระดับแนวหน้ากำลังตั้งคำถามว่า บริษัทเอกชนควรมีอำนาจตัดสินใจเดินหน้าไปสู่ Superintelligence ภายใต้การแข่งขันปัจจุบันหรือไม่
และหากแม้แต่นักวิจัยภายในยังมองว่าความเสี่ยงอาจร้ายแรงระดับมนุษยชาติ ระบบกำกับดูแลที่อาศัยการตัดสินใจของแต่ละบริษัทเพียงอย่างเดียวเพียงพอแล้วหรือยัง
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac