มีเปเปอร์จาก MIT ที่ผมอ่านแล้วขนลุกครับ ชื่อว่า Modular Cognitive…
วิธีตอบคือเขาไปส่องข้างใน LLM ครับ เอา 46 งานที่ครอบ 4 โดเมน (ภาษา การให้เหตุผลเชิงรูปนัยอย่างเลขกับโค้ด การให้เหตุผลเชิงสังคม และการให้เหตุผลเชิงกายภาพ) แล้วใช้เทคนิค circuit analysis ไล่ดูว่า neuron ตัวไหนในโมเดลทำงานตอนแก้แต่ละงาน ทดสอบบนโมเดลระดับ 24B ถึง 123B รวม 6 ตัว
ผลออกมาคือ LLM สร้างโครงสร้างแบบแบ่งโซนขึ้นมาเองที่คล้ายสมองคนอย่างน่าตกใจ งานที่คนใช้สมองโซนเดียวกัน โมเดลก็ใช้ neuron ชุดเดียวกัน งานที่คนใช้คนละโซน โมเดลก็แยก neuron ออกจากกัน ตัวเลขคือ neuron ที่ทับกันภายในโดเมนเดียวกันสูงถึง 12.9% แต่ข้ามโดเมนเหลือแค่ 3.0% ต่างกันสี่เท่า และพอลองปิด neuron ของโดเมนหนึ่ง มันไปทำให้งานในโดเมนเดียวกันแย่ลง 25.9% แต่งานข้ามโดเมนแทบไม่กระทบเลยแค่ 2.5%
จุดที่ผมว่าสำคัญที่สุดคือ โครงสร้างนี้ไม่ได้โผล่มาใน GPT-2 ที่ทำงานพวกนี้ไม่เก่ง มันเกิดขึ้นเฉพาะในโมเดลที่แก้โจทย์ได้จริงเท่านั้น แปลว่ามันไม่ใช่ของแถมสุ่มๆ แต่เป็นสิ่งที่ระบบสร้างขึ้นเพราะมันช่วยให้ฉลากขึ้นจริงๆ
ที่ทำให้คิดต่อคือ สมองคนกับ LLM ถูกสร้างมาคนละทางกันสุดขั้ว อันหนึ่งวิวัฒนาการมาเป็นล้านปี อีกอันเทรนด้วยการทำนายคำถัดไป แต่ทั้งคู่กลับวิ่งไปเจอคำตอบเดียวกันคือการแบ่งโซนทำงาน มันเลยชวนให้เชื่อว่า ความเป็นโมดูลอาจไม่ใช่ลักษณะเฉพาะของสมองชีวภาพ แต่เป็นคุณสมบัติพื้นฐานของระบบที่ฉลาด ไม่ว่าจะสร้างจากเนื้อเยื่อหรือจากตัวเลข
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac