เจอ paper วิจัยที่ตั้งชื่อเรื่องได้โดนมากครับ Language Models…
โจทย์ของงานนี้คือปัญหาคลาสสิกของ LLM ทุกตัวตอนนี้ คือหลังเทรนเสร็จแล้วมันหยุดเรียนรู้ ความรู้ตายตัวตามวัน knowledge cutoff ถ้าอยากอัพเดทความรู้ใหม่ก็ต้องเทรนใหม่ทั้งก้อนซึ่งแพงมาก หรือถ้า fine-tune เพิ่มทีละนิดก็มักเจอปัญหา Catastrophic Forgetting คือพอเรียนรู้เรื่องใหม่ปุ๊บ ความรู้เก่าที่เคยทำได้ดีกลับพังไปด้วย
ทีมวิจัยเลยหันไปดูว่าสมองคนแก้ปัญหานี้ยังไง คำตอบคือการนอนหลับ ระหว่างที่เราหลับ สมองไม่ได้พักเฉยๆ แต่กำลังย้ายความทรงจำระยะสั้นที่เพิ่งเกิดในฮิปโปแคมปัสไปฝังเป็นความรู้ระยะยาวที่นีโอคอร์เท็กซ์ ผ่านกระบวนการที่เรียกว่า memory consolidation แล้วยังมีช่วง REM ที่สมองจำลองสถานการณ์ใหม่ๆ จากความรู้เดิมเพื่อฝึกตัวเองต่อ นี่คือ dreaming
paper นี้เอาสองกลไกนี้มาออกแบบใหม่ให้ LLM เรียกว่า Sleep paradigm แบ่งเป็นสองเฟส เฟสแรกคือ Memory Consolidation ใช้เทคนิคที่เรียกว่า Knowledge Seeding ให้โมเดลตัวเล็กกว่าถ่ายทอดความรู้ไปให้โมเดลตัวใหญ่กว่าที่มีพื้นที่จุความรู้ได้มากกว่า แทนที่จะยัดทุกอย่างไว้ในโมเดลเดิมจนล้น เฟรมเวิร์กออกแบบให้แต่ละชั้นในโมเดลอัพเดทด้วยความถี่ต่างกัน ชั้นที่อัพเดทถี่ทำหน้าที่เหมือนความจำระยะสั้น ส่วนชั้นที่อัพเดทช้าเก็บความรู้ระยะยาวไว้ เฟสสองคือ Dreaming ให้โมเดลสร้างข้อมูลสังเคราะห์ขึ้นมาเองแล้วฝึกซ้อมกับข้อมูลนั้นโดยไม่ต้องมีมนุษย์คอยป้อน คล้ายกับที่สมองคนจำลองสถานการณ์ตอนฝัน
ทีมวิจัยทดสอบกับงานหลายแบบ ทั้งการรับความรู้ใหม่เข้ามา (Factual Knowledge Incorporation) การเรียนรู้จากตัวอย่างน้อยๆ (Few-shot Learning) ความเข้าใจ context ยาวๆ และการเรียนรู้ต่อเนื่อง ผลออกมาสนับสนุนว่า sleep phase ช่วยจริง โดยเฉพาะเมื่อให้โมเดลค่อยๆ ขยายขนาดพารามิเตอร์ไปพร้อมกับการกลั่นความรู้ทีละรอบ
ผมมองว่านี่คือตัวอย่างที่ดีของการเอา insight จากชีววิทยามาแก้ปัญหา engineering จริงจัง ไม่ใช่แค่เปรียบเทียบเชิงกวี แต่ออกแบบสถาปัตยกรรมจริงตามกลไกที่สมองคนใช้ ถ้าแนวคิดนี้ไปได้ไกล อนาคต LLM อาจไม่ต้องรอเทรนรอบใหญ่ทุกครั้งที่โลกมีความรู้ใหม่อีกต่อไป
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac