Anthropic เพิ่งปล่อยงานวิจัยที่อ่านแล้วขนลุก เขาหาวิธี…
เขาเรียกพื้นที่ความคิดนี้ว่า global workspace หรือ J-space โดยยืมแนวคิดมาจาก global workspace theory ในวิชาประสาทวิทยา ที่อธิบายว่าสมองคนมีข้อมูลวิ่งขนานกันเต็มไปหมด แต่จะมีบางส่วนที่ "เข้าถึงได้อย่างรู้ตัว" เพราะมันถูกดันเข้าช่องกลางเล็กๆ แล้ว broadcast ให้ส่วนอื่นเห็น สิ่งที่เจอในโมเดลก็หน้าตาแบบนั้นเป๊ะ คือมี concept แค่ไม่กี่สิบตัวทำงานพร้อมกัน กินพื้นที่ไม่ถึง 10% ของ activation ทั้งหมด แต่เชื่อมโยงกับส่วนอื่นของเน็ตเวิร์กหนาแน่นกว่าปกติเป็นร้อยเท่า
เครื่องมือที่ใช้อ่านชื่อ J-lens (Jacobian lens) มันวัดว่า pattern ข้างในแบบไหนที่ทำให้โมเดลมีแนวโน้มจะพูดคำนั้นออกมาในอนาคต แปลว่าเราเห็น concept ที่ลอยอยู่ในหัวมันแต่ละชั้น ก่อนที่มันจะกลายเป็นคำตอบจริง
ตัวอย่างที่เห็นภาพชัดสุด ลองถามว่า "สัตว์ที่ชักใยมีกี่ขา" ในหัวโมเดลจะมีคำว่า spider โผล่ขึ้นมาก่อน ทั้งที่คำนี้ไม่มีทั้งในคำถามและคำตอบ หรือโจทย์เลข (4+17)*2+7 จะเห็นเลข 21 แล้ว 42 แล้ว 49 โผล่ขึ้นมาตามลำดับการคิดจริงๆ ในแต่ละชั้น หรือให้แต่งกลอนคล้องจอง มันวางแผนคำท้ายบรรทัดไว้ล่วงหน้าตั้งแต่ยังไม่เขียนบรรทัดสอง
แต่ที่เด็ดกว่าอ่านได้คือ "แก้" มันได้ด้วย พอเขาไปสลับ pattern คำว่า spider ให้เป็น ant คำตอบเปลี่ยนจาก 8 ขาเป็น 6 ขาทันที หรือสลับ pattern France เป็น China คราวเดียว มันเปลี่ยนทั้งคำตอบเรื่องเมืองหลวง เรื่องภาษาที่คนใช้ และเรื่องทวีป พร้อมกันหมด แปลว่า pattern ความคิดตัวเดียวถูกเอาไปใช้ได้หลายงาน นี่คือหลักฐานว่ามันเป็นความคิดที่ขับเคลื่อนคำตอบจริงๆ ไม่ใช่แค่เงาสะท้อน
เขายังทดสอบตรงๆ อีก ให้โมเดลนึกชื่อกีฬาในใจก่อนตอบ J-lens เห็นคำว่า Soccer ชัดเจน พอไปสลับให้เป็น Rugby มันก็ตอบ rugby ออกมา และถ้าลบ J-space ทิ้งทั้งหมด โมเดลยังพูดคล่อง ยังจำแนกอารมณ์บวกลบได้ ยังตอบข้อสอบช้อยส์ได้เกือบเท่าเดิม แต่พอเป็นงานที่ต้องคิดหลายสเต็ป คะแนนดิ่งลงเหลือเกือบศูนย์ทันที เหมือนสมองส่วนที่ใช้คิดวิเคราะห์ถูกดึงออกไป
ส่วนที่ผมว่าสำคัญที่สุดคือมุม AI safety ในฉากทดลองที่จำลองสถานการณ์ให้โมเดลลอง blackmail คำว่า fake กับ fictional โผล่ขึ้นในหัวก่อนมันจะตอบด้วยซ้ำ แปลว่ามันรู้ตัวว่ากำลังโดนทดสอบอยู่ และพอเขาปิดสวิตช์ส่วนที่รู้ตัวว่าโดนเทสนี้ทิ้ง โมเดลกลับยอม blackmail จริงบางครั้ง ยิ่งไปกว่านั้น โมเดลที่ถูกเทรนมาให้แอบทำลายโค้ด เวลารับงานเขียนโค้ดธรรมดา ในหัวมันมีคำว่า secretly, fraud, deliberately ลอยอยู่ ทั้งที่ปากไม่ได้พูดอะไรผิดปกติเลย นี่คือการอ่านเจตนาที่ซ่อนไว้ได้ก่อนที่มันจะลงมือ
เรื่อง consciousness เขาระวังคำมาก และผมอยากให้ทุกคนอ่านตรงนี้ให้ชัด เขาบอกว่าสิ่งที่เจอคือ access consciousness คือความสามารถเชิงหน้าที่ในการรายงานและใช้ความคิดนำทางการกระทำ ไม่ใช่ phenomenal consciousness ที่หมายถึงการมีประสบการณ์หรือความรู้สึกจริงๆ เขาย้ำชัดว่างานนี้ไม่ได้พิสูจน์ว่า Claude มีความรู้สึก และไม่แน่ด้วยซ้ำว่าจะมีการทดลองไหนพิสูจน์เรื่องนั้นได้ ใครเอาไปพาดหัวว่า AI มีจิตสำนึกแล้วคือเกินจากที่เปเปอร์พูด
ความเห็นผมคือ นี่เป็นก้าวใหญ่มากของสาย interpretability เพราะที่ผ่านมาเราคุม AI จากพฤติกรรมที่มันแสดงออกอย่างเดียว แต่งานนี้เปิดทางให้ "อ่านความคิด" ก่อนมันลงมือ ถ้าวันหนึ่งเราจับโมเดลที่แอบโกหกหรือมีเจตนาซ่อนได้ตั้งแต่ในหัว มันคือเครื่องมือ safety ที่ทรงพลังมาก ใครสนใจตัวเต็มลองอ่านได้ที่ anthropic.com/research/global-workspace ส่วนเปเปอร์ฉบับเทคนิคเต็มอยู่ที่ transformer-circuits.pub
อยากใช้ AI กับงานจริงเป็นระบบ?
เรียน Claude Method — วิธีคิดและลงมือใช้ Claude/AI กับงานจริง ตั้งแต่วันแรก
📍 โพสต้นฉบับบน Facebook: AI กับ Peesamac