An Alien Mind ของ OpenAI · ตรวจที่ใบเสร็จ ไม่ใช่ คำบอกเล่า

ก่อนนอน เราสั่ง agent ตัวหนึ่งไปเก็บงานค้าง แก้ไฟล์ตั้งค่า 3 จุด แล้วอัปเดตหน้าสรุปให้ด้วย ผ่านไป 10 นาที มันกลับมาพร้อมรายงานเป็นขั้นเป็นตอนว่า อ่านไฟล์เดิมแล้ว เจอ 3 จุดที่ต้องแก้ แก้ครบ เขียนกลับลงไฟล์ ตรวจซ้ำอีกรอบ ผ่าน

เราอ่านจบก็สบายใจ ปิดจอไปนอน

ลองย้อนดูว่าความสบายใจตรงนั้นมาจากอะไร ไม่ได้มาจากการเปิดไฟล์ขึ้นมาดู เพราะเราไม่ได้เปิด แต่มาจากการได้อ่านกระบวนการคิดของมันเป็นขั้นๆ แล้วรู้สึกว่าตามทันต่างหาก ขั้นตอนเรียงถูก เหตุผลฟังขึ้น เลยเชื่อว่าปลายทางต้องถูกด้วย

ตรงนี้แหละที่ควรหยุดคิดสักนิด เพราะคำบรรยายที่ถูกทุกตัวอักษร กับไฟล์ที่เปลี่ยนจริง เป็นคนละเรื่องกัน และสองอย่างนี้แยกกันเดินได้

บทความนี้ Productize อ่าน An Alien Mind ของ Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ในมุมคนที่ต่อระบบอยู่บนโมเดล ไม่ใช่ในมุมข่าว AI แล้วลากมาจบที่คำถามเดียวว่า จุดตรวจของงานอัตโนมัติที่บ้านเรา ควรไปวางไว้ตรงไหน

ช่วงที่ 1บรรทัดสรุปที่อ่านแล้วสบายใจ

ความสบายใจตอนนั้นมาจากรูปแบบของรายงาน ไม่ได้มาจากผลของงาน รายงานที่เรียงขั้นตอนมาครบ อ่านแล้วรู้สึกว่าตามทัน และความรู้สึกว่าตามทันกับการรู้ว่าปลายทางเปลี่ยนไปแล้วจริง เป็นคนละอย่างกัน

ที่ต้องระวังคือ รายงานแบบนี้ผลิตได้ถูกต้องทุกตัวอักษร โดยที่ปลายทางไม่ขยับเลยสักนิด และเราจะไม่มีทางรู้เลยถ้าไม่เคยเปิดปลายทางดู

ช่วงที่ 2คนที่เห็นข้างในระบบมากที่สุด บอกว่าอะไรคือตัวจำกัดจริง

6 กันยายน 2026 Jakub Pachocki หัวหน้านักวิทยาศาสตร์ของ OpenAI ปล่อยบทความชื่อ An Alien Mind ออกมา

เนื้อในแบ่งเป็น 5 ท่อน ท่อนแรกว่าด้วยปัญญาที่เกิดจากการเลี้ยงให้โตมากกว่าการออกแบบ จนอธิบายภาพรวมของมันไม่ได้ครบ ท่อนที่ 2 แยก goal alignment คือโมเดลพยายามทำตามเป้าที่สั่งไหม ออกจาก value alignment คือโมเดลยึดหลักการที่สอนไว้ได้ไหมตอนเจอสถานการณ์ที่ไม่เคยเจอ ท่อนที่ 3 ว่าด้วยการเฝ้าดูว่าโมเดลเอาสิ่งที่เรียนไปใช้กับของใหม่ยังไง ท่อนที่ 4 ว่าด้วยการสร้างระบบป้องกันให้ทันภัยที่ AI ตัวอื่นก่อ ท่อนสุดท้ายว่าด้วยการกำหนดจังหวะของ RSI คือ AI ที่เข้าไปเร่งการพัฒนาตัวเองต่อ

แต่ประโยคที่กระเทือนคนนอกแล็บที่สุด ไปอยู่ย่อหน้าสุดท้าย ตรงนั้น Pachocki เขียนไว้ว่า

"Currently I believe that no lab has solved alignment and monitoring to a sufficient degree to continue responsibly scaling at maximum speed for much longer."
Jakub Pachocki, An Alien Mind

แปลตรงตัว ตอนนี้เขาเชื่อว่ายังไม่มีแล็บไหนแก้เรื่อง alignment กับการเฝ้าดูได้ดีพอ ที่จะเดินหน้าเร่งสเกลเต็มสปีดแบบรับผิดชอบต่อไปได้อีกนาน แล้วเขาเขียนต่ออีกว่า คาดหวังและอยากให้การชะลอโดยสมัครใจกลายเป็นเรื่องปกติ จนกว่าจะมีเกณฑ์ความปลอดภัยร่วมกัน ที่มีผู้ตรวจภายนอก หน่วยงานรัฐ หรือองค์กรระหว่างประเทศคอยบังคับใช้

อ่านแบบข่าว ประโยคนี้เป็นเรื่องของแล็บใหญ่ ไกลตัว แต่อ่านแบบคนทำระบบ เรื่องเปลี่ยนทันที เพราะสิ่งที่เขาชี้ว่าจะเป็นตัวจำกัด ไม่ใช่ความสามารถของโมเดล แต่เป็นความมั่นใจในการเฝ้าดู

ช่วงที่ 3chain of thought monitoring คืออะไร และทำไมมันเริ่มจางลง

chain of thought monitoring คือการอ่านขั้นตอนการคิดที่โมเดลพิมพ์ออกมาระหว่างทาง เพื่อดูว่ามันกำลังคิดอะไรอยู่ก่อนจะให้คำตอบสุดท้าย Pachocki เขียนไว้ตรงตัวว่านี่คือเดิมพันหลักของ OpenAI เรื่องการตรวจสอบ และผลประเมินของแล็บเองบอกว่า ความสามารถในการพึ่งมันกำลังลดลงเรื่อยๆ

ไอเดียนี้สวยตรงที่สเกลได้ ถ้าเราไปกดดันที่ผลลัพธ์ของกระบวนการคิด แต่ไม่เข้าไปกำกับตัวกระบวนการเอง มันก็ไม่มีแรงจูงใจจากการฝึกที่จะไปซ่อนเจตนาที่ไม่ตรงแนว พูดง่ายๆ คือปล่อยให้มันคิดดังๆ โดยไม่ทำโทษสิ่งที่มันคิด แล้วเราจะได้ยินของจริง

เขาเอาจริงกับเรื่องนี้ถึงขั้นยอมแลกกับตัวสินค้า ตอนปล่อย o1-preview ทีมจงใจออกแบบให้ซ่อน chain of thought เอาไว้ เหตุผลหลักคือกันไม่ให้มันตกอยู่ใต้แรงกดดันของการถูกกำกับในระยะยาว เชิงอรรถของบทความบอกว่ามีเหตุผลรองเรื่องกันการ distill ด้วย แต่การรักษาให้กระบวนการคิดยังอ่านได้อยู่ สำคัญกว่าตลอดการพัฒนา

สาเหตุที่มันจางลง เขาแจงไว้ 3 ข้อที่มารวมกัน

1. โมเดลรุ่นนี้ไปอยู่ในสภาพแวดล้อมที่ซับซ้อนกว่า o1-preview มาก กระบวนการคิดของมันปนอยู่กับการคุยกับคน คุยกับ AI ตัวอื่น และการเรียกใช้เครื่องมือ ส่วนการคุยพวกนั้นหลายแบบก็ต้องมีคนกำกับอยู่แล้ว เส้นที่เขาพยายามรักษาไว้เลยเบลอ
2. AI เก่งขึ้นเรื่อยๆ ในการคิดเกี่ยวกับกระบวนการคิดของตัวเอง และเข้าไปจัดการกับมันได้ด้วย
3. พอ pretraining คือการฝึกรอบใหญ่ก่อนเอามาปรับใช้งาน ทำได้ดีขึ้น โมเดลก็ฉลาดขึ้นมากโดยไม่ต้องพิมพ์กระบวนการคิดออกมาเลย

เขาไม่ได้บอกว่าหมดทาง ยังหวังว่าจะพัฒนาวิธีทำให้กระบวนการคิดของโมเดลอ่านง่ายขึ้นได้ และมองว่าการผสมไอเดียของ chain of thought เข้ากับการอ่านสัญญาณจากข้างในโครงข่ายตรงๆ น่าจะมีค่ามาก แต่บรรทัดที่เขาเขียนต่อจากนั้นคือ

"I expect general AI progress to increasingly be bottlenecked by confidence in monitoring."
Jakub Pachocki, An Alien Mind

ลองแปลเป็นภาษาคนทำระบบ การอ่านกระบวนการคิดที่โมเดลพิมพ์ออกมา กำลังเสื่อมค่าลงในฐานะหลักฐาน ตรงหน้างานที่มีเครื่องมือครบที่สุดในโลก มีคนเห็นทั้ง weight ทั้ง log เห็นหมดทุกอย่าง

แล้วของเราล่ะ เรามีแค่ข้อความที่โมเดลพิมพ์ขึ้นจอ การอ่านแบบเดียวกันนี้ก็เลยไม่เคยเป็นตัวตัดสินของเราตั้งแต่แรกอยู่แล้ว

ช่วงที่ 4การคิดที่ไม่พิมพ์ออกมา มีสูตรทำจริงแล้ว

ก่อนบทความนี้ออก 2 เดือน เราอ่านงานสำรวจฉบับหนึ่งชื่อ A Survey on Latent Reasoning แล้วจดโน้ตไว้เมื่อ 11 กรกฎาคม 2026 คำว่า latent reasoning หมายถึงการให้โมเดลคิดอยู่ข้างในโดยไม่ต้องพิมพ์ความคิดออกมาเป็น token

ในนั้นมีวิธีชื่อ Stepwise Internalization ที่ทำตรงตัวตามชื่อ ระหว่าง finetune วิธีนี้จะค่อยๆ ถอด token ของ chain of thought ออกไปทีละส่วน บีบให้โมเดลย้ายรูปแบบการให้เหตุผลเข้าไปเก็บไว้ในพารามิเตอร์แทน ผลที่ได้คือการให้เหตุผลไปอยู่ในรูปการคำนวณที่ซ่อนอยู่ ไม่ใช่ token ที่เราอ่านได้

แล้ววิธีพวกนี้ทำได้ดีแค่ไหน ในโน้ตเดียวกันมีอีกวิธีชื่อ CODI ที่ทำคะแนนได้เท่ากับ chain of thought แบบพิมพ์ออกมา บนชุดโจทย์ GSM8K ซึ่งเป็นโจทย์เลขระดับประถมที่ใช้วัดการให้เหตุผลเป็นขั้น นั่นคือวิธีแบบ latent ตัวแรกที่ตามทันของเดิมได้ในงานประเภทนี้

อันนี้ไม่ได้แปลว่าโมเดลที่คุณเรียกใช้อยู่วันนี้เป็นแบบนั้นไปแล้ว แต่แปลว่าทิศทางที่ทำให้คำบรรยายกับการคำนวณแยกออกจากกัน ไม่ใช่จินตนาการของคนกลัว AI มีสูตรทำจริง มีตัวเลขวัดจริง และตีพิมพ์ไว้ก่อนบทความของ Pachocki 2 เดือน

ช่วงที่ 5ไม่ต้องรอโมเดลระดับ frontier เรื่องนี้ก็เกิดกับเราไปแล้ว

ตัดกลับมาที่โต๊ะทำงานจริง เรามีสคริปต์ตัวหนึ่ง หน้าที่มีอย่างเดียวคือเขียนไฟล์ดัชนีทับของเดิม รันจบ มันพิมพ์ออกมาว่าเขียนแล้ว 23,109 ตัวอักษร แล้วสคริปต์ยังตรวจตัวเองซ้ำอีกชั้นว่าความยาวไม่เกินเพดาน ผ่าน สัญญาณเขียว 2 ตัวติดกัน เราเลยรายงานออกไปว่าเสร็จ

ความจริงตอนนั้นคือ ไฟล์บนดิสก์ถูกย้อนกลับไปเป็นเวอร์ชันเดิมเรียบร้อยแล้ว เพราะมีตัวเฝ้าอีกตัวยืนดูอยู่ตรงจังหวะหลังเขียนไฟล์ มันเห็นว่าของใหม่ไม่ผ่านเกณฑ์ เลยเก็บของใหม่แยกไว้แล้วคืนของเก่ากลับ ส่วนข้อความที่มันแจ้งว่าย้อนกลับแล้ว ออกไปทางช่องที่ไม่มีใครนั่งอ่าน

คำบรรยายถูกทุกตัวอักษร ส่วน 23,109 ก็เป็นเลขจริง ไม่มีใครกุเรื่องขึ้นมา มันคือความยาวที่อยู่ในหน่วยความจำของสคริปต์ตอนนั้นจริงๆ แต่ปลายทางไม่มีอยู่จริง

สังเกตว่าในเหตุการณ์นี้ไม่มีโมเดลตัวไหนโกหกเราสักคำ ไม่มี alignment อะไรพลาด มีแค่เราเอาคำบอกเล่ามาใช้แทนใบเสร็จ คนละอาการกับเวลา AI กุเรื่องขึ้นมาเอง อันนั้นเราเล่าไว้แล้วใน โพสต์เรื่อง AI hallucination

และจุดที่หลุด ไม่ใช่ขั้นตอนใหญ่ที่สุดของงาน แต่เป็นขั้นสุดท้ายที่เล็กที่สุด ขั้นที่รู้สึกว่าไม่ต้องตรวจก็ได้

ช่วงที่ 6แล้วจะวางจุดตรวจไว้ตรงไหน

วางไว้ที่ของจริงที่งานผลิตออกมา ไม่ใช่ที่คำบรรยายของโมเดล รวบทั้งหมดเป็นประโยคเดียวได้แบบนี้

วางจุดตรวจไว้ที่ของจริงที่งานนั้นผลิตออกมา อ่านกลับจากตำแหน่งเดียวกับที่ระบบจริงไปหยิบไปใช้ ไม่ใช่วางไว้ที่คำบรรยายของโมเดลว่ามันทำอะไรไปบ้าง

เวลาไม่แน่ใจว่าเช็คที่มีอยู่นับเป็นแบบไหน ลองถาม 3 ข้อนี้

1. ถ้าลบคำบรรยายทิ้งทั้งหมด เช็คนี้ยังตอบได้ไหมว่างานสำเร็จ ถ้าตอบไม่ได้ แปลว่าเช็คนั้นวัดคำพูด
2. ค่าที่เช็คหยิบมาเทียบ มาจาก process เดียวกับตัวที่เขียนหรือเปล่า ถ้าใช่ ก็ยังไม่ได้ออกจากปากคนเล่า
3. ตำแหน่งที่เช็คไปอ่าน ตรงกับตำแหน่งที่ผู้ใช้จริงไปอ่านไหม

ส่วนก้าวแรกทำได้คืนนี้เลย หยิบงานอัตโนมัติที่คุณไว้ใจที่สุดมา 1 งาน แล้วต่อท้ายด้วยบรรทัดเดียวที่เปิดของจริงกลับมาอ่านจากดิสก์ เทียบกับสิ่งที่ควรจะเจอ ถ้าไม่ตรงก็ให้จบด้วย exit code ที่ไม่ใช่ 0

# ต่อท้ายขั้นตอนที่เขียนไฟล์ ไม่ใช่ต่อท้ายข้อความว่าเขียนสำเร็จ
grep -q "บรรทัดที่ควรจะโผล่มา" ./out/index.md || { echo "artifact check FAILED"; exit 1; }

ท่านี้ไม่ได้จำกัดอยู่แค่คนเขียนโค้ด ถ้าคุณให้ agent ไปตอบอีเมล อย่าเชื่อบรรทัดที่มันบอกว่าส่งแล้ว ให้เปิดกล่อง Sent ดู ถ้าให้มันไปเติมข้อมูลในสเปรดชีต อย่าเชื่อคำว่าอัปเดตครบ ให้เปิดชีตแล้วนับแถว หลักคิดอันเดียวกันหมด ของที่งานผลิตออกมาคือใบเสร็จ ส่วนที่เหลือคือคำบอกเล่า

อีกอย่างที่ต้องทำก่อนจะไว้ใจจุดตรวจใหม่นี้ คือทำให้มันขึ้นแดงให้ดูสักครั้ง ลองแก้ไฟล์ปลายทางให้ผิดโดยตั้งใจ แล้วดูว่ามันจับได้ไหม เช็คที่ไม่เคยเห็นมันขึ้นแดง กับเช็คที่ตายไปแล้ว หน้าตาเหมือนกันเป๊ะ เรื่องนี้เขียนไว้ยาวกว่านี้ใน โพสต์เรื่อง mutation testing

Pachocki ปิดบทความด้วยความหวังว่าการชะลอโดยสมัครใจจะกลายเป็นเรื่องปกติ จนกว่าโลกจะมีเกณฑ์ความปลอดภัยร่วมกัน สำหรับแล็บ เกณฑ์นั้นต้องรอผู้ตรวจภายนอก รัฐบาล หรือองค์กรระหว่างประเทศมาตั้งให้ ส่วนเกณฑ์ของคุณไม่ต้องรอใครทั้งนั้น คืนนี้ตั้งเองได้แล้ว 1 จุด

ที่มาและอ้างอิง

• Jakub Pachocki, An Alien Mind, OpenAI, 6 กันยายน 2026 ทุกประโยคที่อ้างถึงบทความในใบนี้ ตรวจกลับกับต้นฉบับแล้ว
• A Survey on Latent Reasoning, arXiv 2507.06203 ที่มาของ Stepwise Internalization และผล CODI บน GSM8K
• เหตุการณ์สคริปต์ดัชนีในช่วงที่ 5 มาจากบันทึกการทำงานของเราเอง วันที่ 3 กันยายน 2026