AI Update Bangkok 2026 ตอนที่ 3

เคยเจอไหมว่าโหลดโมเดลตัวเดียวกับที่คนชมกันมารันบนเครื่องตัวเอง แล้วมันก็ตอบได้ทุกอย่างเหมือนเดิม ไม่มีตรงไหนพัง ไม่มี error แต่คำตอบมันจืดลงแบบที่ชี้ไม่ถูกว่าจืดตรงไหน

ความรู้สึกนั้นมีคำอธิบาย และคำอธิบายเป็นตัวเลขที่คนทำโมเดลระบุไว้เองอยู่แล้ว

ต่อจาก ตอนที่ 1 ที่ว่าด้วย Physical AI ช่วงถัดมาของงาน AI Update Bangkok 2026 เป็นคิวของพี่หมอจิม (Jimmy Tejasen) เจ้าของงาน และเป็นช่วงที่ยาวที่สุด เนื้อหาเป็นเรื่องเครื่องกับตัวเลขเกือบทั้งหมด ฟังผ่านๆ เหมือนรีวิวการ์ดจอ แต่โครงที่เขาวางไว้ไม่ใช่รีวิว เป็นลำดับคำถามที่ใช้ตัดสินใจได้จริง

Productize เรียงตามโครงที่พี่หมอจิมพูด ไม่ได้จัดใหม่เอง เพราะลำดับของเขาคือส่วนที่มีค่าที่สุด เริ่มจากเครื่อง ไปที่ปริมาณที่ต้องแยกให้ขาด แล้วค่อยถึงต้นทุนของการบีบ และจบที่วิธีอ่านตัวเลขที่คนอื่นยื่นมาให้

เครื่องมี 4 คลาส และคนขายเองบอกว่าเส้นแบ่งมันเบลอ

พี่หมอจิมเริ่มด้วยการแบ่งเครื่องเป็น 4 คลาส คือการ์ดจอสำหรับเล่นเกม การ์ดสำหรับงานที่มีหน่วยความจำเยอะ เครื่องสำเร็จรูปที่หิ้วกลับบ้านแล้วเสียบใช้ได้เลย และการ์ดสำหรับตู้แร็คในศูนย์ข้อมูล

แล้วพี่หมอจิมก็เตือนเองว่าเส้นแบ่งพวกนี้ไม่คม ชิปตัวเดียวกันไต่ข้ามคลาสได้ และคำโฆษณาระหว่างการ์ดเล่นเกมกับการ์ดทำงานไม่ตรงไปตรงมา

จุดที่พี่หมอจิมชี้ตรงๆ คือ การ์ดเล่นเกมกับการ์ดทำงานต่างกันที่หน่วยความจำ ส่วนตัวชิปเป็นตัวเดียวกัน คำว่า Pro ทำให้คนคาดหวังว่าจะได้ชิปที่เร็วกว่ามาก ทั้งที่ของที่จ่ายเพิ่มไปคือหน่วยความจำที่มากขึ้นบนซิลิคอนตัวเดิม

จากตรงนั้นได้กฎมา 2 ข้อ ข้อแรกคือเทียบเครื่องได้เฉพาะภายในคลาสเดียวกัน ข้อสองคือ ราคาไม่ได้บอกว่าเครื่องแรงแค่ไหน มันบอกว่าเครื่องนี้ทำมาเพื่องานแบบไหน

พี่หมอจิมขายเครื่องพวกนี้เอง แล้วยังยืนยันบนเวทีว่างานบางแบบไม่ควรใช้เครื่องพวกนี้เลย

3 ปริมาณ ที่ห้ามปนกัน

ตรงนี้คือแกนของทั้งช่วง เพราะเวลาคนซื้อเครื่องผิด มักผิดเพราะเอา 3 อย่างนี้มากองรวมกันเป็นคำเดียวว่าแรง

พี่หมอจิมเปรียบไว้ด้วยถังน้ำ ความจุคือขนาดถัง ส่วนความเร็วอ่านคือขนาดก๊อก ถังใหญ่บอกว่าเราใส่โมเดลใหญ่แค่ไหนได้ ส่วนก๊อกกว้างบอกว่าน้ำไหลออกมาเร็วแค่ไหน ถังใหญ่แต่ก๊อกเล็กก็ได้น้ำทีละหยด และนั่นคือเครื่องที่โหลดโมเดลใหญ่ขึ้นได้จริง แต่พิมพ์ตอบช้าจนรอไม่ไหว

สูตรที่เขาใช้คำนวณสดบนเวทีคือ จำนวน token ต่อวินาที เท่ากับ bandwidth หารด้วยขนาดโมเดลที่กินอยู่ในหน่วยความจำ เหตุผลอยู่ที่กลไก ทุกครั้งที่โมเดลจะพ่นออกมาอีก 1 token มันต้องอ่านตัวเองทั้งก้อนใหม่หมด บวกกับบทสนทนาทั้งหมดที่ผ่านมา โมเดลใหญ่กว่าจึงช้ากว่าโดยธรรมชาติ ไม่ใช่เพราะเครื่องไม่ดี

เลขที่เขายกบนเวทีคือเครื่องส่วนตัวความจุ 128 กิกะไบต์ที่อ่านหน่วยความจำได้ 273 กิกะไบต์ต่อวินาที ได้ราว 7 token ต่อวินาที เทียบกับเครื่องศูนย์ข้อมูลความจุ 288 กิกะไบต์ที่อ่านได้ราว 8 เทระไบต์ต่อวินาที ซึ่งได้ราว 177 token ต่อวินาที ตอบได้เร็วกว่าราว 25 เท่า ทั้งที่เป็นเรื่องความเร็วอ่านอย่างเดียว ส่วนขนาดโมเดลที่ใช้คำนวณ ไม่ได้ระบุไว้

ก่อนไปต่อ ขอแวะที่คำว่ากำลังคำนวณอีกนิด เพราะชิปที่ทำงานนี้มีหลายชนิดและคนละหน้าที่กัน

ข้อควรระวังที่พ่วงมาคือ หน่วยวัดของ GPU กับ NPU เทียบกันตรงๆ ไม่ได้ ฝั่งหนึ่งนับการคำนวณเลขทศนิยม อีกฝั่งนับเลขจำนวนเต็ม เห็นเลขใหญ่กว่าจึงไม่ได้แปลว่าแรงกว่า

อีกอย่างที่อยู่บนกล่องแต่คนอ่านข้ามคือ ชนิดของหน่วยความจำ ไม่ใช่แค่ตัวเลขความจุ เพราะชนิดเป็นตัวกำหนดความเร็วอ่าน

ตารางนี้อธิบายเรื่องที่จะพูดถัดไปด้วย เครื่อง 2 เครื่องที่เขียนความจุเท่ากันบนกล่อง ตอบเร็วไม่เท่ากันได้ ถ้าชนิดหน่วยความจำคนละเกรด

อีกครึ่งที่คนมองข้ามคือ ตัวอักษรแรกช้าเพราะ prompt ยาว ไม่ใช่เพราะโมเดลใหญ่ กลไกที่โมเดลใช้อ่านต้องเทียบทุก token กับทุก token ต้นทุนจึงโตเป็นกำลังสองของความยาว prompt ยาว 5,000 token แปลว่างานราว 5,000 คูณ 5,000 และ prompt สมัยนี้ไม่ใช่ประโยคเดียวแล้ว มันคือหนังสือทั้งเล่มที่แปะเข้าไป

ความจุยังมีกับดักซ้อนอีกชั้น VRAM ต้องเหลือที่ไว้ให้บทสนทนาด้วย โมเดล 30 พันล้านพารามิเตอร์บนการ์ด 32 กิกะไบต์ไม่ได้ล้มเพราะตัวโมเดล แต่ล้มเพราะเหลือที่ว่างอีกแค่ราว 2 กิกะไบต์

สองสงคราม ที่คนละสนามกัน

พอแยก 3 ปริมาณออกจากกันได้แล้ว จะเห็นของอีกอย่างที่อธิบายว่าทำไมเครื่องแต่ละคลาสถึงวิ่งไปคนละทาง ศูนย์ข้อมูลกับเครื่องส่วนตัวไม่ได้แข่งกัน มันแข่งคนละเรื่อง

ฝั่งศูนย์ข้อมูลไล่ความเร็วอ่านหน่วยความจำขึ้นไปเรื่อยๆ และย่อความละเอียดของตัวเลขลงในตัวชิปเอง จาก 16 บิตเหลือ 8 เหลือ 4 เหตุผลไม่ใช่ความเนียน แต่เพราะยิ่งตัวเลขเล็ก เครื่องเดียวยิ่งรับผู้ใช้ได้มากขึ้น

ฝั่งเครื่องส่วนตัวไล่คนละอย่าง คือความจุหน่วยความจำรวมที่ชิปกับระบบใช้ร่วมกัน เป้าหมายคือทำให้โมเดลใหญ่ลงมาอยู่ในเครื่องเดียวได้ ไม่ได้แข่งว่าจะเสิร์ฟคนพร้อมกันได้กี่คน

ประโยชน์ของกรอบนี้อยู่ตรงอ่านข่าวเปิดตัว เห็นตัวเลขความเร็วอ่านกระโดด แปลว่าเขากำลังเล่นเกมศูนย์ข้อมูล เห็นความจุโต แปลว่าเขากำลังเล่นเกมเครื่องส่วนตัว แล้วเราค่อยดูว่าเกมไหนคือเกมของเรา

1% ที่ไม่มีใครบอก ว่าอยู่ตรงไหน

ก่อนจะไปที่ราคาที่ต้องจ่าย ขอปูว่าการบีบมันบีบอะไร ความละเอียดคือจำนวนบิตที่ใช้เก็บเลข 1 ตัว บิตน้อยลงแปลว่าหยาบขึ้น แต่เร็วขึ้น ไล่จากละเอียดสุดไปเร็วสุดคือ 32 บิต 16 บิต 8 บิต แล้วก็ 4 บิต

อัตราแลกคร่าวๆ คือ ลดบิตลงครึ่งหนึ่ง ได้ความเร็วเพิ่มราว 2 เท่า ตัวเลขที่เขายกคือชิปศูนย์ข้อมูลตัวหนึ่งที่ 4 บิต ทำงานได้ราว 4 เท่าของตัวเดียวกันที่ 16 บิต ส่วนฝั่งความจุ การบีบน้ำหนักโมเดลลงมาที่ 8 หรือ 4 บิต ทำให้กิน VRAM น้อยลง 2 ถึง 4 เท่า

และมีข้อที่ต้องพูดให้ครบ ความหยาบของ 4 บิตมีวิธีชดเชย รูปแบบตัวเลข 4 บิตรุ่นใหม่ใช้การปรับสเกลย่อยเข้าช่วย เพื่อกู้ความละเอียดที่หายไปกลับมาบางส่วน Productize เคยเขียนถึงรูปแบบนี้ไว้แล้วที่ vLLM บน GPU เช่า ตัว vLLM เองคือซอฟต์แวร์ที่ใช้รันโมเดล ประเด็นคือชดเชยได้บางส่วน ไม่ใช่ไม่เสียอะไรเลย

มาถึงหัวใจของช่วงนี้ ตัวเลขความเสียหายจากการบีบไม่ได้เป็นความลับ ผู้ผลิตเขียนไว้เอง คือ 8 บิตเสียราว 0.1% และ 4 บิตเสียราว 1%

คนส่วนใหญ่อ่านเลขนี้แล้วผ่านไป เพราะ 1% ฟังดูเล็ก ข้อโต้แย้งของเขาคือไม่เล็ก

คืนเดียวที่นั่งให้ AI ช่วยเขียนโค้ดหรือไล่เอกสาร ผ่านไป 1 ล้าน token ได้สบาย 1% ของมันคือ 1 หมื่น token ที่ด้อยลง และไม่มีอะไรบอกว่าเป็นคำไหน

อาการที่ออกมาคือคำตอบผิด กับการแต่งเรื่องขึ้นมาโดยที่เราไม่ทันเห็น ไม่ใช่ error ไม่ใช่เครื่องค้าง ถ้าบีบลงไปถึง 2 บิต ความเสียหายเกิน 1% แน่ๆ และประโยคที่ว่าก็ดูโอเคนี่ ถามอะไรก็ตอบได้ คือกับดักตัวจริง เพราะโมเดลตอบได้ทุกคำถามอยู่แล้ว นั่นคือสิ่งที่โมเดลภาษาถูกสร้างมาให้ทำ

ข้อสรุปของเขาจึงไม่ใช่ความชอบส่วนตัว แต่เป็นเงื่อนไข บีบได้ ถ้ามีชุดวัดผลอยู่ก่อนแล้ว ไม่มีชุดวัดผล การบีบก็แปลว่าเรากำลังแลกคุณภาพกับความเร็วโดยไม่รู้ว่าจ่ายไปเท่าไหร่

วิธีอ่านตัวเลขที่คนอื่นยื่นมาให้ อยู่ใน ตอนที่ 2 ว่าด้วยการอ่าน benchmark ส่วนวิธีเลือกโมเดลจากงานจริง เราเขียนไว้แล้วที่ เลือก local LLM จากงาน ซึ่งอธิบายกลไกของการบีบไว้ละเอียดกว่านี้

open weight ไม่ได้แปลว่ารันเองได้

ช่วงสุดท้ายพี่หมอจิมเล่าที่มาของโมเดลเปิด ซึ่งไม่ได้เริ่มจากอุดมการณ์ ปี 2023 Llama (โมเดลของ Meta) ออกมาพร้อมสัญญาอนุญาตที่ต้องเซ็นและมีข้อห้ามยาว แล้วไฟล์น้ำหนักก็ถูกเอาไปโพสต์บนเว็บบอร์ดสาธารณะ คนโหลดกันหมด สายโมเดลเปิดทั้งสายจึงโตขึ้นมาจากของที่ไม่เคยตั้งใจจะเปิด

สิ่งที่ตัดสินว่าใครถูกเอาไปใช้จริงไม่ใช่คะแนน แต่เป็นเงื่อนไขการใช้งาน โมเดลจีนส่วนใหญ่ปล่อยด้วยสัญญาอนุญาตที่ไม่มีข้อกังขาทางกฎหมาย จึงกลายเป็นตัวตั้งต้นที่คนหยิบก่อน

แต่คำว่าเปิดให้โหลด ไม่ได้แปลว่าเครื่องเราไหว โมเดลระดับแนวหน้าขนาด 280 พันล้านพารามิเตอร์ ถ้าจะรันแบบไม่บีบเลย ต้องใช้เครื่องสำเร็จรูป 2 เครื่อง หรือ Mac Mini 4 ตัว

สิ่งที่ทำให้โมเดลขนาดนั้นพอรันไหวคือโครงสร้างที่แบ่งโมเดลเป็นหลายส่วนแล้วปลุกใช้เฉพาะส่วนที่เกี่ยวกับคำถาม ของทั้งก้อน 280 พันล้าน แต่ตื่นจริงราว 10 พันล้าน ส่วนอีกกลไกคือลดการอ่านทุก token เทียบทุก token ให้เหลือเฉพาะบางชั้น แล้วสรุปที่เหลือเก็บไว้ ซึ่งเป็นวิธีที่ทำให้รับ prompt ยาวมากได้โดยไม่กินหน่วยความจำเพิ่มตามตรง

ปิดท้ายด้วยกับดักฝั่งซื้อของ การ์ดมือสองที่ปลดจากศูนย์ข้อมูลเป็นกับดัก ราคาถูกและหน่วยความจำเยอะจริง แต่ซิลิคอนรุ่นนั้นออกแบบมาตอนที่ศูนย์ข้อมูลยังใช้ตัวเลขความละเอียดสูง พอเอาโมเดลที่บีบแล้วไปรัน กลับช้า หน่วยความจำเยอะอย่างเดียวจึงไม่ใช่เหตุผลให้ซื้อ

สิ่งที่เอาไปใช้ต่อได้

ของที่ได้กลับมาจากช่วงนี้ไม่ใช่ว่าควรซื้อเครื่องรุ่นไหน แต่คือ เลิกอ่านสเปกเป็นคำว่าแรง แล้วอ่านมันเป็นคำถามว่างานของเราติดตรงไหน พอเปลี่ยนคำถาม ตารางเทียบสเปกที่เคยงงก็อ่านออกเองเกือบทั้งหมด

ที่มา

เนื้อหาทั้งหมดมาจากงาน AI Update Bangkok 2026 ที่พี่หมอจิม (Jimmy Tejasen) จัดขึ้นวันที่ 21 สิงหาคม 2026 ที่ The Cloud Bangkok ตอนนี้เป็นช่วงที่เขาขึ้นพูดเอง

• บันทึกถ่ายทอดสดของงาน: ดูย้อนหลัง
• งานของ Jimmy Tejasen: aiserver.in.th เว็บข่าวและรีวิวฮาร์ดแวร์เซิร์ฟเวอร์ AI และ agentic-press.com สำนักพิมพ์หนังสือสาย AI

ความเร็วอ่านของเครื่องศูนย์ข้อมูลปรากฏ 2 ค่าในงาน คือ 7.1 กับราว 8 เทระไบต์ต่อวินาที เรายกค่าหลังมาใช้เพราะโผล่มากกว่า และอัตราส่วนที่ได้ไม่ต่างกันอย่างมีนัย · ตัวเลขทุกตัวในบทความนี้มาจากที่พี่หมอจิมเล่าบนเวที ไม่ใช่เอกสารสเปกของผู้ผลิต จึงใช้ดูอัตราส่วนและใช้ตั้งคำถามได้ แต่ไม่ควรเอาไปอ้างเป็นสเปกของสินค้า ส่วนของที่ขึ้นจอในงาน Productize ไม่ได้ทำสำเนามาลง