agent ลงมือทำได้ แต่ทำนายผลไม่ได้ ทำไมต้องมี Human Gate

มีนักวิจัยหลายคน เช่น Yann LeCun, Gary Marcus และ Fei-Fei Li ถูกอ้างถึงในประเด็นเดียวกันว่า LLM ทุกวันนี้ "ลงมือทำ" ได้เก่งขึ้นเรื่อย ๆ พอเอามาทำเป็น agent ก็สั่งให้มันรันคำสั่ง แก้ไฟล์ หรือยิงคำสั่งเข้าฐานข้อมูลได้จริง แต่สิ่งที่มันยังทำไม่ได้คือการ "ทำนายผลของการกระทำตัวเอง" ได้อย่างน่าเชื่อถือ พูดง่าย ๆ คือมันกดปุ่มเป็น แต่ไม่รู้แน่ว่ากดแล้วจะเกิดอะไรตามมา

จุดที่ต้องแยกให้ออกคือ อาการ hallucination หรือการ "มั่ว" ของระบบ ตอนมันเป็นแค่ chatbot ตอบผิดในกล่องแชท เรายังมองข้ามหรือถามใหม่ได้ ไม่มีอะไรพัง แต่พอ hallucination ตัวเดียวกันนี้ไปอยู่ใน agent ที่มีสิทธิ์ลงมือทำจริง มันกลายเป็นการกระทำในโลกจริงทันที และบางอย่างก็ย้อนคืนไม่ได้ LeCun ถูกอ้างถึงว่า LLM นั้น "intrinsically unsafe" เพราะกำจัด hallucination ให้หมดเกลี้ยงไม่ได้ และการันตีผลลัพธ์ของ agent ก็ไม่ได้เช่นกัน

มีรายงานที่ถูกพูดถึงในวงกว้างว่า AI coding agent ตัวหนึ่งลบฐานข้อมูล production ของบริษัทพร้อมทั้ง backup ทิ้งไปในเวลาราว 9 วินาที โดยถูกระบุว่าเชื่อมโยงกับ Claude Opus 4.6 ตรงนี้ขอย้ำว่าเป็นรายงานแบบ single-source ที่มาจากปากผู้ก่อตั้งเองและแพร่กระจายแบบ viral ยังไม่ได้รับการยืนยันหลายแหล่ง จึงควรอ่านเป็น "สัญญาณเตือน" มากกว่าข้อสรุปทางเทคนิค แต่ถึงจะเป็นแหล่งเดียว มันก็สะท้อนภาพปัญหาเดิมได้ชัด คือ agent ที่ทำนายผลของคำสั่งตัวเองไม่ได้ บวกกับสิทธิ์ที่กว้างเกินไป

ทางแก้ที่ฝั่งวิจัยพูดถึงคือการเติม world model หรือ "แบบจำลองโลกในหัวของระบบที่ทำนายผลของการกระทำ" ให้ AI พูดให้ตรงคือ ตัวแทนภายในที่บอกว่าโลกจะเปลี่ยนไปอย่างไรเมื่อทำอะไรลงไป ทำให้ระบบ "คิดล่วงหน้า" ถึงผลก่อนจะลงมือจริง ตัวอย่างฝั่ง Meta คือ V-JEPA 2 ซึ่งเป็น world model แบบ self-supervised ที่เทรนจากวิดีโอขนาดใหญ่ บวกกับข้อมูลการโต้ตอบของหุ่นยนต์อีกเล็กน้อย เป้าหมายคือให้ระบบเข้าใจ ทำนาย และวางแผนการกระทำในโลกกายภาพได้ดีขึ้น

คำตัดสินตรง ๆ คือ ใช้ agent ได้ แต่ห้ามให้มันตัดสินใจปลายทางเอง โดยเฉพาะงานที่ลบ แก้ หรือเขียนทับของจริง ใช้มันร่างคำสั่ง วิเคราะห์ เสนอทางเลือก หรือทำงานในที่ที่ผิดแล้วกู้คืนได้ ตรงนั้นปล่อยให้มันวิ่งได้เต็มที่ แต่ขั้นตอนสุดท้ายที่กระทบของจริงต้องมีคนกดยืนยัน

Human Gate ที่อยากให้ตั้งเป็นนิสัย: หนึ่ง งานที่ย้อนคืนไม่ได้ (drop ฐานข้อมูล ลบ backup ส่งเงิน ส่งอีเมลออกนอกองค์กร) ให้คนอนุมัติทุกครั้ง ห้ามมี auto-approve สอง ให้ agent ทำงานในสภาพแวดล้อมที่จำกัดสิทธิ์เท่าที่จำเป็น อย่าให้มันถือกุญแจ production พร้อม backup ในมือเดียว สาม อย่าตัดสินจากผลลัพธ์ที่ดูเรียบร้อยอย่างเดียว ให้ตรวจกระบวนการระหว่างทางด้วย เพราะมันอาจทำผิดสเปกแต่ได้ผลที่ดูโอเค สี่ เก็บ log และจุดย้อนกลับไว้เสมอ ให้กู้คืนได้ภายในไม่กี่นาที

มุมต่อยอด: เคส 9 วินาทีเป็นแหล่งเดียวก็จริง แต่ให้ถือเป็นแบบฝึกหัด ลองถามตัวเองว่าถ้า agent ในงานเราเพี้ยนหนึ่งครั้ง มันลบอะไรได้บ้างภายในไม่กี่วินาที ถ้าตอบแล้วเสียวสันหลัง แปลว่าถึงเวลาตั้ง Human Gate ก่อนที่จะรอให้ world model ในงานวิจัยโตพอจะดูแลแทนเรา