Thinking Machines เปิด Inkling — โมเดลโอเพนเวท 975B ฟัง "เสียงดิบ" ได้ตรง ๆ เกิดมาเพื่อให้ fine-tune

Inkling คือโมเดลตัวแรกจาก Thinking Machines แล็บที่ก่อตั้งโดย Mira Murati อดีต CTO ของ OpenAI เป็นโมเดลโอเพนเวทขนาด 975 พันล้านพารามิเตอร์ ปล่อยภายใต้ใบอนุญาต Apache 2.0 และวาง weights ไว้บน Hugging Face ให้ใครก็โหลดไปใช้ได้

ทางแล็บพูดตรง ๆ ตั้งแต่แรกว่าโมเดลนี้ไม่ได้ตั้งใจไปสู้กับโมเดล generalist ตัวท็อปในตลาด แต่ออกแบบมาเป็น "ฐานที่ดี" สำหรับเอาไป fine-tune ให้เก่งงานแคบ ๆ ที่เจาะจง ถ้าใครต้องการโมเดลที่เทรนมาเพื่อ task เฉพาะทางของตัวเอง นี่คือกลุ่มเป้าหมายที่ตรงที่สุด

ปกติเวลาโมเดลจะรับเสียง มักมีโมเดลถอดเสียงแยกอยู่ข้างหน้า คอยแปลงเสียงเป็นข้อความก่อนแล้วค่อยส่งข้อความต่อให้โมเดลภาษา ภาพก็ทำนองเดียวกัน คือมี vision encoder อธิบายภาพเป็นคำก่อน วิธีนี้ทำให้ข้อมูลบางส่วนหล่นหายระหว่างแปลง

Inkling ไม่ทำแบบนั้น เสียงถูกส่งเข้าไปตรง ๆ ในรูป spectrogram คือย่านความถี่ดิบ ๆ ของเสียงที่หั่นเป็นช่อง ส่วนภาพก็เข้าไปเป็นแพตช์ขนาด 40x40 พิกเซล ทั้งหมดถูกโยนเข้าไปอยู่ในพื้นที่เดียวกับ text token แล้วให้โมเดลมองพร้อมกัน ผลคือทางทฤษฎีข้อมูลถูกบีบอัดหายน้อยลง โดยเฉพาะงานที่ต้องเข้าใจ "วิธีที่พูด" ไม่ใช่แค่ "พูดว่าอะไร"

ฟันธง: สำหรับคนทั่วไปที่อยากได้โมเดลมารันแล้วเก่งเลย Inkling ไม่ใช่คำตอบ และแล็บก็บอกเองชัด ๆ แบบนั้น แต่ถ้างานของเราคือ task แคบ ๆ ปริมาณเยอะ มีข้อมูล label จริง และมีวิธีให้คะแนนผลลัพธ์ได้ การ fine-tune โมเดลโอเพนเล็ก ๆ คือหนึ่งในของที่คุ้มและถูกมองข้ามที่สุดตอนนี้ ยิ่งงานไหนมีเสียงเข้ามาเกี่ยว เช่น แยกสไตล์การพูด หรือถอดศัพท์เฉพาะทางอย่างชื่อยา Inkling มีจุดแข็งที่หาจากตัวอื่นบนแพลตฟอร์มเดียวกันไม่ได้

จุดที่ต้องระวัง: fine-tune สอนโมเดล "วิธีตอบ" ไม่ได้สอน "สิ่งที่ควรรู้" ถ้าอยากให้มันรู้ข้อมูลใหม่ การทำ retrieval มักได้ผลดีกว่าและมีงานวิจัยรองรับ อีกทั้งการ fine-tune อาจทำให้การให้เหตุผลของโมเดลแย่ลงในบางเคส สรุปคือเลือกใช้ให้ตรงงาน อย่าใช้ fine-tune เป็นค้อนที่ตีทุกตะปู