Gemma 4 ลงแอปแบบออฟไลน์ได้จริง — โมเดล 5 ขนาด ย่อเหลือระดับ 1 GB ก็ยังอ่านภาพและเรียกเครื่องมือได้
สารบัญ
สรุปให้ไว
โมเดลเปิด 5 ขนาด
ตั้งแต่ E2B, E4B ไปจนถึง 12B, 26B และ 31B เลือกตามเครื่องที่จะรัน
ย่อแล้วลงมือถือได้จริง
รุ่นเล็กแบบ quantize เหลือหลัก GB ต้น ๆ และเวอร์ชันสำหรับมือถือลงมาถึงราว 1 GB
ไม่ใช่แค่ตอบข้อความ
มี thinking mode เปิดปิดได้ อ่านภาพได้ และเรียก function ได้ในตัว
ออฟไลน์คือของจริง
รันในแอปโดยไม่ต่อเน็ตได้ ใช้ Vulkan เร่งบน Android และ MLX บนฝั่ง Apple
01มันคืออะไร
Gemma 4 คือโมเดลเปิดรุ่นใหม่ของ Google ที่ปล่อยน้ำหนักให้เอาไปรันเองได้ และอนุญาตให้ใช้เชิงพาณิชย์ ต่างจาก Gemini ที่เป็นบริการบนคลาวด์ จุดขายของสายนี้ไม่ใช่ "เก่งที่สุด" แต่คือ "เล็กพอจะอยู่ในเครื่องของเรา"
รอบนี้ Google ทำการบ้านฝั่ง on-device มาชัด มีทั้งขนาดให้เลือกหลายระดับและตัวเลข memory ที่ใช้จริงหลังบีบอัด ทำให้ประเมินได้เลยว่ารุ่นไหนจะลงเครื่องอะไรได้
ภาพจำ: โมเดลบนคลาวด์คือร้านอาหารที่ต้องขับรถไป ส่วน Gemma 4 คือครัวเล็กในบ้าน ไม่หรูเท่า แต่ไม่ต้องออกจากบ้าน และไม่มีใครเห็นว่าเราทำอะไรกิน
สเปกที่ใช้ตัดสินใจได้
- ★
ห้าขนาด
E2B, E4B, 12B, 26B, 31B ครอบตั้งแต่มือถือไปจนถึงเครื่องเวิร์กสเตชัน
- ★
Memory จริงหลังบีบอัด
รุ่น E2B แบบ full precision ราว 11.4 GB แต่แบบ 4-bit เหลือราว 2.9 GB และเวอร์ชันมือถือลงมาถึงราว 1.1 GB
- ★
Context
รุ่นเล็กรองรับถึงระดับ 128K token ส่วนรุ่นใหญ่ขยับขึ้นไปอีกเท่าตัว
- ★
Thinking mode
เปิดให้คิดเป็นขั้นตอนเมื่อโจทย์ยาก ปิดเมื่ออยากได้เร็ว
- ★
Multimodal + function calling
อ่านภาพได้ และเรียกเครื่องมือภายนอกได้ในตัวโดยไม่ต้องต่อ framework เพิ่ม
- ★
เร่งความเร็วด้วยฮาร์ดแวร์
ใช้ Vulkan บน Android และ MLX บนอุปกรณ์ Apple รันในแอป React Native แบบออฟไลน์เต็มตัว
02ทำไมเรื่องออฟไลน์ถึงสำคัญกว่าที่คิด
เดโมที่บอกอะไรได้เยอะที่สุดคือ ให้โมเดลอ่านภาพใบปลิว ดึงวันเวลาออกมา แล้วสร้างนัดในปฏิทินให้ ทั้งหมดโดยไม่ต่อเน็ต นั่นแปลว่าสามอย่างเกิดในเครื่องเดียว: อ่านภาพ เข้าใจโจทย์ และเรียกเครื่องมือ
สำหรับงานที่ข้อมูลออกนอกเครื่องไม่ได้ นี่คือประตูที่เพิ่งเปิด เอกสาร HR สัญญา ใบเสนอราคา สลิปโอนเงิน ของพวกนี้เดิมต้องเลือกระหว่าง "ใช้ AI แต่ต้องอัปโหลด" กับ "ไม่ใช้เลย" ตอนนี้มีทางที่สาม
03เกี่ยวอะไรกับเรา
ฟันธง: **ลองเลยถ้าเจอโจทย์ข้อมูลอ่อนไหว ส่วนงานทั่วไปยังใช้โมเดลคลาวด์คุ้มกว่า** อย่าคาดหวังว่ารุ่น 2B จะเถียงกับโมเดลเรือธงได้ มันไม่ใช่หน้าที่มัน หน้าที่มันคืองานซ้ำ ๆ ที่มีรูปแบบชัด เช่น อ่านฟอร์ม ดึงข้อมูลเป็นตาราง จัดหมวดข้อความ
จุดที่ต้องระวัง: ตัวเลข memory ที่ประกาศคือของโมเดลอย่างเดียว ยังไม่รวมแอปและระบบ เครื่องระดับกลางที่แรมเหลือไม่มากอาจร้อนหรืออืดกว่าที่คิด ทดสอบบนเครื่องรุ่นต่ำสุดที่ทีมเราใช้จริงก่อนตัดสินใจเสมอ
ต่อยอด: วางเป็นสองชั้นในระบบเดียวกัน — ชั้นในเครื่องใช้ Gemma 4 คัดกรองและดึงข้อมูลจากไฟล์ที่ห้ามออกนอกองค์กร ส่วนชั้นคลาวด์ให้รับเฉพาะข้อมูลที่ล้างข้อมูลระบุตัวตนออกแล้วไปทำงานหนักต่อ ตรงรอยต่อระหว่างสองชั้นนี้คือจุดที่ต้องมี Human Gate ตรวจว่าอะไรถูกส่งออกไปบ้าง
โปรเจกต์ open-source
อยากลองเองไหม? โปรเจกต์นี้เป็น open-source โหลด repo ทางการมาลองได้เลย
ดูบน Hugging Face → →