Inkling 2 Mini: mô hình lặp tầng chạy được trên laptop
Laptop tắt mạng vẫn dựng được trò mô phỏng bay
Laptop tắt mạng, bật chế độ máy bay, vẫn dựng được một trò mô phỏng bay chơi được chỉ trong vài phút. Đó là màn trình diễn Inkling 2 Mini, mô hình mở trọng số Thinking Machines Lab ra mắt ngày 20/11.
Điểm khác biệt nằm ở kiến trúc. Thay vì chạy mỗi tầng một lần, mô hình chạy lặp ba lần khối giữa cho mỗi token, để suy luận sâu hơn mà cần ít chữ hơn. Nhóm cũng cắt hai phần ba số chuyên gia để mô hình đủ nhỏ cho máy cá nhân.
Ba con số
- 20GB01Bộ nhớ cần dùng
Huấn luyện sẵn ở 4-bit nên vừa laptop tiêu dùng
- 48.2%02Điểm DeepSWE v1.1
Cao nhất trong các mô hình mở dưới 100 tỷ tham số
- 37giây03Việc làm được không CoT
Tăng từ 16 giây khi chạy một lượt lên ba lượt
Mô hình có 26.4 tỷ tham số, mỗi lần chỉ kích hoạt 3.4 tỷ, và chiếm khoảng 20GB bộ nhớ vì được huấn luyện sẵn ở độ chính xác 4-bit. Trên DeepSWE v1.1, bài thử lập trình, nó giải 48.2% nhiệm vụ, cao nhất trong các mô hình mở dưới 100 tỷ tham số. Ở bản nghiên cứu, độ dài việc làm được mà không viết suy luận tăng từ 16 lên 37 giây khi lặp ba lượt.
Theo nhận định của chúng tôi, điều này cho thấy mô hình nhỏ có thể cạnh tranh ở mảng lập trình mà vẫn chạy cục bộ. Nhưng lặp tầng không thêm kiến thức, và nguồn nêu mô hình yếu hơn Qwen3.8-27B ở hội thoại nhiều lượt. Nhóm chưa thấy khả năng giám sát suy luận giảm ở quy mô này. Liệu lặp tầng có thành hướng đi phổ biến cho AI chạy trên máy cá nhân?
Vì sao đáng chú ý
- Nhỏ gọn mà dẫn đầu mảng lập trình
- Giỏi suy luận, kiến thức không tăng
- Giám sát suy luận cần theo dõi thêm
Lặp tầng có thành chuẩn mới cho AI chạy trên máy cá nhân?

- ✓20 GB:
The total memory footprint of Inkling 2 Mini is ~20GB
- ✓48.2 %:
DeepSWE v1.1 (48.2%)
- ✓37 giây:
rises from 16 seconds at one pass to 37 seconds at three
Bài và video do AI biên soạn từ nguồn ghi ở trên, giọng đọc AI. Số liệu được đối chiếu tự động với bài gốc.