Inkling: mô hình AI mở đầu tiên của Mira Murati, 975 tỷ tham số

Ngày 15/7/2026, Thinking Machines Lab công bố Inkling, mô hình AI đầu tiên do chính công ty huấn luyện từ đầu. Đây là cột mốc được giới công nghệ chờ đợi từ khi Mira Murati, cựu giám đốc công nghệ OpenAI, rời công ty cũ và lập startup riêng. Điểm khiến Inkling khác biệt không nằm ở điểm số benchmark mà ở cách phát hành: toàn bộ trọng số được đưa lên Hugging Face theo giấy phép Apache 2.0, tức là lập trình viên và doanh nghiệp tải về, chạy trên hạ tầng riêng và tinh chỉnh trực tiếp được, không phải xin phép hay trả phí bản quyền.

Inkling là mô hình như thế nào

Về kiến trúc, Inkling là mô hình hỗn hợp chuyên gia (mixture-of-experts) với 975 tỷ tham số tổng nhưng chỉ kích hoạt khoảng 41 tỷ tham số cho mỗi lượt xử lý. Đây là thiết kế phổ biến ở các mô hình quy mô rất lớn hiện nay, vì nó giữ được dung lượng kiến thức khổng lồ mà chi phí suy luận không tăng theo tỷ lệ. Theo tài liệu kỹ thuật của công ty, mô hình dùng 256 chuyên gia định tuyến cộng 2 chuyên gia chia sẻ mỗi lớp, mỗi token đi qua 6 chuyên gia được chọn.

Dữ liệu huấn luyện là 45 nghìn tỷ token trải trên bốn loại nội dung gồm văn bản, hình ảnh, âm thanh và video. Mô hình xử lý ảnh theo từng mảng 40x40 pixel và xử lý âm thanh qua phổ dMel, tức là hiểu các phương thức này một cách bản địa chứ không qua bước chuyển đổi trung gian. Tuy nhiên đầu ra hiện chỉ là văn bản, bao gồm mã nguồn và dữ liệu có cấu trúc, chưa sinh ảnh hay âm thanh.

Inkling được đặt vào bối cảnh cuộc đua mô hình mở giữa các phòng thí nghiệm Mỹ và Trung Quốc. Nguồn: YouTube

Một chi tiết đáng chú ý là tham số điều chỉnh mức độ suy nghĩ. Người dùng đặt giá trị nỗ lực suy luận trong khoảng 0,2 đến 0,99, hoặc dùng các mức có tên sẵn từ none, minimal, low, medium, high, xhigh tới max. Cách làm này cho phép đánh đổi giữa chất lượng và tốc độ ngay trong lúc gọi mô hình, thay vì phải chọn một mô hình khác. Công ty cũng cho biết Inkling được huấn luyện để nói rõ khi không chắc chắn thay vì đoán bừa, một hướng đi khác với thói quen trả lời trơn tru bằng mọi giá của nhiều mô hình hiện nay.

Đặt cược vào tùy biến thay vì một mô hình cho tất cả

Thinking Machines Lab không giấu chuyện Inkling thua các mô hình đầu bảng. Trong công bố, công ty nói thẳng rằng Inkling không phải mô hình mạnh nhất hiện có, dù xét trong nhóm mở hay nhóm đóng. Điều này khác hẳn thông lệ ra mắt mô hình kèm bảng benchmark thắng toàn diện.

Luận điểm của công ty là mô hình mà từng tổ chức tự điều chỉnh được sẽ hữu ích hơn một mô hình chung dùng cho mọi việc. Một ngân hàng, một bệnh viện hay một công ty logistics có tập dữ liệu, thuật ngữ và quy trình rất khác nhau, và một mô hình đại trà khó phục vụ tốt cả ba. Nếu tổ chức có thể lấy trọng số về rồi huấn luyện thêm trên dữ liệu của mình, kết quả trên tác vụ hẹp có thể tốt hơn mà chi phí vận hành thấp hơn nhiều.

Đây cũng là lý do nền tảng Tinker tồn tại. Vì trọng số phát hành theo Apache 2.0 nên bản thân mô hình không sinh ra phí bản quyền, doanh thu phải đến từ dịch vụ tinh chỉnh và vận hành. Tinker hiện hỗ trợ tinh chỉnh Inkling với hai tùy chọn ngữ cảnh 64K và 256K token. Ngoài ra, mô hình đã được triển khai qua các nhà cung cấp hạ tầng bên thứ ba gồm TogetherAI, Fireworks, Modal, Databricks và Baseten, nên người dùng không nhất thiết phải tự dựng máy.

Về bối cảnh công ty, Thinking Machines Lab huy động 2 tỷ USD ở vòng hạt giống giữa năm 2025 với định giá 12 tỷ USD. Một vòng gọi vốn quy mô lớn hơn nhiều từng được bàn tới cuối năm 2025 nhưng đã dừng lại vào tháng 1/2026. TechCrunch cho biết công ty hiện có khoảng 200 nhân sự. Trong hoàn cảnh đó, việc phát hành mô hình miễn phí và bán dịch vụ xung quanh là lựa chọn chiến lược rõ ràng chứ không phải hành động thiện nguyện.

Điểm số benchmark và những gì cần dè chừng

Theo số liệu do chính Thinking Machines Lab công bố ở mức nỗ lực suy luận 0,99, Inkling đạt 97,1% ở AIME 2026, 87,2% ở GPQA Diamond, 77,6% ở SWEBench Verified, 63,8% ở Terminal Bench 2.1 và 29,7% ở Humanity’s Last Exam phần văn bản. Ở mảng đa phương thức, mô hình đạt 73,5% ở MMMU Pro và 91,4% ở VoiceBench. Công ty cũng nói Inkling dùng khoảng một phần ba lượng token so với Nemotron 3 Ultra của Nvidia để đạt cùng mức điểm Terminal Bench 2.1.

Cần nhắc lại rằng đây là số liệu tự công bố, chưa qua kiểm chứng độc lập ở thời điểm bài viết. Benchmark cũng chỉ phản ánh một lát cắt hẹp của năng lực thực tế, đặc biệt với tiếng Việt vốn không nằm trong bất kỳ bài kiểm tra nào kể trên. Doanh nghiệp muốn dùng nghiêm túc nên tự dựng bộ kiểm thử trên chính dữ liệu của mình trước khi ra quyết định.

Ý nghĩa với lập trình viên và doanh nghiệp Việt Nam

Đây là phần cần nhìn tỉnh táo. Về lý thuyết, mô hình open-weight giải quyết đúng nỗi lo lớn nhất của doanh nghiệp Việt Nam khi ứng dụng AI: dữ liệu không phải gửi ra ngoài. Hồ sơ khách hàng, hợp đồng, bệnh án hay dữ liệu tài chính có thể ở lại trong máy chủ của doanh nghiệp, điều mà mô hình gọi qua API của OpenAI hay Google không đáp ứng được ở mức tương đương. Với các đơn vị chịu ràng buộc về dữ liệu cá nhân, đây là khác biệt mang tính quyết định.

Nhưng rào cản phần cứng của riêng Inkling rất lớn. Tài liệu của công ty ghi rõ chạy ở độ chính xác BF16 cần tối thiểu khoảng 2TB VRAM gộp, tức khoảng 8 card NVIDIA B300 hoặc 16 card H200. Bản lượng tử hóa NVFP4 dạng W4A4 hạ yêu cầu xuống khoảng 600GB VRAM gộp trên 4 card B300. Ở mặt bằng giá GPU trung tâm dữ liệu hiện nay, đây là khoản đầu tư mà chỉ ngân hàng lớn, tập đoàn viễn thông hoặc nhà cung cấp đám mây trong nước mới cân nhắc nổi.

Vì vậy, với phần lớn đội ngũ ở Việt Nam, lộ trình thực tế hơn là dùng Inkling qua các nhà cung cấp hạ tầng đã hỗ trợ sẵn để đánh giá chất lượng, rồi mới tính chuyện tự vận hành nếu bài toán thật sự đòi hỏi dữ liệu nằm trong nội bộ. Song song đó, nhóm mô hình mở nhỏ hơn vẫn là lựa chọn hợp lý cho đa số: Gemma 4 12B của Google chạy được trên laptop cấu hình cao, còn dòng mô hình Trung Quốc như Qwen của Alibaba đang dẫn đầu nhiều bài kiểm tra lập trình và có nhiều biến thể vừa túi tiền. So với các mô hình mở này, lợi thế của Inkling nằm ở quy mô kiến thức, ngữ cảnh 1 triệu token, khả năng nhận âm thanh và ảnh cùng lúc, cùng giấy phép Apache 2.0 rộng rãi cho mục đích thương mại.

Thinking Machines Lab cũng nhắc tới một biến thể nhỏ hơn tên Inkling-Small với 276 tỷ tham số tổng và 12 tỷ tham số kích hoạt, dùng cùng công thức huấn luyện, nhưng trọng số chưa được phát hành ở thời điểm công bố. Nếu bản này ra mắt, nó mới là phiên bản đáng theo dõi với thị trường Việt Nam, vì mức tham số kích hoạt 12 tỷ nằm trong tầm phần cứng của nhiều doanh nghiệp hơn hẳn.

Nhìn tổng thể, Inkling không phải cú đánh giành ngôi đầu bảng, và công ty cũng không cố tỏ ra như vậy. Giá trị của nó nằm ở chỗ đây là mô hình open-weight quy mô lớn nhất do một phòng thí nghiệm Mỹ phát hành công khai, ở thời điểm mà phần lớn mô hình mở đáng chú ý đến từ Trung Quốc. Cùng với làn sóng mô hình mở khác như DeepSeek liên tục làm mới dòng sản phẩm của mình, Inkling góp phần giữ cho thị trường AI không rơi vào tay một vài nhà cung cấp đóng. Với người dùng cuối, đó là tin tốt, kể cả khi phần cứng để tự chạy nó vẫn còn ngoài tầm với.