Vì sao Apple phải đi tìm một startup nhỏ để giải bài toán AI ngay trên iPhone?

Có tin mà mình đọc đi đọc lại vài lần qua giờ: Apple, một công ty có đủ tiền và đủ người để tự xây bất cứ mô hình AI nào, lại đang ngồi họp với một startup mới tách ra từ Caltech tên là PrismML, chỉ để tìm hiểu xem họ đã làm thế nào mà nhét được một mô hình AI mã nguồn mở của Alibaba, nặng tới 27 tỷ tham số, vào gọn trong bộ nhớ của một chiếc iPhone 17 Pro. Điều này đáng chú ý không chỉ vì con số, mà vì nó hé lộ Apple đang tự nhận ra một điểm yếu mà chính họ chưa giải quyết xong.

PrismML là ai, và họ làm được gì

PrismML là công ty tách ra từ Viện Công nghệ California (Caltech), được quỹ Khosla Ventures rót vốn, và họ vốn đã âm thầm ra khỏi trạng thái ẩn danh từ tháng 4/2026 với dòng mô hình gọi là Bonsai. Điều làm PrismML khác biệt với hầu hết các công ty AI khác là hướng đi nén mô hình cực đoan: thay vì huấn luyện một mô hình lớn rồi tìm cách lượng tử hóa (quantization: kỹ thuật giảm số bit dùng để lưu mỗi trọng số của mạng neuron), PrismML huấn luyện mô hình ngay từ đầu ở dạng trọng số ternary, tức mỗi trọng số chỉ có thể nhận một trong ba giá trị: -1, 0, hoặc +1.

PrismML, startup tách ra từ Caltech gây chú ý khi được Apple thảo luận để mang mô hình 27 tỉ tham số xuống thiết bị di động Đây là điểm mình thấy đáng nói nhất về mặt kỹ thuật. Trong lịch sử nén mô hình, việc ép một mạng neuron xuống còn 1 hay 2 bit cho mỗi trọng số gần như luôn phá hỏng chất lượng, đặc biệt là ở các tác vụ cần suy luận phức tạp, vì việc làm tròn số sau khi huấn luyện xong sẽ xóa mất những biểu diễn tinh tế mà mô hình đã học được. Cái mà PrismML gọi là Ternary Bonsai né được vấn đề này bằng cách không đi con đường "nén sau" mà xây dựng kiến trúc 1-bit ngay từ nền tảng toán học, kết hợp thêm kỹ thuật lượng tử hóa theo nhóm: cứ mỗi 128 trọng số lại chia sẻ chung một hệ số tỷ lệ (scale factor) ở định dạng FP16, để mỗi trọng số về bản chất là {-s, 0, +s} thay vì chỉ có ba giá trị cố định tuyệt đối.

Một phép so sánh đáng để ý: kiến trúc rời rạc và kiến trúc đặc

Điều mình thấy thú vị hơn cả câu chuyện nén là sự khác biệt giữa mô hình của PrismML và mô hình on-device hiện tại của chính Apple, tên là AFM 3 Core Advanced, mô hình đang chạy các tính năng như giọng nói biểu cảm hơn của Siri AI và tính năng chép chính tả toàn hệ thống trên iPhone 17 Pro và iPhone Air. AFM 3 Core Advanced có 20 tỷ tham số, nhưng dùng kiến trúc thưa (sparse architecture) kiểu hỗn hợp chuyên gia (mixture of experts), nghĩa là tại một thời điểm chỉ có khoảng 1 đến 4 tỷ tham số thực sự hoạt động, phần còn lại nằm im chờ được gọi tới khi cần. Trong khi đó, mô hình Qwen 3.6 mà PrismML nén lại là kiến trúc đặc, tức toàn bộ 27 tỷ tham số đều hoạt động cùng lúc, không có phần nào ngủ yên.

Hiểu đơn giản thì trong mô hình Sparse thì chỉ một số tham số được chọn, trong khi với Dense thì tất cả đều hoạt động cùng lúc Nói cách khác, Apple đang đi theo hướng "nhiều tham số nhưng chỉ đánh thức một phần nhỏ mỗi lần" để tiết kiệm tính toán, còn PrismML lại chứng minh rằng nếu nén đủ mạnh, một mô hình đặc với toàn bộ tham số hoạt động cùng lúc vẫn có thể chạy vừa trên phần cứng di động, kèm theo lợi thế là mọi tham số đều được tận dụng toàn thời gian. Đây là hai triết lý thiết kế khác hẳn nhau để giải cùng một bài toán: đưa AI mạnh xuống một con chip nằm trong túi quần, và có vẻ Apple đang muốn học hỏi cả hai hướng thay vì chỉ đi một con đường.

Vì sao chuyện này quan trọng với Apple hơn là chỉ một cuộc gặp

Mình nghĩ động lực thực sự đằng sau cuộc gặp này không chỉ là tò mò công nghệ. Hiện tại, khi một tác vụ Apple Intelligence vượt quá khả năng xử lý on-device, nó sẽ được đẩy lên hạ tầng Private Cloud Compute của Apple, tức các máy chủ dùng chip Apple Silicon đặt trong trung tâm dữ liệu của chính họ. Việc này tốn kém, và dù Apple luôn nhấn mạnh yếu tố bảo mật của Private Cloud Compute, thì về bản chất, xử lý mọi thứ ngay trên thiết bị vẫn luôn là lựa chọn an toàn và rẻ hơn nếu làm được. Nếu Apple có thể chạy được các mô hình cỡ 27 tỷ tham số ngay trên chip A-series mới nhất mà không đánh đổi tốc độ phản hồi, họ vừa giảm được chi phí vận hành máy chủ, vừa có thêm một luận điểm marketing quen thuộc: quyền riêng tư, lần này gắn với những tính năng AI mạnh hơn thật sự chứ không chỉ là khẩu hiệu.

Câu chuyện vận hành các mô hình AI on-device là một bài toán đau đáu mà Apple tìm cách giải suốt mấy năm vừa rồi