Từ điển AI #8: Token là gì? Đơn vị tiền tệ bí mật của thế giới AI

Token là đơn vị nhỏ nhất mà một mô hình ngôn ngữ lớn dùng để đọc, xử lý và tạo ra ngôn ngữ – văn bản được chia nhỏ thành từ, một phần của từ, hoặc ký tự thông qua một quá trình gọi là tokenization, và hầu hết các nhà cung cấp AI đều tính phí dựa trên số token này.

Ở bài viết trước về Generative AI, chúng ta đã thấy AI có thể tạo ra văn bản, hình ảnh, âm thanh trôi chảy đến kinh ngạc. Nhưng đằng sau mỗi lần “sáng tạo” đó, mô hình không thực sự đọc câu chữ như con người – nó nhìn thấy một chuỗi các con số. McKinsey giải thích rằng dù các LLM ngày nay chủ yếu tương tác bằng văn bản, chúng vẫn tính toán bằng số 1 và số 0 – và cầu nối giữa hai thế giới đó chính là token.

Token thực chất là gì, và AI “đếm chữ” theo cách nào?

Mỗi mô hình ngôn ngữ chuyển văn bản thành số thông qua một quá trình gọi là tokenization: văn bản đầu vào được chia nhỏ thành từ, ký tự, hoặc thậm chí các từ phụ (subword), rồi mỗi token được ánh xạ với một mã số định danh riêng. Ví dụ cụ thể từ McKinsey: cụm từ tiếng Anh “bits and bytes” được bộ mã hóa của GPT-4 chia thành đúng ba token, với mã số lần lượt là 11777, 323 và 5943. Về nguyên tắc chung, một token tương đương khoảng 0,75 từ tiếng Anh. Có bốn kỹ thuật tokenization phổ biến: tách theo từ (word tokenization), tách theo ký tự (character tokenization) – phù hợp với ngôn ngữ không có ranh giới từ rõ ràng, tách theo từ phụ (subword tokenization, dùng thuật toán Byte Pair Encoding) – giúp mô hình xử lý tốt cả những từ chưa từng gặp trong dữ liệu huấn luyện, và tách theo hình vị (morphological tokenization) – ví dụ từ “incompetence” được chia thành ba hình vị “in-”, “competent”, “-ence”, mỗi phần mang một ý nghĩa ngữ pháp riêng.

Vì sao tiếng Việt thường “tốn” token hơn tiếng Anh?

Đây là điều ít người dùng AI ở Việt Nam để ý, nhưng lại ảnh hưởng trực tiếp đến chi phí và độ dài phản hồi. Vì phần lớn các bộ tokenizer được tối ưu chủ yếu cho tiếng Anh – ngôn ngữ chiếm khối lượng áp đảo trong dữ liệu huấn luyện gốc – các ngôn ngữ có dấu thanh và cấu trúc âm tiết phức tạp như tiếng Việt thường bị chia thành nhiều token hơn cho cùng một nội dung, do bộ từ vựng subword ít “quen” với các tổ hợp ký tự có dấu. Hệ quả thực tế: cùng một đoạn văn bản, phiên bản tiếng Việt có thể tiêu tốn nhiều token hơn đáng kể so với phiên bản tiếng Anh tương đương – ảnh hưởng trực tiếp đến cả chi phí lẫn giới hạn context window sẽ được bàn ở bài tiếp theo.

Token quyết định chi phí sử dụng AI ra sao?

Hầu hết các nền tảng AI trả phí đều tính tiền theo đơn vị “USD trên mỗi một triệu token”, tách riêng giữa token đầu vào (input) và token đầu ra (output). Theo bảng giá API của Anthropic tính đến tháng 7/2026, Claude Opus 4.8 – mẫu cao cấp nhất – có giá 5 USD cho một triệu token đầu vào và 25 USD cho một triệu token đầu ra; Claude Sonnet 5 có giá 3 USD/15 USD; trong khi Claude Haiku 4.5, phiên bản nhẹ và nhanh nhất, chỉ 1 USD/5 USD. Sự chênh lệch giá theo từng tầng mô hình này lý giải trực tiếp cho hiện tượng đã nhắc ở bài LLM: vì sao bản miễn phí của một công cụ AI thường “kém thông minh” hơn hẳn bản trả phí – bạn đang trả tiền để được dùng một mô hình có nhiều tham số và năng lực xử lý token phức tạp hơn.

Doanh nghiệp có thể tối ưu chi phí token thế nào?

Với các tổ chức triển khai AI ở quy mô lớn, chi phí token có thể cộng dồn rất nhanh. Hai kỹ thuật tối ưu phổ biến hiện nay: prompt caching – lưu lại phần ngữ cảnh lặp lại giữa các lượt gọi API để tránh tính phí trùng lặp, có thể cắt giảm tới 90% chi phí token đầu vào; và Batch API – xử lý các yêu cầu không cần phản hồi tức thời theo lô, giúp giảm một nửa chi phí so với gọi API theo thời gian thực. Với các nhà quản lý đang lên ngân sách cho việc triển khai AI trong doanh nghiệp, hiểu được cơ chế định giá theo token này quan trọng không kém việc chọn đúng mô hình.

Token đầu ra có luôn tốn kém hơn token đầu vào không, và điều đó có ý nghĩa gì khi thiết kế prompt?

Nhìn vào bảng giá ở trên, một quy luật lặp lại xuyên suốt các nhà cung cấp: giá cho mỗi token đầu ra luôn cao hơn đáng kể so với token đầu vào – thường gấp 4-5 lần. Nguyên nhân kỹ thuật nằm ở chỗ việc tạo sinh (generate) từng token đầu ra đòi hỏi một lượt tính toán riêng qua toàn bộ mạng nơ-ron của mô hình, trong khi xử lý token đầu vào có thể được tính toán song song hiệu quả hơn nhiều. Hàm ý thực tế cho người dùng doanh nghiệp: yêu cầu AI trả lời ngắn gọn, đúng trọng tâm không chỉ giúp tiết kiệm thời gian đọc mà còn giảm chi phí vận hành đáng kể – một câu lệnh dặn dò “trả lời trong 3 gạch đầu dòng” có thể cắt giảm chi phí token đầu ra tới 70-80% so với để AI tự do viết dài.

Không chỉ văn bản mới được “token hóa” – hình ảnh và video cũng vậy

Một điều ít người để ý: khi bạn tải một bức ảnh lên để AI phân tích, bức ảnh đó cũng được quy đổi thành một số lượng token nhất định, dựa trên độ phân giải và kích thước – một bức ảnh có độ phân giải cao có thể tiêu tốn tương đương hàng nghìn token văn bản. Đây là lý do vì sao các mô hình đa phương thức, như sẽ tìm hiểu ở bài #10, thường có chi phí vận hành cao hơn hẳn các mô hình chỉ xử lý văn bản thuần túy – không chỉ vì kiến trúc phức tạp hơn, mà còn vì chính “trọng lượng token” của dữ liệu hình ảnh và video.

Nhưng số lượng token bạn có thể sử dụng trong một cuộc trò chuyện không phải là vô hạn. Giới hạn đó có tên gọi: Context Window – chủ đề bài viết tiếp theo.

Tham khảo khóa học AI Mastery for Work level 1 và 2 tại đây.