Từ điển AI #2: Zero-shot Prompting – Khám phá “Trí thông minh bản năng” của AI

Zero-shot Prompting là kỹ thuật giao nhiệm vụ cho AI bằng ngôn ngữ tự nhiên mà không cung cấp bất kỳ ví dụ mẫu nào, dựa hoàn toàn vào tri thức mà mô hình đã tích lũy được trong quá trình huấn luyện trước đó.

Ở bài viết trước về Prompt, chúng ta đã hiểu cấu trúc cơ bản của một câu lệnh hiệu quả. Nhưng bạn đã bao giờ tự hỏi: làm thế nào một AI có thể hiểu và thực thi ngay lập tức một yêu cầu hoàn toàn mới mà nó chưa từng được hướng dẫn cụ thể trước đó?

Zero-shot Prompting là gì, và vì sao AI có thể làm được điều tưởng chừng vô lý này?

Trong thuật ngữ máy học, “shot” ám chỉ những ví dụ mẫu người dùng cung cấp để AI học theo – do đó “zero-shot” nghĩa là “không cần ví dụ”. Đây là kỹ thuật giao nhiệm vụ cho AI bằng ngôn ngữ tự nhiên và kỳ vọng nó thực hiện dựa hoàn toàn vào kho tri thức khổng lồ đã được huấn luyện từ trước – đúng như cơ chế “nén tri thức nhân loại” đã tìm hiểu ở bài về LLM. Khả năng này chỉ khả thi vì quy mô dữ liệu pre-training khổng lồ đứng sau mỗi mô hình hiện đại.

Nghiên cứu gốc chứng minh điều gì về giới hạn thực sự của Zero-shot?

Đây là câu hỏi mà chính các nhà nghiên cứu tạo ra GPT-3 đã đặt ra và đo lường một cách hệ thống. Trong bài báo mang tính bước ngoặt “Language Models are Few-Shot Learners” (Brown và cộng sự, OpenAI, 2020) – công trình giới thiệu GPT-3 với 175 tỷ tham số – các tác giả so sánh trực tiếp hiệu suất zero-shot, one-shot (một ví dụ), và few-shot (vài ví dụ) trên hàng chục bộ dữ liệu chuẩn. Kết quả rất rõ ràng: trên bộ dữ liệu hỏi đáp TriviaQA, độ chính xác zero-shot chỉ đạt 64,3%, trong khi few-shot đạt tới 71,2%; trên bộ dữ liệu StoryCloze đo khả năng hiểu mạch truyện, zero-shot đạt 83,2% còn few-shot đạt 87,7%. Quan trọng hơn cả những con số riêng lẻ, nhóm nghiên cứu phát hiện ra một quy luật: hiệu suất few-shot tăng nhanh hơn hẳn hiệu suất zero-shot khi quy mô mô hình tăng lên – nghĩa là mô hình càng lớn, khoảng cách lợi thế của việc cung cấp ví dụ mẫu càng rõ rệt, chứ không hề thu hẹp lại.

Vì sao các mô hình đời mới lại giỏi zero-shot hơn hẳn so với vài năm trước?

Một điều thú vị là khoảng cách hiệu suất giữa zero-shot và few-shot đo được từ GPT-3 năm 2020 đã thu hẹp đáng kể ở các mô hình hiện đại như GPT-4, Claude hay Gemini. Nguyên nhân không nằm ở việc mô hình “thông minh hơn” một cách chung chung, mà đến từ một bước huấn luyện bổ sung gọi là instruction tuning và RLHF (Học tăng cường từ phản hồi con người, sẽ tìm hiểu kỹ ở bài #18) – quá trình dạy mô hình cách hiểu và tuân theo chỉ dẫn tự nhiên của con người tốt hơn, thay vì chỉ dự đoán từ tiếp theo một cách máy móc. Đây chính là lý do vì sao trải nghiệm zero-shot với ChatGPT hay Claude ngày nay mượt mà hơn nhiều so với các mô hình ngôn ngữ thế hệ trước.

Zero-shot hoạt động tốt nhất với loại công việc văn phòng nào?

Trong thực tế công việc hằng ngày, zero-shot phù hợp nhất với ba nhóm tác vụ: các tác vụ ngôn ngữ phổ quát mà AI đã “nhìn thấy” hàng triệu lần trong dữ liệu huấn luyện, như dịch thuật, sửa lỗi chính tả, tóm tắt văn bản theo văn phong chuẩn mực; các tác vụ brainstorming mở, nơi không có một đáp án “đúng” duy nhất, như liệt kê ý tưởng chủ đề bài viết, đặt tên chiến dịch; và các tác vụ phân loại đơn giản với các nhãn rõ ràng, dễ hiểu, như phân loại email theo mức độ ưu tiên. Ngược lại, với các tác vụ đòi hỏi định dạng đầu ra đặc thù của riêng tổ chức bạn, hay văn phong cá nhân hóa cao, zero-shot thường cho kết quả “đúng nhưng chưa vừa ý”.

Khi nào Zero-shot là đủ, và khi nào cần “nâng cấp”?

Phát hiện trên cho một hàm ý thực tế rất rõ ràng: với những tác vụ phổ thông, đơn nghĩa, zero-shot thường đã đủ chính xác. Nhưng với những tác vụ đòi hỏi định dạng đặc thù, văn phong cá nhân hóa, hay logic phân loại phức tạp — đúng loại bài toán mà khoảng cách 7-9 điểm phần trăm giữa zero-shot và few-shot ở trên thể hiện rõ – bạn cần “nâng cấp” lên kỹ thuật Few-shot Prompting, chủ đề bài viết tiếp theo.

Công thức thực dụng để tối ưu Zero-shot: Hành động + Đối tượng + Định dạng

Vì không có ví dụ mẫu để làm “khuôn”, AI hoàn toàn dựa vào cách bạn dùng từ trong câu lệnh. Người dùng thông minh thường áp dụng công thức: Hành động + Đối tượng + Định dạng. Thay vì nói “Dịch câu này”, hãy nói “Hãy đóng vai một biên dịch viên chuyên nghiệp, dịch đoạn văn bản sau sang tiếng Pháp với giọng văn trang trọng, giữ nguyên các thuật ngữ kỹ thuật”. Việc cung cấp bối cảnh rõ ràng ngay trong một lần yêu cầu duy nhất giúp AI định vị chính xác vùng tri thức cần truy xuất, thay vì phải “đoán” ý định của bạn dựa trên một câu lệnh mơ hồ.

Zero-shot có đáng tin cậy như nhau giữa các mô hình AI khác nhau không?

Câu trả lời là không, và đây là điều người dùng văn phòng cần lưu ý khi lựa chọn công cụ cho từng nhiệm vụ cụ thể. Vì hiệu suất zero-shot phụ thuộc trực tiếp vào chất lượng và độ đa dạng của dữ liệu pre-training cũng như mức độ tinh chỉnh instruction tuning, hai mô hình cùng thế hệ vẫn có thể cho kết quả zero-shot chênh lệch đáng kể trên cùng một tác vụ – ví dụ một mô hình có thể vượt trội ở suy luận toán học nhưng lại kém hơn ở viết sáng tạo bằng tiếng Việt, do tỷ trọng dữ liệu huấn luyện tiếng Việt khác nhau giữa các nhà phát triển. Với các tổ chức đang cân nhắc chọn công cụ AI, bài học rút ra là nên tự thử nghiệm zero-shot trên chính loại tác vụ đặc thù của mình, thay vì tin tưởng hoàn toàn vào các bảng xếp hạng benchmark chung chung – vì thứ hạng cao trên một benchmark không đảm bảo hiệu suất tương tự cho nhu cầu riêng của bạn.

Zero-shot Prompting là “điểm khởi đầu” trong mọi tương tác giữa người và máy — nhanh nhất để khám phá tiềm năng AI, nhưng có giới hạn đã được chính dữ liệu thực nghiệm của OpenAI chứng minh. Trong bài viết tiếp theo, chúng ta sẽ khám phá kỹ thuật giúp thu hẹp khoảng cách đó: Few-shot Prompting.

Tham khảo khóa học AI Mastery for Work level 1 và 2 tại đây.