Những Bài Học Rút Ra Sau 6 Tháng Làm Prompt Engineering

Tác giả tóm tắt những nguyên tắc đã thực sự cải thiện kết quả sau 6 tháng làm việc với prompt engineering.

Các lưu ý chủ yếu xoay quanh thực hành, kiểm thử và cách phối hợp giữa con người và mô hình, chứ không phải thủ thuật chữ nghĩa đơn thuần.

Prompt

- Ví dụ ăn điểm hơn hướng dẫn: Thử 3–4 ví dụ thay vì chỉ viết hướng dẫn hoàn hảo.
- Quản lý phiên bản prompt như code: git commit, chạy kiểm thử hồi quy, theo dõi chỉ số hiệu năng.
- Phủ kiểm thử quan trọng hơn chất lượng prompt: xây bộ kiểm thử 100+ trường hợp biên.
- Chuyên môn ngành quan trọng hơn mẹo prompt: để chuyên gia soạn prompt cho lĩnh vực chuyên sâu.
- Tinh chỉnh nhiệt độ ít được chú ý: chỉnh từ 0.7 xuống 0.3 có thể tăng tính nhất quán.
- Tối ưu theo model: prompt cho GPT-4o không giống Claude không giống Llama.
- Chain-of-thought không phải lúc nào cũng tốt: bắt đầu đơn giản, thêm phức tạp khi số liệu cải thiện.
- Dùng AI để viết prompt cho AI: để mô hình tối ưu hướng dẫn của chính nó.
- Prompt hệ thống là nền tảng: 90% lỗi xuất phát từ prompt hệ thống yếu.
- Phòng chống prompt injection từ ngày đầu: mọi prompt sản xuất cần kiểm thử chống injection.

Dùng sao cho hiệu quả

Tóm lại: prompt engineering là kỹ thuật hệ thống dùng LLM, không phải nghề làm ra câu hoàn hảo.