Khi doanh nghiệp đã thử các dịch vụ AI có sẵn và nhận ra chúng chưa hiểu đủ thuật ngữ, quy trình hay phong cách riêng của mình, bước tiếp theo thường là tinh chỉnh một mô hình trên dữ liệu của chính doanh nghiệp. Bài viết này giải thích quy trình đó ở mức tổng quan, những quyết định cần cân nhắc và cách tổ chức hạ tầng trên FPT AI Factory.
Thử các cách nhẹ trước (hướng dẫn tốt, tài liệu tham chiếu), chỉ tinh chỉnh khi thật sự cần. Quy trình gồm chuẩn bị dữ liệu, chọn mô hình nền, huấn luyện hoặc tinh chỉnh, đánh giá, triển khai và giám sát. Dữ liệu và đánh giá quyết định chất lượng nhiều hơn phần cứng. Thuê GPU theo nhu cầu giúp tránh đầu tư trước.
Huấn luyện, tinh chỉnh hay chỉ dùng mô hình có sẵn?
Trước khi nghĩ đến GPU, hãy xếp các lựa chọn theo độ phức tạp tăng dần:
- Dùng mô hình hoặc dịch vụ có sẵn: nhanh nhất, ít công sức nhất. Ví dụ các dịch vụ của FPT.AI cho trò chuyện, đọc tài liệu, giọng nói.
- Bổ sung hướng dẫn và tài liệu tham chiếu: cung cấp cho mô hình bối cảnh và tài liệu nội bộ lúc trả lời để câu trả lời bám sát dữ liệu doanh nghiệp, mà không thay đổi chính mô hình.
- Tinh chỉnh (fine-tuning): điều chỉnh mô hình trên dữ liệu riêng để thay đổi cách nó trả lời hoặc nâng chất lượng ở một nhiệm vụ hẹp.
- Huấn luyện từ đầu: xây mô hình mới, hiếm khi cần với doanh nghiệp vừa và nhỏ vì tốn dữ liệu và tài nguyên rất lớn.
Nguyên tắc thực hành: đi từ trên xuống dưới và chỉ chuyển xuống mức tiếp theo khi có bằng chứng rằng mức hiện tại không đạt. Mỗi bậc đi xuống đều tốn thêm dữ liệu, thời gian và chi phí.
Quy trình sáu bước
Bước 1: Xác định nhiệm vụ và tiêu chí đánh giá
Viết rõ mô hình cần làm gì và thế nào là “đạt”. Ví dụ: phân loại yêu cầu vào các nhóm xác định, trả lời đúng theo tài liệu chính sách, trích xuất đúng các trường từ hợp đồng. Chuẩn bị luôn bộ câu hỏi và đáp án mẫu để đánh giá về sau. Bước này tưởng đơn giản nhưng quyết định toàn bộ dự án.
Bước 2: Chuẩn bị dữ liệu
FPT AI Factory được giới thiệu là bộ công cụ phát triển AI trên công nghệ NVIDIA, hỗ trợ từ chuẩn bị dữ liệu đến triển khai. Dù dùng công cụ nào, phần việc về dữ liệu cũng gồm:
- Thu thập và làm sạch: loại trùng lặp, sửa lỗi, bỏ nội dung không liên quan.
- Gỡ hoặc che dữ liệu cá nhân và bí mật kinh doanh không cần thiết.
- Định dạng thành các cặp đầu vào và đầu ra mong muốn.
- Tách riêng một phần dữ liệu để đánh giá, không đưa vào huấn luyện.
Dữ liệu thường được lưu ở lưu trữ đối tượng để dễ mở rộng; xem bài lưu trữ dữ liệu cho AI và phân tích.
Bước 3: Chọn mô hình nền và cách tinh chỉnh
Chọn mô hình nền phù hợp về ngôn ngữ, kích thước và điều khoản sử dụng. Mô hình lớn hơn thường tốt hơn nhưng tốn tài nguyên hơn khi huấn luyện và khi chạy. Trong ngành có nhiều kỹ thuật tinh chỉnh tiết kiệm tài nguyên (như chỉ cập nhật một phần nhỏ tham số); đây là kỹ thuật phổ biến chung, không phải mô tả một tính năng cụ thể của sản phẩm nào.
Bước 4: Huấn luyện trên hạ tầng GPU
Theo trang giới thiệu, FPT GPU Server là máy chủ GPU ảo dành cho huấn luyện mô hình AI, machine learning, dựng hình 3D và các tác vụ tính toán nặng, khởi tạo nhanh và trả theo nhu cầu. Cách dùng hiệu quả: thuê khi chạy huấn luyện, theo dõi đường cong học và chi phí, giải phóng tài nguyên khi xong. Lưu điểm kiểm tra (checkpoint) định kỳ để không mất công khi có sự cố.
Bước 5: Đánh giá nghiêm túc
Chạy mô hình trên bộ đánh giá đã tách riêng và so với phương án cơ sở, ví dụ mô hình chưa tinh chỉnh. Ngoài điểm số, hãy cho người trong nghiệp vụ xem các ví dụ thực tế, đặc biệt các trường hợp khó và trường hợp sai. Kiểm tra cả hành vi không mong muốn như bịa thông tin hoặc để lộ dữ liệu nhạy cảm.
Bước 6: Triển khai và giám sát
Đưa mô hình vào vận hành, có thể dưới dạng dịch vụ gọi qua API hoặc ứng dụng container; Kubernetes Engine hỗ trợ chạy ứng dụng AI dạng container trên hạ tầng GPU, mở rộng theo tải. Sau triển khai, theo dõi chất lượng, độ trễ, chi phí và thu thập phản hồi để cải thiện ở vòng sau.
Những quyết định ảnh hưởng nhiều nhất đến chi phí
| Quyết định | Ảnh hưởng | Gợi ý |
|---|---|---|
| Kích thước mô hình nền | Tài nguyên huấn luyện và chạy | Chọn mô hình nhỏ nhất đạt yêu cầu |
| Lượng và chất lượng dữ liệu | Thời gian huấn luyện, chất lượng kết quả | Ưu tiên dữ liệu sạch, đại diện hơn dữ liệu nhiều |
| Số vòng thử nghiệm | Tổng giờ GPU | Thử trên tập nhỏ trước, mở rộng sau |
| Thời gian giữ tài nguyên | Chi phí thuê | Giải phóng khi không dùng |
| Lưu lượng khi vận hành | Chi phí suy luận dài hạn | Đo tải thực, mở rộng theo nhu cầu |
Bảo mật và tuân thủ khi dùng dữ liệu riêng
Tinh chỉnh nghĩa là đưa dữ liệu riêng vào quy trình, nên cần cân nhắc cẩn thận:
- Phân loại dữ liệu và loại bỏ phần nhạy cảm không cần thiết trước khi huấn luyện.
- Giới hạn quyền truy cập vào dữ liệu, mô hình và kết quả; xem nền tảng ở bài bảo mật cho doanh nghiệp vừa và nhỏ trên cloud.
- Ghi lại nguồn dữ liệu và phiên bản mô hình để truy vết khi cần; xem quản trị dữ liệu trong kỷ nguyên AI.
- Cân nhắc nơi đặt hạ tầng: theo trang giới thiệu, hạ tầng của FPT Cloud đặt tại Việt Nam giúp giảm độ trễ, chủ động kiểm soát dữ liệu và đáp ứng yêu cầu tuân thủ của doanh nghiệp và cơ quan nhà nước. Mỗi doanh nghiệp vẫn cần tự đánh giá yêu cầu của ngành.
- Sao lưu dữ liệu huấn luyện và các phiên bản mô hình theo nguyên tắc 3-2-1.
Khi nào chưa nên tinh chỉnh?
- Chưa có bộ đánh giá rõ ràng, nên không thể biết mô hình có tốt hơn hay không.
- Dữ liệu còn ít, lộn xộn hoặc chưa được phép sử dụng.
- Các cách đơn giản hơn chưa được thử.
- Chưa có người vận hành và theo dõi mô hình sau triển khai.
Nếu bạn mới ở những bước đầu của hành trình AI, hãy xem bài bắt đầu với AI: lộ trình cho doanh nghiệp vừa và nhỏ trước, và AI và dữ liệu: động lực tăng trưởng mới để nắm bức tranh tổng thể.
Câu hỏi thường gặp
Huấn luyện và tinh chỉnh mô hình khác nhau thế nào?
Huấn luyện từ đầu là xây một mô hình mới trên lượng dữ liệu rất lớn, đòi hỏi tài nguyên tính toán lớn. Tinh chỉnh là điều chỉnh một mô hình đã có trên dữ liệu riêng của doanh nghiệp để nó phù hợp với một nhiệm vụ hoặc ngữ cảnh cụ thể, thường nhẹ hơn nhiều.
Khi nào nên tinh chỉnh thay vì chỉ dùng mô hình có sẵn?
Khi mô hình có sẵn kèm hướng dẫn và tài liệu tham chiếu vẫn chưa đạt chất lượng cần thiết, hoặc khi cần phong cách, thuật ngữ và định dạng đầu ra đặc thù. Nên thử các cách đơn giản hơn trước vì chúng nhanh và rẻ hơn.
Cần bao nhiêu dữ liệu để tinh chỉnh?
Không có con số chung. Chất lượng, độ đa dạng và tính đại diện của dữ liệu quan trọng hơn số lượng. Nên bắt đầu với bộ dữ liệu nhỏ nhưng được kiểm tra kỹ, đánh giá, rồi mở rộng nếu cần.
Có cần mua GPU để tinh chỉnh mô hình không?
Không bắt buộc. Doanh nghiệp có thể thuê máy chủ GPU trong thời gian chạy huấn luyện rồi giải phóng khi xong. Cách này tránh chi phí đầu tư phần cứng và giữ chi phí theo đúng nhu cầu.
Dữ liệu huấn luyện có bị lộ ra ngoài không?
Phụ thuộc vào cách tổ chức. Nếu huấn luyện trên hạ tầng do doanh nghiệp kiểm soát, với phân quyền và mã hóa phù hợp, rủi ro thấp hơn. Doanh nghiệp vẫn cần rà soát điều khoản dịch vụ, nơi lưu trữ dữ liệu và loại dữ liệu nhạy cảm đưa vào quá trình.