Risk-based testing cho MLS: 3 vùng rủi ro cần soi
🎯 Mục tiêu học (LO AI-4.3.2 · mức K2 – Hiểu): giải thích cách áp dụng risk-based testing cho hệ thống machine learning.
💡 Ý cốt lõi: risk-based testing áp dụng cho mọi hệ thống, có AI hay không; nhưng hệ AI có rủi ro riêng, thường được chia theo 3 vùng của quy trình ML: development, input data, model.
3 vùng rủi ro theo quy trình ML
| Vùng | Liên quan đến | Ví dụ rủi ro | Xem thêm |
|---|---|---|---|
| Development (project risk) | Thuật toán ML, việc phát triển model, framework phát triển ML. | Chọn thuật toán chưa tối ưu, chọn cách đánh giá kém phù hợp, lỗ hổng bảo mật trong framework. | Chương 7 |
| Input data (product risk) | Việc cung cấp dữ liệu huấn luyện cho ML và dữ liệu sản xuất mà model dùng trong môi trường vận hành. | Dữ liệu huấn luyện thiên lệch, lỗi trong data pipeline, dữ liệu huấn luyện không đại diện. | Chương 5 |
| Model (product risk) | Model ML được tạo ra — sản phẩm cuối của quy trình ML. | Không đạt thước đo hiệu năng chức năng ML yêu cầu, model bị overfit, dễ bị đánh lừa bởi adversarial example. | Chương 6 |
Không có một cách chuẩn duy nhất để phân loại rủi ro ML. Cách chia theo 3 vùng ở trên chỉ là một hướng — syllabus còn nêu cách khác: phân loại theo các đặc tính chất lượng trong ISO/IEC 25059 (xem Chương 2). Nhiều hình thức kiểm thử được thiết kế riêng để giải quyết các rủi ro này, ví dụ: data pipeline testing, adversarial testing, và review sự phù hợp của thuật toán/model — được trình bày rải rác ở các Chương 5, 6, 7.
📝 Bẫy hay gặp
Đề hay cho một phát biểu nghe hợp lý nhưng sai — nhớ mấy chỗ gài sau:
- "Risk-based testing chỉ áp dụng cho hệ thống có AI" → SAI: áp dụng cho mọi hệ thống, có AI hay không.
- "Chỉ có một cách chuẩn để phân loại rủi ro ML" → SAI: syllabus nêu rõ không có cách chuẩn duy nhất — có thể chia theo 3 vùng workflow hoặc theo ISO/IEC 25059.
- "Rủi ro ở vùng Development là product risk" → SAI: đây là project risk (liên quan quá trình phát triển); input data và model mới là product risk.
📌 Ghi nhớ
3 vùng: Development (project risk) · Input data (product risk) · Model (product risk)
Với tester: khi ưu tiên test cho một dự án ML, đừng chỉ nhìn vào "model có chạy đúng không" — hãy rà cả 3 vùng: quy trình phát triển có chọn sai thuật toán/framework không, dữ liệu đầu vào có thiên lệch/thiếu đại diện không, và bản thân model có overfit hay dễ bị tấn công adversarial không.
📖 Thuật ngữ Anh–Việt (mục này)
Đề thi dùng thuật ngữ tiếng Anh — nhớ đúng cụm bên trái. Bấm 🔊 để nghe từng từ, hoặc "Đọc tất cả" để nghe lần lượt Anh → (vài giây) → Việt.
| Thuật ngữ (EN) | Nghĩa & ghi nhớ nhanh |
|---|---|
| Risk-based testing | Kiểm thử theo mức độ rủi ro |
| Project risk | Rủi ro dự án — liên quan quá trình phát triển |
| Product risk | Rủi ro sản phẩm — liên quan bản thân hệ thống |
| ML workflow | Quy trình machine learning |
| Overfitting | Quá khớp — model học thuộc dữ liệu huấn luyện, kém khái quát hóa |
| Adversarial example | Đầu vào bị chỉnh sửa có chủ đích để đánh lừa model |
| Data pipeline testing | Kiểm thử đường ống xử lý dữ liệu |
| Adversarial testing | Kiểm thử bằng cách cố tình đánh lừa model |
🎯 Câu hỏi minh họa (phong cách đề CT-AI · K2)
A project selected a sub-optimal ML algorithm and an inappropriate evaluation approach during development. Which risk category and type does this best represent?
- a) Model — product risk.
- b) Input data — product risk.
- c) Development — project risk.
- d) Development — product risk.
Xem bản dịch tiếng Việt
Một dự án chọn thuật toán ML chưa tối ưu và cách đánh giá không phù hợp trong quá trình phát triển. Đây thuộc vùng rủi ro và loại rủi ro nào?
a) Model — product risk.
b) Input data — product risk.
c) Development — project risk.
d) Development — product risk.
Xem đáp án & giải thích
✅ Đáp án đúng: c — chọn thuật toán/cách đánh giá thuộc vùng Development, và đây là project risk (rủi ro trong quá trình phát triển).
a sai — vùng Model gắn với rủi ro như overfit, không đạt hiệu năng, không phải chọn thuật toán.
b sai — vùng Input data gắn với dữ liệu thiên lệch/lỗi pipeline, không liên quan chọn thuật toán.
d sai — vùng Development gắn với project risk, không phải product risk.
Đề để tiếng Anh cho sát đề thi thật; phần giải thích để tiếng Việt cho dễ hiểu. Câu hỏi do maiqai.com tự soạn theo phong cách đề.
📎 Nguồn: Chương 4 – Kiểm thử hệ thống dựa trên AI, mục 4.3.2 "Risk-Based Testing of Machine Learning Systems", trang 44–45 — ISTQB® Certified Tester AI Testing Syllabus v2.0 (© International Software Testing Qualifications Board). Nội dung biên soạn/dịch ý lại bằng tiếng Việt, không sao chép nguyên văn.