Dữ liệu huấn luyện có "giống" thế giới thật không?
🎯 Mục tiêu học (LO AI-5.1.4 · mức K2 – Hiểu): giải thích cách test tính đại diện của dữ liệu.
💡 Ý cốt lõi: kiểm thử tính đại diện là đo mức độ khớp giữa dữ liệu huấn luyện/validation/test với dữ liệu thực tế mà model sẽ gặp khi vận hành.
3 bước kiểm thử tính đại diện
| Bước | Việc cần làm |
|---|---|
| 1. Xác định tập đối tượng mục tiêu (target population) | Hiểu use case & bối cảnh vận hành của MLS; phân tích đặc điểm người dùng cuối & môi trường vận hành; xác định phân phối dữ liệu vận hành kỳ vọng và các edge case quan trọng — bằng cách tham vấn chuyên gia miền, phân tích dữ liệu từ hệ hiện có/ứng dụng tương tự, hoặc dùng benchmark dataset từ nguồn tin cậy (NIST, cơ sở dữ liệu ngành...). Sau đó áp dụng stratified sampling trên dữ liệu tham chiếu để tạo baseline bao phủ mọi nhóm con liên quan. |
| 2. Phân tích đặc điểm dữ liệu | Áp dụng EDA (3.2.1) cho cả tập huấn luyện/test đang đánh giá và tập tham chiếu đại diện cho vận hành thực tế; trực quan hóa phân phối bằng histogram, scatter plot...; xem xét mối quan hệ & tương quan giữa các đặc trưng cần được giữ nguyên; tìm bất thường, khoảng trống hoặc điểm tập trung bất thường trong dữ liệu. |
| 3. Áp dụng kỹ thuật đánh giá thống kê | Dùng phép kiểm định thống kê hình thức như Chi-squared và Kolmogorov-Smirnov để so sánh phân phối; kiểm tra mất cân bằng dữ liệu (đặc biệt bài toán phân loại); xác nhận bao phủ đủ cả kịch bản điển hình lẫn edge/boundary case. |
Kiểm thử tính đại diện nên được thực hiện trước khi huấn luyện model, để tránh xây model trên dữ liệu không đại diện. Sau khi triển khai, cần giám sát liên tục đặc điểm dữ liệu vận hành thực tế để phát hiện thay đổi có thể báo hiệu data drift so với phân phối dữ liệu huấn luyện ban đầu (xem mục 6.1.7 — drift testing).
📝 Bẫy hay gặp
Đề hay cho một phát biểu nghe hợp lý nhưng sai — nhớ mấy chỗ gài sau:
- "Kiểm thử tính đại diện chỉ cần làm sau khi model đã huấn luyện xong" → SAI: nên làm trước khi huấn luyện để tránh xây model trên dữ liệu không đại diện.
- "Sau khi triển khai, không cần theo dõi thêm dữ liệu vận hành" → SAI: cần giám sát liên tục để phát hiện data drift.
- "Chỉ cần xem histogram là đủ kết luận dữ liệu đại diện hay không" → SAI: cần thêm phép kiểm định thống kê hình thức (Chi- squared, Kolmogorov-Smirnov), không chỉ quan sát trực quan.
📌 Ghi nhớ
3 bước: xác định target population → phân tích đặc điểm (EDA) → đánh giá thống kê
Với tester: khi đánh giá một tập dữ liệu, đừng chỉ hỏi "đủ nhiều chưa" — hãy hỏi "có giống thế giới thật mà hệ sẽ vận hành hay không", và đối chiếu bằng phép kiểm định thống kê thay vì cảm tính.
📖 Thuật ngữ Anh–Việt (mục này)
Đề thi dùng thuật ngữ tiếng Anh — nhớ đúng cụm bên trái. Bấm 🔊 để nghe từng từ, hoặc "Đọc tất cả" để nghe lần lượt Anh → (vài giây) → Việt.
| Thuật ngữ (EN) | Nghĩa & ghi nhớ nhanh |
|---|---|
| Data representativeness testing | Kiểm thử tính đại diện của dữ liệu |
| Target population | Tập đối tượng mục tiêu |
| Stratified sampling | Lấy mẫu phân tầng — đảm bảo mọi nhóm con đều được đại diện |
| Benchmark dataset | Tập dữ liệu chuẩn tham chiếu |
| Chi-squared test | Kiểm định Chi-bình phương |
| Kolmogorov-Smirnov test | Kiểm định Kolmogorov-Smirnov — so sánh hai phân phối |
| Edge case | Trường hợp biên/hiếm gặp |
| Data drift | Trôi dạt dữ liệu — phân phối dữ liệu vận hành đổi khác so với lúc huấn luyện |
🎯 Câu hỏi minh họa (phong cách đề CT-AI · K2)
Which activity belongs to the FIRST step of data representativeness testing, before any statistical comparison is performed?
- a) Running a Kolmogorov-Smirnov test on the training and reference datasets.
- b) Defining the target population by analyzing end users, operational context, and consulting domain experts.
- c) Monitoring operational data for drift after deployment.
- d) Visualizing feature correlations with scatter plots.
Xem bản dịch tiếng Việt
Hoạt động nào thuộc bước ĐẦU TIÊN của kiểm thử tính đại diện, trước khi thực hiện bất kỳ so sánh thống kê nào?
a) Chạy kiểm định Kolmogorov-Smirnov trên tập huấn luyện và tập tham chiếu.
b) Xác định tập đối tượng mục tiêu bằng cách phân tích người dùng cuối, bối cảnh vận hành, tham vấn chuyên gia miền.
c) Giám sát dữ liệu vận hành để tìm drift sau triển khai.
d) Trực quan hóa tương quan đặc trưng bằng scatter plot.
Xem đáp án & giải thích
✅ Đáp án đúng: b — xác định target population là bước 1, diễn ra trước khi phân tích đặc điểm dữ liệu và đánh giá thống kê.
a sai — đây là hoạt động thuộc bước 3 (đánh giá thống kê).
c sai — đây là hoạt động sau triển khai, liên quan drift testing chứ không phải bước 1.
d sai — đây thuộc bước 2 (phân tích đặc điểm dữ liệu qua EDA).
Đề để tiếng Anh cho sát đề thi thật; phần giải thích để tiếng Việt cho dễ hiểu. Câu hỏi do maiqai.com tự soạn theo phong cách đề.
📎 Nguồn: Chương 5 – Kiểm thử dữ liệu đầu vào cho hệ thống ML, mục 5.1.4 "Testing for Data Representativeness", trang 50–51 — ISTQB® Certified Tester AI Testing Syllabus v2.0 (© International Software Testing Qualifications Board). Nội dung biên soạn/dịch ý lại bằng tiếng Việt, không sao chép nguyên văn.