AI trong hệ an toàn: 5 thách thức đặc thù
🎯 Mục tiêu học (LO AI-2.1.2 · mức K2 – Hiểu): giải thích những cân nhắc đặc biệt khi dùng AI trong hệ thống liên quan an toàn.
💡 Ý cốt lõi: hệ liên quan an toàn (safety-related) là hệ có thể gây thương tích/tổn hại cho người, tài sản, môi trường.
Kiểm thử hệ an toàn không dùng AI đã khó nhưng khả thi; đưa AI vào thì phát sinh thêm 5 thách thức.
5 thách thức khi đưa AI vào hệ an toàn
| Thách thức | Vấn đề |
|---|---|
| Đặc tả (specifications) | Hệ thường: yêu cầu định nghĩa rõ rồi chuyển thành code. Hệ AI: bắt đầu từ mục tiêu mơ hồ, ẩn trong dữ liệu huấn luyện → khó truy vết yêu cầu → cài đặt (traceability kém). |
| Phi tất định (non-determinism) | Khó bảo đảm hành vi chính xác. Mô hình đã test kỹ vẫn có thể cho kết quả bất ngờ (số ngẫu nhiên, đầu vào lệch nhẹ). |
| Tự học (self-learning) | Test trước triển khai chứng minh an toàn; nhưng hệ tự học dần lệch khỏi hành vi đã test. Cần quản lý cách học & dữ liệu, hoặc đặt safety guard (vd bộ lọc nội dung). |
| Giải thích & minh bạch | Hệ an toàn cần hiểu vì sao ra quyết định, nhưng AI thường là hộp đen. Kỹ thuật XAI như LIME giúp soi, nhưng chưa phổ biến và có thể giảm hiệu năng. |
| Quy định đang thay đổi | Chuẩn an toàn chức năng hiện chưa gồm AI, có chuẩn còn cấm dùng. EU AI Act xếp AI làm thành phần an toàn (hàng không, thiết bị y tế, ô tô) là rủi ro cao → yêu cầu ngặt. |
📝 Bẫy hay gặp
Đề hay cho một phát biểu nghe hợp lý nhưng sai — nhớ mấy chỗ gài sau:
- "Test kỹ một lần trước khi triển khai là đủ bảo đảm an toàn cho hệ AI tự học" → SAI: hệ tự học dần lệch khỏi hành vi đã test → cần giám sát/safety guard.
- "Chuẩn an toàn chức năng quốc tế đã bao gồm đầy đủ AI" → SAI: hiện chưa, có chuẩn còn cấm dùng AI.
- "XAI (vd LIME) luôn có sẵn và miễn phí về hiệu năng" → SAI: chưa phổ biến và có thể giảm hiệu năng.
📌 Ghi nhớ
Safety-related = có thể gây hại cho người / tài sản / môi trường
5 thách thức: đặc tả mơ hồ · phi tất định · tự học · khó giải thích · quy định đổi
Với tester: những thách thức này làm bảo đảm an toàn kiểu truyền thống mất hiệu lực. Tester cần: dùng safety guard, kỹ thuật XAI, giám sát liên tục hành vi tự học, và tuân thủ yêu cầu ngặt cho hệ rủi ro cao theo EU AI Act (mục 1.1.8).
📖 Thuật ngữ Anh–Việt (mục này)
Đề thi dùng thuật ngữ tiếng Anh — nhớ đúng cụm bên trái. Bấm 🔊 để nghe từng từ, hoặc "Đọc tất cả" để nghe lần lượt Anh → (vài giây) → Việt.
| Thuật ngữ (EN) | Nghĩa & ghi nhớ nhanh |
|---|---|
| Safety-related system | Hệ liên quan an toàn — có thể gây hại cho người/tài sản/môi trường |
| Safety integrity | Mức toàn vẹn an toàn — độ tin cậy về an toàn |
| Specification | Đặc tả — mô tả yêu cầu hệ thống phải làm |
| Traceability | Khả năng truy vết — lần từ yêu cầu tới cài đặt |
| Non-determinism | Phi tất định — cùng đầu vào có thể ra khác nhau |
| Self-learning | Tự học — hệ tự cải thiện, hành vi thay đổi theo thời gian |
| Safety guard | Cơ chế chặn an toàn (vd bộ lọc nội dung) |
| Explainability | Khả năng giải thích quyết định của AI |
| Transparency | Tính minh bạch |
| LIME | Kỹ thuật XAI giải thích cục bộ, độc lập mô hình |
| Explainable AI (XAI) | AI giải thích được — kỹ thuật soi lý do AI ra quyết định |
| Functional safety | An toàn chức năng — lĩnh vực chuẩn an toàn kỹ thuật |
| High-risk system | Hệ rủi ro cao (theo EU AI Act) |
🎯 Câu hỏi minh họa (phong cách đề CT-AI · K2)
Why does self-learning make it hard to assure the safety of an AI-based system after deployment?
- a) The system’s behaviour progressively moves away from the behaviour that was originally tested.
- b) Self-learning models never change their behaviour.
- c) Self-learning removes all need for monitoring.
- d) Self-learning guarantees perfectly deterministic outputs.
Xem bản dịch tiếng Việt
Vì sao tự học khiến khó bảo đảm an toàn cho hệ AI sau khi triển khai?
a) Hành vi của hệ dần lệch khỏi hành vi đã test ban đầu.
b) Mô hình tự học không bao giờ đổi hành vi.
c) Tự học bỏ được mọi nhu cầu giám sát.
d) Tự học bảo đảm đầu ra tất định tuyệt đối.
Xem đáp án & giải thích
✅ Đáp án đúng: a — Hệ tự học dần lệch khỏi hành vi đã test → bảo đảm an toàn ban đầu không còn giá trị.
b sai — ngược lại, tự học chính là đổi hành vi.
c sai — càng cần giám sát liên tục.
d sai — nhiều hệ AI vốn phi tất định.
Đề để tiếng Anh cho sát đề thi thật; phần giải thích để tiếng Việt cho dễ hiểu. Câu hỏi do maiqai.com tự soạn theo phong cách đề.
📎 Nguồn: Chương 2 – Đặc tính chất lượng, mục 2.1.2 "AI and Safety", trang 22–23 — ISTQB® Certified Tester AI Testing Syllabus v2.0 (© International Software Testing Qualifications Board). Nội dung biên soạn/dịch ý lại bằng tiếng Việt, không sao chép nguyên văn.