Phần cứng cho ML: vì sao GPU thắng CPU?
🎯 Mục tiêu học (LO AI-1.1.5 · mức K2 – Hiểu): so sánh các lựa chọn phần cứng cho hệ thống ML.
💡 Ý cốt lõi: ML cần phần cứng tính song song ồ ạt, không cần độ chính xác cao — nên GPU/chip chuyên dụng hợp hơn CPU thường.
Phần cứng để huấn luyện (training) và chạy suy luận (inference) có thể khác nhau — ví dụ mô hình nhận giọng nói chạy trên điện thoại yếu, nhưng huấn luyện cần sức mạnh đám mây.
ML cần gì ở phần cứng?
| Yêu cầu | Ý nghĩa |
|---|---|
| Xử lý cấu trúc dữ liệu lớn | Làm việc với ma trận / khối dữ liệu khổng lồ. |
| Tính song song ồ ạt | Chạy nhiều phép tính cùng lúc (vd nhân ma trận) — thứ ML làm liên tục. |
| Số học độ chính xác thấp (quantization) | Dùng ít bit hơn (vd 4 bit thay 32 bit) → nhanh hơn, ít điện hơn, chip nhỏ/rẻ hơn, ít băng thông. |
Các loại phần cứng
| Phần cứng | Đặc điểm | Hợp với |
|---|---|---|
| CPU | Ít lõi, độ chính xác cao (ML không cần), xung nhịp cao. | Kém hiệu quả cho ML. |
| GPU | Hàng nghìn lõi, tính song song ồ ạt (dù xung nhịp thấp hơn CPU). | Thường tốt nhất cho ML quy mô nhỏ. |
| ASIC / SoC (chip chuyên AI) | Nhiều lõi, quản lý dữ liệu chuyên biệt, xử lý ngay trong bộ nhớ. | Edge computing (chạy tại thiết bị); huấn luyện thì làm trên đám mây. |
| Neuromorphic (mới nổi) | Không theo kiến trúc von Neumann — mô phỏng cấu trúc nơ-ron não. | Đang phát triển, hướng tương lai. |
📝 Bẫy hay gặp
Đề hay cho một phát biểu nghe hợp lý nhưng sai — nhớ mấy chỗ gài sau:
- "CPU hợp cho ML hơn GPU vì xung nhịp cao hơn" → SAI: ML cần nhiều lõi chạy song song (GPU), không phải xung nhịp cao.
- "Huấn luyện và suy luận luôn dùng cùng một phần cứng" → SAI: thường khác nhau (train trên đám mây, chạy trên thiết bị yếu).
- "ML cần độ chính xác số học rất cao" → SAI: ngược lại, dùng ít bit (quantization) vẫn tốt mà còn nhanh, tiết kiệm.
📌 Ghi nhớ
ML cần: dữ liệu lớn · song song ồ ạt · ít bit (quantization)
Thứ tự hợp ML: GPU > CPU; chip chuyên AI (ASIC/SoC) cho edge; train ở cloud
Với tester: phần cứng ảnh hưởng hiệu năng & độ trễ — cùng mô hình nhưng chạy trên điện thoại hay đám mây cho tốc độ khác nhau. Đặc biệt quantization (nén số) có thể làm đổi nhẹ kết quả → cần kiểm thử lại trên đúng phần cứng sẽ triển khai, không chỉ trên máy huấn luyện.
📖 Thuật ngữ Anh–Việt (mục này)
Đề thi dùng thuật ngữ tiếng Anh — nhớ đúng cụm bên trái. Bấm 🔊 để nghe từng từ, hoặc "Đọc tất cả" để nghe lần lượt Anh → (vài giây) → Việt.
| Thuật ngữ (EN) | Nghĩa & ghi nhớ nhanh |
|---|---|
| Training | Huấn luyện — dạy mô hình từ dữ liệu |
| Inference | Suy luận — mô hình đã học đưa ra dự đoán khi dùng thật |
| Massively parallel processing | Xử lý song song ồ ạt — nhiều phép tính cùng lúc |
| Matrix multiplication | Nhân ma trận — phép tính lõi của ML |
| Quantization | Lượng tử hóa — dùng ít bit hơn để tính (vd 4 bit thay 32 bit) |
| Low-precision arithmetic | Số học độ chính xác thấp |
| CPU | Bộ xử lý trung tâm — ít lõi, chính xác cao |
| GPU | Bộ xử lý đồ họa — hàng nghìn lõi, hợp ML |
| Core | Lõi xử lý — càng nhiều lõi càng chạy song song tốt |
| Clock speed | Xung nhịp — tốc độ mỗi lõi (CPU thường cao hơn GPU) |
| ASIC | Mạch tích hợp chuyên dụng — chip làm riêng cho AI |
| System-on-a-Chip (SoC) | Hệ thống trên một chip |
| Edge computing | Điện toán biên — xử lý ngay tại thiết bị, không gửi lên đám mây |
| Neuromorphic processor | Chip mô phỏng nơ-ron não (kiến trúc mới) |
| von Neumann architecture | Kiến trúc máy tính truyền thống (tách CPU–bộ nhớ) |
🎯 Câu hỏi minh họa (phong cách đề CT-AI · K2)
For small-scale machine learning work, why do GPUs generally outperform CPUs?
- a) GPUs run at a much higher clock speed than CPUs.
- b) GPUs have thousands of cores for massively parallel processing, which ML relies on.
- c) GPUs perform arithmetic with much higher precision than CPUs.
- d) GPUs do not need any cooling or power.
Xem bản dịch tiếng Việt
Với công việc ML quy mô nhỏ, vì sao GPU thường vượt trội hơn CPU?
a) GPU chạy xung nhịp cao hơn CPU nhiều.
b) GPU có hàng nghìn lõi để xử lý song song ồ ạt — thứ ML dựa vào.
c) GPU tính toán chính xác hơn CPU nhiều.
d) GPU không cần làm mát hay nguồn điện.
Xem đáp án & giải thích
✅ Đáp án đúng: b — GPU có hàng nghìn lõi, hợp phép tính song song ồ ạt của ML.
a sai — CPU mới thường có xung nhịp cao hơn; đó không phải yếu tố quyết định cho ML.
c sai — ML không cần độ chính xác cao (còn dùng quantization để giảm bit).
d sai — GPU vẫn tốn điện và cần làm mát.
Đề để tiếng Anh cho sát đề thi thật; phần giải thích để tiếng Việt cho dễ hiểu. Câu hỏi do maiqai.com tự soạn theo phong cách đề.
📎 Nguồn: Chương 1 – Giới thiệu AI, mục 1.1.5 "Hardware for Machine Learning Systems", trang 18 — ISTQB® Certified Tester AI Testing Syllabus v2.0 (© International Software Testing Qualifications Board). Nội dung biên soạn/dịch ý lại bằng tiếng Việt, không sao chép nguyên văn.