FPT GPU Server · FPT Kubernetes Engine with GPU · FPT Cloud AI
Video AI là việc dùng mô hình thị giác máy tính để “hiểu” hình ảnh từ camera: đếm người, phát hiện thiếu đồ bảo hộ, nhận biết xe vào khu vực cấm, theo dõi hàng trên kệ. Phần nặng nhất là giải mã nhiều luồng video và chạy suy luận liên tục, nên GPU thường là lựa chọn hợp lý khi số camera tăng lên. Doanh nghiệp không cần đội AI lớn để bắt đầu vì có nhiều mô hình phát hiện đối tượng dùng sẵn.
- Camera đã có, doanh nghiệp cần gì ở video AI
- Vì sao video AI thường cần GPU
- Chọn L4 hay RTX PRO 6000 cho video AI
- Kiến trúc tham khảo: Chỉ gửi sự kiện, không gửi toàn bộ video
- Chạy thử trước khi mua: Đo gì trong 2–4 tuần
- Lưu ý về dữ liệu hình ảnh người
- Triển khai video AI trên hạ tầng FPT Cloud
- Câu hỏi thường gặp
Camera đã có, doanh nghiệp cần gì ở video AI
Nhà máy, chuỗi cửa hàng và kho bãi thường đã lắp camera nhưng chỉ dùng để xem lại sau sự cố. Video AI chuyển camera từ “ghi hình” sang “cảnh báo”. Một số bài toán phổ biến:
- Nhà máy: phát hiện người vào vùng nguy hiểm, kiểm tra mũ và áo bảo hộ, đếm sản phẩm trên băng chuyền.
- Cửa hàng: đếm lượt khách, ước tính thời gian chờ ở quầy thanh toán, phát hiện kệ hàng trống.
- Kho bãi: theo dõi xe và pallet ra vào cổng, phát hiện vật cản lối đi, hỗ trợ đọc biển số.
Các bài toán này chủ yếu dùng mô hình phát hiện và phân loại đối tượng đã có sẵn, chỉ cần tinh chỉnh nhẹ bằng hình ảnh thực tế của doanh nghiệp. Vì vậy đội vận hành và một đối tác tích hợp thường là đủ để chạy thử, chưa cần xây mô hình từ đầu.
Vì sao video AI thường cần GPU
Mỗi luồng camera phải được giải mã, đổi kích thước rồi mới đưa vào mô hình. Khi có hàng chục luồng chạy song song, CPU dễ trở thành điểm nghẽn. GPU giúp ở hai phần: tăng tốc suy luận của mô hình và có bộ giải mã video chuyên dụng.
Theo tài liệu kỹ thuật của NVIDIA, GPU L4 có 2 bộ mã hóa NVENC, 4 bộ giải mã NVDEC và 4 bộ giải mã JPEG, hỗ trợ AV1. Đây là cấu hình hướng tới xử lý video và suy luận ở mức tiêu thụ điện thấp (khoảng 72 W, dạng 1 khe low-profile). Số luồng thực tế mỗi GPU xử lý được còn phụ thuộc độ phân giải, số khung hình mỗi giây, codec và độ nặng của mô hình, nên cần chạy thử trước khi chốt số lượng.
Chọn L4 hay RTX PRO 6000 cho video AI
| Tiêu chí | NVIDIA L4 | NVIDIA RTX PRO 6000 Blackwell Server Edition |
|---|---|---|
| Bộ nhớ | 24 GB | 96 GB GDDR7 ECC |
| Điểm mạnh | Xử lý video, suy luận nhẹ, điện năng thấp | Suy luận đa phương thức, kết xuất đồ họa, video, mô hình lớn hơn |
| Chia nhỏ GPU | Chia theo luồng, chạy nhiều tiến trình | Hỗ trợ MIG, tối đa 4 phần 24 GB theo tài liệu NVIDIA |
| Phù hợp | Nhiều camera, mô hình phát hiện đối tượng tiêu chuẩn | Kết hợp video với mô hình ngôn ngữ-hình ảnh, truy vấn bằng ngôn ngữ tự nhiên trên video |
Một cách chọn đơn giản: nếu nhu cầu là phát hiện và đếm trên nhiều luồng bằng mô hình gọn, bắt đầu với L4. Nếu muốn thêm lớp mô hình đa phương thức (ví dụ mô tả cảnh bằng văn bản) hoặc cần dùng chung GPU cho nhiều nhóm, RTX PRO 6000 có nhiều dư địa hơn. Các cấu hình đang cung cấp thực tế cần xác nhận với FPT, xem thêm tổng quan hạ tầng GPU và AI Factory.
Kiến trúc tham khảo: Chỉ gửi sự kiện, không gửi toàn bộ video
- Tại điểm đặt camera: camera phát luồng RTSP về một thiết bị trung gian hoặc máy chủ tại chỗ để gom luồng.
- Đường truyền: nếu suy luận chạy trên Cloud, cần băng thông ổn định; có thể giảm tải bằng cách hạ độ phân giải hoặc khung hình cho các bài toán không cần chi tiết cao. Xem kênh thuê riêng cho nhà máy và chuỗi bán lẻ.
- Trên GPU Cloud: giải mã, chạy mô hình, ghi lại sự kiện (thời điểm, camera, loại cảnh báo, ảnh chụp).
- Hệ thống nghiệp vụ: sự kiện đẩy sang ứng dụng cảnh báo, báo cáo hoặc bảng điều khiển; chỉ lưu clip ngắn quanh sự kiện thay vì toàn bộ video để tiết kiệm lưu trữ.
Chạy các dịch vụ này trong container giúp dễ mở rộng khi thêm camera, xem Kubernetes cho AI chạy GPU workload.
Chạy thử trước khi mua: Đo gì trong 2–4 tuần
- Chọn 5–10 camera đại diện (ban ngày, ban đêm, góc xa, góc gần) cho một bài toán duy nhất.
- Đo độ chính xác trên chính hình ảnh của doanh nghiệp, đếm cảnh báo sai và bỏ sót.
- Đo số luồng mỗi GPU chạy ổn định ở độ phân giải thực tế, cùng độ trễ từ lúc xảy ra sự kiện đến lúc có cảnh báo.
- Từ số liệu đo được mới tính số GPU và phương án thuê theo giờ hay đặt trước, xem so sánh thuê GPU theo giờ, đặt trước hay mua máy chủ.
Lưu ý về dữ liệu hình ảnh người
Hình ảnh khuôn mặt, dáng đi hoặc biển số có thể được xem là dữ liệu cá nhân. Trước khi triển khai, nên xác định mục đích, thời gian lưu trữ, người được xem và biển báo thông tin cho nhân viên, khách hàng. Nội dung này không phải tư vấn pháp lý; để nắm khung quy định hiện hành, tham khảo checklist tuân thủ bảo vệ dữ liệu cá nhân trên Cloud và bản đồ pháp lý dữ liệu và AI, đồng thời trao đổi với bộ phận pháp chế của doanh nghiệp.
Triển khai video AI trên hạ tầng FPT Cloud
Doanh nghiệp có thể chạy suy luận video trên máy chủ ảo GPU hoặc trên cụm Kubernetes tích hợp GPU, kết hợp lưu trữ và sao lưu cùng nền tảng. Loại GPU, số lượng và cấu hình mạng cần được FPT tư vấn theo số camera và bài toán cụ thể. Xem thêm FPT GPU Server và cách tối ưu chi phí suy luận.
Muốn chạy thử video AI trên camera hiện có
Mô tả số camera, bài toán và vị trí lắp đặt để được tư vấn cấu hình GPU phù hợp.
Đăng ký tư vấnCâu hỏi thường gặp
Cần bao nhiêu GPU để xử lý 50 camera
Không có con số cố định vì phụ thuộc độ phân giải, số khung hình mỗi giây, codec và mô hình. Cách làm đáng tin cậy là đo trên 5–10 camera thực tế rồi suy ra số GPU cho toàn bộ.
L4 có đủ cho phát hiện thiếu đồ bảo hộ không
Với mô hình phát hiện đối tượng tiêu chuẩn thì thường là hướng bắt đầu hợp lý nhờ bộ giải mã video và mức tiêu thụ điện thấp. Nên xác nhận bằng chạy thử trên hình ảnh thật của nhà máy.
Có cần đội AI riêng để triển khai video AI không
Không bắt buộc cho các bài toán phổ biến như đếm người hay phát hiện đối tượng, vì có thể dùng mô hình dựng sẵn. Doanh nghiệp vẫn cần người phụ trách dữ liệu, vận hành và đánh giá kết quả, hoặc một đối tác tích hợp.
Nên chạy video AI tại chỗ hay trên Cloud
Tại chỗ giảm phụ thuộc băng thông, trên Cloud dễ mở rộng và không phải mua phần cứng. Nhiều doanh nghiệp kết hợp: xử lý sơ bộ tại chỗ, đẩy sự kiện và phân tích nặng lên Cloud.
RTX PRO 6000 có thay thế được L4 không
Có thể chạy cùng loại tác vụ nhưng hướng đến khối lượng lớn hơn và mô hình đa phương thức. Nếu chỉ cần phát hiện đối tượng trên nhiều luồng, L4 thường gọn hơn về điện năng và kích thước.
Hình ảnh camera chứa người có phải dữ liệu cá nhân không
Có thể, tùy ngữ cảnh. Doanh nghiệp nên rà soát mục đích, thời gian lưu và quyền truy cập, đồng thời tham khảo ý kiến pháp chế. Bài viết không phải tư vấn pháp lý.

