GPU cho video AI: Phân tích camera nhà máy, cửa hàng, kho bãi và cách chọn L4 hay RTX PRO 6000

GPU suy luận AI xử lý luồng video từ camera giám sát cho doanh nghiệp

Bạn đang tìm hiểu về GPU cho AI?
Xem trang tổng quan GPU cho AI cùng các bài viết liên quan | Tìm hiểu ngay

Share this story

Video AI là việc dùng mô hình thị giác máy tính để “hiểu” hình ảnh từ camera: đếm người, phát hiện thiếu đồ bảo hộ, nhận biết xe vào khu vực cấm, theo dõi hàng trên kệ. Phần nặng nhất là giải mã nhiều luồng video và chạy suy luận liên tục, nên GPU thường là lựa chọn hợp lý khi số camera tăng lên. Doanh nghiệp không cần đội AI lớn để bắt đầu vì có nhiều mô hình phát hiện đối tượng dùng sẵn.

Camera đã có, doanh nghiệp cần gì ở video AI

Nhà máy, chuỗi cửa hàng và kho bãi thường đã lắp camera nhưng chỉ dùng để xem lại sau sự cố. Video AI chuyển camera từ “ghi hình” sang “cảnh báo”. Một số bài toán phổ biến:

  • Nhà máy: phát hiện người vào vùng nguy hiểm, kiểm tra mũ và áo bảo hộ, đếm sản phẩm trên băng chuyền.
  • Cửa hàng: đếm lượt khách, ước tính thời gian chờ ở quầy thanh toán, phát hiện kệ hàng trống.
  • Kho bãi: theo dõi xe và pallet ra vào cổng, phát hiện vật cản lối đi, hỗ trợ đọc biển số.

Các bài toán này chủ yếu dùng mô hình phát hiện và phân loại đối tượng đã có sẵn, chỉ cần tinh chỉnh nhẹ bằng hình ảnh thực tế của doanh nghiệp. Vì vậy đội vận hành và một đối tác tích hợp thường là đủ để chạy thử, chưa cần xây mô hình từ đầu.

Vì sao video AI thường cần GPU

Mỗi luồng camera phải được giải mã, đổi kích thước rồi mới đưa vào mô hình. Khi có hàng chục luồng chạy song song, CPU dễ trở thành điểm nghẽn. GPU giúp ở hai phần: tăng tốc suy luận của mô hình và có bộ giải mã video chuyên dụng.

Theo tài liệu kỹ thuật của NVIDIA, GPU L4 có 2 bộ mã hóa NVENC, 4 bộ giải mã NVDEC và 4 bộ giải mã JPEG, hỗ trợ AV1. Đây là cấu hình hướng tới xử lý video và suy luận ở mức tiêu thụ điện thấp (khoảng 72 W, dạng 1 khe low-profile). Số luồng thực tế mỗi GPU xử lý được còn phụ thuộc độ phân giải, số khung hình mỗi giây, codec và độ nặng của mô hình, nên cần chạy thử trước khi chốt số lượng.

Chọn L4 hay RTX PRO 6000 cho video AI

Tiêu chíNVIDIA L4NVIDIA RTX PRO 6000 Blackwell Server Edition
Bộ nhớ24 GB96 GB GDDR7 ECC
Điểm mạnhXử lý video, suy luận nhẹ, điện năng thấpSuy luận đa phương thức, kết xuất đồ họa, video, mô hình lớn hơn
Chia nhỏ GPUChia theo luồng, chạy nhiều tiến trìnhHỗ trợ MIG, tối đa 4 phần 24 GB theo tài liệu NVIDIA
Phù hợpNhiều camera, mô hình phát hiện đối tượng tiêu chuẩnKết hợp video với mô hình ngôn ngữ-hình ảnh, truy vấn bằng ngôn ngữ tự nhiên trên video

Một cách chọn đơn giản: nếu nhu cầu là phát hiện và đếm trên nhiều luồng bằng mô hình gọn, bắt đầu với L4. Nếu muốn thêm lớp mô hình đa phương thức (ví dụ mô tả cảnh bằng văn bản) hoặc cần dùng chung GPU cho nhiều nhóm, RTX PRO 6000 có nhiều dư địa hơn. Các cấu hình đang cung cấp thực tế cần xác nhận với FPT, xem thêm tổng quan hạ tầng GPU và AI Factory.

Kiến trúc tham khảo: Chỉ gửi sự kiện, không gửi toàn bộ video

  1. Tại điểm đặt camera: camera phát luồng RTSP về một thiết bị trung gian hoặc máy chủ tại chỗ để gom luồng.
  2. Đường truyền: nếu suy luận chạy trên Cloud, cần băng thông ổn định; có thể giảm tải bằng cách hạ độ phân giải hoặc khung hình cho các bài toán không cần chi tiết cao. Xem kênh thuê riêng cho nhà máy và chuỗi bán lẻ.
  3. Trên GPU Cloud: giải mã, chạy mô hình, ghi lại sự kiện (thời điểm, camera, loại cảnh báo, ảnh chụp).
  4. Hệ thống nghiệp vụ: sự kiện đẩy sang ứng dụng cảnh báo, báo cáo hoặc bảng điều khiển; chỉ lưu clip ngắn quanh sự kiện thay vì toàn bộ video để tiết kiệm lưu trữ.

Chạy các dịch vụ này trong container giúp dễ mở rộng khi thêm camera, xem Kubernetes cho AI chạy GPU workload.

Chạy thử trước khi mua: Đo gì trong 2–4 tuần

  • Chọn 5–10 camera đại diện (ban ngày, ban đêm, góc xa, góc gần) cho một bài toán duy nhất.
  • Đo độ chính xác trên chính hình ảnh của doanh nghiệp, đếm cảnh báo sai và bỏ sót.
  • Đo số luồng mỗi GPU chạy ổn định ở độ phân giải thực tế, cùng độ trễ từ lúc xảy ra sự kiện đến lúc có cảnh báo.
  • Từ số liệu đo được mới tính số GPU và phương án thuê theo giờ hay đặt trước, xem so sánh thuê GPU theo giờ, đặt trước hay mua máy chủ.

Lưu ý về dữ liệu hình ảnh người

Hình ảnh khuôn mặt, dáng đi hoặc biển số có thể được xem là dữ liệu cá nhân. Trước khi triển khai, nên xác định mục đích, thời gian lưu trữ, người được xem và biển báo thông tin cho nhân viên, khách hàng. Nội dung này không phải tư vấn pháp lý; để nắm khung quy định hiện hành, tham khảo checklist tuân thủ bảo vệ dữ liệu cá nhân trên Cloud và bản đồ pháp lý dữ liệu và AI, đồng thời trao đổi với bộ phận pháp chế của doanh nghiệp.

Triển khai video AI trên hạ tầng FPT Cloud

Doanh nghiệp có thể chạy suy luận video trên máy chủ ảo GPU hoặc trên cụm Kubernetes tích hợp GPU, kết hợp lưu trữ và sao lưu cùng nền tảng. Loại GPU, số lượng và cấu hình mạng cần được FPT tư vấn theo số camera và bài toán cụ thể. Xem thêm FPT GPU Server và cách tối ưu chi phí suy luận.

Muốn chạy thử video AI trên camera hiện có

Mô tả số camera, bài toán và vị trí lắp đặt để được tư vấn cấu hình GPU phù hợp.

Đăng ký tư vấn

Câu hỏi thường gặp

Cần bao nhiêu GPU để xử lý 50 camera

Không có con số cố định vì phụ thuộc độ phân giải, số khung hình mỗi giây, codec và mô hình. Cách làm đáng tin cậy là đo trên 5–10 camera thực tế rồi suy ra số GPU cho toàn bộ.

L4 có đủ cho phát hiện thiếu đồ bảo hộ không

Với mô hình phát hiện đối tượng tiêu chuẩn thì thường là hướng bắt đầu hợp lý nhờ bộ giải mã video và mức tiêu thụ điện thấp. Nên xác nhận bằng chạy thử trên hình ảnh thật của nhà máy.

Có cần đội AI riêng để triển khai video AI không

Không bắt buộc cho các bài toán phổ biến như đếm người hay phát hiện đối tượng, vì có thể dùng mô hình dựng sẵn. Doanh nghiệp vẫn cần người phụ trách dữ liệu, vận hành và đánh giá kết quả, hoặc một đối tác tích hợp.

Nên chạy video AI tại chỗ hay trên Cloud

Tại chỗ giảm phụ thuộc băng thông, trên Cloud dễ mở rộng và không phải mua phần cứng. Nhiều doanh nghiệp kết hợp: xử lý sơ bộ tại chỗ, đẩy sự kiện và phân tích nặng lên Cloud.

RTX PRO 6000 có thay thế được L4 không

Có thể chạy cùng loại tác vụ nhưng hướng đến khối lượng lớn hơn và mô hình đa phương thức. Nếu chỉ cần phát hiện đối tượng trên nhiều luồng, L4 thường gọn hơn về điện năng và kích thước.

Hình ảnh camera chứa người có phải dữ liệu cá nhân không

Có thể, tùy ngữ cảnh. Doanh nghiệp nên rà soát mục đích, thời gian lưu và quyền truy cập, đồng thời tham khảo ý kiến pháp chế. Bài viết không phải tư vấn pháp lý.

Bạn có biết?
Tìm hiểu thêm về FPT AI Factory: tổng quan, lợi ích và cách triển khai - Xem thêm

Hạ tầng FPT Cloud cho doanh nghiệp

FPT Cloud cung cấp hạ tầng Public Cloud đặt tại Việt Nam cho doanh nghiệp, gồm Cloud Server, Kubernetes, cơ sở dữ liệu dạng dịch vụ (DBaaS), hạ tầng GPU cho AI, cùng các dịch vụ sao lưu, dự phòng thảm họa, cân bằng tải và tự co giãn. Hạ tầng áp dụng các chuẩn an toàn thông tin như ISO/IEC 27001 và PCI DSS, giúp doanh nghiệp chuẩn bị cho kiểm toán và yêu cầu của đối tác. Cấu hình, mô hình tính phí và phương án triển khai được FPT tư vấn theo từng hệ thống.

Tìm hiểu dịch vụ Cloud Server FPT · Đăng ký tư vấn

Nền tảng Contact Center toàn diện FPT OncallCX

Chăm sóc khách hàng toàn diện, đa kênh với
công nghệ AI
Giải pháp tổng đài Cloud FPT

separator

Tìm hiểu ngay