Auto Scaling và Load Balancer · FPT Load Balancer · Health check và failover · Autoscaling trên Kubernetes
FPT Cloud Autoscale là dịch vụ tự động tăng hoặc giảm số lượng Cloud Server trong một nhóm theo tải thực tế (ví dụ khi CPU trung bình vượt ngưỡng 80%), kết hợp với FPT Load Balancer, để doanh nghiệp đủ máy chủ lúc cao điểm và không trả tiền cho máy dư lúc thấp điểm.
Lưu lượng website và ứng dụng bán hàng thường dao động mạnh theo giờ, theo ngày khuyến mãi và theo sự kiện. Nếu mua cố định cho đỉnh tải, phần lớn thời gian máy chủ nhàn rỗi mà vẫn phải trả tiền; nếu mua theo mức trung bình, hệ thống sập đúng lúc doanh thu cao nhất. Autoscale giải bài toán này bằng cách để số máy thay đổi theo tải.
Bài này giải thích cách Autoscale hoạt động, ứng dụng nào phù hợp, cần chuẩn bị gì trước khi bật, cách thiết kế chính sách, ví dụ tính chi phí giả định, những rủi ro cần tránh và cách giám sát. Giới hạn và tính năng cụ thể cần được FPT xác nhận khi tư vấn.
- Vì sao mua cố định cho đỉnh tải gây lãng phí?
- Autoscale hoạt động thế nào?
- Ứng dụng nào phù hợp?
- Chuẩn bị trước khi bật Autoscale
- Thiết kế chính sách tăng giảm
- Ví dụ tính chi phí giả định
- Rủi ro cần tránh
- Giám sát và kiểm soát chi phí
- FPT Cloud Autoscale cho hệ thống nhiều biến động
- Kết luận
- Câu hỏi thường gặp
Vì sao mua cố định cho đỉnh tải gây lãng phí?
Tải ứng dụng thường có hình răng cưa: thấp ban đêm, tăng vào giờ làm việc, vọt lên khi có khuyến mãi. Cấu hình cố định buộc doanh nghiệp chọn giữa hai cái giá: lãng phí hoặc rủi ro.
| Chiến lược | Ưu điểm | Rủi ro |
|---|---|---|
| Mua cố định theo đỉnh | An toàn khi cao điểm | Phần lớn thời gian trả tiền cho máy nhàn rỗi |
| Mua cố định theo mức trung bình | Chi phí thấp | Quá tải khi cao điểm, mất doanh thu |
| Co giãn tự động (Autoscale) | Máy chủ theo sát tải thật | Cần chuẩn bị ứng dụng và chính sách đúng |
Tình huống đỉnh tải điển hình như mùa khuyến mãi xem Checklist chịu tải mùa sale 11.11, Tết cho chuỗi bán lẻ và Cân bằng tải cho website thương mại điện tử trong đợt khuyến mãi lớn; với hệ thống chứng khoán xem Auto scaling hạ tầng chứng khoán trong các phiên giao dịch cao điểm.
Autoscale hoạt động thế nào?
Theo mô tả của FPT, doanh nghiệp chuẩn bị một VM-Template có ứng dụng cài sẵn, tạo Autoscale Profile và Autoscaling Group trên Portal. Khi tải CPU trung bình vượt ngưỡng (ví dụ 80%), hệ thống tự nhân bản (clone) thêm máy chủ, sau đó tự thu hồi khi tải giảm. Các máy mới tạo ra hoặc xóa đi đều tự động được gán vào hoặc gỡ khỏi FPT Load Balancer.
Các thành phần chính
- VM-Template: mẫu máy chủ cài sẵn ứng dụng để nhân bản.
- Autoscale Profile: khai báo cấu hình máy chủ mới và cách cài ứng dụng.
- Autoscaling Group: nhóm máy, có số lượng tối thiểu (min) để dịch vụ không bao giờ gián đoạn.
- Cloud-init: script tự cài ứng dụng cho máy mới thay vì phải build image tùy biến cho mỗi bản cập nhật.
- Load Balancer: chia tải đều cho các máy, xem FPT Load Balancer: Giải pháp cân bằng tải cho hệ thống doanh nghiệp.
Máy chủ trong nhóm được khởi tạo với Network và Security Group đã cấu hình sẵn, nên máy mới vẫn tuân theo chính sách bảo mật của doanh nghiệp. Khi cần đổi phần mềm, tạo Autoscale Profile mới với image hoặc script cập nhật để các máy scale về sau dùng bản mới.
Ứng dụng nào phù hợp?
Autoscale hợp với tầng ứng dụng không lưu trạng thái: website bán hàng, thương mại điện tử, dịch vụ API biến động. Với tầng cơ sở dữ liệu, thêm máy chủ không tự giải quyết được vì dữ liệu phải nhất quán; xem Database chậm vào giờ cao điểm: 7 bước tìm nút thắt. Khi nào cần Load Balancer, xem Khi nào doanh nghiệp cần Load Balancer cho Cloud Server.
Chuẩn bị trước khi bật Autoscale
- Không lưu phiên và tệp trên từng máy: phiên đăng nhập, tệp tải lên cần để ở nơi dùng chung, nếu không người dùng mất phiên khi máy bị thu hồi.
- Ứng dụng khởi động nhanh: nếu mất vài phút mới sẵn sàng, đợt tăng tải đã qua trước khi máy mới nhận được việc.
- Cấu hình lấy từ bên ngoài: mật khẩu, địa chỉ kết nối đọc từ nơi quản lý chung, không ghi cứng trong image.
- Nhật ký gom về một nơi: máy bị thu hồi sẽ mang theo nhật ký nếu để trên máy.
- Kiểm tra sức khỏe đúng: xem Health check và failover trên Load Balancer: Thiết lập đúng để tránh downtime.
Quy trình triển khai tự động giúp tạo bản mới nhanh và nhất quán, xem CI/CD là gì: Quy trình triển khai ứng dụng tự động trên Cloud.
Thiết kế chính sách tăng giảm
Bảng dưới là các tham số cần quyết định. Giá trị là gợi ý giả định để bắt đầu, cần điều chỉnh sau khi quan sát tải thật:
| Tham số | Ý nghĩa | Gợi ý bắt đầu (giả định) |
|---|---|---|
| Số máy tối thiểu | Luôn có để dịch vụ không gián đoạn | Ít nhất 2 máy để chịu lỗi một máy |
| Số máy tối đa | Trần để không phát sinh chi phí ngoài kiểm soát | Theo ngân sách và năng lực cơ sở dữ liệu phía sau |
| Ngưỡng tăng | Mức tải kích hoạt thêm máy | CPU trung bình 70 đến 80% (FPT nêu ví dụ 80%) |
| Ngưỡng giảm | Mức tải kích hoạt bớt máy | Thấp hơn ngưỡng tăng đủ xa để tránh dao động |
| Thời gian chờ | Khoảng nghỉ giữa hai lần thay đổi | Đủ dài để máy mới ổn định rồi mới đánh giá lại |
Giữ khoảng cách đủ xa giữa ngưỡng tăng và ngưỡng giảm để hệ thống không liên tục thêm rồi bớt máy. Nên chạy thử tải trước khi mùa cao điểm đến, không đợi đến lúc cần mới biết chính sách có đúng không.
Ví dụ tính chi phí giả định
Giả sử một website cần 4 máy cùng cấu hình để chịu đỉnh tải trong 4 giờ mỗi ngày, còn 20 giờ còn lại chỉ cần 2 máy. Các con số là giả định để minh họa cách tính, chưa gồm Load Balancer, lưu trữ và băng thông:
| Phương án | Số giờ máy mỗi ngày | Cách tính |
|---|---|---|
| Cố định 4 máy | 96 | 4 máy x 24 giờ |
| Autoscale (tối thiểu 2, tối đa 4) | 56 | 2 máy x 20 giờ + 4 máy x 4 giờ |
Trong ví dụ giả định này, số giờ máy giảm khoảng 42%. Mức tiết kiệm thật phụ thuộc đường cong tải, thời gian máy mới khởi động và cách tính phí của gói. Phương pháp tính chi phí tổng thể xem Right-sizing, còn máy chủ giá rẻ cho tải chịu được gián đoạn xem FPT Spot Instances: Máy chủ ảo tối ưu chi phí.
Rủi ro cần tránh
| Rủi ro | Hậu quả | Cách phòng |
|---|---|---|
| Không đặt số máy tối đa | Hóa đơn tăng đột biến khi bị tấn công hoặc lỗi | Đặt trần và cảnh báo chi phí |
| Cơ sở dữ liệu không theo kịp | Thêm máy ứng dụng nhưng cơ sở dữ liệu vẫn nghẽn | Kiểm tra giới hạn kết nối, tối ưu truy vấn |
| Máy mới khởi động chậm | Tăng tải xong mới có máy | Rút ngắn khởi động, nâng nhẹ ngưỡng chờ |
| Tăng giảm liên tục | Máy bị thêm rồi bớt liên tục | Khoảng cách ngưỡng, thời gian chờ |
| Lưu phiên trên từng máy | Người dùng bị đăng xuất khi máy bị thu hồi | Lưu phiên ở nơi dùng chung |
Lưu lượng tăng vì bị tấn công không nên bị xử lý bằng thêm máy; xem Cách chống DDoS cho website và Cloud Server theo từng lớp.
Giám sát và kiểm soát chi phí
Autoscale cần được giám sát như một phần của vận hành. FPT nêu hỗ trợ thiết lập cảnh báo trên Cloud Guard khi tải thay đổi bất thường. Nên theo dõi số máy theo thời gian, thời gian đáp ứng và chi phí theo nhóm, gắn nhãn để phân bổ đúng bộ phận, xem Cloud tagging là gì: Cách gắn nhãn và phân bổ chi phí hạ tầng Cloud; theo dõi hệ thống xem FPT Cloud Monitoring; gợi ý tối ưu tự động xem FPT Cloud Advisor là gì.
Nếu ứng dụng chạy trên container, cơ chế tương ứng nằm ở Autoscaling trên Kubernetes: HPA, VPA, Cluster Autoscaler; so sánh với mô hình không cần quản lý máy chủ xem Cloud Server và Serverless: Khi nào nên dùng loại nào.
FPT Cloud Autoscale cho hệ thống nhiều biến động
Doanh nghiệp có website hoặc API với tải thay đổi mạnh có thể gửi đường cong tải, kiến trúc hiện tại và thời điểm cao điểm để đội ngũ FPT liên hệ trao đổi và đề xuất cấu hình Autoscale phù hợp. FPT nêu có hỗ trợ kỹ thuật 24/7.
Giới hạn số máy, thời gian khởi tạo, cách tính phí và điều kiện tích hợp cần được FPT tư vấn và xác nhận; ví dụ trong bài là giả định minh họa.
Kết luận
Autoscale giúp số máy chủ bám sát tải thật: đủ cho giờ cao điểm và không trả tiền cho máy dư lúc thấp điểm. Hiệu quả phụ thuộc ứng dụng không lưu trạng thái, mẫu máy chuẩn, chính sách hợp lý và cơ sở dữ liệu theo kịp.
Hãy chuẩn bị ứng dụng, đặt số máy tối thiểu và tối đa, chạy thử tải trước mùa cao điểm và giám sát chi phí ngay từ ngày đầu.
Cần hệ thống tự co giãn theo tải?
Gửi đường cong tải và kiến trúc hiện tại để đội ngũ FPT Cloud liên hệ trao đổi. Xem thêm đăng ký nhận tư vấn.
Đăng ký tư vấnCâu hỏi thường gặp
FPT Cloud Autoscale là gì
Theo FPT, đây là dịch vụ tự động tăng hoặc giảm số lượng máy chủ ảo trong một nhóm theo tải thực tế, kết hợp Load Balancer. Doanh nghiệp chuẩn bị VM-Template, tạo Autoscale Profile và Autoscaling Group trên Portal.
Autoscale kích hoạt khi nào
FPT nêu ví dụ khi tải CPU trung bình vượt 80%, hệ thống tự nhân bản thêm máy chủ và thu hồi khi tải giảm. Ngưỡng cụ thể do doanh nghiệp cấu hình, nên điều chỉnh sau khi quan sát tải thật của ứng dụng.
Ứng dụng nào không nên dùng Autoscale
Ứng dụng lưu phiên hoặc tệp trên từng máy và cơ sở dữ liệu một nút không hợp, vì thêm máy không giải quyết vấn đề hoặc làm mất dữ liệu phiên. Cần tách trạng thái ra nơi dùng chung trước khi bật.
Autoscale có giúp giảm chi phí chắc chắn không
Không chắc chắn. Tiết kiệm phụ thuộc đường cong tải và cách tính phí. Nếu tải gần như phẳng hoặc máy mới khởi động chậm, lợi ích nhỏ. Hãy mô phỏng bằng số liệu thật của bạn trước khi quyết định.
Làm sao tránh hóa đơn tăng đột biến
Đặt số máy tối đa, cảnh báo chi phí và cảnh báo tải bất thường. Cần phân biệt tăng tải thật với tấn công, vì thêm máy trước lưu lượng độc hại chỉ làm tốn tiền; kết hợp chống DDoS ở lớp phía trước.
Cập nhật phần mềm cho nhóm Autoscale thế nào
Theo FPT, tạo Autoscale Profile mới với image hoặc script cập nhật để các máy scale về sau dùng phiên bản mới. Với máy đang chạy, cần kế hoạch thay thế dần để không làm gián đoạn dịch vụ.

