試卷名稱:114年 - 114-2 AI 應用規劃師-中級能力鑑定公告試題_一科:人工智慧技術應用與規劃#136301
年份:114年
科目:iPAS◆AI應用規劃師◆中級
31. 某 AI 服務系統每次推論請求需約 1 秒完成,且必須支撐高達 10,000 次請求每秒(RPS)的流量。為確保系統具備高可用性且能穩定應付 流量峰值,下列哪一種架構方案最為合適?
(A)依賴單台超高效能伺服器進行垂直擴展,提升硬體規格;
(B)採用容器化部署並水平擴展服務實例,結合自動彈性伸縮機制 (Auto Scaling);
(C)限制最大併發連線數,以避免系統過載;
(D)增加批次處理大小,一次同時處理上千筆請求