44. 某金融集團評估將大型語言模型導入客服與風控系統,團隊採用如 120B 參數等級的超大型語言模型以確保回應品質。請問下列何者最能說明企業在正式環境 部署超大型語言模型時,最需要優先考量的因素?
(A)模型參數量龐大,導致每次輸出結果差異極大,難以符合金融業對回應一致 性的要求;
(B)超大型模型無法支援批次處理,在高併發的客服場景下將造成嚴重的服務瓶 頸;
(C)推理延遲較高且運算資源消耗龐大,每次請求成本遠高於小型模型,需在模 型效能與營運成本之間審慎權衡;
(D)模型會依任務複雜度自動調整運算資源配置,因此不需特別考量推理成本
答案:登入後查看
統計: A(0), B(0), C(1), D(0), E(0) #3922938
統計: A(0), B(0), C(1), D(0), E(0) #3922938