題組內容

二、AI 科技應用與行銷倫理

生成式 AI（AIGC）改變了行銷溝通的樣貌，企業廣泛應用於廣告文案、圖像與影音內容生成。請從以下兩面向進行分析：

2.當 AI 產生『幻覺 (Hallucination)』時，可能對企業品牌權益 (Brand Equity) 與社會責任造成哪些風險？

詳解提供者：nomi

1. 傳遞錯誤資訊，影響決策
當員工或決策者使用生成式 AI 工具來彙整資料、撰寫簡報或進行業務判斷時，若未意識到 AI 幻覺風險，極可能在無意間引入錯誤數據或虛構說法，影響決策品質，甚至導致策略方向偏差。

2. 損害品牌信譽與客戶信任
若 AI 產出的錯誤資訊被應用在對外溝通，例如客服回覆、自動化行銷內容或官方說明中，恐誤導用戶、引發客訴，甚至進一步損害企業的品牌信譽與公信力。

3. 觸犯法規風險
在法律、金融、醫療等高監管產業，若AI提供錯誤建議或引導用戶採取不當行動，企業恐將面臨違反合規、法律責任或消費爭議，造成難以預估的風險成本。

4. 影響內部工作流程與效率
當企業內部仰賴 AI 進行文件整理、內容摘要或專案建議時，若缺乏正確性驗證機制，將使團隊花費更多時間進行人工查核與修正，反而拉低整體效率與信賴度。

5. 加劇資訊不對稱與認知偏誤
AI 幻覺往往會透過語言優勢加強說服力，使非專業使用者更難分辨真偽，導致資訊落差擴大，進一步加劇組織內部的溝通誤解與認知偏誤。 (SYSTEX 精誠資訊)