阿摩線上測驗 登入

申論題資訊

試卷:114年 - 114-1 臺北市立第一女子高級中學_正式教師甄選試題:資訊科#126314
科目:教甄◆資訊科技概論專業(電腦科)
年份:114年
排序:26

題組內容

28. 假設某簡化 Transformer 模型中,輸入序列包含兩個詞,其向量定義如下:

• Query 向量:Q = [3, 0]

• Key 向量:K1 = [1, 2] (詞 1) ,K2 = [1, 1] (詞 2)

• Value 向量:V1 = [2, 1] (詞 1) ,V2 = [1, 5] (詞 2)

請依據下列步驟,計算最終 Self-Attention 輸出向量的第一個分量值,並將答案取至小數點後一位:

申論題內容

(1) 使用 Dot-Product Attention 計算每個詞的分數