Hadamard product(阿达马乘积/哈达玛积)指两个同型矩阵(或同维向量)进行对应元素逐项相乘得到的新矩阵(或向量)。常记作 **(A \circ B)**。
(注:在不同领域里也可能见到更宽泛的“逐元素乘法”用法。)
/ˈhædəmɑːrd ˈprɒdʌkt/(美式常见)
/ˈhædəmɑːd ˈprɒdʌkt/(英式常见)
Let (C = A \circ B) be the Hadamard product of two matrices of the same size.
设 (C = A \circ B) 为两个同型矩阵的 Hadamard product(逐元素乘积)。
In attention mechanisms, the model may use a Hadamard product to gate features by multiplying an activation vector element-wise with a learned mask.
在注意力机制中,模型可能用 Hadamard product 将激活向量与学习到的掩码逐元素相乘,以实现对特征的门控。
“Hadamard”来自法国数学家 Jacques Hadamard(雅克·阿达马)的姓氏;“product”意为“乘积”。该术语用来指代一种与矩阵乘法不同的、按元素对应相乘的运算,因此又常被直观地称为 element-wise product(逐元素乘法)。