图像处理注意力机制Attention汇总（附代码）

塰鵼飛陽

自注意力指注意力来源于自己，作用于自己，像Q,K,V三者其实都来自同一特征图。局部是只特征图的某一块区域，全局是指所有区域都涉及。不同注意力在不同任务上有不同表现，但本身没有什么优劣之分，self-attention由于计算方式的不同，计算参数要比其他要大。