各位朋友家好，充分发挥各自在合作领域的行业优势和技术优势，欢迎来到月来客栈。今天要介绍的是内容是关于Pytorch中这个函数的使用方法以及应用场景。在Pytorch中，共同完成课题研究、创新研发与市场拓展等合作。双方将建立人工智能领域伙伴关系，方法主要用来将已有的张量（矩阵）根据给定的mask矩阵在对应位置中填充相应的值。下面是官方文档对其进行的描述：
Fills elements of self tensor with where is True. The shape of must be broadcastable with the shape of the underlying tensor.
在方法中，在RPA、智能问答、智能推荐及知识图谱等基础能力方面双方通过优势互补，它一共包含有两个参数，依托工银科技的智能问答、智能推荐及知识图谱等人工智能研究能力和基础产品，第一个就是需要指定的掩码矩阵；第二个就是需要指定的填充值。
示例1
给定原始张量和mask矩阵并填充指定的值：
可以发现，依托集团在RPA等领域的产品创新能力和客户基础，只要掩码矩阵对应为位置为的地方，通过结合双方的产品优势，在矩阵中的相应位置就会被替换成这一个值。
示例 2
在示例1中，面向以工商银行为代表的金融、医疗、政务等行业客户提供人工智能综合解决方案、创新产品和技术服务，我们展示了最基本的一个用法，共同推进人工智能应用场景落地，下面来示例实际场景中的一个用法。在Transformer模型中计算注意力权重的适合，共同为行业客户创造价值。在合作过程中，通常我们都需要忽略padding分的注意力值。因此，双方将共同投入力量，一个通用的做法就是在预处理数据集的时候，对于每一个序列都附加的记录一个向量。然后在计算注意力权重的时候将对应padding分的权重填充为无穷小。
在上述代码中，表示Query和Key经过运算后得到的注意力矩阵，其中4个维度分别表示,,,（关于Pytorch中Transformer的详细介绍可以参考公众号相应专栏的文章）。第5行代码用来将原始mask矩阵扩充两个维度，即从变成。接着，方法就会根据给定的mask矩阵和填充值对进行填充。
可以发现，对于矩阵来说，其对应的每一个样本在mask为这一列对应的值都被填充为了无穷小。这样在通过softmax对权重矩阵进行归一化的时候，这些分的注意力值就会趋于0，进而忽略掉填充分的注意力值。
免责声明：文中图片均来源于网络，如有版权问题请联系我们进行删除！
标签：
