主页 > 人工智能 >

众图带你读懂 Transformers 的使命道理

浏览1574 好评 0 点赞105

  

众图带你读懂 Transformers 的使命道理

众图带你读懂 Transformers 的使命道理

众图带你读懂 Transformers 的使命道理

众图带你读懂 Transformers 的使命道理

  这样self-attention计算就结束了。结果向量就可以拿来作为前馈神经网络的输入。不过实际实现中,考虑到性能该计算由矩阵形式运算完成。我们现在看一下,我们已经知道如何在词级别计算了。 首先让我们来看一下如何用向量计算self-attention,然后再看一下利用矩阵运算的实现方式。 得分等于当前词的query向量与需评分词语的key向量的点积。因此,如果需要计算#1位置处单词的self-attention,第一个得分是q1与k1的点积,第二个得分就是q1和k2的点积。 如上图所示,我们看到神经网络的一部分A,处理输入x_t,然后输出h_t。A处循环使得信息可从前一步传递至后一步。 绿色步骤负责由输入建立隐状态。我们把句子中每个单词产生的所有隐状态传入解码阶段,而不是和过去的attention一样,仅传递一个隐状态给解码器。每个隐状态都会在解码阶段被使用,去找出网络应该注意的地方。 但有些情况我们需要更多语境信息。例如试图预测这句话的最后一个单词:“I grew up in France… I speak fluent___”。 最靠近这个单词的信息建议这很有可能是一种语言,但当你想确定具体是哪种语言时,我们需要语境信息France,而这出现在较前面的文本中。 卷积神经网络可并行处理是因为,输入的每个单词可被同时处理并不必依赖于前一个单词翻译的结果。不仅如此,输出单词与任何CNN输入的单词的“距离”是log(N) 数量级— — 即输入单词到输出单词连线形成的树的高度 (如上面动图所示)。 这比RNN输出到其输入的距离要好很多,因为其距离是N数量级。 每个单词被转换为一个长度512的向量。图中我们用这些简单的方块表示这些向量。 编码器非常相似,所有编码器都具有相同的架构。解码器也有相同的属性诸如互相之间非常相似。编码器有两层: self-attention层和前馈神经网络层。 考虑一下这类模型,即使用之前看到的单词预测下一个单词。如果我们需要预测这句话“the clouds in the ___”的下一个单词,不需要额外的语境信息,很显然下个单词是“sky”。 当相关信息和词语之间距离变得很大时,RNN变得非常低效。那是因为,需要翻译的信息经过运算中的每一步,传递链越长,信息就越可能在链中丢失。 比如,当我们翻译这句 “Je suis étudiant”法语句子到英语时,需要在翻译时解码步骤去查不同的单词。 对于需要进行序列传导的模型,有必要有某种记忆。例如,我们将以下句子翻译到另一种语言(法语): 从内部来看Transformer与之前模型架构相似,只是Transformer由6个编码器和6个解码器组成。 神经网络用attention可以做到同样的效果,专注于给出信息的那部分。例如,RNN可注意另一RNN的输出。在每个时点它聚焦于其他RNN不同的位置。 这个经过softmax的score决定了该单词在这个位置表达了多少。很显然当前位置所在的单词会得到最高的softmax得分,不过有时候有助于算法注意到其他与当前单词相关的单词。 绿色步骤是编码阶段,紫色步骤是解码阶段,动图摘自此文:jalammar.github.io 本文概述transformers是怎么工作的,以及在序列传导问题中使用的原因。如果你希望更深入的理解模型运作的原理及相关差异。推荐阅读以下帖子、文章和视频资料。 LSTMs在此基础上利用乘法和加法做了一些小改进。在LSTMs里,信息流经一种机制称为细胞状态。LSTM便可以选择性的记忆或遗忘那些重要或不重要的事情了。 Transformer基本上就是这么工作的。此外还有一些其他细节使其工作得更好。比如,实现中使用了多头注意力的概念,而不是只在一个维度上计算注意力。 Transformers模型试图结合卷积神经网络和attention机制解决并行化问题。attention机制提升模型从一个序列转换为另一个序列的速度。 我们来看一下模型中各种不同的向量/张量,它们在已训练模型组件中如何流转,从而把输入转化成输出的。 由于这是一个NLP应用实例,我们先用词嵌入算法把每个输入的词语转换为词向量。 序列传导。绿色表示输入,蓝色表示模型,紫色表示输出。动图摘自:jalammar.github.io 不过我们前面讨论的一些问题,用带attention的RNN仍然无法解决。比如,不可能并行处理输入的单词。对较大的文本语料,增加了翻译文本的用时。 那意味着当出现长句,模型通常会忘记序列中较远的内容。RNN与LSTM模型的另一个问题,由于不得不逐个单词处理,因此难以并行化处理句子。不仅如此,也没有长短范围依赖的模型。总之,LSTM和RNN模型有三个问题: 从IJCAI 2019到NeurIPS 2019,联邦学习将再次亮相国际AI顶会 此动图展示当翻译“Je suis étudiant”至英语时,如何给每个隐状态赋予权重。颜色越深对于每个单词的权重越大。动图摘自此文:jalammar.github.io 第三第四步是将所有得分除以8(论文中取的是向量维数开根号— — 64,这样会得到更稳定的梯度。当然也可以用其他值,不过这是默认值),然后将结果放入一个softmax操作. softmax方法正则化这些得分,使它们都大于0且加和为1。 姚期智、刘铁岩主讲,Noam Brown、田渊栋讲习,首届国际分布式AI学术会议议程全公布 计算self-attention的第二步是计算一项得分(score)。我们以计算句中第一个单词Thinking的self-attention为例。我们需要计算句中每个单词针对这个词的得分。当我们在特定的位置编码一个单词时,该得分决定了在输入句子的其他部分需要放多少焦点。 注意,这些新向量的长度小于词嵌入向量的长度。这里取64,而词嵌入向量及编码器的输入输出长度为512。这是一个架构性选择,向量长度不需要变得更小,使得多头注意力(multiheaded attention)计算基本稳定。 仅在最底层的解码器处进行词嵌入转换。对于所有编码器,它们都接收大小为512的向量列表 第六步,求和加权后的value向量。这就产生了(对于第一个单词)在self-attention层上此位置的输出。 一些最流行的序列传导网络, 例如 Wavenet和Bytenet就采用卷积神经网络。 翻译这样的句子,模型需要找出之间的依赖和关联。循环神经网络 (RNNs)和卷积神经网络(CNNs)由于其特性已被使用来解决这个问题。 让我们回顾一下这两种架构及其缺点。 它们是一种抽象,在计算和考虑注意力时会被用到。如果你读了下文里关于注意力的计算方法,你就差不多明白各向量的角色。 理论上RNN可以学习这些长期依赖关系,不过实践表现不佳,学不到这些信息。手机投影仪zkt考勤机手机衔尾只身显示器因而出现了LSTM,一种特殊的RNN,试图解决这类问题。 为了解决这些问题,注意力(attention)是一种用于神经网络的技术。 对于RNN模型,与其只编码整个句子的隐状态,我们可以把每个单词的隐状态一起传给解码器阶段。在RNN的每个步骤使用隐藏状态进行解码。详见下面动图 RNN不会那么做。无论什么时候都会不断往后面加信息,它通过应用函数转换全部现有信息。在过程中所有信息都被修改了,它不去考虑哪些重要,哪些不重要。 我们平时安排日程时,通常会为不同的约会确定不同的优先级。如果有什么重要行程安排,我们通常会取消一些不那么重要的会议,去参加那些重要的。 对于要放入序列传导RNN模型的注意力,我们分成编码和解码两步。一步以绿色表示另一步以紫色表示。绿色步骤称为编码阶段紫色步骤称为解码阶段。 笑谈中国 AI 发展态势,张钹、李德毅、张正友、肖京同台共议「AI 五问」 CCAI 2019 当翻译一个句子,我会特别注意我当前正在翻译的单词。当我录制录音时,我会仔细聆听我正在写下的部分。如果你让我描述我所在的房间,当我这样做的时候,我会瞥一眼描述的物体。 Transformer是一类神经网络架构,现在越来越受欢迎了。Transformer最近被OpenAI用于训练他们的语言模型,同时也被DeepMind的AlphaStar 采用,用于他们的程序击败那些顶级星际玩家。 Transformer是为了解决序列传导问题或神经网络机器翻译而设计的,意味着任何需要将输入序列转换为输出序列的任务都可以用,包括语音识别和文本到语音转换等。 下图展示了sequence to sequence模型通常是如何用循环神经网络工作的。每个单词被单独处理,然后将编码阶段的隐状态传入解码阶段以生成结果句子,然后这样就产生了输出。 Transfomer的另一个重要步骤是为每个词增加了位置编码。由于每个单词的位置与翻译相关,所以编码每个单词的位置是有用的。 编码器的输入先进入self-attention层,有助于编码器在编码句中特定单词时可参考输入句子中其他单词。解码器也包含这两层,不过在两层中间增加了attention层,以帮助解码器聚焦到输入句子的相关部分。 其背后的想法是句子每个单词都有相关信息。为了精确解码,需要用注意力机制考虑输入的每个单词。 可以换一种方式思考这些循环。循环神经网络可认为是同一网络A的多重备份,每个网络将信息传递给其后续网络。看一下如果我们将循环展开会如何: 采用细胞状态后,在翻译过程中,句子中对翻译单词重要的信息会被一轮一轮传递下去。 第五步,将每个value向量乘以softmax得分 (准备对它们求和)。这里的意图是保持需要聚焦的单词的value,并且去除不相关的单词(乘以一个很小的数字比如0.001)。 此处我们开始看到Transformer的一个重要特性,每个位置上的单词在编码器中流经自己的路径。在self-attention层处理这些路径的依赖关系。前馈神经网络不处理这些依赖关系。这样当数据流经前馈神经网络时,不同的路径可被并行执行。 卡耐基梅隆大学 2019 春季《神经网络自然语言处理》是CMU语言技术学院和计算机学院联合开课,主要内容是教学生如何用神经网络做自然语言处理。神经网络对于语言建模任务而言,可以称得上是提供了一种强大的新工具,与此同时,神经网络能够改进诸多任务中的最新技术,将过去不容易解决的问题变得轻松简单。 图中链式本质清楚地表明循环神经网络与序列和列表相关。 如果以这种方式翻译一段文本,需要将文本中的每个单词设置为其输入。循环神经网络将序列中前面的词语的信息传入后一个神经网络,这样便可以利用和处理这些信息。 最底层的编码器接收的是词嵌入,但其他编码器接收的输入是其下一层的直接输出。当输入序列中的单词做词嵌入转换后,数据就按顺序流经各层编码器的2层结构。 问题在于卷积神经网络在翻译句子过程中不一定有助于解决依赖问题。这就是transformers被创造出来的原因,它结合了CNN和attention机制. 这个例子里,相关信息和需预测单词的距离很近。循环神经网络可以学习前面的信息,并找出句中下一个单词。 其背后的想法是,当你翻译一个单词时,基于不同的问题,会对于同一个单词产生不同的注意力,如下图所示。比如说当你在翻译“I kicked the ball”句中的“kicked”时,你会问“Who kicked”。由于问题不同,当翻译成另一种语言时结果可能改变。或者问了其他问题,比如“Did what?”,等… 将词向量x1乘以权重矩阵WQ得到q1,即与这个单词关联的“query”向量。这样,我们最终分别得到输入句子里每个单词的“query”,“key”和“value”投射。 点击【多图带你读懂 Transformers 的工作原理】或长按下方地址: 本例中,第二句话中的“the band”一词指代第一句中引入的“The Transformers”。当你读到第二句中的the band,你知道它指的是“The Transformers” band。这可能对翻译很重要。事实上,后一句话中的某个词指代前几句话中出现的某个词,像这样的例子很多。 self-attention计算的第一步是通过编码器的输入向量(本例中是每个单词的词嵌入向量) 建立Query, Key和Value三个向量,我们通过输入的词嵌入向量乘以之前训练完成的三个矩阵得到。 每个细胞的输入为x_t(在句子到句子翻译这类应用中x_t是一个单词), 上一轮细胞状态以及上一轮的输出。模型基于这些输入计算改变其中信息,然后产生新的细胞状态和输出。本文不会详细讲每个细胞的实现机制。如果你想了解这些细胞的运作机制,推荐你看一下Christopher的博客: 总体来说问题LSTM的问题与RNN一样,例如当句子过长LSTM也不能很好的工作。原因在于保持离当前单词较远的上下文的概率以距离的指数衰减。

本站文章于2019-10-07 11:38,互联网采集,如有侵权请发邮件联系我们,我们在第一时间删除。 转载请注明:众图带你读懂 Transformers 的使命道理
已点赞:105 +1

上一篇:

下一篇:



关于我们

  • 关于我们
  • 品牌介绍
  • 诚聘英才
  • 联系我们

学生/家长

  • 帮我选学校
  • 帮我选专业
  • 投诉/建议

教育机构

  • 如何合作
  • 联系方式

其他

  • 投稿合作
  • 权利声明
  • 法律声明
  • 隐私条款
全国统一客服电话
4006-023-900
周一至周六 09:00-17:00 接听
IT培训联盟官方公众号
扫描访问手机版
家电维修|北京赛车pk10