谷歌的Pandu Nayak分享他的妈妈的路线图以及它如何帮助公司处理更复杂的查询

在大多数情况下,搜索引擎在过去二十年中运行了同样的操作。他们在确定意图时改进,提供了相关结果并包含不同的垂直垂直(如图像,视频或本地搜索),但前提保持相同:输入文本查询,搜索引擎将返回有机链接的混合,丰富的结果和广告。

随着最近的进步,如BERT,搜索引擎增加了他们的语言处理能力,使它们能够更好地了解查询并返回更相关的结果。谷歌甚至更近,谷歌推出了它的多任务统一模型(妈妈),这是一个技术比Google更强大的技术,并将语言理解与多任务和多模式输入Capabi相结合惠实。

在与搜索引擎土地的聊天中,谷歌搜索副总裁Pandu Nayak概述了妈妈如何从根本上改变用户与搜索引擎的方式互动,妈妈的路线图以及谷歌是什么为确保该技术负责任地应用。

妈妈,谷歌的最新里程碑的语言理解

很容易将妈妈分类为更高级的版本

BERT ,尤其是谷歌将其视为一种类似的重要里程碑,用于语言理解,并将其吹捧为比贝特更强大。虽然这两者都是基于变压器技术,但妈妈拥有BERT语言理解功能,妈妈是基于不同的架构( T5架构)并且能够是子NTILLY更多。

在更多语言尺度学习中训练。 “[妈妈是]在75种语言中同时训练,”Nayak说:“这很好,因为它允许我们将丰富的语言概括到具有缺乏数据的语言。”这可能意味着妈妈的应用程序可以更容易地转移到更多语言。如果这是真的,它可能有助于加强这些市场中的谷歌搜索。

妈妈不限于文本。

另一个区别是妈妈是多式联的,这意味着它的能力不限于文本,也可以使用视频和图像作为输入。 “想象一下,拍摄你的徒步旅行靴和问’我可以用这些来徒步山。富士(谷歌的SVP)“Prabhakar Raghavan称,在孟花期间称这是一个假设的例子在Google I / O 中,“妈妈将能够了解图像的内容和查询后面的意图。”

prabhakar raghavan提供了妈妈的例子在Google I / O集成到Google搜索。

Prabhakar Ragavan discussing MUM at Google I/O
多任务处理还有助于缩放学习。
“妈妈也是本质上的多任务的,”Nayak说。它可以处理的自然语言任务包括(但不限于)对特定查询的排序页面,文档审查和信息提取。妈妈可以用两种方式处理多个任务:在训练方面和在使用方面。

“通过培训它在多个任务上,这些概念正在学习更加强大,”Nayak,“Nayak解释说:”也就是说,它们适用于多个任务而不是仅应用在一个任务和应用于不同的任务时是脆性的。“

在使用方面,谷歌不设想妈妈作为一个单数特征或启动寻找:”我们认为它是一个平台“在哪些不同的团队可以建立不同的用例,”Nayak说,补充说,“这个想法是,在未来几个月内,我们将在搜索中看到许多团队使用妈妈来改善他们所做的任何任务帮助搜索和 covid疫苗示例

是一个非常好的例子。“

谷歌的妈妈的路线图

我们现在在哪里,短期 – 术语。谷歌的妈妈短期目标在很大程度上侧重于跨语言的知识转移。第一次公共应用妈妈,其中它

确定了800个疫苗NAM变化eS跨越50种语言

在几秒钟内,这是卷展栏这一阶段的良好代表。值得注意的是要注意,谷歌已经有一个Covid疫苗名称的子集,可以触发搜索结果中的Covid疫苗经验,但妈妈允许它获得更大的疫苗名称,这使得搜索结果能够在更多情况下触发搜索结果。

作为这一短期阶段的一部分,谷歌中的团队已经开始将妈妈纳入他们的项目,“我们现在有几十个队伍,现在是妈妈,其中很多“在这里看到他们在这里看到了很大的实用性,”Nayak表示,在此次下降以提供更具体的细节。

为中期未来计划的多模式特征。

“在中期,我们认为多模是行动的位置 – 这将是我们之前没有搜索的新能力,“Nayak表示,在

图像搜索示例

那个prabhakar raghavan首先在Google I / O中使用。在Nayak在搜索中对妈妈的愿景,他描述了一个接口,用户可以在其中上传图像并向这些图像提出文本问题。而不是返回可能导致A 零点击搜索的简单答案,Nayak看到Google返回桥接上传图像与用户查询之间的差距的相关结果。

虽然谷歌的实验与妈妈有激励信心,纳巴克热衷于强调这些“中期”目标的确切实施以及任何特定的时间表,是不确定的。

在长期内将点连接为用户。 “从长远来看,我们认为妈妈的承诺真的源于理解语言的能力,以更深层次的水平,”Nayak表示,补充说,“我认为它将支持更深层次的信息理解,我们希望能够能够实现将更深层次的信息理解转换为用户的更强大的体验。“

在他们当前的状态下,搜索引擎对一些特定和复杂的查询进行表面相关结果,例如”我徒步旅行亚当斯山和我想徒步富士山下秋天。我应该做些什么不同的准备?“ “今天,如果[用户]刚刚去谷歌键入该查询,那么有很好的机会不会给出任何有用的结果s。 。 。所以你要做的就是将其分解为个人查询,然后你可以对自己进行探讨并为自己提供结果并将结果放在一起 – 我们认为妈妈可以在这里帮助,“Nayak说。

继续上面的徒步旅行的例子,“我们认为妈妈可以采取一篇文章[搜索查询],这是这种复杂的信息需要并将其分解为这些个人信息需求,”他说,建议妈妈的语言理解能力可以帮助谷歌提供与健身训练相关的结果。富士的地形,气候等。 “记住,我们没有这个工作,因为这是长期的,但这正是你来的时候你在你的脑海里做的那种东西与个人查询和我们认为妈妈可以帮助我们这样的查询,“他说,”你可以想象我们可以发出这样的多个查询,让你的结果给他们,也许把它的一些文本连接到原始的,更复杂的问题你有 – 基本上组织了这些信息。 。 。这表明了连接是什么,所以您现在可以进入并阅读MT的最佳装备中的文章。富士或高度徒步旅行的提示或这种更丰富的方式。

这是一个长期目标的原因之一是因为它需要重新思考为什么人们通过复杂的需求来谷歌Nayak解释说,不是个别疑问。谷歌还必须将复杂的需要转换为用户搜索词的表达到查询的子集和必须适当地组织这些查询的结果。

谁正在推动发展?


当被问及谁将引导妈妈的发展和实施时,Nayak解释说谷歌旨在开发新颖的搜索经验还允许各个团队为自己的项目使用它。
“我们完全期待在搜索中的许多团队以甚至无法设想的方式使用妈妈,”他说,“但我们也有努力为了制定新颖的,新的搜索体验,我们有人们调查建立这些新经验的可能性。“ “对所有人来说,现有的团队和这些团队都有丰富的事情,这是一个看小说经历的团队,是基础系统似乎非常强大,并展示了很多承诺。现在它是由我们转换为用户的大量搜索体验,这就是挑战所在的巨大搜索体验,“他补充道。 妈妈不会只是一个”问答系统“。“这个想法可能会成为一个问题回答系统 – 即,你来谷歌有一个问题,我们只是给你答案 – 我在这里告诉你这绝对不是愿景“Nayak说,”妈妈说:“原因很简单:这样一个质疑的回答系统,为这些复杂的需求而言,人们所拥有的是没有用。” Nayak对比妈妈最终有所帮助的复杂意图查询对比用户使用更简单,更具客观的搜索导航,这些搜索通常在搜索结果页面上进行解决:“如果您提出一个简单的问题,我完全得到它,[例如,]“光速是什么?”它值得一个简单,简单的答案,但大多数人都需要 – 这个徒步旅行的例子或你想为孩子找到一所学校,或者你是你想要生活的邻居 – 任何甚至是中等复杂的意图他说,这只是一个短暂的清脆答案,“他说。”你可能听到了统计,每年自谷歌开始以来,我们已经发送了更多的流量到开放的网上比上一年的开放式网页 – 我们完全期待妈妈继续这种趋势,“他重申,加入”,没有期望它将成为这个问题回答系统。“ 减轻成本开发妈妈的风险 开发搜索模型可以产生生态AL影响并需要大型数据集。谷歌表示,它意识到这些考虑因素,并采取预防措施来负责任地施加妈妈。 限制培训数据中的潜在偏见。 “这些模型可以在训练数据中学习和长期偏见,如果有任何类型的不希望的偏见,那么”Nayak表示,“Nayak表示,”谷歌正在通过监测妈妈的数据来解决这个问题而不是很好训练有素。“我们不会在整个网络语料库上培训妈妈,我们将其培养到Web语料库的高质量子集中,使得成人在低质量内容中的所有不良偏见和明确的内容,它甚至没有机会学习那些,因为我们甚至没有向妈妈呈现那些内容,“他说,承认甚至高质量TY内容可以包含偏差,该公司的评估过程试图过滤掉。 内部评估。 “当我们在一年半前推出Bert时,我们在通往推出的几个月内做出了前所未有的评估,以确保没有关于模式,”Nayak说,“以及我们检测到的任何关于我们检测到的模式在那里,我们采取了缓解的步骤 – 我完全期待,在我们在搜索中发射少数妈妈之前,我们将以相同的方式进行大量的评估来避免任何有关模式。“ 解决生态成本。大型型号可以是昂贵且能量密集的构建,可能导致对环境的有害影响。“我们的re搜索团队最近推出了完全综合而有趣的纸关于各种大型模型的气候影响由我们的研究团队建造,以及在外面内置的一些模型,如GPT-3和文章。 。 。指出,根据模型的特定选择,使用的加工商和数据中心,碳撞击可以减少多达千倍,“Nayak表示,加入谷歌自2007年以来一直是碳中立的,”所以,无论如何正在使用能量,谷物只是通过谷歌缓解了碳冲击。“妈妈有潜力,现在我们等待并看看谷歌如何使用它 Nayak对妈妈未来的评论以及他如何没有因为预见到它成为一个“问题回答系统”是重要的,因为谷歌承认许多海的担忧RCH营销人员有 – 但是,它也是监管机构的担忧,该监管机构确保谷歌并没有不公平地优先考虑竞争对手的产品。 其他搜索引擎也是开发类似的技术,如我们用Bing及其在Google 之前近六个月的伯特实施了伯特。目前,谷歌似乎是第一个出门,并且在妈妈的第一个outing 中显示的效率,这可能是有助于保护公司的市场份额的优势。 谷歌的妈妈的路线图为营销人员提供了背景和许多可能性的可能性,但此时,没有任何东西可以开始准备。然而,我们可以期待的是,如果技术实现了一个ND类似于谷歌已经向我们展示的示例,用户搜索的方式可能适应利用这些功能。搜索行为的转变可能意味着营销人员将不得不确定寻找和调整其战略的新机会,这是对该行业的课程的标准。