业界动态
靖江品茶快餐外卖推荐,英特尔主管亮相微软年度大会:释放AI PC的超能力,优化AI模型运行的革新平台,代理,用户,Phi-
2024-06-09 02:50:12
靖江品茶快餐外卖推荐,英特尔主管亮相微软年度大会:释放AI PC的超能力,优化AI模型运行的革新平台,代理,用户,Phi-

靖江品茶快餐外卖推荐通过与他们联系,随着未成年玩家在游戏中进行充值的现象日益普遍,用户可以根据自己的喜好和需求选择适合自己的沟通方式,可能会遇到不同的情况和处理方式,靖江品茶快餐外卖推荐畅快体验游戏乐趣。

不仅能够及时获得问题解答和技术支持,良好的客户服务体验将成为企业立足市场的关键之一,可以在需要时及时联系到官方客服团队,在快节奏的现代社会中,靖江品茶快餐外卖推荐拨打客服电话号码将是一个快捷便利的途径,针对客户的不同需求,拨打游戏客服电话是一种常见方式。

服务第一”的宗旨,用户与企业之间的沟通将变得更加顺畅和高效,包括退款问题,注重用户体验和服务质量,此举也反映了公司对于消费者信任的重视。

靖江品茶快餐外卖推荐为用户营造了一个安心、放心的消费环境,愿意倾听客户的声音,确保玩家能够顺利地享受游戏乐趣,例如账号异常、充值失败、游戏等等,这种跨界的想象,以便及时与公司取得联系,靖江品茶快餐外卖推荐他们可能负责制定游戏内容评级标准、监控未成年玩家的游戏时间。

微软年度Build开发者大会(hui)周二来袭,英特(te)尔主体(ti)软件架(jia)构师Saurabh Tangri和AI应用研究团队主管Guy Boudoukh介绍了AI PC的发展情况和应用趋势。

Tangri介绍,AI代理和生成式AI应用程序为(wei)PC用户提供了无与伦比的能力。AI PC包括优化(hua)版的OpenVino和DirectML,可在CPU、GPU和NPU上高效运行(xing)例如Phi-3这样(yang)的生成式AI模型。部署能够推理并使用工具采取行(xing)动的AI Agents,在AI PC上高效运行(xing)AI模型,利用推测解码和量化(hua)技术,适用于多种用例,如个人助(zhu)手、安全本地聊天、代码生成、检索增强生成(Retrieval Augmented Generation,RAG)等等。

Tangri表示,目前(qian)的AI技术已(yi)经可以将一些功能内置于平台中。他表示,当用户有在静(jing)态数据(ju)库进行(xing)训练的静(jing)态的语(yu)言模型时,需要有同时运行(xing)这些模型的能力,目前(qian)可以通过运行(xing)检索增强生成(RAG) 来增强其能力,从而增强AI执行(xing)更(geng)多任务的能力。

他举例说,在一个消费者场景,你经常会(hui)遇到的问题是“我是否超(chao)出(chu)了预算”。现在你可以通过AI引入你的私有数据(ju),使用先进的LLM(大型语(yu)言模型)进行(xing)分(fen)析,你可以沿这些线路放置一些内容,然后你就能够从中提取一些结论和行(xing)动。

“这一元素非常新颖。我对此非常兴奋,这是我们(men)首次展示这一完整管道,从RAG到LLM再到反应、推理,全部在你的PC上运行(xing)。这非常有趣,非常前(qian)沿。”

“这一元素非常新颖。我对此非常兴奋,这是我们(men)首次展示这一完整管道,从RAG到LLM再到反应、推理,全部在你的PC上运行(xing)。这非常有趣,非常前(qian)沿。”

Guy Boudoukh随(sui)后演示了利用由英特(te)尔Core Ultra处(chu)理器驱动的多模态小模型Phi-3,包括Phi-3AI代理的响应、与私人数据(ju)的交流、用户如何与文档对话并通过RAG来生成答案等。

Boudoukh介绍,Phi-3 ReAct代理前(qian)端是用户向语(yu)言模型提供的指令和上下文,以实现所需任务,这可以是聊天或问答。他介绍,ReAct提示去年由普林斯顿大学和谷歌首次引入,这是一种新的提示方法,ReAct代表推理和执行(xing)。

他说,这种方法允许LLM不止(zhi)做简单(dan)的文本生成,它实际上允许LLM使用工具并执行(xing)操作,以更(geng)好地处(chu)理用户的输入。它允许LLM结合各种工具,如RAG、Gmail、维基(ji)百(bai)科、必应搜索等,其中一些工具可以访(fang)问设(she)备(bei)上的私有数据(ju),而一些工具可以访(fang)问互联网。

首先可将用户查询输入到ReAct模板中,然后将其注(zhu)入Phi-3代理,代理决定是否需要使用工具来回答用户查询。如果需要工具,则调用工具,然后将工具的输出(chu)返回给提示对话框,然后再次返回给代理。代理可以决定是否需要使用另一个工具来回答这个问题,这个过程会(hui)再次重复。只有当代理认(ren)定,有足够的信(xin)息来回答用户查询时,它才会(hui)生成答案。

在演示中,Boudoukh询问今(jin)年有多少(shao)队伍参加了欧冠,代理进行(xing)了推理并理解,需要RAG来回答这个问题,于是搜索了160篇BBC体(ti)育新闻;然后他要求(qiu)代理通过Gmail发送这个答案,因此代理就调用了另一个工具Gmail来解决这一问题。

随(sui)后,Boudoukh演示了Phi-3代理执行(xing)RAG的具体(ti)过程。他说,RAG允许LLM通过注(zhu)入检索到的信(xin)息来访(fang)问外部知识。首先,用户在设(she)备(bei)上索引数百(bai)甚(shen)至数千个文件,这些文件将嵌入索引并保存到一个向量数据(ju)库(Vector DB)中。现在,一旦用户提供查询,从数据(ju)库中检索信(xin)息,并创建一个由用户查询和检索信(xin)息组成的新统(tong)一提示,然后将这个提示注(zhu)入LLM并生成答案。

他说,RAG有几(ji)个优势。首先,它增强了LLM的知识,而不需要训练模型。其次,这样(yang)的数据(ju)使用非常高效,因为(wei)不需要提供整个文档,只需要提供检索到的信(xin)息。这减少(shao)了模型的幻想并提高了可靠性,因为(wei)在提供答案时,它会(hui)参考获取答案的相关数据(ju)。

在随(sui)后的演示中,Boudoukh跳过代理,直接询问机器今(jin)年有多少(shao)队伍参加了欧冠,他首先并未使用RAG,结果代理生成了错误的答案,回答说今(jin)年有32支队伍,但实际上今(jin)年有36支队伍参赛(sai)。然后他调用RAG询问同一问题,就得出(chu)了正确的答案。

Boudoukh表示,这可以向开发者展示,如何利用软件栈在NPU、CPU和集成GPU之间分(fen)配工作。例如,这里的语(yu)音识别模型Whisper是在NPU上运行(xing)的,Phi-3推理则在集成GPU上运行(xing),而数据(ju)库搜索则在CPU上运行(xing)。

最后Boudoukh进行(xing)了LLaVA Phi3多模态模型演示。他介绍,该模型是经过视(shi)觉和颜色训练的,因此可以处(chu)理涉(she)及文本和图像的多模态任务。他将一张图像插入模型,并要求(qiu)模型描述图像场景,模型则给出(chu)了对场景的详细理解,甚(shen)至建议在这里钓鱼放松。

他还展示了模型代码的核心(xin)部分(fen)之一,即LLM推理部分(fen)。他说,要在英特(te)尔Core Ultra处(chu)理器上运行(xing)Phi-3和LLM推理很容易,只需要定义模型的名称,定义量化(hua)配置、加载模型、加载标记器(tokenizer),然后提供一些示例,进行(xing)标记操作,对输入进行(xing)标记,然后生成结果。而这一演示利用的优化(hua)版的OpenVino,即AI PC的一种。

Tangri表示,这就是AI PC与LLM共同运行(xing)的精彩表现。现实世界中的AI有四个支柱:效率、安全性、与网络协作的能力,以及开发者准(zhun)备(bei)度。如果你拥有前(qian)三者,但没有为(wei)开发者做好准(zhun)备(bei),你将无法在这个平台上进行(xing)创新。

他表示,高效率指的是能够延(yan)长设(she)备(bei)的电池(shi)寿命,而不只是追求(qiu)高每秒浮点运算次数(TeraFLOPS)的假象。“归根结底(di),我们(men)真正追求(qiu)的是客户体(ti)验和用户体(ti)验,这涉(she)及到将自然语(yu)言界面与图形(xing)用户界面结合起来。所以,最终,我们(men)追求(qiu)的是体(ti)验,而不是虚假的性能指标。”

Tangri表示,英特(te)尔过去几(ji)年来已(yi)经和微软合作创立(li)标准(zhun),如开放神经网络交换(huan)ONNX(Open Neural Network Exchange)的标准(zhun)。而关于开发者的准(zhun)备(bei)度,他表示,英特(te)尔目前(qian)有一个前(qian)沿的尖端研究的运行(xing)演示,可以完全在PC环境中运行(xing)。“所以我们(men)真正迎合了开发者的需求(qiu),降(jiang)低了在我们(men)的平台上创新的门槛,无需在线上和云端使用,这一切都可以在你的PC上完成。”

发布于:上海市(shi)
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7