HawkInsight

  • 联系我们
  • App
  • 中文

金山办公宣布与英伟达携手 加速WPS AI落地

6月30日,金山办公的官方公众号消息宣布,公司与英伟达团队合作,加速WPS AI落地。

为追逐大模型的浪潮,近期中国国内不少企业宣布与全球的芯片巨头英伟达展开合作,金山办公也不甘落后。

6月30日,金山办公的官方公众号消息显示,公司与英伟达团队达成合作,以加速WPS AI落地。

金山办公

金山办公作为中国国内一家办公软件和服务提供商,其产品包括WPS Office 办公软件、⾦⼭⽂档等协同办公产品、图像文档识别与理解业务,可在Windows、Linux、macOS、Android、iOS 、Harmony等众多主流操作平台上应⽤。

其中,金山办公在图像文档识别与理解领域已达到了国内领先水平。其主要使用了 CV(Computer Vision)与 VIE(Visual Information Extraction,视觉信息抽取) 等相关深度学习技术,例如通过CV技术识别发票和PDF大纲并获取其中的数据关系,其日请求次数已达上亿次。

但在图像识别与理解这一业务落地时,公司团队面临绝对耗时过长和成本较高两大问题。而在与英伟达的合作中,这两大问题均得到有效解决。

长链路(多达 20+ 个模型的 pipeline)意味着长耗时,若基于CPU推理的话,pipeline耗时会长达 15 秒左右,通过GPU推理和 TensorRT 加速,成功将耗时降低到了2.4秒左右

模型部署的时候,常见的做法是推理与业务代码放在一个进程空间里,每个模型需要在每个进程中加载一次,由于显存的限制,很多时候难以得到较高的单卡GPU使用率。就算采用了进程池的方式提高了单卡的GPU利用率,也会因CPU的限制,出现机器整体的GPU利用率不高。而在引入了 Triton 推理服务器进行推理部署后,将推理与业务代码解耦,初步实现将 GPU 资源池化调度。最终在同等业务规模情况下,部署成本节省了 23%

WPS AI

WPS AI是金山办公旗下具备大语言模型能力的人工智能应用,也是国内协同办公赛道首个类ChatGPT式应用。WPS AI现已接入金山办公旗下WPS文字、演示、表格、PDF、智能文档、智能表格等办公组件。

据悉,金山办公过去几年一直在做AI,只不过是用传统的小模型在做。也许是找不到较好的突破口,到去年年底的时候,金山办公方面已经几近放弃AI。但是ChatGPT的出现,又将他们重新拉回AI的赛道。

“当我看到 AI 自己能写程序的时候,我知道这个世界完全变了。”金山办公CEO章庆元5月份在接受采访时表示,“我们感觉,这将比金山办公历史上经历的所有技术变革都更猛烈、更有颠覆性。作为软件公司,我们必须积极拥抱,否则一定会被淘汰掉。”

决心再次投入AI之后,章庆元表示,考虑到成本问题,金山办公决定要先做大模型的应用,未来再解决大模型自主可控的问题。

4月18日,金山办公宣布将推出WPS AI。并称WPS AI将最先应用于新一代在线内容协作编辑工具——轻文档,以帮助用户处理工作、生活场景提高内容生产力。搭载WPS AI的轻文档将解锁多种功能,包括生成文档、进行多轮对话、对已有文案进行加工和再处理、快速归纳总结文档内容等。

5月16日,WPS AI发布上新。WPS AI将大模型能力嵌入文字、表格、演示、PDF四大组件之中。WPS AI方面认为,此次上新展现了阅读理解和问答和人机交互量大方向的深层能力。

不过,WPS AI目前还处于合规工作阶段,尚未正式上线,WPS AI也只是目前的产品代号

据官方介绍,WPS AI未来将锚定三个战略方向:

第一个方向是AIGC,主要是辅助编辑改写、润色,帮助用户生产更优质的文章;第二个方向是阅读理解和问答,基于已储备的语料做问答式的交互辅助阅读和知识检索;第三个方向是人机交互,基于大语言模型技术去做下一代基于自然语言的人机交互,用自然人类语言给软件下命令、提要求。

章庆元还透露了金山办公接下来的动作:“一方面是海外版,就是要积极跟进全球最先进的技术,对手有的东西我都要有,什么 Copilot、ChatPDF、ChatDOC、ChatExcel全做一遍。另一方面国内版,可能要慢一些,要等国内合作伙伴的大模型上线。”

目前,WPS AI与minimax、文心大模型、智谱AI三家大语言模型合作,未来将面向办公场景,探索典型应用。

·原创文章

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。