标签:自然语言处理

社区供稿 | 图解大模型推理优化之 KV Cache

本文介绍了KV Cache这种大模型推理加速的方法。KV Cache通过缓存Attention中的K和V来减少推理时间,同时提高推理效率。这种方法可以应用于各种大型模型中,例...

社区供稿 | 多轮对话推理速度提升 46%,开源方案打破 LLM 多轮对话的长度限制

麻省理工的研究人员最近推出了一种名为StreamingLLM的大型语言模型,该模型能够在不影响推理速度和生成效果的情况下,实现多轮对话总共400万个token的流式输...

北大、斯坦福、Pika新研究:“文生图”好过DALL·E 3和SDXL

北大、斯坦福、Pika最新研究表明,“文生图”比DALL·E 3和SDXL更好玩的AI。该研究使用了官方媒体和网络新闻的10个素材来源,发表于2024年1月26日。

数据集成产品的技术演进与实际应用-FastData DCT

FastData DCT是滴普科技的一款数据集成和管理产品,旨在帮助企业应对日益复杂多变的数据环境。该产品结合了流批一体和湖仓一体架构,提供了全链路服务,从数...

图机器学习年度炸裂进展盘点

DataFun将于2024年1月27日举办图机器学习年度进展分享会,邀请行业专家学者分享图学习的发展方向、技术进展以及在复杂图分析、大规模数据处理、推荐、风控等...

解密炒虾机器人远程控制技术:动捕手套/隔空取物/VR远程,都能训练机器人

斯坦福大学的炒菜机器人和ALOHA炒虾机器人在网络上引起了轰动,但机器人的自主能力仍有限,需要人工干预。Jim Fan分享了三个未来的技术方向,以提高机器人的...

电商平台被ChatGPT椅子占领

OpenAI的ChatGPT模型出现在网购商品名称栏里的道歉体句式引起网友的注意。这种情况不是个例,许多产品的名称栏都使用了类似的句式。这种现象引发了网友的热议...

《西游记》把大模型给难倒了

ChatGPT和Claude都无法回答《西游记》中提到孙悟空这只猴的次数,因为篇幅太长,而市面上的大模型也几乎无法准确回答这个问题。

冠军获奖经历:这一路我们不孤单!

Datawhale举办了一场AI原生应用大赛,荣获Top1的荆轲刺秦王团队的小罗分享了他们的比赛经验,并期望与大家交流学习。

大模型的商业价值来自AI原生应用体验的质变|百度@MEET2024

百度AI技术生态总经理马艳军在MEET2024智能未来大会上介绍了知识增强大语言模型和围绕大模型建设的生态以及未来发展趋势。他认为大模型给应用体验带来了质的...
1 2 3 16