大数据文摘出品AI圈炸了!微软推出的LONGNET成功将Transformer的Token处理能力扩展到了10亿+。图片要知道,之前大家一直夸Transformer的理解能力和短序列生成能力,对长序列一直“有心无力”。微软这一次操作相当于让一个短跑冠军拥有了极速跑马拉松的能力。毕竟,处理长序列的同时,处理短序列任务时依然保持优秀的性能。LONGNETisaTransformervariantthatcanscalesequencelengthtomorethan1billiontokens,withnolossinshortersequences.图片对此,网友评论:这是一场革命!因为,这项工
在2021年5月19日,安卓12.0的系统正式发布。跟之前的相比,新系统在细节方面做的更好,并且在主题上变化较大,可以根据自己的喜好来自定义主题,另外,对于用户比较注重的隐私问题,也进行了较大的改动。值得注意的是,谷歌还表示,新系统还能与其他设备之间进行互联。只不过,在谷歌发布的安卓12.0的新系统中,其供应名单中没有华为的名字,这就代表着华为是不可以使用安卓12系统的。并且,该系统已经取得了出色的成绩。该系统在发布100天的时间里,其升级数就高达1亿,其注册应用的厂商就超过了130万,而且,该系统的硬件设备的合伙人也突破了1700家。要知道,之前的两大系统,在达到1亿用户量时,花费的时间是长
在4月一经推出就火爆开发者社区的大语言模型综述更新了!此前,人大等学校的多位研究者回顾了大语言模型在背景知识、关键发现和主流技术等方面的进展,尤其强调了大语言模型的预训练、自适应调优、使用和能力评估。最近,研究者对于这些研究进行了更新。在这次更新中,添加了34多个新页面,200多个新参考。包括:-新论文(LLaMA系列)-新章节(例如,LLMs的复杂任务规划)-26个有用的prompt技巧-对LLM的8种完成特定任务的能力进行实证评估论文地址:https://arxiv.org/abs/2303.18223LLM大事记下图是近年来大于100亿的大语言模型的时间轴。其中,时间轴主要根据模型的技术
OpenAI的竞争对手InflectionAI日前宣布,已从微软、里德·霍夫曼、比尔·盖茨、埃里克·施密特以及英伟达牵头的最新一轮融资中筹集了13亿美元。目前该公司总计筹集了15.25亿美元,估值增长到约40亿美元。 InflectionAI声称,将与合作伙伴CoreWeave和英伟达一起打造世界上最大的AI集群,该集群将由22000个NvidiaH100GPU组成。该公司声称:“在一个集群中部署22000个NVIDIAH100GPU确实是前所未有的规模,将支持新一代大规模AI模型的训练和部署。综合起来,该集群在16位精度模式下达到了惊人的22exaFLOPS。如果使用较低的精度,算力可能会更
当大家不断升级迭代自家大模型的时候,LLM(大语言模型)对上下文窗口的处理能力,也成为一个重要评估指标。比如明星大模型GPT-4支持32ktoken,相当于50页的文字;OpenAI前成员创立的Anthropic更是将Claude处理token能力提升到100k,约75000个单词,大概相当于一键总结《哈利波特》第一部。在微软最新的一项研究中,他们这次直接将Transformer扩展到10亿token。这为建模非常长的序列开辟了新的可能性,例如将整个语料库甚至整个互联网视为一个序列。作为比较,普通人可以在5小时左右的时间里阅读100,000个token,并可能需要更长的时间来消化、记忆和分析这
7月6日消息,研究公司PitchBook近日发布的数据显示,2023年前六个月全球风险投资资金几乎减半,凸显投资者缺乏热情以及利率大幅上升导致融资需求减少。报告显示,尽管OpenAI的ChatGPT成功引发了人们对人工智能(AI)初创公司的巨大兴趣,但上半年全球风险投资额仍然下降了48%,为1739亿美元(IT之家备注:当前约1.26万亿元人民币),交易数量也下降了19%。不过,AI初创公司依旧炽手可热。过去六个月,全球风投者向AI初创公司投入了超过400亿美元(当前约2900亿元人民币),其中包括微软对OpenAI的100亿美元(当前约725亿元人民币)投资以及对InflectionAI的1
早晚会有这一天,但它还是比想象来得早了一些:大模型在手机上运行的预言被实现了。图片上个月的计算机视觉学术顶会CVPR上,生成式AI成了重要方向,高通会议中展示了一把未来有望成为「主流」的AI应用:用手机跑大模型AI画图。CVPR是AI领域最负盛名的重要会议,我们曾在其中见证过人工智能的几次重要突破,今年在获奖和入围的论文中,既有通用大模型,也有AI画图的研究,可谓一下进入了生成式AI的新时代。图片在CVPR2023上,高通共有八篇论文被主会议收录,并行的展示覆盖生成式AI、计算机视觉、XR和自动驾驶汽车等领域的理论创新,以及应用方向。在这场最先进技术的碰撞中,有不少令人期待的未来图景。15亿大
据华为方面公布的消息指鸿蒙系统的用户数已突破4亿,不断巩固全球第三大移动操作系统的地位,打破了此前由美国iOS和谷歌安卓垄断移动操作系统市场的格局,尤其是对谷歌的威胁非常大,这正让谷歌后悔不迭。华为的鸿蒙系统在2020年Q3开始在自家的华为电视上应用,随后又经过一年时间的完善,于2021年6月正式向手机用户推送,同时与美的等多家国内家电巨头合作发展鸿蒙系统,由此鸿蒙系统走上了快车道。华为方面的消息指出至2021年底,鸿蒙系统的用户数成功突破3亿,到如今再突破4亿,成为全球发展最快的移动操作系统,彻底打破了此前由谷歌安卓和iOS系统占有移动操作系统市场99%市场份额的局面。早前分析机构给出的数据
内容概要2022年6月24日,由Layer1公链Harmony开发的,以太坊与Harmony间的资产跨链桥Horizon遭到攻击,损失金额约为1亿美元。这到底是怎么回事?虽然黑客攻击发生的当天就能断定属于“公证人私钥被盗”,既然贵客点开,不妨来展开聊聊,放心,有少数硬核源码但全篇讲白话,通俗易懂!跨链桥分类与技术原理Horizon合约审计报告解读被盗原因复盘分析与总结目录1、跨链桥技术原理1.1、跨链方案有哪些?1.2、Horizon桥的跨链原理2、Horizon桥的合约审计报告解读2.1、中低风险点1-兼容不足2.2、中低风险点2-异常锁定2.3、高风险点3、黑客盗取过程3.1、关键信息3.
2023年5月23日至5月31日,京东618预售期正式落幕。今年的预售,不少行业及品牌首战告捷,拿下了不错的成绩。数据统计时间:5月23日至5月30日平台:京东今晚,鲸参谋率先来盘点一下大家电行业在23日至30日预售期间的表现。(含行业大盘、预售品牌榜、预售商品榜详细数据)-平板电视-今年618,平板电视在京东累计预售量达到221万件,预售额达到123亿元。预售期间,平板电视品类均价在5585元左右。期间,约有25个热销品牌和115家热销店铺。*数据源于鲸参谋-京东618预售TOP10品牌预售榜单如下:小米(28.5%)、TCL(17.6%)、华为(11.1%)、海信(8.7%)、索尼(6.