推荐：Python全栈白宝书专栏，免费阶段订阅数量4300+，购买任意白宝书体系化专栏可加入TFS-CLUB私域社区。福利：加入社区的小伙伴们，除了可以获取博主所有付费专栏的阅读权限之外，还有机会加入星荐官共赢计划，详情请戳我。推荐他人订阅，可获取扣除平台费用后的35%收益。作者：不渴望力量的哈士奇(哈哥)，十余年工作经验,跨域学习者，从事过全栈研发、产品经理等工作，目前任某金融品类App负责人。荣誉：2022年度博客之星Top4、博客专家认证、全栈领域优质创作者、新星计划导师，“星荐官共赢计划”发起人。现象级专栏《白宝书系列》作者，文章知识点浅显易懂且不失深度；TFS-CLUB社区创立者，旨
OpenAI又迎来一位AI大将。最近，华人科学家程博文官宣离职特斯拉，即将加入OpenAI专攻多模态模型的研究。图片今天是我在特斯拉自动驾驶部门的最后一天，这一年半的经历真的很棒：有机会与才华横溢的同事们共事，学习了如何开发出色的产品等等。但我向通用人工智能（AGI）进发的脚步不会因此而停歇，不久后，我将加入OpenAI的后训练（post-training）团队，参与构建多模态模型的工作。值得一提的是，程博文博士毕业于伊利诺伊大学厄巴纳-香槟分校（UIUC），导师就是大名鼎鼎的计算机科学家ThomasHuang。黄煦涛于2020年4月逝世OpenAI视频生成科学家WillDepue、技术人员F
作者| YiTay编译|云昭出品|51CTO技术栈（微信号：blog51cto）你敢相信吗？一位前谷歌大佬，离职成立公司，不到一年，从头训练出了“GPT3.5”/“GeminiPro”，注意，后者是多模态大模型！ 本文主人公YiTay，是一位市面上非常抢手的高性能大模型的大拿。他曾在谷歌GoogleBrain担任高级研究科学家，专注于大型语言模型和人工智能的研究。在Google任职期间，曾经为业内许多知名的大型语言模型做出了贡献，例如PaLM、UL2、Flan-{PaLM/UL2/T5}、LaMDA/Bard、MUM等。另外，Yi还参与了大型多模态模型如ViT-22B和PaLI-X的研究，负责
如何在不到一年的时间里创办一家公司、筹集资金、购买芯片，并搭建出追赶Geminipro/GPT3.5的LLM？很多人都对构建基础架构和训练大语言模型和多模态模型感到好奇，但真正走完「从零开始」这一流程的人很少。我们普遍认为，储备技术人才是前提，掌握核心算法是关键，但实际上，工程实践中冒出来的挑战，也实在令人头疼。一年前，乘着大模型的热潮，YiTay离开了工作3年多的谷歌，参与创办了一家名为Reka的公司并担任首席科学家，主攻大型语言模型。在谷歌时，YiTay参与过许多知名的大型语言模型和多模态模型工作，包括PaLM、UL2、Flan-U-PaLM、LaMDA/Bard、ViT-22B、PaLI
一份关于「OpenAI在2027年实现AGI」的53页PDF，正在互联网上广泛流传。文档来源于一个名为「vancouver1717」的X账户，该账户注册于2023年7月，只有两条推文。最新发布的这个PDF文档称，OpenAI「将在2027年前开发出人类水平的AGI」，「从2022年8月就在训练125万亿参数的多模态模型」，而且已经「在2023年12月完成了训练」，但是「由于高推理成本取消了发布」。其中提到，这个模型就是原计划2025年发布的GPT-5，取消之后，Gobi（GPT-4.5）更名为GPT-5。内容真实度未知，读过的人倾向于「不信」，因为很多判断缺乏专业度：不过这个文档里还提到了去年
🦉AI新闻🚀谷歌DeepMind团队深夜发布新AI开源模型Gemma摘要：谷歌DeepMind团队于今日发布了一款名为Gemma的新型AI模型，该模型启发自Gemini，提供两个版本：Gemma2B和Gemma7B。这款模型支持Keras3.0和PyTorch等工具进行微调，可在性能较低的设备上运行，且性能超越竞品MetaLlama-2模型。为确保模型的安全性和可靠性，研究团队采用自动化技术过滤敏感数据，并通过大量微调及“强化学习”等手段提高模型的行为一致性。此外，对模型进行了“红队测试”和“自动对抗测试”以评估其能力，确保模型具有“负责任的特性”。Kaggle地址：https://www.k
离职OpenAI的技术大神karpathy，终于上线了2小时的AI大课。——「让我们构建GPTTokenizer（分词器）」。其实，早在新课推出两天前，karpathy在更新的GitHub项目中，就预告了这件事。这个项目是minbpe——专为LLM分词中常用的BPE（字节对编码）算法创建最少、干净以及教育性的代码。目前，GitHub已经狂揽6.1k星，442个fork。项目地址：https://github.com/karpathy/minbpe网友：2小时课程含金量，相当于大学4年不得不说，karpathy新课发布依然吸引了业内一大波学者的关注。他总是可以把相当复杂的LLM概念，用非常好理解
如果用8个字概括谷歌的近况，那就是——水深火热，内忧外患。去年11月，微软和OpenAI联合推出的ChatGPT，简直给了谷歌致命一击，险些把谷歌拉下搜索业务的王座。同时受到威胁的，还有每年逾1500亿美元广告费的大蛋糕。这场危机，充分暴露了谷歌在CEO劈柴（SundarPichai）领导下出现的种种问题。近日，外媒TheInformation挖出了或许最关键的原因之一——劈柴的这个CEO头衔，在很多时候，也就仅仅是一个头衔而已。劈柴，活在阴影下的CEO本来，广告商在去年秋天削减了开支，就让谷歌的业务陷入了停滞。ChatGPT的冲击，简直是雪上加霜。「劈柴下课」的声音，在最近几个月不绝于耳。批
最近，有网友以“甄学”的风格来描述当代人手机使用现状微信这是朕的皇后偶尔宠幸，但从不过夜抖音这是朕的抖妃朕最宠爱的妃子，常常夜宿于此淘宝这是朕的淘妃干啥啥不行每天只会向朕索取金银，买买买比起用来娱乐和通讯的微信、抖音，淘宝可是让大家又爱又恨，不知道多少次因为被他掏空了钱包而只能被迫吃土。作为阿里旗下的网络购物平台，淘宝几乎成了每台手机必备的app，其中的天猫也是不少人的购物选择。不过最近，淘宝和天猫却是要“分家”了。据透露，阿里巴巴现任淘宝天猫产业发展及运营中心总裁杨光（花名：吹雪）将离职，目前正在办理交接。吹雪离开后，淘宝天猫产业发展及运营中心将被拆分为三个部门。行业发展1部，由原淘特、16
在职场上，什么样的人最让人反感？是技术不好的人吗？并不是。技术不好的同事，我们可以帮他。是技术太强的人吗？也不是。技术很强的同事，可遇不可求，向他学习还来不及呢。真正让人反感的，是技术平平，却急于表现自己的人，每天加班到12点，在老板面前表现得格外积极，弄得其他人都很尴尬。这就是行业当中的“卷王”。每个人都说想躺平了，可是有一说一，该卷的还是卷。前段时间我们公司来了个00后，工作一年，跳槽到我们公司起薪15K，马上就接近我了。后来才知道别人是个卷王，从早干到晚就差搬张床到工位睡觉了。这两天公司团建他喝多了，聊的比较开，才知道原来他是村里出来的，爹妈退休金都没有，靠着他生活呢。所以他再大三的时候
