前言 我在写上一篇博客《22下半年》时，有读者在文章下面评论道：“july大神，请问BERT的通俗理解还做吗？”，我当时给他发了张俊林老师的BERT文章，所以没太在意。直到今天早上，刷到CSDN上一篇讲BERT的文章，号称一文读懂，我读下来之后，假定我是初学者，读不懂。关于BERT的笔记，其实一两年前就想写了，迟迟没动笔的原因是国内外已经有很多不错的资料，比如国外作者JayAlammar的一篇图解Transformer：TheIllustratedTransformer，再比如国内张俊林老师的这篇《说说NLP中的预训练技术发展史：从WordEmbedding到Bert模型》。本文基本上可以认为

2月7日，百度宣布推出ChatGPT类型人工智能产品“文心一言”，并于3月份完成内测向公众开放。一个多月后的今日，在北京百度总部和上海张江人工智能岛，文心一言如期而至。百度董事长兼CEO李彦宏介绍，文心一言在商业文案创作、数理推算等方面有突出能力，同时他也承认，文心一言“并没有完全ready（准备好）”。背负着国内市场的期待，文心一言为何要匆忙上线？业内人士认为，国内GPT技术的发展，要以抢占应用场景为先机，再辅助以算法技术的迭代，“边学边赶”才能有机会与国际AI巨头迎头赶上。具备更强中文理解力发布会现场，李彦宏展示了文心一言在五个使用场景的表现，包括文学创作、商业文案创作、数理推算、中文理解

2月7日，百度宣布推出ChatGPT类型人工智能产品“文心一言”，并于3月份完成内测向公众开放。一个多月后的今日，在北京百度总部和上海张江人工智能岛，文心一言如期而至。百度董事长兼CEO李彦宏介绍，文心一言在商业文案创作、数理推算等方面有突出能力，同时他也承认，文心一言“并没有完全ready（准备好）”。背负着国内市场的期待，文心一言为何要匆忙上线？业内人士认为，国内GPT技术的发展，要以抢占应用场景为先机，再辅助以算法技术的迭代，“边学边赶”才能有机会与国际AI巨头迎头赶上。具备更强中文理解力发布会现场，李彦宏展示了文心一言在五个使用场景的表现，包括文学创作、商业文案创作、数理推算、中文理解

目录​编辑官网介绍GPT-4内容提升总结GPT-4简短版总结GPT-4基础能力GPT-4图像处理GPT-4技术报告训练过程局限性GPT-4风险和应对措施开源项目：OpenAIEvals申请GPT-4APIAPI的介绍以及获取官网介绍官网：GPT-4API候补名单：GPT-4APIwaitlist没开通Plus的用户还没办法体验到GPT-4是OpenAI最先进的系统，可产生更安全、更有用的响应。我们创建了GPT-4，这是OpenAI努力扩展深度学习的最新里程碑。GPT-4是一个大型多模态模型（接受图像和文本输入，发出文本输出），虽然在许多现实世界场景中的能力不如人类，但在各种专业和学术基准上表现

目录​编辑官网介绍GPT-4内容提升总结GPT-4简短版总结GPT-4基础能力GPT-4图像处理GPT-4技术报告训练过程局限性GPT-4风险和应对措施开源项目：OpenAIEvals申请GPT-4APIAPI的介绍以及获取官网介绍官网：GPT-4API候补名单：GPT-4APIwaitlist没开通Plus的用户还没办法体验到GPT-4是OpenAI最先进的系统，可产生更安全、更有用的响应。我们创建了GPT-4，这是OpenAI努力扩展深度学习的最新里程碑。GPT-4是一个大型多模态模型（接受图像和文本输入，发出文本输出），虽然在许多现实世界场景中的能力不如人类，但在各种专业和学术基准上表现

大佬蓝鸟ID:sundyme零编程经验，通过GPT-4十分钟开发了一个浏览器插件，并成功运行，实现了需求目标！太不可思意了，真正体会到了自然语言编程的魅力！下一步是利用Pinterest的API接口实现自动发图，已经生成好了代码和步骤（看着挺靠谱），等明天开发者权限审核下来验证。下面推文是详细过程1.先讲一下背景：Midjourney后台有个模块可以给图片打分，每次展示两张图片，让你选择喜欢的一张，说白了就是在帮Midjouney炼丹了，这里面有个隐藏福利，当天打分数量前2000名的用户可以免费获得使用时长。有空的时候我就会去点一点，感觉花十几分钟就能获得奖励了。2.V5推出后经常能看到一些很

大佬蓝鸟ID:sundyme零编程经验，通过GPT-4十分钟开发了一个浏览器插件，并成功运行，实现了需求目标！太不可思意了，真正体会到了自然语言编程的魅力！下一步是利用Pinterest的API接口实现自动发图，已经生成好了代码和步骤（看着挺靠谱），等明天开发者权限审核下来验证。下面推文是详细过程1.先讲一下背景：Midjourney后台有个模块可以给图片打分，每次展示两张图片，让你选择喜欢的一张，说白了就是在帮Midjouney炼丹了，这里面有个隐藏福利，当天打分数量前2000名的用户可以免费获得使用时长。有空的时候我就会去点一点，感觉花十几分钟就能获得奖励了。2.V5推出后经常能看到一些很

GPT4模型和GPT3.5模型区别GPT4和GPT3.5都是由OpenAI开发的大规模自然语言生成（NLG）模型，它们可以根据给定的文本输入生成相关的文本输出。它们都属于预训练语言模型（PLM），即在大量无标注文本上进行无监督学习，然后在特定任务上进行微调或零样本学习。那么，GPT4和GPT3.5有什么区别呢？主要有以下几个方面：模型规模GPT4和GPT3.5的主要区别在于模型的规模。GPT4预计将拥有超过100万亿个参数（1e+15），而GPT3只有1750亿个参数（1.75e+11）。这意味着GPT4可以处理更多的数据，生成更长、更复杂、更连贯、更准确、更多样化和更有创造力的文本。模型能力

GPT4模型和GPT3.5模型区别GPT4和GPT3.5都是由OpenAI开发的大规模自然语言生成（NLG）模型，它们可以根据给定的文本输入生成相关的文本输出。它们都属于预训练语言模型（PLM），即在大量无标注文本上进行无监督学习，然后在特定任务上进行微调或零样本学习。那么，GPT4和GPT3.5有什么区别呢？主要有以下几个方面：模型规模GPT4和GPT3.5的主要区别在于模型的规模。GPT4预计将拥有超过100万亿个参数（1e+15），而GPT3只有1750亿个参数（1.75e+11）。这意味着GPT4可以处理更多的数据，生成更长、更复杂、更连贯、更准确、更多样化和更有创造力的文本。模型能力

在OpenAI发布GPT-4之后，一场有关「AI取代人类劳动力」的讨论正变得越来越激烈。该模型的强大能力及其可能带来的潜在社会影响引发了很多人的担忧，马斯克、Bengio等人甚至联名写了一封公开信，呼吁所有AI机构暂停训练比GPT-4更强的AI模型，为期至少6个月。但另一方面，对于GPT-4能力的质疑也是此起彼伏。前几天，图灵奖得主YannLeCun在一场辩论中直接指出，GPT家族所采用的自回归路线存在天然的缺陷，继续往前走是没有前途的。与此同时，一些研究者、从业者也表示，GPT-4可能并没有OpenAI所展示的那么强大，尤其是在编程方面：它可能只是记住了之前的题目，OpenAI用来测试该模型