首页最近被chatGPT刷屏，但翔二博主左看右看发现很多想法似乎都是一脉相通的，于是连夜从存档中找了一些文章尝试理一理它的理论路线。具身智能综述和应用（EmbodiedAI）多模态中的指令控制同时想到今年在智源人工智能前沿报告（2021-2022年度）中其实就有说道：“未来三年，基于虚拟世界、实时时空环境训练的具身模型会取得较大的发展，如自动驾驶、机器人、游戏中数字人等······未来五到十年，超大规模预训练模型（信息模型）和具身模型将会结合，成为‘数字超人’，在知识能力以及跟环境的互动程度上，将比以往的人类都要强······具身模型和机器人也将结合，在物理世界出现能力比人类还要强的无人系统，
首页最近被chatGPT刷屏，但翔二博主左看右看发现很多想法似乎都是一脉相通的，于是连夜从存档中找了一些文章尝试理一理它的理论路线。具身智能综述和应用（EmbodiedAI）多模态中的指令控制同时想到今年在智源人工智能前沿报告（2021-2022年度）中其实就有说道：“未来三年，基于虚拟世界、实时时空环境训练的具身模型会取得较大的发展，如自动驾驶、机器人、游戏中数字人等······未来五到十年，超大规模预训练模型（信息模型）和具身模型将会结合，成为‘数字超人’，在知识能力以及跟环境的互动程度上，将比以往的人类都要强······具身模型和机器人也将结合，在物理世界出现能力比人类还要强的无人系统，
Prompt公式是Prompt的特定格式，通常由三个主要元素组成：任务：明确而简洁地陈述Prompt要求模型生成的内容。指令：模型在生成文本时应遵循的指令。角色：模型在生成文本时应扮演的角色。指令Prompt技术指令Prompt技术是一种通过提供特定指令来引导ChatGPT输出的方法。该技术对确保输出相关和高质量非常有用。Prompt公式：“按照以下指示生成[任务]：[指示]”示例：生成客户服务响应：任务：生成响应客户查询指令：响应应该专业并提供准确信息Prompt公式：“按照以下指示生成专业且准确的响应客户查询：响应应该专业并提供准确信息。”生成法律文件：任务：生成法律文件指令：文件应符合相
帮助大家学习使用OpenAI的各类API开发应用，学习多个实站项目。推荐他人订阅可获取扣除平台费用后的35%收益，文末有名片！说明：该文属于ChatGPT实践指南白宝书专栏，购买任意白宝书体系化专栏可加入TFS-CLUB私域社区，早鸟价订阅模式除外。福利：加入社区的小伙伴们，除了可以获取博主所有付费专栏的阅读权限之外，还有机会加入星荐官共赢计划，详情请戳我。作者：
1什么是Prompt?prompt简单来说就是你给AI的指令。prompt可以是一段文字，比如你和ChatGPT等对话的，也可以是按照一定的格式的参数描述，比如AI绘图的软件，使用参数的情况比较多。和Prompt对应的一个专业是PromptEngineering（PE）。PE是人工智能（AI）领域中的一个概念，尤其是自然语言处理（NLP）领域。PE通常通过将问题转换为特定格式的输入，并使用预定义的模板、规则和算法来处理，让AI能够更好地理解任务并给出相应的回答。PE的优点是可以使AI更加灵活和精确地理解任务，并且能够减少因为语言表达不清晰而导致的误解和错误，使其能够准确、可靠地执行特定任务。
文章目录1.ChatGLM-6B1.1P-Tuningv2简介2.运行环境2.1项目准备3.数据准备4.使用P-Tuningv2对ChatGLM-6B微调5.模型评估6.利用微调后的模型进行验证6.1微调后的模型6.2原始ChatGLM-6B模型6.3结果对比1.ChatGLM-6BChatGLM-6B仓库地址：https://github.com/THUDM/ChatGLM-6BChatGLM-6B/P-Tuning仓库地址：https://github.com/THUDM/ChatGLM-6B/tree/main/ptuning1.1P-Tuningv2简介P-Tuning是一种较新的模型
前三章都围绕指令微调，这一章来唠唠RLHF。何为优秀的人工智能？抽象说是可以帮助人类解决问题的AI,也可以简化成3H原则：Helpful+Honesty+Harmless。面向以上1个或多个原则，RLHF只是其中一种对齐方案，把模型输出和人类偏好进行对齐。大体分成3个步骤人类偏好数据的标注基于标注数据训练奖励模型基于奖励模型使用RL微调语言模型以OpenAI为基础，本章会对比DeepMind,Anthropic在以上3个步骤上的异同，并尝试回答以下几个问题RLHF究竟做了什么偏好对齐用RL和SFT有什么差异什么模型适合作为RL的起点考虑篇幅已经超出了我自己的阅读耐心，RL算法和其他偏好对齐方案
论文地址：https://arxiv.org/abs/2208.12242v1项目地址：https://dreambooth.github.io/DreamBooth主要的工作目的是实现保留主体的细致特征的情况下使用文本对其进行环境等编辑。整体方法为给定一个主体的3-5个图像和文本提示作为输入，微调预训练的文生图模型（Imagen，但不限于特定模型）用于合成主体在不同场景中的全新照片级图像。该框架分两步操作（见上图）；1）从文本生成低分辨率图像（64×64）利用3-5张输入图像和文本提示微调低分辨率文生图模型，并且为了防止过度拟合和语言漂移提出了自发性的**类别区分的先验保留损失（Class-
作者 | 上杉翔二 悠闲会 · 信息检索 整理 | NewBeeNLP「PromptTuning也许会是深度学习时代的FeatureEngineering问题，如何给各大任务设计合理的Prompts将会是很有意思的科学问题」--刘知远虽然博主以前也看到了基于Prompt-tuning可以让GPT-3处理各种类型的任务，甚至拥有直接处理零样本和小样本学习能力。也整理过GPT，OpenAICLIP，DALL-E[1]这些文章，见GPTPlusMoney！BOOM。但但但，没想到这个领域冲的好快，新范式、综述和应用都层出不穷，并且看到小伙伴的应用实验效果奇佳。便想重新整理一些文章，再重
作者 | 上杉翔二 悠闲会 · 信息检索 整理 | NewBeeNLP「PromptTuning也许会是深度学习时代的FeatureEngineering问题，如何给各大任务设计合理的Prompts将会是很有意思的科学问题」--刘知远虽然博主以前也看到了基于Prompt-tuning可以让GPT-3处理各种类型的任务，甚至拥有直接处理零样本和小样本学习能力。也整理过GPT，OpenAICLIP，DALL-E[1]这些文章，见GPTPlusMoney！BOOM。但但但，没想到这个领域冲的好快，新范式、综述和应用都层出不穷，并且看到小伙伴的应用实验效果奇佳。便想重新整理一些文章，再重
