草庐IT

五分钟创建一个ChatGPT Plugin

serverless 技术社区 2023-09-26 原文

OpenAI 在2023年3月发布了 ChatGPT 的官方 API ,且于今天发布了Plugin开发使用资格,许多开发者和创业者都兴致勃勃地想办法将其整合到自己的业务运营中。

但是,想要做到这一点,仍然困难重重:

  • OpenAI为 ChatGPT 提供了一个简单的无状态API。开发者需要在应用程序管理的缓存或数据库中跟踪每个对话的历史和上下文。开发者还需要管理和保护API密钥。这里有很多与应用程序业务逻辑无关的样板代码。
  • ChatGPT API 应用程序的“自然”用户界面是 thread 聊天。但在传统的网络或应用程序框架中创建“聊天界面”是非常困难的。实际上,最常用的聊天界面已经存在于诸如 Slack、Discord 乃至论坛(例如 GitHub Discussions)这样的消息应用中。我们需要一种简单的方法将 ChatGPT 的 API 响应连接到现有的消息服务中。

本文,我将展示如何创建 serverless GitHub 机器人。有了这个机器人, GitHub 用户就能在 GitHub Issues 中与 ChatGPT 进行对话。 可以通过提新的 issue 或在已有的 issue 的下面发表评论,来试试和 ChatGPT 聊天。 换句话说,这个项目使用 GitHub Issues 的 thread 消息 UI 作为它聊天的 UI。

图1. 用 ChatGPT学习Rust编程。查看 https://github.com/second-state/chat-with-chatgpt/issues/31

该机器人是用 Rust 编写的 serverless 函数。只需 fork 该 example 模版,将你的 fork 部署到 flows.network 上,并将其配置你的 GitHub repo 和 OpenAI 密钥。 只需 5 分钟,就能拥有一个功能齐全的 GitHub 机器人。无需为 GitHub API 或缓存/数据库服务器设置 Web 服务器或 Webhook。

理解模板 Repo

首先,从GitHub fork该模版reposrc/lib.rs 文件包含 bot 应用 (也称为 flow 函数)。run() 函数在启动时就被调用。它从 GitHub repo owner/repo 监听事件 issue_commentissues。 当在 repo 中创建新 issue 或新 issue 评论时,会启用这些事件。

#[no_mangle]
#[tokio::main(flavor = "current_thread")]
pub async fn run() {
// Setup variables for
//   owner: GitHub org to install the bot
//   repo: GitHub repo to install the bot
//   openai_key_name: Name for your OpenAI API key
// All the values can be set in the source code or as env vars
listen_to_event(&owner, &repo, vec!["issue_comment", "issues"], |payload| {
handler(&owner, &repo, &openai_key_name, payload)
})
.await;
}

handler() 函数处理 listen_to_event() 接收到的事件。 如果事件是 issue 中的新评论,则机器人会调用 OpenAI 的 ChatGPT API 将评论文本添加到由 issue.number 标识的现有对话中。 它收到来自 ChatGPT 的响应,并在 issue 中添加评论。

此处的 flow 函数自动透明地管理本地存储中与 ChatGPT API 的对话历史记录。 OpenAI API 密钥也存储在本地存储中,因而可以通过 openai_key_name 中的字符串名称来识别密钥,而不必将密钥放在源代码中。

EventPayload::IssueCommentEvent(e) => {
if e.comment.user.r#type != "Bot" {
if let Some(b) = e.comment.body {
if let Some(r) = chat_completion (
                    openai_key_name,
&format!("issue#{}", e.issue.number),
&b,
&ChatOptions::default(),
) {
if let Err(e) = issues.create_comment(e.issue.number, r.choice).await {
write_error_log!(e.to_string());
}
}
}
}

如果事件是一个新的 issue,flow 函数创建一个新的对话,由 issue.number识别,并向 ChatGPT 请求响应。

EventPayload::IssuesEvent(e) => {
if e.action == IssuesEventAction::Closed {
return;
}
let title = e.issue.title;
let body = e.issue.body.unwrap_or("".to_string());
let q = title + "\n" + &body;
if let Some(r) = chat_completion (
            openai_key_name,
&format!("issue#{}", e.issue.number),
&q,
&ChatOptions::default(),
) {
if let Err(e) = issues.create_comment(e.issue.number, r.choice).await {
write_error_log!(e.to_string());
}
}
}

如何部署 Serverless Flow 函数

可以看到,flow 函数代码调用 SDK API 来执行复杂的操作。 例如

  • listen_to_event() 函数通过 GitHub API 注册一个 webhook URL,从而 handler() 函数会在 GitHub 发生特定事件时被调用。
  • The chat_completion() 函数使用命名的 API 密钥和指定对话的历史(上下文)调用 ChatGPT API。 API 密钥和对话历史记录存储在 Redis 缓存中。

Webhook 服务器和 Redis 缓存都是 SDK 依赖的外部服务。 这意味着 flow 函数必须在提供此类外部服务的托管 host 环境中运行。 Flows.network 是 flow 函数SDK 的 PaaS(平台即服务)host。

为了在 flows.network 上部署 flow 函数,只需将其源代码导入 PaaS。

首先,从你的 GitHub 帐户登录 flows.network。 导入你刚刚 fork 的包含 flow 函数源代码的 GitHub repo,并选择“ Advanced”。

请注意,不是选要部署机器人的 GitHub repo;而是选择你 fork 的 flow函数源代码的 repo chatgpt-github-app

图 2. 把你 fork 的 flow 函数模板 repo 导入 flows.network。

设置环境变量以将 flow 函数指向 OpenAI API 密钥名称 (openai_name_key) 和 GitHub repo (ownerrepo)。

此处的 GitHub ownerrepo 变量指向你要部署机器人的 GitHub repo,而不是 flow 函数源代码的 repo。

图 3. 为要部署机器人的 GitHub repo 设置环境变量,以及 OpenAI API 密钥名称。

Flows.network 将 fetch 源代码并使用标准的 cargo 工具链将 Rust 源代码构建为 Wasm 字节码。 然后在 WasmEdge Runtime 中运行 Wasm flow 函数。

如何将 Flow 函数连接到 GitHub 和 OpenAI

虽然 flow 函数需要连接到 OpenAI 和 GitHub API,但源代码没有写死的 API 密钥、访问令牌或 OAUTH 逻辑。 flow 函数 SDK 使开发者可以轻松、安全地与外部 SaaS API 服务进行交互。

Flows.network 发现 flow 函数需要连接到 OpenAI 和 GitHub API。flows 平台为开发者提供了 UI 工作流,让开发者能够:

  • 登录 GitHub,授权访问事件,并将 flow 函数注册为用于接收这些事件的 webhook。
  • 将 OpenAI API 密钥与名称 openai_key_name 相关联。


图 4. flow 函数所需的外部服务

外部 SaaS API 成功连接并得到授权后,它们会在 flow 函数 dashboard 上将显示为 “Connected”。 flow 函数现在将接收 listen_to_event() 的事件。 它还将获得对 Redis 的透明访问以获取指定的 OpenAI API 密钥和缓存的对话上下文,从而支持 chat_completion() SDK 函数。

下一步

flows.network 支持连接各种 SaaS 的不同机器人,GitHub 机器人只是其中之一。通过将 flow 函数连接到 Slack 频道,就可以获得 ChatGPT 来参与你的小组讨论。 下面是一个基于 Slack 的 ChatGPT 机器人的示例。

https://github.com/flows-network/collaborative-chat

图 5. Slack ChatGPT 机器人

另一个例子是让 ChatGPT 在 Slack 频道中回答法律问题。 flow 函数里面可以规定好 prompt ——说明 ChatCPT 需要充当法律顾问回答法律咨询。

https://github.com/flows-network/robo-lawyer
图 6. Slack 律师机器人

除了 GitHub 和 Slack,还有许多 SaaS 产品可以通过其 API 集成到 flows.network 中。


国内首个面向 to D Marketing、开发者运营、开发者关系从业者的交流活动 Dev.Together 中国开发者生态峰会将于 3 月 25 日在北京开办啦!
在本次的开发者生态峰会现场, 我们设置了一个开放的社区百宝箱市集,邀请到开源问答社区软件 Answer、X-Lab 实验室、TiDB、flows.network、Fork.ai,ONES 以及 Pando Proto 等团队参展,为大家一站式展示实用、有趣的运营工具,助你事半功倍,升职加薪!

除了实用工具,展商们也准备了有趣好玩的互动机制和周边,欢迎大家一起来玩耍。此外,现场设有护照打卡盖章任务,快来市集做一个行走的盖章君,感受**“集邮”**的快乐。集满一定数量的印章,还可以兑换大会官方定制周边和惊喜盲盒,记得来寻找隐藏的印章兑换礼物哦!


flows.network


flows.network
是一个低代码 serverless 平台。以 developer 常用的工具为切入点,flows.network 将赋能开发者与 DevRel 自动化工作流,降低开发者的负担与沟通成本,打造更加活跃的开发者社区。在 flows.network,你将了解如何自动化 DevRel 的工作流,节省时间与精力。快来体验 ChatGPT 的魔法世界,并赢取精美奖品。
展位任务: 参会者选在体验 ChatGPT 的 demo 或者参与添加我们的微信群,完成任一一项任务即可到 flows.network 展位领取签章。除此之外,参会者还可以选择我们其它的互动任务赢取精美奖品:听取 Demo 讲解将获得三合一充电线;观看预约演示并提交反馈问卷可以获得帽子一个或一个搪瓷杯;成功部署应用可以现场领取 T-shirt 一件。

需要在活动页面报名

有关五分钟创建一个ChatGPT Plugin的更多相关文章

  1. ruby - 如何在 Ruby 中顺序创建 PI - 2

    出于纯粹的兴趣,我很好奇如何按顺序创建PI,而不是在过程结果之后生成数字,而是让数字在过程本身生成时显示。如果是这种情况,那么数字可以自行产生,我可以对以前看到的数字实现垃圾收集,从而创建一个无限系列。结果只是在Pi系列之后每秒生成一个数字。这是我通过互联网筛选的结果:这是流行的计算机友好算法,类机器算法:defarccot(x,unity)xpow=unity/xn=1sign=1sum=0loopdoterm=xpow/nbreakifterm==0sum+=sign*(xpow/n)xpow/=x*xn+=2sign=-signendsumenddefcalc_pi(digits

  2. python - 如何使用 Ruby 或 Python 创建一系列高音调和低音调的蜂鸣声? - 2

    关闭。这个问题是opinion-based.它目前不接受答案。想要改进这个问题?更新问题,以便editingthispost可以用事实和引用来回答它.关闭4年前。Improvethisquestion我想在固定时间创建一系列低音和高音调的哔哔声。例如:在150毫秒时发出高音调的蜂鸣声在151毫秒时发出低音调的蜂鸣声200毫秒时发出低音调的蜂鸣声250毫秒的高音调蜂鸣声有没有办法在Ruby或Python中做到这一点?我真的不在乎输出编码是什么(.wav、.mp3、.ogg等等),但我确实想创建一个输出文件。

  3. ruby - 使用 Vim Rails,您可以创建一个新的迁移文件并一次性打开它吗? - 2

    使用带有Rails插件的vim,您可以创建一个迁移文件,然后一次性打开该文件吗?textmate也可以这样吗? 最佳答案 你可以使用rails.vim然后做类似的事情::Rgeneratemigratonadd_foo_to_bar插件将打开迁移生成的文件,这正是您想要的。我不能代表textmate。 关于ruby-使用VimRails,您可以创建一个新的迁移文件并一次性打开它吗?,我们在StackOverflow上找到一个类似的问题: https://sta

  4. ruby-on-rails - Rails - 一个 View 中的多个模型 - 2

    我需要从一个View访问多个模型。以前,我的links_controller仅用于提供以不同方式排序的链接资源。现在我想包括一个部分(我假设)显示按分数排序的顶级用户(@users=User.all.sort_by(&:score))我知道我可以将此代码插入每个链接操作并从View访问它,但这似乎不是“ruby方式”,我将需要在不久的将来访问更多模型。这可能会变得很脏,是否有针对这种情况的任何技术?注意事项:我认为我的应用程序正朝着单一格式和动态页面内容的方向发展,本质上是一个典型的网络应用程序。我知道before_filter但考虑到我希望应用程序进入的方向,这似乎很麻烦。最终从任何

  5. ruby-on-rails - 渲染另一个 Controller 的 View - 2

    我想要做的是有2个不同的Controller,client和test_client。客户端Controller已经构建,我想创建一个test_clientController,我可以使用它来玩弄客户端的UI并根据需要进行调整。我主要是想绕过我在客户端中内置的验证及其对加载数据的管理Controller的依赖。所以我希望test_clientController加载示例数据集,然后呈现客户端Controller的索引View,以便我可以调整客户端UI。就是这样。我在test_clients索引方法中试过这个:classTestClientdefindexrender:template=>

  6. ruby-on-rails - 无法使用 Rails 3.2 创建插件? - 2

    我对最新版本的Rails有疑问。我创建了一个新应用程序(railsnewMyProject),但我没有脚本/生成,只有脚本/rails,当我输入ruby./script/railsgeneratepluginmy_plugin"Couldnotfindgeneratorplugin.".你知道如何生成插件模板吗?没有这个命令可以创建插件吗?PS:我正在使用Rails3.2.1和ruby​​1.8.7[universal-darwin11.0] 最佳答案 随着Rails3.2.0的发布,插件生成器已经被移除。查看变更日志here.现在

  7. ruby - 如何使用 RSpec::Core::RakeTask 创建 RSpec Rake 任务? - 2

    如何使用RSpec::Core::RakeTask初始化RSpecRake任务?require'rspec/core/rake_task'RSpec::Core::RakeTask.newdo|t|#whatdoIputinhere?endInitialize函数记录在http://rubydoc.info/github/rspec/rspec-core/RSpec/Core/RakeTask#initialize-instance_method没有很好的记录;它只是说:-(RakeTask)initialize(*args,&task_block)AnewinstanceofRake

  8. ruby-on-rails - 如果 Object::try 被发送到一个 nil 对象,为什么它会起作用? - 2

    如果您尝试在Ruby中的nil对象上调用方法,则会出现NoMethodError异常并显示消息:"undefinedmethod‘...’fornil:NilClass"然而,有一个tryRails中的方法,如果它被发送到一个nil对象,它只返回nil:require'rubygems'require'active_support/all'nil.try(:nonexisting_method)#noNoMethodErrorexceptionanymore那么try如何在内部工作以防止该异常? 最佳答案 像Ruby中的所有其他对象

  9. ruby - 为什么 SecureRandom.uuid 创建一个唯一的字符串? - 2

    关闭。这个问题需要detailsorclarity.它目前不接受答案。想改进这个问题吗?通过editingthispost添加细节并澄清问题.关闭8年前。Improvethisquestion为什么SecureRandom.uuid创建一个唯一的字符串?SecureRandom.uuid#=>"35cb4e30-54e1-49f9-b5ce-4134799eb2c0"SecureRandom.uuid方法创建的字符串从不重复?

  10. ruby-on-rails - Rails - 从另一个模型中创建一个模型的实例 - 2

    我有一个正在构建的应用程序,我需要一个模型来创建另一个模型的实例。我希望每辆车都有4个轮胎。汽车模型classCar轮胎模型classTire但是,在make_tires内部有一个错误,如果我为Tire尝试它,则没有用于创建或新建的activerecord方法。当我检查轮胎时,它没有这些方法。我该如何补救?错误是这样的:未定义的方法'create'forActiveRecord::AttributeMethods::Serialization::Tire::Module我测试了两个环境:测试和开发,它们都因相同的错误而失败。 最佳答案

随机推荐