有偿:熟悉 aws lambda 和 nodejs 的 v 友帮忙写一个 openai 套壳接口

2023-07-30 18:12:42 +08:00
 john990

自己一顿操作,写了 Firebase Functions 的套壳,结果发现支持 stream ,所有结果返回后才会统一吐回客户端。

调查了一下,发现 AWS Lambda 支持,但是我对 aws 不熟,也几乎没写过 nodejs ,想找个人帮忙写一下。

具体需求:

1.将 Firebase Jwt 接入 AWS 的 jwt 验证

(这个我大概搜了一下,似乎配置一下就可以,如果我理解的不对欢迎指出)

2.请求 Azure OpenAi 接口,并以流式结果返回(每个 token 以 json 形式返回客户端)

应用还没上线,暂未盈利,所以预算有限,可以接受 1000 左右。

有意可以加我 VX:T2h2bm5ubg==

1035 次点击
所在节点    程序员
9 条回复
john990
2023-07-30 20:02:51 +08:00
大佬们帮帮忙🥲
zbinlin
2023-07-30 21:01:38 +08:00
没找到人可以 Email 联系我
john990
2023-07-30 21:48:04 +08:00
@zbinlin #2 发你邮件了
john990
2023-07-31 08:30:09 +08:00
仍然有效
MintZX
2023-07-31 10:43:38 +08:00
我倒是用 AWS lambda 做了 python SDK 的 openai 套壳,但是好像没有能以流形式返回结果的方式。
MintZX
2023-07-31 10:45:25 +08:00
对了,Azure OpenAI 的接口就算是用流的形式返回,也受限于 request + response <= 4096 token limit 的限制。这是 OpenAI API 的限制,跟是否用流的形式返回没有关系。
john990
2023-08-02 10:40:44 +08:00
@MintZX #5 可以用流,不过只支持 nodejs
MintZX
2023-08-02 12:22:38 +08:00
@john990 #7 这样啊,好吧我确实不太清楚。我不知道你是如何确定可以用流的,不过如果你都确定可以用流了的话自己做就好了。本身 openai 的那个 sdk 就非常简单,好像就三四个参数。
john990
2023-08-03 10:36:09 +08:00
@MintZX #8 AWS 官方文档说可以用流,主要对 nodejs 不熟,不过已经被 v 友完成了,再次感谢 v2

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/961001

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX