smalltong02 最近的时间轴更新

smalltong02

V2EX 第 673310 号会员，加入于 2024-01-25 23:55:22 +08:00

github.com/smalltong02 GitHub

smalltong02

I like windows kernel, llvm, machine learning and deep learning

smalltong02 提问技术话题好玩工作信息交易信息城市相关

对 Qwen 2 模型代理能力的完整测试

程序员 • smalltong02 • 178 天前 • 最后回复来自 daisyfloor

使用大语言模型+谷歌工具箱构建私人助理

程序员 • smalltong02 • 212 天前

一个使用大语言模型打造智能个人助理的演示

程序员 • smalltong02 • 215 天前

测试 Yi-1.5-9B-Chat 模型指令跟随和使用外部工具的能力

程序员 • smalltong02 • 230 天前 • 最后回复来自 zealotxxxx

使用大语言模型构建智能客户支持代理的测试。

程序员 • smalltong02 • 232 天前

闲来无事，用 AI 创建了个视频给大家娱乐一下。

程序员 • smalltong02 • 239 天前 • 最后回复来自 ailogomakerrcom

对 Llama-3 和 Phi-3 指令跟随测试任务的视频演示

程序员 • smalltong02 • 245 天前

对 Llama-3-8B 模型在指令跟随方面的测试。

Local LLM • smalltong02 • 244 天前 • 最后回复来自 qinfengge

本地代码解释器的演示

程序员 • smalltong02 • 314 天前

请问在本网站上怎么插入图片，还有我发贴子稍微写长一点就说我注册不足 30 天，这个怎么解决？是否有特殊秘籍可以绕过？

新手求助 • smalltong02 • 319 天前 • 最后回复来自 smalltong02

» smalltong02 创建的更多主题

smalltong02 最近回复了

195 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@wwvvance
我使用我自己的开源项目支持的 Qwen 函数调用： https://github.com/smalltong02/keras-llm-robot

195 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@wwvvance

对于原生支持 Function Call 的模型，比如 OpenAI ，Gemini 和 Kimi 等，我都使用它们提供的接口来进行函数调用。对于不支持函数调用的模型，我使用预置的提示词技术来实现的函数调用功能。Baidu 和 Qwen 的模型原生是支持这个功能的，但是因为需要安装其它的库有点冲突，所以暂时把它们当成不支持来对待的。

198 天前

回复了 panlatent 创建的主题 › 分享创造 › 来推荐推荐自己的开源项目和经验吧

[Keras-llm-robot]( https://github.com/smalltong02/keras-llm-robot) 是一个基于 Langchain 的大语言模型项目，支持各种外部工具的调用，比较偏向于模型的 C 端落地项目，工具包括：代码解释器，知识库，搜索引擎，函数调用和工具箱，可惜同类产品太多，一直不火。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@kneo

不知道您的测试主要关注哪方面，方便共享吗？我也可以合并到我的测试集中，并在本机上尝试一下。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@kenvix

您可以再尝试调整一下 Prompt ，看看效果是否会好一些。实在不行就整理数据并做微调吧。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@mightybruce

您要自己测试的话，需要在 Google Cloud Platform 上注册自己的账号，并且生成 OAuth 2.0 的凭证，下载 Json 格式的 Token 之后再导入到 WebUI 中就可以使用了。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@crackidz

是的，毕竟各家的大模型，训练数据还是不一样的，训练的侧重点也有区别。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@Znemo

可能您在测试的时候，侧重于逻辑推理和语言生成方面。我的测试更注重的是和各种工具配合使用，测试方向不太一样就会有不一样的效果。

204 天前

回复了 smalltong02 创建的主题 › 程序员 › 对 Qwen 2 模型代理能力的完整测试

@yankebupt

条件有限，手上只有一块 4090 ，70B 的跑起来太慢啦。速度快是因为使用了 2 倍的播放速度，Youtube 上视频太长太拖拉就没人看啦。

» smalltong02 创建的更多回复