smalltong02 最近的时间轴更新
smalltong02's repos on GitHub
27 人关注
7-Zip-zstd
7-Zip with support for Brotli, Fast-LZMA2, Lizard, LZ4, LZ5 and Zstandard
2 人关注
docker-llama2-chat
Play LLaMA2 (official / 中文版 / INT4 / llama2.cpp) Together! ONLY 3 STEPS! ( non GPU / 5GB vRAM / 8~14GB vRAM)
0 人关注
adaptnlp
An easy to use Natural Language Processing library and framework for predicting, training, fine-tuning, and serving up state-of-the-art NLP models.
0 人关注
aifs
Local semantic search. Stupidly simple.
0 人关注
Anima
33B Chinese LLM, DPO QLORA, 100K context, AirLLM 70B inference with single 4GB GPU
0 人关注
autogen
Enable Next-Gen Large Language Model Applications. Join our Discord: https://discord.gg/pAbnFJrkgZ
0 人关注
AutoGPTQ
An easy-to-use LLMs quantization package with user-friendly apis, based on GPTQ algorithm.
0 人关注
awesome-chatgpt-prompts
This repo includes ChatGPT prompt curation to use ChatGPT better.
0 人关注
Bert-VITS2
vits2 backbone with multilingual-bert
0 人关注
blog
Public repo for HF blog posts
0 人关注
byzer-llm
Easy, fast, and cheap pretrain,finetune, serving for everyone
0 人关注
candle
Minimalist ML framework for Rust
0 人关注
cargo-mobile2
Rust on mobile made easy!
0 人关注
ChatGLM-6B
ChatGLM-6B: An Open Bilingual Dialogue Language Model | 开源双语对话语言模型
0 人关注
ChatGLM2-6B
ChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型
0 人关注
ChatGPT-Next-Web
A cross-platform ChatGPT/Gemini UI (Web / PWA / Linux / Win / MacOS). 一键拥有你自己的跨平台 ChatGPT/Gemini 应用。
0 人关注
chatgpt-on-wechat
Wechat robot based on ChatGPT, which using OpenAI api and itchat library. 使用大模型搭建微信聊天机器人,基于 GPT3.5/GPT4.0/Claude/文心一言/讯飞星火/通义千问/LinkAI,支持个人微信、公众号、企业微信、飞书部署,能处理文本、语音和图片,访问操作系统和互联网,支持基于知识库定制专属机器人。
0 人关注
chinese-dos-games
🎮 Chinese DOS games collections.
0 人关注
codellama
Inference code for CodeLlama models
0 人关注
CogVLM
a state-of-the-art-level open visual language model | 多模态预训练模型
0 人关注
ColossalAI
Making large AI models cheaper, faster and more accessible
0 人关注
corenet
CoreNet: A library for training deep neural networks
0 人关注
Cronos-Rootkit
Cronos is Windows 10/11 x64 ring 0 rootkit. Cronos is able to hide processes, protect and elevate them with token manipulation.
0 人关注
Detect-It-Easy
Program for determining types of files for Windows, Linux and MacOS.
0 人关注
edge-tts
Use Microsoft Edge's online text-to-speech service from Python WITHOUT needing Microsoft Edge or Windows or an API key
0 人关注
edk2
EDK II
0 人关注
EfiGuard
Disable PatchGuard and DSE at boot time
0 人关注
exllamav2
A fast inference library for running LLMs locally on modern consumer-class GPUs
0 人关注
fastapi
FastAPI framework, high performance, easy to learn, fast to code, ready for production
0 人关注
FastChat
An open platform for training, serving, and evaluating large language models. Release repo for Vicuna and Chatbot Arena.
smalltong02

smalltong02

V2EX 第 673310 号会员,加入于 2024-01-25 23:55:22 +08:00
6 S 64 B
I like windows kernel, llvm, machine learning and deep learning
对 Llama-3-8B 模型在指令跟随方面的测试。
程序员  •  smalltong02  •  14 天前  •  最后回复来自 qinfengge
16
我的大语言模型开源项目,希望大家来支持一波!
  •  2   
    分享创造  •  smalltong02  •  92 天前  •  最后回复来自 smalltong02
    11
    smalltong02 最近回复了
    1 天前
    回复了 tmtstudio 创建的主题 OpenAI GPT-4o 可以媲美 GPT4plus 吗,具体差距在哪
    推理速度快了 2 倍,API 价格降了一倍。MMLU 分数更高,图像识别也更好。现在还没有开放语音和视频的接口,等开放了再来测试。
    1 天前
    回复了 tmtstudio 创建的主题 OpenAI GPT-4o 可以媲美 GPT4plus 吗,具体差距在哪
    GPT-4o 已经可以用了,你可以通过 openAI 的 playgroud 试用。也可以用我的开源项目,在本地试用它(需要有 OpenAI 的 API Key )。

    不过现在 OpenAI 还没有开放更多的接口,还无法传送语音或视频给它。

    我的项目地址是:
    https://github.com/smalltong02/keras-llm-robot
    1 天前
    回复了 jedeft 创建的主题 程序员 部署 langchain 需要什么硬件配置
    langchain 是一套简化大语言模型加载推理的框架,而且还提供 Agent 和各种工具的集成,它本身并不需要什么硬件配置。真正吃硬件的还是你想加载的模型,鉴于一般办公台式机的 GPU 都没有或者很差,那建议你只能玩玩 gguf 的量化模型了。
    1 天前
    回复了 GeekGao 创建的主题 程序员 使用黑轴机械键盘 coding 的网友多吗?
    个人比较推荐青轴和红轴的键盘,青轴力反馈适中,声音听着也愉悦。红轴声音小点,力反馈比黑轴要小,长时间敲击不累。
    @sabernwj 好的,感谢支持!
    @pming1

    好的,感谢支持!
    @james2012

    多谢指正,等 Sora 或者 Vidu 可以使用了就配真正的视频。
    只有游离在法律的边缘才能赚大钱吗?
    @kenshinhu

    看起来是 Linux 机器,你可以部署 8bit 的量化模型,16GB 的显存够用了。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   6004 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 407ms · UTC 03:22 · PVG 11:22 · LAX 20:22 · JFK 23:22
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.