开源了一个月入 3k 的产品:「寻隐/Queryable」

359 天前
 wseani

有点标题党,这个产品叫「寻隐」(英文版叫 Queryable),之前在 V 站推广过: t/905377, 因此这里不再赘述它的功能了,简单来说,它是一个离线的自然语言相册搜索工具,你可以用「一只狗在玩滑梯」来搜索你的 iPhone 相册,而不是搜单纯的“狗”,并且不联网。

昨天我把这个产品免费&开源了:App Store | Github | 网站

动机

「将 CLIP 模型部署在手机上,用自然语言搜相册」这个 idea 源自于 2022 年 9 月,直到去年 12 月我才有空闲和能力完成,在今年的 2 月 7 日上了Hacker News 首页,让 Queryable 在当天占领了全部欧洲国家工具榜#1 ,美国工具榜#2 。

后续国内的果壳差评少数派的自来水曝光,让我从 1-3 月几乎每个月可以获得 1-2 万块的收入。因为运行在手机端,在不想添加新功能的情况下,也不需要维护和服务器成本。从 4 月份起,没有任何流量曝光、不做任何更新的情形下,平均每月大概可以获得 3000 元的收入。

我在前天限时免费了一次,很惊讶有很多人下载。我想,与其维持这样每月 3000 块的收入,可能阻止了 99%的人发现这个产品(用户数决定了关键词排序),不如让所有人都可以使用它,因此产生了「让它一直免费的念头」。

在昨天,我决定这么做了。

想起来过去半年,一直有用户对寻隐/Queryable 的相册隐私安全提出疑虑,很多美国人也天然反感中国开发者的产品,而另一些开发者也常常发邮件询问我技术方案。既然决定让产品免费,不如也一起开源了:你可以从了解如何做 LLM 模型的本地加载、向量计算、存储和排序。

怎么不一开始就免费/开源?

因为我需要生存。 当时刚从之前的工作离开,我需要新的收入维持生计,并且缓解焦虑。 现在,我有了新的收入(虽然不多),焦虑感也降低了很多,因此才下定决心,帮助他人的想法战胜了对收入的依赖。

我可以商业使用吗?

项目的协议是MIT,所以将这个 repo 用于商业产品使用是完全可行的,但是我不建议你换个 icon 上架 App Store ,或者类似的恶性竞争,你可以试试开发自己的 Android 版本。

我并非 iOS 工程师,所以代码里 Swift 的部分非常的烂,但你可以参考其中关于模型的部分。我希望它能帮你实现本地向量存储、搜索,这样对于短文本构建向量,可能也不需要 OpenAI Embedding API 了。如果你有想实现的功能,非常欢迎贡献 PR 。

另外,中文模型的训练使用了一些非公开语料,所以抱歉目前只公开了英文模型权重。

再次:App Store | Github | 网站

17540 次点击
所在节点    分享创造
144 条回复
houshengzi
358 天前
赞一个,瑞思拜
iOCZ
358 天前
前几天我自己写了一个 demo ,支持 iOS14
wseani
358 天前
@iOCZ 如果没有商用计划的话,欢迎提交 PR : )
bs10081
358 天前
大佬有沒有考慮做一個基於 Whisper 的輸入法啊?能離線使用的
Nachtblut
358 天前
支持一下
dage
358 天前
大佬牛逼
iOCZ
358 天前
@wseani 我存储了特征向量。作为非专业 iOS ,写出目前这样的代码已经很不错了,photos api 让人看着其实挺头大的,SwiftUI 也有不少东西需要掌握。
hopeoffer
358 天前
两个月前研究过大佬这个项目,没想到开源了,很期待能讲解下模型本地化的问题
putaozhenhaochi
358 天前
大模型现在这么火,手机厂家是不是会很快内置这种功能
woshinide300yuan
358 天前
强势
wseani
358 天前
Jimson
358 天前
啊,居然不支持 XR... 这是为什么
owen800q
358 天前
很好用啊。支持一波
waylife
358 天前
6 哇,支持老哥
kebamt
358 天前
美区 App Store 会上线吗?
iOCZ
358 天前
尝试降低工程的系统要求,发现模型本身要求 iOS16 ,我直接用的 CLIP ,发现是 iOS14+就行了。不清楚楼主是怎么制作的。
bs10081
358 天前
@wseani #71 我有看到這個,但是我設想的是,能像輸入法那樣,在所有輸入的地方使用
Heisenbery
358 天前
楼主文笔不错啊,“一次杀人”这一篇写得很有味道
iluhcm
358 天前
想法很棒。我最近的工作重点和 po 主类似,通过相似性语料向量召回的方式实现意图识别,embedding 模型用的是 large-chinese-text-v2 ,但没有想过把功能用于图片检索上。
wseani
358 天前
@bs10081 明白了,你是指键盘扩展(keyboard extension),那样的确更方便,我也尝试了但 iOS 太菜没开发出来 : (

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://www.v2ex.com/t/955496

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX