一个类似挖矿的想法

[lufeng666]

前两天本地部署了下 Stable Diffusion ，发现很好玩，想部署到服务器上大家一起玩。 但是本地跑性能已经够呛了，云服务器想跑起来更是要花大价钱，奈何囊中羞涩。 突然有个好想法：电脑性能过剩的年代，为啥大家不把自己的电脑性能充分发挥用来赚钱呢？ 突发奇想的一个商业模式：一些特别耗电脑性能（宽带、CPU 、GPU 、内存）的功能，开发人员可以把功能剥离出来，单独开发个可以部署的服务。然后由一些家里电脑性能过剩闲置时间想拿来赚钱的人装上。然后可以通过服务难度和调用次数来付费给用服务的人，有点类似于挖矿。可以有个中间人或公司搞个监控平台进行双方接口规范和管理，赚服务佣金。家里闲置的电脑、还有民用的电费，对比商用的云服务器，优势应该很大，甚至可以搞接口竞价，感觉怎么着也比买云服务器便宜的多。 大家觉得这个东西怎么样？彻底把高价云服务器价格打下来，这样我就能更好的玩 Stable Diffusion 了。

[XiLingHost]

https://petals.ml/

你可能想说这种？

https://www.solidot.org/story?sid=74446

以 BitTorrent 的方式在家用电脑上运行大语言模型
OpenAI 的 AI 聊天机器人 ChatGPT 运行在微软的 Azure 云计算平台，普通用户即使能获得 ChatGPT 使用的大语言模型 GPT-3 或 GPT-4 ，也不可能在家用电脑上运行它们。如果人人都能运行一个分布式计算系统，联合起来打造一个在算力上能与最强大云计算平台匹敌的平台，那么我们有可能在自己的家用电脑上运行和使用类似 ChatGPT 的 AI 聊天机器人。BigScience 社区正在开发名为 Petal 的系统，以 BitTorrent 的方式在家用电脑上运行大语言模型。Petal 可以集成最新的大语言模型，当前支持性能与 GPT-3 相近的 BLOOM-176B 大语言模型。

[Rehtt]

这是任何人都可以共享算力计算蛋白质折叠的项目
Folding@Home：
https://foldingathome.org/

[bluetree2039]

分布式计算，二十年前就听说国外在搞了。

[cpstar]

二十多年前就有一个项目叫 SETI@ home ，现在挖矿模型的祖宗，利用剩余能力，主动加入，分析数据，搜索外星人。

[chaojie]

https://github.com/cchaojie/np2p

[chaojie]

@chaojie 按错键发出去了，我早就有这种想法，项目都建好了，实现也很简单，奈何执行力欠缺

[garibellee]

@chaojie 纯 idea 啊

[phttc]

@XiLingHost @Rehtt 想问下，收益如何，能覆盖电费吗

[robinchina]

我是在央视上看到的探索外星人项目······小时候····

[iyiluo]

搞搞小应用还行，家用 PC 差异非常大，没有统一标准，网络差异也非常大

[xyholic]

当初买 3070 挖 ETH 的时候备用选项就是出租算力给炼丹的

[rocksolid]

你说的早就有了，难点在于你的项目怎么赚钱或者能便宜多少

[garibellee]

很久之前就一直在考虑这个
1 、server 和 client 的概念可以借鉴 pt 去中心化
2 、资源调度问题，能做到什么粒度
3 、收益能否吸引用户，用户粘性
4 、发布的计算任务安全性如何保证
5 、算力共享支持哪些模式，支持哪些深度学习框架

[cmlz]

国外的分布式计算，国外计算π值，寻找大质数这两个项目早有了。

[chaojie]

@garibellee 要不一起填坑啊。我也是想了挺久，总结了一下

定位：
AI 时代算力云服务的迅雷（ P2P ），滴滴（调度），币安（交易）平台。在此基础上面向终端用户提供多个统一的融合超级 AI 应用。

用户群体：
两种。一、AI 算力的消费者，为使用付费。二、AI 算力的提供者，从平台获取收益。两种用户可以交叉，即某用户即为消费者也为提供者。

需求分析：
AI 时代算力昂贵，算力不足。特别是我国被美国制裁的前提下。Chat 类低算力要求的场景尚且不能大规模推出，绘画视频类的场景更是很难涉及。终端用户排队 loading 的体验根本无法真正作为生产力工具使用。

另一方面，又有设备闲置。很多游戏爱好者购买高端显卡，真正使用的时间最多占 24 小时的六分之一。很多矿场违法挖矿，生产虚拟币，个人还看不到对社会很积极的作用。

还有，百度、阿里、腾讯等有实力的公司也不可能推出一个通用应用，分配几十张显卡给某一个用户去生成视频，但一张显卡占用 1 小时和 60 张显卡占用 1 分钟的体验是完全不同的，算力却相同。无法满足个性化的付费需求。

再者，大模型通常有较大的存储占用，与特定的环境需求，但未来一个视频的生产过程，整个流程分解开来通常需要多种模型能力来合作，如果只是一台机器，很难顺畅流畅的串连起流程，优秀且无感的完成这种任务，而且这种只能开发者个性化的来完成实施，不可能大规模的推向普通消费者。

一种模板式的融合超级 AI 应用，能够无感的使用多台服务器，多种模型能力，对于普通消费者来说才是真正的 AI 生产力工具，才能真正让 AI 社会到来。

这种服务却一定要是分布式的，可控的，不能前面的流程已经绘制完成，最后负责合成结果的服务器下线了，所以一定是大规模的有多种冗余机制。但如果要做到低成本，就只能是 P2P 这种形式。

而为了解决提供算力用户的安全性担忧，客户端代码必须是开源的。服务器端代码可以在平台形成优势后逐步开源。

[tool2d]

显卡高强度 24 小时开着，也是有损耗的。

高端显卡光折价费就不低，估计很多人并不愿意。

[lithiumii]

跑 sd 的也有，stable horde ，跑图出来的积分可以用来让别人帮你跑图。积分可以转让，所以应该能找到买卖的

[wanwaneryide]

个人用户加入的话，怎么平衡个人电脑的资源调度？ CPU 、GPU 、内存这类资源用户不清楚什么时候用的到，但是你又不能让用户的电脑卡顿，不然分分钟就卸载了

[wagmi]

个人用户加入，预计能有多少收益呢？
顾得住电费的基础上

[chaojie]

可以看的出来，这个趋势很多人都预见的到。

前面很多人说国外什么项目早就有了之类的，那是完全不同的。以图片生成举例：
一、这个不是公益性项目
二、这个是可以实现几秒出图就有收益的。因为有人付费。并不是要算很久出了一点点结果才有收益
三、这个并不是所有人都统一一个最终任务，统一一个环境
四、现在很多大模型需要 20G 以上 VRAM ，甚至下载一个模型需要半天。但是用户只需要用很短时间生成一个结果，因此很多人想尝试也尝试不了。但你可以出售 3070 的算力，去交换 A100 的算力
五、现在 google colab 禁止 sd webui 运行了，可以看的出免费的算力是很难长久的
六、huggingface 上很多 space 都没办法稳定用，就算能忍受慢也白搭，出错是常态