AIGC 在全球快速发展的当下,诸多项目深陷 GPU 运力不足,速度放缓、任务宕机、项目崩溃等困境,作为瞄准 AI 理念和 DePIN 赛道的 Solana 生态项目新星 io.net 来说,如何集成项目控制与云计算服务成为抢占市场的重要发力方向。第 11 期 TinTinAMA 与你共同对话 io.net 的 GPU 网络部署策略。
5 月 23 日 20: 00 第 11 期 TinTinAMA 活动顺利举行,直播邀请了 io.net 亚太负责人 Asa、io.net 产品经理 Bill 来到活动直播间,深度剖析 io.net 在生成人工智能浪潮下的算力解决方案,化解当前 GPU 网络的运行困境。本次线上活动共吸引了 2 W+名观众的参与,不少观众还在直播间与嘉宾们近距离交流互动。
错过直播的小伙伴们可点击回放:
🕹️ Twitter Space:https://twitter.com/i/spaces/1nAJEadPbZRJL
AI + DePIN + Solana,io.net 的算力逻辑
从 2023 年开始,生成人工智能(AIGC)的火爆浪潮兴起,整个 AI 开发者社区面临 GPU 数量短缺问题。GPU 的市场需求量巨大,但面临着供需不一的现实问题。为此,io.net 通过把不同数据中心和服务商进行集中整合利用,对 GPU 进行平台整合,让大家实现对 GPU 的高效利用,缓解 GPU 的短缺现象。
作为一个同时具备 AI + DePIN + Solana 的概念项目,io.net 基于 Solana 去中心化 AI 算力平台,致力于为 AI 和 ML 公司提供从模型训练到推理的 GPU 资源整合,提供低成本、高效率的云计算服务。该平台可以从独立数据中心、加密货币矿工和 Filecoin 或 Render 等加密项目实现对 GPU 整合来获取算力,为目标企业提供更具成本效益的云计算服务。
据嘉宾介绍和官网信息资料显示,目前 io.net 集群总量已超过 4 W 个,Ignition 奖励计划第二季也正在进行中,代币 IO 合约地址已被公布;今年 4 月,io.net 宣布其网络拥有超过 2 W 个 A 100 GPU 以及超过 52 W 个 GPU 和 CPU,基础设施总价值突破 20 亿美元大关,总盈利约为 102 W 美元,并完成了由 Hack VC、Solana Labs、ArkStream、Animoca Brands、OKX Ventures 等知名投资方参投的 3000 万美元 A 轮融资,为项目初期快速发展带来了雄厚的资金基础。
探秘 io.net 的技术运行架构
进一步剖析 io.net 的产品构成逻辑,在去中心化 GPU 底层网络、可编程计算层 IO 引擎的支持下,主要通过三个产品部分连接用户和算力提供者,包括 IO Cloud、IO Worker、IO Explorer:
IO Cloud:部署和管理去中心化 GPU 集群,与 IO-SDK 无缝集成,提供扩展人工智能和 Python 应用程序的技术解决方案
IO Worker:为用户提供实时计算跟踪,连接网络设备操作和鸟瞰图,随时随地监控设备并执行快速操作
IO Explorer:为用户提供全面的统计数据和 GPU 云可视图,轻松即时监控、分析和了解 io.net 网络复杂细节,提供网络活动、重要统计数据、数据奖励等全面可见性
IO Cloud 与 IO Worker 协作化解挑战
“对于 IO Cloud 和 IO Worker 来说,很大的挑战性是如何在不同网络的情境下,把 GPU 数据之间的关联性进行完美结合,可能需要从一个国家的 GPU 池中找出满足开发需求的 GPU 数量。但是这些 GPU 在不同的网络情境下,有些是公有 IP、有些是私有 IP,那么借助网络技术和数据中心把这些 GPU 放到同一个网络情境下,实现稳定的数据交互并保障稳定性就是充满挑战性的问题”,Bill 谈道。
为了更好地解决 IO Cloud 和 IO Worker 面临的技术挑战,Bill 介绍说,“一方面,io.net 通过 Docker 容器和一些虚拟手段来保证技术执行过程中的技术环境,实现技术环境与主机之间的分割,确保技术执行进程不会脱离相应的容器环境;另一方面,通过非技术销售手段,比如惩罚性措施,让每个节点运营者参与一定程度的质押,从中避免一些恶意操纵行为。”
巧借 Ray 技术堆栈,支持大量并发任务
io.net 除了在化解技术挑战上表现出技术优越性,还在处理并发任务中巧妙实现节点交互。目前,io.net 处理大量并发任务所基于的技术堆栈平台是 Ray,只要不是上千万级的节点运行任务,都可以实现稳定体量的任务生成,并持续部署到各类网络节点中;如果参与并发任务的交互程度特别高,那么可能会对网络运行带来一定影响,需要生成人工智能模型的训练和微调,在自主功能节点上不会有更多数据实时交互。
友好合作关系,io.net 锚定算力代币化
面对与其他去中心化计算网络的潜在竞争关系,Asa 认为 io.net 与 Render 和 Filecoin 都是友好的合作伙伴。“事实上,对于同处 DePIN 赛道的项目来说,我们都希望能够和大家达成紧密的合作关系,这些优秀的前辈也能够让 io.net 在数据稳定性、可扩展性等不同维度找到更多探索发展的空间,真正赋能 AI+DePIN 赛道的可持续未来。”此外,Asa 补充指出 io.net 与 Render 和 Filecoin 也不完全是一种竞争关系概念,彼此之间仍然有一些产品差异,Render 主要以 AI 渲染为主,Filecoin 以数据存储为主,因此在这个过程中,io.net 与他们的合作中也有“各取所需”的部分。
谈及长期的经济模型可持续发展问题,Asa 认为 io.net 和其他依靠区块发放奖励的生态不同,“我们有需求侧这边非常强大的 BD 商务团队去驱动一些网络使用场景,当需求侧的现金供应量大于供给侧的输出,就不需要靠代币进行输血赚钱。” 对于 io.net 来说,还有一个中长期发力的经济路线规划叫做算力代币化,将算力通过代币形式表现出来,用户在参与购买的过程中实现算力升值,分享相应的数据收益,成为用户将来的战略资产;为此,io.net 还提供了算力代币化的官方支持渠道,通过降低购买和拥有算力门槛,让更多散户投资者参与到与现实世界的交易。
敞开生态创新怀抱,与开发者同行
目前,io.net 生态还处在发展早期阶段,预计将在下个月进行 TGE(代币生成事件),这之后会有更多生态系统基金和 Grant 生成,为与 Solana 等更多合作伙伴推出 Hackathon 做准备,充分支持 io.net 的发展。
作为 AI 技术栈的最底层,io.net 需要更多项目在生态上开展创新实验,比如更多的算力支持项目愿意加入,那么可以推出更多存储、隐私等中间件,还有聊天机器人、AI 代理等创新应用,增加 io 生态使用量,进行更多产品迭代和优化升级,助力去中心化发展。面对未来的 Web3 技术发展趋势,对于 io.net 来说,最具前瞻性的布局就是集群化运作,在运算需求越来越紧缺的情况下,更快速、更高效地利用 GPU 节点效率,完成产品战略部署和规划,才能够打好 AI 算力价格战。
朝着打造“GPU 互联网”的终极发展目标,我们有理由相信 io.net 在 AIGC 发展浪潮中找到化解运算短缺困境的优越路径,在不远的将来成长为全球最大的人工智能计算平台!