不到21元就能使用英伟达H100一小时!
作者:chunzhi 发布时间:2024-07-24不到21元就能使用英伟达H100一小时!
自去年以来,人工智能的热潮席卷全球,但时至今日,该领域的一个核心挑战仍是价格高昂的算力。相对于大型企业,对初创公司来说,能否获得处理AI所需的巨大算力负荷的芯片成了决定成败的关键。
为了帮助规模相对较小的公司获得所需的算力资源,美国一家名为San Francisco Compute Co。(以下简称SF Compute)的初创公司搭建了一个平台,帮它们找到了近乎完美的解决方案:算力租赁。
F Compute的商业模式有点类似Airbnb在住宿领域的做法:通过共享和按需租赁,让用户以较低成本获取所需资源,短时间内使用大量计算能力。在这种模式下,英伟达H100 GPU一小时的使用权不到21元人民币。
近日,OpenAI首席执行官Sam Altman亲弟弟Jack Altman主理的Alt Capital领投了SF Compute 1200万美元的种子轮融资,使后者的估值达到了7000万美元(约5亿元人民币)。
AI算力界“Airbnb”OpenAI CEO的亲弟弟领投
训练生成式人工智能不仅需要硬件,还要面临大量的数据存储需求和密集的能源消耗。要处理大量的数据计算必然面临着高昂的训练成本。以OpenAI的GPT-3训练为例,其成本就超过了500万美元。
在当前高性能计算需求日益增长的背景下,SF Compute以其创新的短期算力租赁服务,颠覆了传统长期合同的模式。与传统供应商(通常需要与其签订1~3年的长期合同)不同,SF Compute提供按周、按天,甚至按小时计费的算力租赁服务,满足了用户对计算资源的动态需求。同时,公司具备可扩展的集群,让用户根据实际需求来动态调整其计算资源使用量,完全实现“GPU定制自由”。
用户可以租768个H100使用一周,也可以借8个H100运行2小时。针对512~4096个GPU的大规模预订,SF Compute还提供了有竞争力的定价,例如租赁512个H100两周只需50万美元,远低于其他供应商处一年1200万美元的价格。
这种以实惠价格“爆发式”访问巨大算力的灵活选项,特别适合需要高性能计算但不想承担长期财务负担的用户,包括资金有限、业务可能快速变化的AI初创公司,以及需要强大算力支持的短期实验室或研究项目等。
根据SF Compute官网信息,当前英伟达H100 GPU的使用价格为2。85美元/小时(约20。7元人民币/小时),下一个可用时段是8月5日。而且,可用容量在逐步增加,到明年1月6日将达到912个H100 GPU。
目前有三个公共算力集群在部署中:Angel Island集群有192个H100 GPU,于去年11月上线。Bay Bridge和Coit Tower分别有512和1024个H100 GPU,计划明年春季上线。
近日,SF Compute完成了高达1200万美元的种子轮融资,相当于8000个英伟达超高算力AI芯片H100所需的资金。本轮融资由OpenAI首席执行官Sam Altman亲弟弟Jack Altman主理的Alt Capital领投,SF Compute的估值由此达到7000万美元(约人民币5亿元)。
Jack Altman认为,SF Compute的业务会有一系列的应用场景,风投公司和其他有GPU长期交易的公司都可以利用SF Compute的交易平台购买或出售GPU的使用权。Jack Altman称,“许多风投公司都可能成为我们的客户,我们认为这是一个非常合理的发展方向。”
16名员工中有10人都是前创始人
F Compute成立于2023年,总部位于旧金山被称为“脑谷”的Hayes Valley。该公司的创立也非常有意思,创始人Alex Gajewski和Evan Conrad是在尝试建立一家AI音乐初创公司时萌生成立这家公司的想法的。
Conrad在科技行业拥有丰富的职业生涯,他曾在OpenAI的ChatGPT Enterprise部门短暂工作过,在专注于AI赛道的早期基金和孵化器AI Grant中担任过八个月的董事。Gajewski是一家人工智能搜索初创企业的联合创始人。两人因合租而相识后,开始了AI音乐初创公司的构想,为了扩展音乐生成模型并向潜在投资者展示成果,他们联系了当时的每一家GPU供应商,希望获得1个月的算力访问权限,结果被告知最少购买期限是一年。
他们当时的解决方案是联系其他同样需要算力的AI初创公司创始人——如果有十几家初创公司加入,他们就可以共享一份为期一年的合同。而在短短几周内,就有170家AI初创公司的创始人与他们签约。看到庞大的市场需求,两人毅然决然放弃了创办AI音乐初创公司的梦想,决定成为一家GPU“云供应商”,专门提供短期的GPU租赁服务。
F Compute的早期客户包括哈佛大学和普林斯顿的研究实验室,以及PlayHT、Phind和Liquid AI等初创公司。
目前SF Compute在LinkedIn的关联员工为16个人。Evan Conrad在X发文透露,其中有10名员工都是前创始人。他们也正在招聘核心基础设施工程师、机器学习系统工程师和产品工程师职位。利用最新的融资,SF Compute将建立交易平台,还计划在未来一年内将其工程人员规模增加一倍至30人。
《每日经济新闻》记者注意到,其实SF Compute并不是唯一提供算力租赁的初创企业,也不是首家转向提供AI基础设施的初创企业。例如,Lambda最初就是一家面部识别公司,后来将重点转向为英特尔和美国国防部等客户提供按需GPU集群。在这一领域的其他公司还包括Vast。ai、RunPod,以及获英伟达投资的CoreWeave(据称其估值已接近190亿美元)。
来源:每日经济新闻