业界动态
不到21元就能使用英伟达H100一小时!硅谷公司SF Compute发力“共享AI算力”,San,租赁,OpenAI
2024-07-24 01:03:03
不到21元就能使用英伟达H100一小时!硅谷公司SF Compute发力“共享AI算力”,San,租赁,OpenAI

每经记者:蔡鼎每经编辑:程鹏,兰素英

自去年以来,人工智能(neng)的热潮席卷全球,但时至今日,该领域的一(yi)个核心挑战仍(reng)是价格(ge)高昂的算力。相对(dui)于大型企业(ye),对(dui)初创(chuang)公司来说,能(neng)否获(huo)得处理AI所需(xu)的巨大算力负荷的芯片成了决定成败的关键。

为了帮助规模相对(dui)较小的公司获(huo)得所需(xu)的算力资源(yuan),美国一(yi)家名为San Francisco Compute Co.(以下简称SF Compute)的初创(chuang)公司搭建了一(yi)个平台,帮它们(men)找到了近乎完美的解决方案:算力租赁。

SF Compute的商业(ye)模式(shi)有点类似(si)Airbnb在住宿领域的做法(fa):通过共享和按需(xu)租赁,让用户以较低成本获(huo)取所需(xu)资源(yuan),短时间内使用大量(liang)计算能(neng)力。在这种模式(shi)下,英伟(wei)达H100 GPU一(yi)小时的使用权(quan)不到21元人民币。

近日,OpenAI首席执行官Sam Altman亲弟弟Jack Altman主理的Alt Capital领投了SF Compute 1200万美元的种子(zi)轮融资,使后者的估值达到了7000万美元(约5亿(yi)元人民币)。

AI算力界“Airbnb”OpenAI CEO的亲弟弟领投

训练生(sheng)成式(shi)人工智能(neng)不仅需(xu)要硬(ying)件,还要面临大量(liang)的数据(ju)存储(chu)需(xu)求和密集的能(neng)源(yuan)消耗。要处理大量(liang)的数据(ju)计算必然面临着高昂的训练成本。以OpenAI的GPT-3训练为例,其成本就超过了500万美元。

在当前高性能(neng)计算需(xu)求日益增长的背(bei)景(jing)下,SF Compute以其创(chuang)新的短期算力租赁服务(wu),颠覆了传统(tong)长期合同的模式(shi)。与传统(tong)供应商(通常需(xu)要与其签订1~3年的长期合同)不同,SF Compute提供按周、按天,甚(shen)至按小时计费的算力租赁服务(wu),满足了用户对(dui)计算资源(yuan)的动(dong)态需(xu)求。同时,公司具备可扩展的集群,让用户根据(ju)实际需(xu)求来动(dong)态调整其计算资源(yuan)使用量(liang),完全实现“GPU定制自由”。

用户可以租768个H100使用一(yi)周,也可以借8个H100运行2小时。针对(dui)512~4096个GPU的大规模预订,SF Compute还提供了有竞争力的定价,例如租赁512个H100两周只需(xu)50万美元,远低于其他供应商处一(yi)年1200万美元的价格(ge)。

这种以实惠价格(ge)“爆发式(shi)”访问巨大算力的灵活选项,特别适合需(xu)要高性能(neng)计算但不想承担长期财务(wu)负担的用户,包括资金有限、业(ye)务(wu)可能(neng)快速变化的AI初创(chuang)公司,以及需(xu)要强大算力支持的短期实验室(shi)或研究项目等。

根据(ju)SF Compute官网信息,当前英伟(wei)达H100 GPU的使用价格(ge)为2.85美元/小时(约20.7元人民币/小时),下一(yi)个可用时段是8月(yue)5日。而且,可用容量(liang)在逐步增加,到明年1月(yue)6日将达到912个H100 GPU。

目前有三个公共算力集群在部署中(zhong):Angel Island集群有192个H100 GPU,于去年11月(yue)上(shang)线。Bay Bridge和Coit Tower分别有512和1024个H100 GPU,计划明年春季上(shang)线。

近日,SF Compute完成了高达1200万美元的种子(zi)轮融资,相当于8000个英伟(wei)达超高算力AI芯片H100所需(xu)的资金。本轮融资由OpenAI首席执行官Sam Altman亲弟弟Jack Altman主理的Alt Capital领投,SF Compute的估值由此达到7000万美元(约人民币5亿(yi)元)。

Jack Altman认为,SF Compute的业(ye)务(wu)会有一(yi)系(xi)列的应用场景(jing),风投公司和其他有GPU长期交易的公司都可以利(li)用SF Compute的交易平台购买或出(chu)售GPU的使用权(quan)。Jack Altman称,“许多风投公司都可能(neng)成为我(wo)们(men)的客户,我(wo)们(men)认为这是一(yi)个非常合理的发展方向。”

16名员(yuan)工中(zhong)有10人都是前创(chuang)始人

SF Compute成立于2023年,总部位于旧金山被称为“脑谷”的Hayes Valley。该公司的创(chuang)立也非常有意思,创(chuang)始人Alex Gajewski和Evan Conrad是在尝试建立一(yi)家AI音乐初创(chuang)公司时萌生(sheng)成立这家公司的想法(fa)的。

Conrad在科(ke)技行业(ye)拥(yong)有丰富的职(zhi)业(ye)生(sheng)涯,他曾在OpenAI的ChatGPT Enterprise部门短暂工作过,在专注于AI赛(sai)道的早期基金和孵(fu)化器AI Grant中(zhong)担任过八个月(yue)的董事。Gajewski是一(yi)家人工智能(neng)搜索初创(chuang)企业(ye)的联合创(chuang)始人。两人因合租而相识后,开(kai)始了AI音乐初创(chuang)公司的构想,为了扩展音乐生(sheng)成模型并(bing)向潜在投资者展示成果(guo),他们(men)联系(xi)了当时的每一(yi)家GPU供应商,希望获(huo)得1个月(yue)的算力访问权(quan)限,结果(guo)被告知(zhi)最少购买期限是一(yi)年。

他们(men)当时的解决方案是联系(xi)其他同样需(xu)要算力的AI初创(chuang)公司创(chuang)始人——如果(guo)有十几家初创(chuang)公司加入,他们(men)就可以共享一(yi)份为期一(yi)年的合同。而在短短几周内,就有170家AI初创(chuang)公司的创(chuang)始人与他们(men)签约。看到庞大的市场需(xu)求,两人毅(yi)然决然放弃了创(chuang)办AI音乐初创(chuang)公司的梦想,决定成为一(yi)家GPU“云供应商”,专门提供短期的GPU租赁服务(wu)。

SF Compute的早期客户包括哈佛大学和普林斯顿的研究实验室(shi),以及PlayHT、Phind和Liquid AI等初创(chuang)公司。

目前SF Compute在LinkedIn的关联员(yuan)工为16个人。Evan Conrad在X发文透(tou)露,其中(zhong)有10名员(yuan)工都是前创(chuang)始人。他们(men)也正在招聘核心基础设施工程师、机器学习系(xi)统(tong)工程师和产品工程师职(zhi)位。利(li)用最新的融资,SF Compute将建立交易平台,还计划在未来一(yi)年内将其工程人员(yuan)规模增加一(yi)倍至30人。

《每日经济(ji)新闻(wen)》记者注意到,其实SF Compute并(bing)不是唯一(yi)提供算力租赁的初创(chuang)企业(ye),也不是首家转向提供AI基础设施的初创(chuang)企业(ye)。例如,Lambda最初就是一(yi)家面部识别公司,后来将重点转向为英特尔和美国国防(fang)部等客户提供按需(xu)GPU集群。在这一(yi)领域的其他公司还包括Vast.ai、RunPod,以及获(huo)英伟(wei)达投资的CoreWeave(据(ju)称其估值已接近190亿(yi)美元)。

记者|蔡鼎

编辑|鹏兰素英 杜恒峰

校对(dui)|卢祥勇

|每日经济(ji)新闻(wen) nbdnews原创(chuang)文章|

每日经济(ji)新闻(wen)

发布于:四川省(sheng)
版权号:18172771662813
 
    以上就是本篇文章的全部内容了,欢迎阅览 !
     资讯      企业新闻      行情      企业黄页      同类资讯      首页      网站地图      返回首页 移动站 , 查看更多   
sitemapsitemap1sitemap2sitemap3sitemap4sitemap5sitemap6sitemap7