今天最新消息AI难逃“能源危机”?GPT-6或被电力卡脖子

导读 大家好,目前关于到AI难逃“能源危机”?GPT-6或被电力卡脖子这一类的信息是很多小伙伴们都非常关心的,跟随编辑小法一起往下看看吧。   ...
2024-03-27 17:30:18

大家好,目前关于到AI难逃“能源危机”?GPT-6或被电力卡脖子这一类的信息是很多小伙伴们都非常关心的,跟随编辑小法一起往下看看吧。

  据财联社,GPT-5尚未面世,OpenAI似乎已开始着手训练GPT-6,不过电力或许已成为了一个“卡脖子”难题。

  AI初创公司OpenPipe联合创始人、CEO Kyle Corbitt透露,自己最近与一位负责GPT-6训练集群项目的微软工程师谈过,后者抱怨称,在跨区域GPU之间部署infiniband级别链接,实在是一件痛苦的事。

  Corbitt问到为何不将训练集群集中在同一区域,这位微软工程师回答,“哦我们已经尝试过那么做了,但是如果在一个州放置超过10万片H100GPU,电网就会崩溃。”

  10万片H100是什么概念?作为参考,市场调查机构Factorial Funds的一份报告显示,OpenAI的文生视频模型Sora在峰值期间需要72万片H100——按上述工程师的说法,这个数量足以让七个州的电网崩溃。

本文到此结束,希望对大家有所帮助。

免责声明:本文由用户上传,如有侵权请联系删除!