英伟达 GPU 价格暴涨,供应短缺影响 AI 大模型训练
作为 AI 大模型训练的底层架构基石,GPU 的价格随之水涨船高。有代理商透露,英伟达的 A100 价格从 2022 年 12 月份开始上涨,截至 2023 年 4 月上半月,5 个月价格累计涨幅达到 37.5%;A800 价格从 2022 年 12 月份开始上涨,截至 2023 年 4 月上半月,5 个月价格累计涨幅达 20.0%。且交货周期也被拉长,之前拿货周期大约为一个月左右,现在基本都得三个月,甚至更长。据透露,国内可用于训练 AI 大模型的 A100 大约有 4 万 - 5 万个,供应相当吃紧,一些云服务厂商已严格限制内部使用这些先进芯片,以将其保留至需要强力运算的任务。
来源
via 🆕 科技新闻投稿📮TestFlight - Telegram Channel (author: Ryan Reynolds)
作为 AI 大模型训练的底层架构基石,GPU 的价格随之水涨船高。有代理商透露,英伟达的 A100 价格从 2022 年 12 月份开始上涨,截至 2023 年 4 月上半月,5 个月价格累计涨幅达到 37.5%;A800 价格从 2022 年 12 月份开始上涨,截至 2023 年 4 月上半月,5 个月价格累计涨幅达 20.0%。且交货周期也被拉长,之前拿货周期大约为一个月左右,现在基本都得三个月,甚至更长。据透露,国内可用于训练 AI 大模型的 A100 大约有 4 万 - 5 万个,供应相当吃紧,一些云服务厂商已严格限制内部使用这些先进芯片,以将其保留至需要强力运算的任务。
来源
via 🆕 科技新闻投稿📮TestFlight - Telegram Channel (author: Ryan Reynolds)