让 AI 成为资产而非开支:企业如何经济地运营 AI
当 AI 从实验走向生产,仅按 consumption 模式按次购买 token 会让支出难以预测。文章提出企业应寻找"交叉点":当需求稳定、可预测且规模够大时,自建并优化算力可能比逐次购买更经济,但收益取决于把产能持续用满。HPE 赞助内容建议企业按工作负载建模成本、用运营纪律提升利用率,让 AI 从开支变为资产。
当 AI 从实验走向生产,仅按 consumption 模式按次购买 token 会让支出难以预测。文章提出企业应寻找"交叉点":当需求稳定、可预测且规模够大时,自建并优化算力可能比逐次购买更经济,但收益取决于把产能持续用满。HPE 赞助内容建议企业按工作负载建模成本、用运营纪律提升利用率,让 AI 从开支变为资产。
UC Berkeley 的 Aditya G. Parameswaran 等人撰文指出,GPT-4 级能力的推理成本已从 2023 年初的约 $30 per million tokens 降到 $1 以下、部分低于 $0.10,基准推理价格中位数每年下降约 50x。