跳到正文
原文
Reddit r/MachineLearning· /u/MaverikSh·· 2 小时前AI 评分32

多智能体 LLM 循环一夜险烧 $1,200:如何设置硬性费用上限

How we almost burned $1,200 overnight on a runaway LLM loop (and how to hard-cap it)[D]

AI 导读

一位开发者部署基于 Anthropic/OpenAI API 的轻量级多智能体系统时,复杂提示词触发无限递归循环,一夜几乎烧掉 $1,200。原生 API 仪表盘仅在越过阈值后或延迟数小时才告警,凌晨的邮件提醒无法止损。作者建议在请求到达提供商前设置硬性代理费用上限,直接切断连接。

来源:Reddit r/MachineLearning · reddit.com