智能体耗电远超单次问答,OpenAI案例受关注

Wired专栏称,智能体为完成一项任务会自我提示数百次,这正是当前数据中心建设热潮背后的需求来源。

Paylaş
智能体耗电远超单次问答,OpenAI案例受关注

Wired的数据中心专栏Power Play提出,科技公司大举举债建设数据中心和电厂,驱动力并非普通用户的聊天问答,而是智能体(Agent)。智能体是基于大语言模型(LLM)、能自主决策以完成任务的系统,会从用户的一次请求出发,给自己下达数百条小指令。

Wired记者Maxwell Zeff举例说,如果让智能体搭建一个网站,它可能连续运行数小时,在过程中数十次重新提示自己,以生成不同页面、菜单和支撑网站的数据集。

披露少,估算多

OpenAI近期宣布,超过1万个智能体通过270万条消息解决了一道长期未解的数学难题,数学界对这一说法提出了质疑。Zeff认为,这些消息消耗的算力折算成电力,价格可能达到数千万美元,但准确数字难以确定。

在环境指标上,私营AI公司一向披露有限。OpenAI首席执行官Sam Altman在一档播客中称,种植一颗杏仁所需的水量相当于3.8万次ChatGPT查询,这一算法同样存在争议。

研究与咨询机构Sustainable AI的联合创始人兼首席执行官Boris Gamazaychikov表示,在开车或看Netflix这类领域,消耗量受制于用户人数,而智能体的用量已经与用户数量脱钩。

两台冰箱

气候科学家Zeke Hausfather上月发文测算了自己的AI使用量。他的使用高度依赖智能体,结论是平均每天的Claude会话所耗电量,可能超过运行两台冰箱所需的电力。Gamazaychikov指出,这一测算依据的研究成果有些过时;他所在的机构将在本月发布针对闭源模型上智能体环境足迹的更精确数据。

Meta上周推出了名为Muse的个人智能体,称其为全球数十亿用户而设计,会为每位用户在云端保留一台专属计算机,即便用户离线也能继续工作。该公司计划在今年晚些时候将Muse接入其AI眼镜。

完整报道见Wired。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından