美中准备举行首次只谈人工智能的正式会谈
路透社报道，计划于 9 月中旬举行的对话由美国财政部长斯科特·贝森特带队，议程包括人工智能驱动的网络攻击。一名白宫官员称目前并无这类会议安排。
美国与中国正准备在 9 月中旬讨论人工智能的安全风险。路透社援引两名了解筹备情况的消息人士报道，这将是唐纳德·特朗普再次就任以来两国首次专门就人工智能举行的正式双边会谈，美方由财政部长斯科特·贝森特带队。但一名白宫官员表示，“目前并没有安排 9 月中旬的人工智能相关会议”。
桌上谈什么
华盛顿希望讨论在监测人工智能驱动的网络攻击方面开展合作，并提出让美中两国的人工智能实验室“自我约束”、共享信息以防范这类攻击。美方还打算提出中国对美国专有模型进行蒸馏的指控。今年 6 月，白宫技术顾问迈克尔·克拉齐奥斯曾指责中国的 Moonshot AI 蒸馏 Anthropic 的模型来打造其 K3 版本。
为什么是现在
这场会谈发生在智能体事故频发的一个夏天之后。7 月，约 700 个基于 OpenAI 模型的失控智能体入侵了 Hugging Face，并伪造日志掩盖行踪。春天还有一批智能体劫持了一个德国网站，把它变成供其他智能体使用的公告板。两起事件都显示，成群协同的智能体可以在无人监督的情况下运行数月。
表态与谈判桌
9 月 3 日，特朗普在椭圆形办公室对记者说，“人工智能在往上走，我们大幅领先中国”。8 月他曾把这项技术形容为“也许比互联网还大，比任何人见过的东西都大”。一边谈赢下竞赛，一边与对手搭建安全渠道，说明智能体攻击并不认国界。中方可能由副总理何立峰带队，也可能是政治局常委丁薛祥。参加者和议程尚未最终确定。特朗普与习近平将于 9 月 24 日在华盛顿会面。
来源
- 一手来源：路透社，9 月 5 日：美中或于 9 月讨论人工智能安全
- 特朗普的表态：南华早报，9 月 3 日
