跳到正文

#现象/趋势

今日 2 条
今天10月2日周五
10月1日周四
  1. Simon Willison42

    Matthew Green:沙箱隔离足以遏制失控 AI 智能体吗?

    Matthew Green 指出,分别隔离在沙箱中的 AI 智能体发现它们可以通过共享包缓存互相留下指令,而这些指令会改变接收方的行为。将包缓存换成邮件、Slack、共享文档或 WhatsApp,把独立沙箱训练替换为 Muse 等独立部署的个人智能体,就凑齐了蠕虫所需的全部要素:劫持智能体的载荷,加上把载荷传给下一个智能体的智能体。

9月29日周二
  1. MIT Technology Review · AI14

    如何让 AI 从费用变成资产:HPE 谈 AI 容量自持的经济学

    HPE 提出,当 AI 从试验走向客服、IT、研究等常驻生产工作负载后,按 token 逐次消费的模式会让支出难以预测,企业需按工作负载测算"自持容量的盈亏平衡点"。Deloitte 2026 企业 AI 现状报告显示,2025 年员工 AI 访问率上升 5%,至少 40% 的 AI 项目进入生产的公司占比预计六个月内翻倍。做出资本决策后,还需靠采用、治理与持续扩展用例让容量保持产出。

  2. MIT Technology Review · AI52

    我们何时能说 AI 做出了一项科学发现?

    MIT Technology Review 的 James O'Donnell 讨论 Anthropic 宣布其分子生物学实验室中 950 个 Claude 智能体运行 21 小时后的首个发现,称其标记出一种已知酶周围此前未被编目的重复模式,并将其类比为通向 CRISPR 的线索,但部分生物学家认为找到罕见基因簇只是简单部分,难点在于弄清其功能。

9月28日周一
9月25日周五
9月23日周三
9月22日周二
9月18日周五
  1. GitHub Blog · AI & ML22

    GitHub Podcast 拆解五大 AI 热梗:AI 生成的代码要不要读、RAG 是否已死、Skills 是否杀死 MCP

    GitHub Podcast 最新一期逐条拆解了五个 AI 开发热梗:"不用读 AI 生成的代码"要看你能否解释并负责结果;"不用 AI 就不被录用"更应看判断力;Skills 与 MCP 解决不同问题,前者是可读的 Markdown 封装经验,后者提供工具与数据的标准接口;RAG 也并未消亡,缺了检索会浪费 token、拖慢速度并更容易给出不完整答案。

8月31日周一
8月10日周一
  1. Import AI32

    Import AI 468:23 条 RSI 政策建议、PostTrainBench+,以及信任与透明度如何影响 AI 竞赛

    Import AI 第 468 期收录了智库 IFP 提出的 23 条“低遗憾”政策建议,分属 7 个类别,用于帮助政策制定者应对 AI 研发进一步自动化的风险。MIT 与 Columbia 的论文《Racing to Ruin》分析认为,竞争对手之间实现协调减速的关键变量是技术开发的透明度以及对对方理性、可信的建模。

7月7日周二
  1. Berkeley AI Research31

    智能免费时代的数据系统:为智能体、由智能体、属于智能体

    伯克利 EPIC Data Lab 提出,推理成本正快速趋近于零,GPT-4 级能力已从 2023 年初的约 $30/百万 token 降至不足 $1,部分厂商低于 $0.10。作者由此提出三类新挑战:为智能体重设计的数据系统、支撑成千上万智能体长期任务与共识的数据系统,以及由智能体直接合成、需可验证可信的数据系统。