2026-11-03 · 共 7 条
今天的条目聚焦 AI 的能力与风险：一篇博客称，直接修改模型权重或能提升小型 Qwen 的数学表现，但目前缺乏独立验证。安全方面，研究人员报告 ChatGPT 分享链接漏洞曾可暴露私密对话；WIRED 还揭露一批伪装成普通工具的应用提供色情深伪功能。行业动态上，Anthropic 披露营收高速增长的同时录得巨额亏损，并承诺大规模投入算力基础设施。另有 Ubuntu 内核漏洞修复进度与严重性标注引发讨论。
Parameter 研究团队报告，恶意 ChatGPT 分享链接可利用预览功能与图表组件之间的消息处理缺陷，在已登录用户的会话中执行代码，读取私密对话并发送到外部服务器；受害者只需打开链接，无需安装应用。来源称 OpenAI 于 10 月 26 日修复该漏洞，将其定级为 P1，并向研究团队支付 5000 美元赏金。
ChatGPT 分享链接用于让他人查看对话；本次漏洞涉及分享链接预览与图表组件之间的消息处理。
按来源描述，打开恶意分享链接就可能使已登录用户的私密对话遭读取和外传；来源未提供更多细节，无法据此确认漏洞是否还允许攻击者接管账号。
WIRED 11 月 2 日报道，一个由 400 多个关联应用与网站组成的网络，以宠物画像、语言学习等普通 AI 工具为掩护，在特定条件下加载色情深伪界面，供用户上传他人照片生成露骨图像或视频。调查人员依据代码、域名和广告追踪等线索发现其关联；其中 27 款应用在 9 月仍上架 Google Play，累计下载超过 35 万次，许多被标为适合所有年龄。苹果收到 WIRED 提供的线索后下架 19 款应用，并称开发者在审核通过后替换远端网页内容；谷歌称在收到问询前已移除其中多数应用，Meta 则表示已阻止相关 209 款应用投放广告。报道将该网络与中文开发者及一家香港注册公司联系起来，但这一归属属于媒体与研究人员的调查判断，相关运营方未回应置评请求。
这类服务把色情深伪功能藏在普通应用界面之后，并可通过远端网页内容加载；因此，应用通过商店审核后，开发者仍可能替换内容，使审核时看到的功能与之后提供的功能不同。
普通 AI 应用可能在审核通过后通过远端网页加载隐藏功能，因此应用商店审核时看到的内容未必能反映应用之后提供的功能；苹果称相关应用正是以这种方式替换内容。
这篇 Hacker News 帖子质疑 Ubuntu 对一项 Linux 内核漏洞的处理和说明；现有材料未提供原文，也无法确认漏洞编号或具体影响。评论称，修复内核已进入各 LTS 版本的 proposed 仓库，Ubuntu 26 LTS 的新内核则于 10 月 28 日进入 updates/security 仓库；评论者还指出，Ubuntu 将事件列为 High，而非会触发计划外补丁的 Critical。
Ubuntu 会为安全问题标注优先级，并据此安排修复发布；“High”与“Critical”对应不同的处理时效。修复内核也可能先进入各版本的 proposed 软件源，再进入常规 updates 或 security 软件源，因此补丁已构建并不一定意味着用户会通过默认更新渠道立即收到它。
需要尽快修复的用户可查看对应 LTS 版本的 proposed 仓库；一位评论者表示，可通过 apt-get 的 -t 参数安装其中的内核，但这类更新不会默认提供。漏洞是否可能导致远程代码执行仍有分歧：评论提及的多数公告描述的是特定条件下内核崩溃或拒绝服务，另有评论称 Anthropic 主张可能导致远程代码执行，因此现有材料不足以定论。
一些评论者批评 Ubuntu 的优先级说明没有解释为何评为 High，另一些则认为漏洞利用概率低、目前报告的后果主要是拒绝服务。也有人反驳原帖缺少漏洞细节和实际影响，认为其批评不够具体。
一篇博客称，Astra 能够识别小型神经网络的训练数据，并直接修改模型权重。作者还报告称，Astra 通过编辑一个小型 Qwen 模型的权重改善了其数学表现；现有材料没有提供足够细节或独立验证来评估这一结果。
小型推理模型可能出现循环输出：它会重复相同文本，迟迟无法给出答案。Astra 的相关报道将这一现象归因于模型特定层中的权重方向，并描述了通过直接编辑权重来修正它的做法。
评论者对模型识别训练内容和直接编辑权重的能力表示惊讶，也有人认为这延续了大语言模型快速理解复杂系统的表现。另有评论提到，Astra 据称定位了小型推理模型反复循环的原因，并修改相关权重来处理这一问题；这些说法属于评论者转述，尚非独立验证。
rss · Sean Goedecke · 11月3日 00:00
一篇论文称，前沿大模型能直接读取和修改神经网络权重，甚至改善小模型的数学能力；作者认为，这看起来像是可能推动递归自我改进的超常研究能力。要判断这项结果有多特别，关键在于弄清模型原本遇到的具体问题，以及权重结构提供了多少线索。
在识别游戏的实验中，小网络只有约 1.7 万个权重，输入通道直接对应 8×8 网格的格子，而且通道带有“玩家”“移动物体”等标签。作者指出，查看第一层权重在各网格位置上的范数，就能画出关注区域；玩家和物体的典型位置足以让人认出至少前三种游戏，因此这更像是可解释的结构分析，而非惊人的研究能力。作者认为，最有说服力的案例是 Astra 修改一个 0.8B Qwen 模型：原模型在 32k token 以内的数学题都能答对，失败集中在更长任务中反复循环。Astra 用 Python 构造四组会循环与不会循环的文本，测量与循环相关的权重，再逐步削减并测试，找到能停止循环的修改，使模型可以继续处理超过 32k token 的数学题。作者将这套做法类比于转向向量和 Heretic 消融：方法虽有效，却是研究者也能采用的诊断与迭代流程；不过文章以案例推断人类可复现，并未提供人与模型的直接对照。
作者的结论是，直接改权重是值得关注的技巧，但现有案例不足以证明模型拥有超人的 AI 研究能力。正如修改编译后的二进制文件不等于取代源代码开发，模型若能推动 AI 研究，更可能是帮助改进训练，而非凭空手工改写权重。
Anthropic 更新的 IPO 招股书显示，截至 2026 年 9 月 30 日的前三季度营收为 332.4 亿美元，同比增长约 1200%；同期净亏损为 1040 亿美元，高于上年同期的 251 亿美元。公司称，上半年净亏损主要受可转换债券及衍生负债公允价值变动影响；截至目前，公司累计采购及租赁承诺约 8954 亿美元，几乎全部用于算力和基础设施。
可转换债券及衍生负债的公允价值变化会计入净亏损，但这部分账面变动不一定代表同期现金流出。
Anthropic 的算力与基础设施供应商及投资者可能会关注其约 8954 亿美元的采购和租赁承诺；其中约 700 亿美元将在一年内到期，而公司截至 9 月底持有约 1320 亿美元现金及短期投资。
rss · Sean Goedecke · 11月3日 00:00
网络写作平台让浏览量、互动和收入都很容易追踪，作者也容易像优化工程指标一样，追着数字增长。作者指出，这些数字只是代理指标：它们无法区分真正读完并思考文章的人，与只点开标题、浏览开头或在讨论区留言的人。
作者担心，过度追逐互动会让代理指标偏离写作本身的价值，甚至形成一种受众俘获：热门话题带来大量点击，于是作者不断重复相关观点；与此同时，真正认真阅读、提供有经验反馈的读者可能逐渐离开，而点击者并不在意内容是否重复。作者把这个问题延伸到工程工作，主张先弄清自己在玩什么“游戏”：浏览量、工单指标或晋升可以是手段，也可以是本人真正看重的目标，具体取决于个人目的。为了想要的结果而接受取舍有时合理，但如果只是习惯性地迎合指标，且没有换来自己重视的东西，就可能牺牲真实目标。作者举自己的写作为例：一些哲学或历史文章和枯燥的技术说明关注度不高，某些热门文章则主要承接了读者对行业变化的忧虑；他仍愿意为少数会认真阅读、讨论并提供具体反馈的人写作。浏览量能扩大触达，却难以说明是否吸引了这群读者，因此他更依赖自己的判断，以及读者发来的深思熟虑的回应。
作者的核心观点是，成功应由自己真正看重的目标来定义，而不能让容易计数的代理指标悄悄取而代之。流量可以有用，但若它把作者引向不想服务的受众或不珍视的工作，数字增长也可能意味着偏离目标。
筛选说明：从 33 条内容中筛选出 7 条重要资讯。