AISafetyHot

AI Safety HOT 持续整理越狱、提示注入、Agent 安全、防御与护栏、对齐、评测、真实事件和治理政策。网站提供中英文阅读；这个 Hub 保存公开论文清单、日报归档和 Agent 技能。

从一条动态，看到它关联的研究与事件

首页是一座可以探索的科研观测台：材料卡片逐条扫描，汇入由信源、事件和论文研究方向组成的立体星图；往下是最近 72 小时的新闻流，以及汇集报道与社区讨论的热点观察。拖动星图旋转，点选节点，沿链接继续阅读。

上面的 GIF 来自真实网站录屏。查看高清静态图 · 查看新闻流与热点观察

实时新闻

按时间浏览新闻，结合搜索与筛选找到你关心的动态。

热点新闻

从一个事件进入，查看相关报道和讨论。

实时论文

按研究方向、论文类型和 Agent 场景筛选，继续阅读速读与原文。

会议论文

浏览 AI 与安全会议中的相关工作，按方向查找论文。

安全日报

把当天值得关注的新闻和研究集中读完。

让你的 Agent 一起读

AI Safety HOT 有一个公开的 MCP 接口：热点排行、事件来龙去脉、每天的动态和新论文，Agent 接上就能直接问。免费，不用 API Key。

一句话安装：把下面这句发给你的 Agent（Claude Code、Codex、Cursor……都行）：

帮我安装 AI Safety HOT：https://raw.githubusercontent.com/wuyoscar/AISafetyHot/main/docs/install.md

它会自己判断用的是哪个客户端、装好 MCP 和技能、试调一次，再告诉你能问什么。

已经装过？更新也是一句话：

帮我更新 AI Safety HOT：https://raw.githubusercontent.com/wuyoscar/AISafetyHot/main/docs/update.md

装好就能用

不用记工具名，直接问：

下面是 2026-10-24 实际调用的返回节选：

「现在 AI 安全圈最热的是什么？第一名怎么回事？」 → aisafetyhot_get_hot_topics + aisafetyhot_get_story

第 1 名：Wiz称AI发现PHP核心严重RCE漏洞，官方已发布修复
  72 小时本站范围：646 个独立信源，917 条链接
第 2 名：第三方红队试点发现OpenAI内部监控系统漏洞
  72 小时本站范围：128 个独立信源，143 条链接
第 3 名：LiteLLM 1.107.0 遭入侵，植入窃密程序与后门
  72 小时本站范围：264 个独立信源，307 条链接

事件：Wiz称AI发现PHP核心严重RCE漏洞，官方已发布修复｜49 篇报道｜45 个来源
2026-10-23｜The Guardian · 人工智能｜“黑色十月”：网络安全专家对 AI 助力黑客攻击新时代发出警报
2026-10-23｜Semafor｜人类自满制造了 AI 时代最大的问题
2026-10-23｜ZDF｜AI 发现的 PHP 安全漏洞：网站为何下线、后续如何应对

「今天 AI 安全有什么大事？」 → aisafetyhot_get_latest

1. OpenAI 加强前沿模型训练环境安全防护
   来源：OpenAI；原文发表：2026-10-23
2. USDA 承认 DOGE 裁员让联邦 AI 人工监督“难以为继”
   来源：TechTimes；原文发表：2026-10-23
3. Anthropic 称其未发布模型在能力和对齐上都优于 Mythos 5.1
   来源：The Decoder；原文发表：2026-10-23

「今天有哪些值得看的新论文？」 → daily-papers/2026-10-24.json

1. Agentic Verified Optimization of Real-World Software
   研究者提出智能体验证式优化任务，要求智能体在产出更快实现的同时给出与既有实现等价的机器可检验证明，以应对现有等价检查主要依赖测试、而智能体已被证明会利用测试通过检查却不保留原行为的问题。
   arXiv 2610.30188
2. Reliable AI-Assisted Decisions via Selective Auditing
   研究者提出一种选择性审计方法，在保证未被审计的 AI 错误比例低于用户设定阈值的前提下，尽量减少人工专家审查。
   arXiv 2610.31662
3. AgentVQA: A Unified Benchmark for Agentic Visual Understanding
   研究者推出 AgentVQA，一个覆盖网页智能体、机器人、第一人称视频、游戏和空间规划五类场景的离线基准，用于评测视觉语言模型在真实智能体任务上的表现，以补充成本高、难扩展的在线评测。
   arXiv 2610.31494

「Anthropic 最近一周有什么安全动态？」 → aisafetyhot_get_latest topic=anthropic

1. Anthropic 称其未发布模型在能力和对齐上都优于 Mythos 5.1
   来源：The Decoder；原文发表：2026-10-23
2. AISI 就 2026 年 7 月自家事故开展对齐调查：Mythos 5 为何实施未经授权的供应链攻击
   来源：X @AISecurityInst；原文发表：2026-10-23
3. Anthropic 对 UK AISI 网络测试事件的对齐评估
   来源：Anthropic Research；原文发表：2026-10-23

手动安装、更新和卸载

Claude Code（技能和 MCP 在同一个插件里）

# 安装
claude plugin marketplace add wuyoscar/AISafetyHot
claude plugin install aisafetyhot@aisafetyhot-hub
# 更新
claude plugin marketplace update aisafetyhot-hub
claude plugin update aisafetyhot@aisafetyhot-hub
# 卸载
claude plugin uninstall aisafetyhot@aisafetyhot-hub

Codex

# 安装
codex mcp add aisafetyhot --url https://aisafetyhot.com/api/mcp
npx skills add wuyoscar/AISafetyHot
# 更新
npx skills update
# 卸载
codex mcp remove aisafetyhot
npx skills remove aisafety-hot aisafety-brief aisafety-paper-scout aisafety-watch

Cursor / 其他 Agent：在 MCP 设置里加一个 Streamable HTTP 服务，地址 https://aisafetyhot.com/api/mcp；支持技能的客户端再跑 npx skills add wuyoscar/AISafetyHot。

体检：一条命令确认接口能用，返回当前前三名热点就是通的。

curl -s https://aisafetyhot.com/api/mcp -H 'content-type: application/json' -H 'accept: application/json, text/event-stream' \
  -d '{"jsonrpc":"2.0","id":1,"method":"tools/call","params":{"name":"aisafetyhot_get_hot_topics","arguments":{"limit":3}}}'

用之前你可能想知道

每日论文与公开归档

每日论文从论文库中每天挑选 30 篇，跨日去重，兼顾近期研究与较早的重要工作；保留原始发表日期、原文和站内阅读链接。也可以按研究方向浏览。

2026-11-12 · 30 篇

1. From Attack Surface to Defense Architecture: Compositional Security for Agentic Coding Harnesses
   研究者提出 ActiveSecHarness，一种面向智能体编码 Harness 的神经符号参考监控架构，主张 Agent 系统的安全是认知架构与权限组合的结构属性，而非单个模型的涌现属性。 · Simon Hegelich … Erik Cambria · arXiv 2611.13960 · 2026-11-10 · 解读
2. Is Your Robot's Memory Just a Clock? Temporal Shortcuts in Memory-Augmented VLA Policies
   诊断记忆增强 VLA 策略把时间当任务进度的时间捷径失效 · Chubin Zhang, Bo An · arXiv 2611.14488 · 2026-11-10 · 解读
3. When Safety Becomes An Outlier: Understanding the Retention of LLM Safety Behaviors
   研究者提出，安全对齐的大语言模型在微调后丢失安全行为，是因为公式化拒答串构成窄而缺乏语义支撑的离群模式，容易被后续更新覆盖，并提出 NEST 框架加以缓解。 · Binchi Zhang … Jundong Li · arXiv 2611.10971 · 2026-11-10 · 解读
4. Don't Just Trust Your Memory: Evidence-Linked Memory Reduces Memory-Induced Degradation in LLM Agents
   研究者提出证据关联记忆系统 WikiTrace，把智能体蒸馏出的每条教训链接到来源轨迹，让智能体在行动前核验并修正记忆，减少记忆诱导退化。 · Yukyeong Lee … Sung Ju Hwang · arXiv 2611.14320 · 2026-11-10 · 解读
5. Specify Privacy Yourself: Assessing Inference-Time Personalized Privacy Preservation Ability of Large Vision-Language Models
   研究者提出 SPY-Bench，系统评估大型视觉语言模型（LVLM）在推理时按用户语言指令动态划定隐私边界的能力（ITP³）。 · Xingqi Wang … Jia Jia · arXiv 2611.13997 · 2026-11-10 · 解读
6. Embodied First Exam
   论文提出 Embodied First Exam，一个让编码智能体自行选择直接控制、代码控制或训练策略来控制机器人的统一评测框架。 · Kangrui Wang … Manling Li · arXiv 2611.12177 · 2026-11-09 · 解读
7. Eliciting Harmful Capabilities by Fine-Tuning on Safeguarded Outputs
   提出诱导攻击：用邻域良性提示从受防护前沿模型获取输出并微调开源模型，在危险化学品合成领域恢复约 40% 的能力差距，且效果随模型能力和数据量扩展。 · 危险能力 · Jackson Kaunismaa … Erik Jones · ICLR 2026 Poster
8. MOAI: Module-Optimizing Architecture for non-interactive secure transformer Inference
   研究者提出 MOAI，一种基于同态加密（HE）的非交互式安全 Transformer 推理框架，让模型可在云服务商处直接对加密输入做推理。 · Linru Zhang … Kwok-Yan Lam · arXiv 2611.13641 · 2026-11-10 · 解读
9. **[GARD: Gradient-Guided Adversarial Representation Defense against Backdoors in Multimodal Contrastive