Tag: ai-safety

All the articles with the tag "ai-safety".

• 7.0

  RAG 文档投毒攻击：攻击者如何悄悄腐蚀 AI 的知识源

  HN

  13 Mar, 2026

  深度解析针对 RAG 系统的文档投毒攻击手法，包括语义隐藏、延迟触发和跨文档污染等高级技术。

  → 原文链接
• 8.5

  Anthropic 成立研究机构，专注 AI 社会风险

  Web

  12 Mar, 2026

  Anthropic 宣布成立 Anthropic Institute，由联合创始人 Jack Clark 领导，聚焦 AI 对社会最深远影响的研究与预警。

  → 原文链接
• 7.5

  Anthropic 研究：真实世界中 AI 使用的「去权力化」模式

  Anthropic

  12 Mar, 2026

  Anthropic 发布新研究，分析现实场景中 AI 助手如何可能在无意间强化用户的心理依赖与自主能力丧失，并探讨如何设计更赋权的 AI 交互。

  → 原文链接