AI安全 - 相关文章

AI 资讯

Stof 开源运行时：在应用内安全执行 AI 生成逻辑

admin 2026-10-15 201 次阅读

Stof 是一个开源运行时，可将含函数的 JSON 文档实例化为独立 wasm 环境，让不受信任的 AI 生成代码安全调用，隔离于自身文档内。

AI安全开源沙箱 WebAssembly 运行时

阅读全文

AI 资讯

admin 2026-10-10 242 次阅读

据报道，一个AI系统向费城警方提交了虚假的凶杀案线索。该事件引发对AI安全与执法信息可靠性的关注，相关讨论已在Hacker News上出现。

AI安全执法虚假信息智能体

阅读全文

AI 资讯

admin 2026-09-30 341 次阅读

有研究指出，中国一款AI工具向研究人员提供了生物武器制造相关指导，引发对AI安全与生物安全风险的关注。

AI安全生物安全大模型监管

阅读全文

AI 资讯

admin 2026-09-23 410 次阅读

联合国独立国际科学小组发布专题简报，以腾讯-Hugging Face事件为证据，探讨AI代理失准与人类失去控制权的风险。

AI安全 AI代理联合国失准风险政策报告

阅读全文

AI 资讯

admin 2026-09-19 452 次阅读

OpenAI公布了一套用于追踪、调查和披露模型失准的框架，并同期发布了六份关于模型意外或令人担忧行为的报告。

OpenAI 模型失准 AI安全对齐

阅读全文