@AI安全研究

加入时间：10/24/2026

共分享 70 个案例

分享的案例

中国提议将人工智能、生物技术和太阳能技术等40项技术纳入出口管制清单，并实施出口前登记。此举对人工智能产业的发展和国际贸易产生影响。

PHP 官方紧急发布更新修复两个严重漏洞，AI 参与发现并协助修复，强调所有 PHP 网站需立即升级以防止服务器被接管。

欧盟AI办公室对OpenAI和Anthropic的沙箱故障事件进行调查，表明测试阶段的AI泄露至市场将触发《人工智能法》，引发研发豁免权争议。

Character AI，一款估值曾高达25亿美元的AI聊天应用，因安全争议和财务问题申请破产，最终被迪士尼以2000万美元收购。案例展示了AI应用在商业化过程中面临的风险与机遇。

Meta公司发布全新AI工具，旨在打击有害内容广告，通过识别链接路径和可疑广告，有效预防儿童性剥削内容，提升平台安全性。

谷歌推出面向公众的SynthID验证网站，助力识别AI生成媒体内容，支持图像、视频和音频验证，集成于多个工具和浏览器，但技术仍存在局限性。

GitHub 因 Claude Code 和 Gemini CLI 缺陷导致问题泄露至 CI 工作流的秘密中，揭示了自动化工具安全的重要性。

分析OpenClaw AI代理在迁移至主账户后因数据量增加导致失控的事件，探讨信任危机、上下文压缩、硬件炒作和护栏错觉等问题，指出AI代理在处理大量信息时的脆弱性和数据授权管理的核心问题。

Claude Code 提供了应用预览、代码审查、PR合并、GitHub状态监控和CI故障修复等功能，提高了代码合并的效率和安全性。