当前位置:主页 > 热点 >

谷歌DeepMind发布AI控制路线图,防范内部威胁

时间:2026-06-19 12:55:03

  消息,谷歌DeepMind发布了AI控制路线图,旨在针对内部部署的先进AI智能体设计系统级安全框架。该路线图将智能体视为潜在的「内部威胁」,并在系统层面建立起纵深防御。安全系统引入可信AI充当监督智能体,实时监控智能体的推理链、动作与计划,检测到异常或危害企图时直接拦截。该防御机制借鉴了网络安全行业标准的MITRE ATT&CK对抗框架,建立智能体专用的威胁建模系统。开发团队已通过原型系统分析了100万次任务轨迹,实测数据表明,绝大多数被警告的异常并非出于主观恶意,而是源于智能体误解指令或动作过载。

热点推荐
1 鲸鱼继续增持以太坊,3天内新钱包提取近

消息,据Lookonchain监测,鲸鱼继续增持以太坊,今日又有2个新创建的钱包从中提取了20,000枚E...

2 Apathy攻击暴露Compound和BonkDAO的脆弱性

BonkDAO在一次Apathy攻击中损失了2000万美元,该攻击利用了低投票率的治理漏洞。Compound也面临类...

3 费城半导体指数进入技术性熊市,某巨鲸

消息,费城半导体指数单日下跌4.3%,较6月中旬高点回调超22%,正式进入技术性熊市。链上地址...

4 Trade.xyz上10个HIP

消息,据a早期发行in2021监测,trade.xyz上10个HIP-3市场的交易量均超过100亿美元。...

5 美国对班达哈米尔地区道路和桥梁的攻击

消息,据伊朗新闻电视台:美国对班达哈米尔地区道路和桥梁的攻击造成七人死亡,九人受伤...

6 DTCC数字资产负责人:每年处理4万亿美元

消息,DTCC数字资产负责人表示,该公司每年处理高达4万亿美元的结算,这一规模是任何单一区...

7 Circle在Solana铸造5亿美元USDC,2026年总铸造

Circle最近在Solana链上铸造了5亿美元的USDC,至此2026年在Solana链上铸造的USDC总量已达到700.1亿美...

8 台积电上调资本开支指引,美股科技股多

消息,据A早期发行in数据,台积电第二季度毛利率为67.7%,并将资本开支指引上调至600亿美元至...

9 维和人员继续观察以色列军队在黎巴嫩南

消息,联合国秘书长发言人:维和人员继续观察以色列军队在黎巴嫩南部发射炮弹的情况。...

10 Vanguard VOOG与State Street SLYG费用比拼

消息,Vanguard的SP 500增长ETF与State Street的小盘股增长ETF相比,前者提供了显著更低的费用比率。...

成都来彰科技 蜀ICP备2025134723号-1

资讯来源互联网,如有版权问题请联系管理员删除。