英伟达的强大芯片为人工智能(AI)的繁荣奠定了基础。然而，随着ChatGPT等生成式AI的出现，越来越多用户在享受便利的同时发现，AI模型有时会出现“幻觉”，即说出错误的事实、涉及有害的话题或导致安全风险。获悉，为了解决这一问题，英伟达在周二发布了一款名为NeMo Guardrails的新软件，该软件能够为AI模型设置安全“护栏”，避免AI输出一些不良的内容。
资料显示，NeMo Guardrails是一个软件层，位于用户和AI模型之间，可以在模型输出不良内容之前进行拦截和修改。例如，如果用户需要一个针对特定方向的AI，就可以利用该软件来限制AI至输出对应方面的内容，而不谈论不相关的话题。
此外，该软件还能够利用一个AI模型检测另一个AI模型，如果两个模型输出的答案不一致，软件将直接输出“我不知道”的回答。通过这种方式，人工智能“胡说八道”的情况会得到有效降低，一些可能存在危险的回复也能够被直接拦截。
英伟达应用研究副总裁Jonathan Cohen表示：“每个人都意识到生成式大语言模型的力量，以一种安全可靠的方式部署它们非常重要。”英伟达将NeMo Guardrails作为开源软件提供，并将持续对其进行更新。
消息，分析师Axel Adler在市场分析周报中指出，Strategy面临四大压力，包括比特币跌破平均成本...
2 池满洙：韩元稳定币讨论应优先考虑使用韩国金融研究院高级研究员池满洙表示，政策制定者在决定韩元稳定币发行主体之前，应优先...
3 Pudgy Penguins卡牌在美国Target上架消息，Pudgy Penguins宣布其Vibes系列3交易卡已在美国Target商店上架，此次扩展为该NFT品牌在主流零...
4 Solana价格预测：Solana的$1,000梦想面临$50警消息，Solana面临着不断上升的交易所资金流入，分析师们对可能的$50回调和长期$1,000突破展开...
5 韩国金融研究院：韩元稳定币设计可参考韩国金融研究院高级研究员Ji Man-Soo表示，韩国在设计韩元稳定币制度时，可参考香港围绕跨境...
6 以军称对加沙地带一名哈马斯成员进行精消息，当地时间20日，以色列国防军发表声明称，以军当天早些时候在加沙地带中部实施了一次...
7 币界早讯 blockaid：以太坊MEV机器人jaredf6月21日消息： 1. blockaid：以太坊MEV机器人jaredfromsubway遭攻击，750万美元资产被盗； 2. 以太坊地...
8 Galaxy研究主管：代币化股票主要分为发行消息，Galaxy研究主管在X平台发文表示，代币化股票受到广泛关注。除operate外，代币化股票基本...
9 半岛电视台记者在以色列对加沙空袭中身半岛电视台记者艾哈迈德维沙在以色列针对加沙中部布赖杰难民营一处住宅发动的空袭中身亡...
10 以太坊地址代币暴跌70%，alphausdc delta v2面消息，据PeckShield监测，以太坊地址0x890abd74a的代币暴跌70%。alphausdc delta v2对msy/USDC市场有1800万...
成都来彰科技 蜀ICP备2025134723号-1
资讯来源互联网，如有版权问题请联系管理员删除。
