当前位置:首页 > 行情速析 > 国家安全部:警惕人工智能“数据投毒”

国家安全部:警惕人工智能“数据投毒”

2025年08月05日49904

(原标题:国家安全部:警惕人工智能“数据投毒”)

国家安全部:警惕人工智能“数据投毒”
图片来源于网络,如有侵权,请联系删除

人民财讯8月5日电,国家安全部今日发文表示,人工智能的训练数据存在良莠不齐的问题,其中不乏虚假信息、虚构内容和偏见性观点,造成数据源污染,给人工智能安全带来新的挑战。通过篡改、虚构和重复等“数据投毒”行为产生的污染数据,将干扰模型在训练阶段的参数调整,削弱模型性能、降低其准确性,甚至诱发有害输出。研究显示,当训练数据集中仅有0.01%的虚假文本时,模型输出的有害内容会增加11.2%;即使是0.001%的虚假文本,其有害输出也会相应上升7.2%。

扫描二维码推送至手机访问。

版权声明:本文由每日快讯发布,如需转载请注明出处。

“国家安全部:警惕人工智能“数据投毒”” 的相关文章

716.50亿资金本周流出非银金融股

716.50亿资金本周流出非银金融股

(原标题:716.50亿资金本周流出非银金融股)图片来源于网络,如有侵权,请联系删除 沪指本周下跌3.56%,申万所属行业中,跌幅居前的行业为社会服务、传媒,跌幅为8.66%、8.57%。非银金融行业本周下跌0.64%。图片来源于网络,如有侵权,请联系删除 资金面上看,两市主力资金本周合计净流出...

【公告精选】雪峰科技、莱美药业实控人或变更;中青宝签署算力资源服务合同

【公告精选】雪峰科技、莱美药业实控人或变更;中青宝签署算力资源服务合同

(原标题:【公告精选】雪峰科技、莱美药业实控人或变更;中青宝签署算力资源服务合同)图片来源于网络,如有侵权,请联系删除 【热点】图片来源于网络,如有侵权,请联系删除 宏达新材:主业高温硅橡胶目前的经营情况、内外部经营环境未发生重大变化图片来源于网络,如有侵权,请联系删除 宏达新材(002211...

抖音将建立安全与信任中心 推进算法和平台治理透明化

抖音将建立安全与信任中心 推进算法和平台治理透明化

(原标题:抖音将建立安全与信任中心 推进算法和平台治理透明化)图片来源于网络,如有侵权,请联系删除 证券时报e公司讯,1月3日,抖音宣布将推出10项措施,建立安全与信任中心,切实推动算法和平台治理透明化,创建安全与信任的平台环境,打造更良好的网络生态。抖音方面表示,将以安全与信任中心为依托,重点介绍...

险资大消息!投资黄金试点落地,10家公司入围

险资大消息!投资黄金试点落地,10家公司入围

(原标题:险资大消息!投资黄金试点落地,10家公司入围)图片来源于网络,如有侵权,请联系删除 2月7日,金融监管总局公布了《关于开展保险资金投资黄金业务试点的通知》(下称《通知》),明确自通知发布之日(1月22日)起,允许10家试点保险公司,以中长期资产配置为目的,开展投资黄金业务试...

湖南衡阳通报“妇幼保健院医生售卖出生证”!

湖南衡阳通报“妇幼保健院医生售卖出生证”!

(原标题:湖南衡阳通报“妇幼保健院医生售卖出生证”!)图片来源于网络,如有侵权,请联系删除 8名嫌犯被抓获。 今天,湖南衡阳市卫生健康委员会和衡阳市公安局发布通报,针对近期群众反映的“衡阳市妇幼保健院医生售卖出生证”帖文,衡阳组织卫健、公安等部门开展核查。目前,公安...

282股获杠杆资金大手笔加仓

282股获杠杆资金大手笔加仓

(原标题:282股获杠杆资金大手笔加仓)图片来源于网络,如有侵权,请联系删除 2月14日沪指上涨0.43%,市场两融余额为18532.60亿元,较前一交易日增加3.96亿元。 证券时报•数据宝统计显示,截至2月14日,沪市两融余额9487.24亿元,较前一交易日增加5.86亿元;深市两融余额90...