研究报告：警惕人工智能滥用安全风险上升
国家计算机病毒应急处理中心、三六零科技集团有限公司等联合发布的《网络空间安全态势分析报告（2025）》显示，2024年6月至2025年7月，国内外共发生人工智能相关安全事件59起。未来，需要警惕深度伪造欺诈、滥用人工智能实施网络攻击、人工智能侵权等人工智能滥用风险。
图片来源于网络，如有侵权，请联系删除
这是记者从23日召开的第三届网络空间安全（天津）论坛上获悉的。
图片来源于网络，如有侵权，请联系删除
国家计算机病毒应急处理中心高级工程师杜振华介绍，2025年度人工智能技术实现显著突破。大模型训练成本不断降低，人工智能应用也从生成式AI向智能体化AI快速演进。技术的“双刃剑”效应也愈发明显，生成式AI滥用引发深度伪造“实时化＋场景化”升级，视频换脸诈骗识别难度提高。
人工智能安全风险主要分为网络安全风险、数据安全风险和模型安全风险。据不完全统计，相较于2024年度，2025年度发生人工智能相关的网络与数据安全事件与风险明显增加，其中网络攻击事件占29%、数据安全事件占26%、安全隐患事件占25%。
国家计算机病毒应急处理中心提供的数据。受访者供图
网络空间安全（天津）论坛已举办两届。本届论坛聚焦信创产业加速发展面临的安全风险挑战、公民权益保障与数字经济发展的动态平衡等网络空间安全前沿、焦点话题展开探讨。（记者杨文、黄江林）
【责任编辑:薛涛】
阅读下一篇：
扫描二维码推送至手机访问。
版权声明：本文由每日快讯发布，如需转载请注明出处。
“研究报告：警惕人工智能滥用安全风险上升” 的相关文章
随着国内普惠保险体系的逐步健全，保险服务覆盖面正不断扩大。12月10日，互联网保险优选平台蚂蚁保宣布，旗下百万医疗险品牌“好医保”推出了专门针对中老年、慢病群体的“好医保·中老年长期医疗”（简称“好医保”中老年版）。除了新上线的中老版本，“好医保·少儿长期医疗”近期也进行了版本更新，优化了赔付比...
新华网北京1月6日电（朱家齐）在数字化浪潮席卷而来的当下，算法已然成为推动社会运转的关键引擎。它的诞生，是人类智慧为提高效率交出的一份答卷。凭借强大的数据分析和处理能力，算法让信息的筛选、资源的分配变得更加精准高效，提升了各个领域的运行效率，为我们的生活带来了便利。图片来源于网络，如有侵权，请联系删...
新华社天津2月17日电（记者张建新、栗雅婷）国家计算机病毒应急处理中心近期通过互联网监测发现，14款移动应用存在隐私不合规行为。图片来源于网络，如有侵权，请联系删除 1、个人信息处理者在处理个人信息前，未以显著方式、清晰易懂的语言真实、准确、完整地向个人告知个人信息处理者的名称或者姓名、联系方...
新华社洛杉矶2月17日电 美国研究人员近日在《科学》杂志上发表论文说，他们利用人工智能（AI）设计出了具有天然酶关键特征、可介导多步反应的全新的酶。业内专家评价其为“酶工程领域的一个里程碑”。图片来源于网络，如有侵权，请联系删除 酶是一种高效生物催化剂，广泛应用于医学、化工、农业等领域。然而，...
天津大学与清华大学联合研发出一款“双环路”脑机接口系统。此系统不仅精度更高、能耗更低，还能处理更为复杂的任务。图片来源于网络，如有侵权，请联系删除 这款基于忆阻器神经形态器件的无创演进脑机接口系统，成功揭示了脑电发展与解码器演化在脑机交互过程中的协同增强效应，实现了人脑对无人机的高效四自由度操...
图片来源于网络，如有侵权，请联系删除 记者：姜伟超、马莎、王铭禹图片来源于网络，如有侵权，请联系删除 国产AI大模型DeepSeek爆火之时，“人工智能（AI）+”也愈发融入孩子们的学习生活中。 一个让人忧心的现象出现了：新学期伊始，不少老师发现，学生提交的寒假作业“AI味”浓厚，有些孩子甚至...
