国家安全部今天发布了一篇安全提示文章（TH -5），其中包括人工智能培训数据问题，包括错误信息，虚构内容和偏见观点，这会导致数据资源污染并为人工智能安全带来新的挑战。 数据是人工智能的基础 人工智能的三个主要要素是算法，计算和数据优势，其中数据是训练AI模型的主要元素，也是AI应用程序的主要资源。 为AI模型提供原材料。大数据为AI模型提供了足够的培训材料，使他们能够了解内部法律和数据模式，并认识到语义，明智的决策和内容的了解。同时，数据还驱动人工智能继续优化性能和准确性，并实现升级模型以满足新需求。 影响AI的性能型号。 AI模型对数量，质量和差异数据的要求很高。足够的数据是大型模型中进行全面培训的要求；高精度数据，完整性和一致性可以有效避免模型的不当行为；涵盖许多领域的各种数据可以提高模型处理实际复杂情况的能力。 促进AI模型的应用。越来越多的数据资源加速了“人工智能 +”行动的实施，并有效地促进了人工智能与各种经济和社会领域的深入整合。它不仅发展并发展了新的生产率质量，而且还促进了我国家的科学和技术，行业和升级以及一般生产的发展。 数据污染影响安全线 高质量的数据可以显着提高模型的准确性和可靠性，但是一旦数据感染，它就会导致决策-MAking错误甚至AI系统的故障，这带来了一些安全风险。 提供有害内容。通过“数据中毒”习惯产生的肮脏数据，例如插播，小说和重复，会干扰PA Stage Extercise的调整模型参数，削弱模型性能，降低其准确性，甚至引发有害输出。研究显示： ●当培训数据集中只有0.01％的错误文本时，模型内容的有害输出增加了11.2％； ●尽管它是错误文本的0.001％，但其有害产出却增加了7.2％。 引起递归污染。人工智能数据所产生的不正确内容可能是随后的模型培训的数据来源，形成了连续的“污染遗产的效果”。当前，Internet AI产生的内容量大于人类所制作的实际内容，并且大量低质量和非用途数据被淹没，从而累积了在世代相传的AI培训中，数据集信息的信息最终使模型本身的认知感到厌恶。 挑衅真正的危险。数据污染还可以引发一系列实际风险，尤其是在金融市场，公共安全和医疗健康领域。 ●在财务领域，罪犯使用AI来发展错误信息，造成数据污染，这可能会导致异常喷发 - 股票价格的变化，这是有新市场操纵的风险； ●在公共安全领域，数据污染很容易干扰公众的意识，误导公众舆论，并激起社会震惊； ●在医疗和健康领域，数据污染会导致该模型产生不正确的诊断和治疗建议，这不仅威胁了患者的生存，而且伪科学的传播也会加剧。 为人工智能数据建立稳定的基础 加强资源管理并防止污染离子预防。根据“中华人民共和国人民共和国的网络安全法”，“中华人民共和国的数据安全法”，“中华人民共和国个人信息保护法”和其他法律和法规，避免对AI数据进行分类并帮助防止AI数据安全威胁。 加强风险评估并确保数据循环。加强对人工智能安全风险的整体评估，并确保在整个生命周期中数据安全，例如收集，存储，交付，使用，交换和备份。同时，加快了安全风险的人工系统的构建，并继续提高确保数据安全性的能力。 完成清洁和调整，并开发管理框架。根据法规和标准定期清洁并调整受污染的数据。制定根据相关法律，法规和行业标准清洁数据的特定政策。逐渐开发一个模块化，监视和测量的数据管理框架，以实现持续的质量管理和控制。 （收费编辑：Wang Chenxi） 神性：中国净资金已印刷本文以提供其他信息，并不代表本网站的观点和立场。本文的内容仅供参考，并且不会产生投资建议。投资者在此基础上以自己的风险行事。