根据Gartner公司的数据，对人工智能增强的恶意攻击的担忧在2024年第一季度上升到新兴风险排名的首位。
今年第一季度，Gartner对345名资深企业风险管理人员进行了调查，以捕捉和衡量他们的前20大新兴风险的态度，并向领导者提供其原因和潜在后果。
在2024年第一季度的调查中，与人工智能相关的风险占据了前两名，人工智能增强的恶意攻击被认为是最主要的新兴风险，人工智能辅助的错误信息也引起了关注。不断升级的政治两极分化是在2023年第四季度首次出现的，从第二大担忧降至第三位。
人工智能攻击和错误信息的主要驱动因素之一是对其功能的快速扩展。人工智能增强可以提供恶意代码，并促进网络钓鱼和社会工程，从而实现更好的入侵，导致更具破坏性的攻击。
人工智能增强的攻击和错误信息的潜在影响是深远的，对企业的声誉、生产力和应对能力都有重大影响。不断增加的违规和披露要求可能会削弱客户、消费者和合作伙伴对组织和品牌的信任。
