人工智能 · 2024年2月24日

Gartner发布:生成式AI风险调查

根据Gartner的数据,2023年第二季度OpenAI的ChatGPT和Google Bard等生成式人工智能的大规模可用性成为企业风险管理人员最关心的问题。

2023年5月,Gartner调查了249名高级企业风险管理人员,为领导者提供了20个新兴风险的基准观点,包括这些风险可能产生的影响、时间框架、关注程度和可感知机会的详细信息。

Gartner:生成式AI风险调查

大规模生成AI可用性

Gartner之前已经确定了生成式人工智能的6个风险,以及与保障职能相关的4个人工智能监管领域。根据Gartner专家的说法,在管理企业风险方面,必须解决三个主要方面:

知识产权

重要的是要教育企业领导层在使用这些工具时保持谨慎和透明的必要性,这样才能在生成式人工智能工具的输入和输出方面适当减轻知识产权风险。

数据隐私

生成式人工智能工具可能会在不事先通知的情况下与第三方(如供应商或服务提供商)共享用户信息。这有可能违反许多司法管辖区的隐私法。

网络安全

如果经济状况普遍恶化,这可能会导致需求下降,从而影响供应商的生存能力或他们及时提供商品和服务的能力。Gartner专家指出,随着形势的发展,风险管理者需要监控第三方可行性的三个潜在后果:

关键投入和材料的损失:如果第三方因更广泛的经济形势而提高价格,那么显然会有失去关键投入和材料的风险,因为第三方会青睐愿意支付更高价格的客户。

有缺陷的财务规划假设:当供应商提高价格时,成本假设将失效,需要转换成本并提高获得商品和服务的价格。

供应链外的挑战:合作伙伴,如托管服务提供商或商业合作伙伴、债权人或技术供应商可能会停止或减少运营。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册