自人工智能研究实验室OpenAI于2022年11月推出聊天机器人软件ChatGPT以来，人们一直担心它可能被滥用。主要讨论围绕其在学术界使用的伦理问题，网络安全问题，以及ChatGPT在某些领域取代人类工作的可能性。尽管有所顾虑，这个工具还是获得了巨大的人气，超过10%的美国人表示在第一次发布后的两个月内就使用过它。该工具主要由18至44岁的个人使用。
人工智能操作的聊天机器人是基于深度学习技术的大型学习模型(LLM)。经过训练，它可以处理和生成响应用户请求的类似人类的文本，能够分析特定主题、翻译文本，甚至用最常用的编程语言(如Python和Java)生成代码。
截至2023年1月，美国成年人中使用过ChatGPT的比例。数据来源:Statista.com
ChatGPT与网络犯罪
ChatGPT的优点吸引了全世界的许多用户，但其复杂的功能并不总是用于良好的目的。在某些情况下，该工具无法完全识别包含网络威胁的用户请求。虽然该软件有防止其滥用的内容过滤器，但会有用户可能通过应用某些技术绕过这些过滤器。
虽然OpenAI已经采取措施改进识别包含网络风险的请求，但用户仍然可以通过某些变通的方法得到请求的应答。例如，如果该工具拒绝在直接请求下创建一个钓鱼邮件的文本，用户仍然可以通过将其描述为不同生活情况下的所需知识，例如就该主题编写一个电影剧本，而不是实际的钓鱼攻击企图，来让它编写。
虽然截至2023年4月，还没有关于人工智能驱动的重大网络攻击事件，但全球IT和安全专业人士认为，企业预料可能在不到一年的时间内会发生此类事件。他们中的大多数人表示，使用ChatGPT将帮助黑客制作更可信、听起来更合法的网络钓鱼电子邮件。他们还相信，该工具将帮助经验不足的黑客提高他们的专业知识和技能。
根据全球部分国家的IT和安全专业人士的意见，截至2023年1月，ChatGPT可能被用于网络犯罪目的。数据来源:Statista.com
ChatGPT泄露企业数据
尽管大多数公司发布了关于正确使用ChatGPT的说明，甚至禁止在工作场所使用ChatGPT，但仍然有许多高度敏感的公司内容在ChatGPT上曝光的案例。为了在工作中表现更好，世界各地的许多员工已经开始使用ChatGPT，因为它为各种任务提供了快捷的解决方案。但是，该工具的不当使用有时会导致员工泄露机密的公司数据。通常使用付费版本的服务，用户认为他们共享的数据仍然是保密的。然而，共享的数据成为了ChatGPT的常识。截至2023年3月，一项调查发现，超过8%的受访员工在工作场所至少使用过一次ChatGPT，约3%的员工在ChatGPT中输入过机密的公司数据。最常暴露的企业数据类型是仅供内部使用的敏感数据。
2023年2月至3月，全球员工在ChatGPT上输入敏感数据的案例数量。数据来源:Statista.com
ChatGPT的最新版本
在2023年3月，OpenAI发布了最新版本的ChatGPT, 即GPT-4。该公司声称，在创建GPT-4时，他们已经解决了用户对网络安全的担忧，并试图修复聊天机器人在敏感和不允许的在线内容方面的不正确行为。据该公司称，在最新版本中，ChatGPT对被禁止的内容请求的响应率下降了82%。此外，据报道，与GPT-3.5 相比，GPT-4 产生的有害内容减少了89%。