互联网资讯 / 人工智能 · 2024年1月12日

OpenAI首席技术官担心ChatGPT的滥用,主张加强监管

据外媒报道,美国人工智能(AI)研究公司OpenAI的首席技术官米拉·穆拉蒂表示,像ChatGPT这样的AI工具可能被滥用,也可能被“坏人”利用,应受到监管。

ChatGPT是OpenAI于2022年11月30日推出的一种新型AI聊天机器人工具,可根据用户的要求快速生成文章、故事、歌词、散文、笑话,甚至代码,并回答各类疑问。

ChatGPT一经发布就在互联网上掀起了一场风暴,并受到包括作家、程序员、营销人员在内的使用者称赞欢迎。

在发布不到一周的时间里,ChatGPT就聚集了超过100万用户。上周,瑞银分析师指出,自11月底发布以来,ChatGPT的月活跃用户已达到1亿,速度快于TikTok或InstagRaM。

尽管ChatGPT在网络上受到热捧,并获得数百万用户点赞,但在该工具的使用过程中也产生了一些问题。

上周,黑莓的研究人员警告称,ChatGPT也将用于AI网络攻击。而穆拉蒂表示,ChatGPT可能会编造事实。

此外,她还表示,AI可能被滥用,也可能被坏人利用,这引发了关于如何在全球范围内对这项技术进行监管以及如何以一种符合人类价值观的方式管理AI使用的问题。

穆拉蒂表示:“对OpenAI和像我们这样的公司来说,以一种可控和负责任的方式将其引入公共意识很重要。当然,还需要来自监管机构、政府,甚至其他人的帮助”。

此外,穆拉蒂还补充称,现在对ChatGPT进行监管“还不算为时过早”。

ChatGPT的优异表现,也使它得到了微软、BuzzFeed、亚马逊等公司的青睐。

微软CEO纳德拉计划将ChatGPT、DALL-E等AI工具整合到微软旗下产品中。外媒报道称,微软将在未来几周内将ChatGPT整合到必应搜索引擎中。

谷歌正在加快努力,以向消费者提供更多这样的AI工具。谷歌宣布向AnthRopic投资3亿美元,后者开发了ChatGPT的竞争对手Claude。

谷歌CEO桑达尔·皮查伊曾发布“红色警报”,并表示要围绕ChatGPT全面调整2023年谷歌在AI领域的工作。

皮查伊表示,该公司将在未来几周或几个月内推出自家类似于ChatGPT的AI语言模型工具。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.