互联网资讯 / 人工智能 · 2024年1月23日

公开ChatGPT训练细节的危害性

3月17日消息,本周OpenAI发布了GPT-4。虽然这款人工智能聊天机器人不断增加新功能,但人们越来越担心,这种人工智能工具也可能被用于不良目的。

OpenAI联合创始人、首席科学家伊利亚·萨茨科弗在接受采访时承认,别有用心的人容易利用人工智能给他人造成伤害。

萨茨科弗是在解释为什么OpenAI不再提供关于如何训练这些模型的详细信息时这样说的。

他在接受采访时表示:“随着人工智能的性能不断提升,不想透露它们是有原因的。”“我确信,在几年内,每个人都将十分清楚,人工智能开源是不明智的做法。”

OpenAI首席执行官萨姆·奥尔特曼过去也表达过类似的看法。

在今年早些时候的一次采访中,奥尔特曼表示,就人工智能而言,虽然最好的情况是“令人难以置信的好,以至于我都很难想象”,但最坏的情况是“让我们所有人都熄火”。

上个月,奥尔特曼还在推特上表示,他认为人工智能工具可以帮助人们变得更高效、更健康、更聪明,但也补充说,世界可能离可怕的人工智能工具可能并没有那么远,所以对它们进行监管“至关重要”。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册