互联网资讯 / 人工智能 · 2024年1月15日 0

OpenAI开发升级版ChatGPT以支持用户自定义

2月17日 消息:据路透社报道,ChatGPT背后的初创公司OpenAI表示,其正在开发聊天机器人ChatGPT的升级版,让用户可以自定义设置,以解决人们对人工智能偏见的担忧。

这家总部位于旧金山的初创公司表示,它一直在努力减轻政治和其他偏见,但也希望容纳更多不同的观点,微软公司已为其最新技术提供资金和支持。

OpenAI在一篇博客中写道:“人工智能应该是对人类有益的工具,因此每个用户都可以在社会规定的限度内进行定制。这将意味着允许其他人(包括我们自己)可能强烈反对的系统输出。将定制化做到极致有可能使我们的技术被恶意使用,并让ChatGPT成为无意识放大人们现有观点的阿谀奉承AI,所以ChatGPT的行为仍然会受到限制在这方面取得适当的平衡将是一个挑战。”因此,用户自定义总会有一些界限。

例如,如果用户请求的内容有关于成人、暴力或包含仇恨的言论,人工审阅者会指示ChatGPT回答“我无法回答”。

这家初创公司发布消息同时,一些媒体机构指出,由 OpenAI 提供支持的微软新 Bing 搜索引擎的答案具有潜在危险,而且该技术可能还没有准备好迎接黄金时段。

科技公司如何为自定义ChatGPT设置护栏是人工智能公司重点关注的领域,目前仍在博弈。微软也表示,它会根据用户的反馈来改进Bing。