互联网资讯 / 人工智能 · 2024年2月29日 0

OpenAI声称支持推动AI系统开发,愿意在训练数据方面更加开放

OpenAI起草的互联网政策备忘录显示,公司认为所有想要开发先进人工智能的公司必须获得政府支持,并愿意公开在训练图像生成器时使用的数据。

OpenAI在内部文件中披露一系列人工智能政策承诺,致力于与政府和政策制定者合作,支持为未来最先进的基础模型开发工作制定牌照制度。

OpenAI首次提出在美国参议院听证会上支持成立政府机构,负责为人工智能产品发放牌照,并在发生违规情况时收回牌照。

微软、谷歌和OpenAI响应白宫号召,将在周五公开承诺为人工智能开发提供保障措施。

OpenAI警告称,公司在内部政策文件中的想法将不同于即将发布的政策,认为牌照制度是政府追踪新型系统的一种方式。

OpenAI认为牌照制度应当仅适用于比现有的GPT-4更强大的人工智能模型,小型创业公司不应承受过大监管负担。

OpenAI愿意开放用于训练DALL-E等图片生成器的数据,并致力于在年底前纳入溯源方法。

OpenAI正在调查水印和人工智能生成内容的检测和披露方法,并将公布调查结果。

OpenAI对外部“红队”持开放态度,允许人们参与测试其系统在冒犯性内容、被操纵的风险、错误信息和偏见方面的问题。

OpenAI认识到人工智能系统可能带来就业和不平等风险,并将进行研究向政策制定者提出建议,以保护经济免受潜在破坏的影响。