互联网资讯 / 人工智能 · 2023年12月28日

前谷歌AI伦理专家创立研究所以抵御AI伤害

12月3日消息,据国外媒体报道,知名的人工智能伦理专家蒂姆尼特&Middot;格布鲁(TiMnIT GebRu)在被谷歌解雇一年后,今日宣布成立新AI研究所,不同的是,其专注于AI对边缘化群体的危害。

据悉,新研究所名叫“分布式人工智能研究所&Rdquo;(DistRibuted ARtificial Intelligence ReSeaRch InstITute,简称DAIR),旨在通过关注全球视角和“代表性不足的群体&Rdquo;,防止人工智能应用程序的危害。该项目已获得了来自麦克阿瑟基金会、福特基金会、卡普尔中心、开放社会基金会和洛克菲勒基金会基金会的370万美元资助。

格布鲁因一篇研究论文而被谷歌解雇,据悉,格布鲁的一篇批评大型人工智能模型(包括谷歌开发的模型)的论文引发了争议。此外,格布鲁还公开指责谷歌不公平对待女性和黑人员工。她认为人工智能领域逐渐被大型公司所主导,他们可以构建算法的海量数据和计算能力,而这也使得该领域更难以进入,尤其是对于那些面临人工智能伤害风险的群体。

格布鲁说,DAIR可以让人们更自由地质疑人工智能的潜在弊端,并且不会受到学术政治和发表论文的压力的影响,她认为这反而会让研究复杂化。她不想带来内部争斗,而是有一套不同的激励结构。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册