据 OpenAI 2022 年 7 月 18 日发布的信息,DALL·E 2 正在实施一项新技术,目标是在生成人物图像时,更准确地反映全球人口的多样性。来源显示,这次更新聚焦于降低图像生成中的偏见并提升安全性,尤其是当用户请求生成包含“人”的图像时,系统会更主动地呈现不同背景与特征的人群,而不是默认收敛到单一或刻板的视觉结果。
这类调整对生成式 AI 产品具有现实意义。图像模型并不只是“画得像不像”的问题,还涉及训练数据分布、提示词理解、默认输出倾向以及最终应用场景中的公平性。对于基于 DALL·E 2 构建图片生成、广告素材、教育内容、游戏资产或社交创作工具的开发者而言,模型默认输出的代表性和安全边界,会直接影响终端用户体验与产品合规风险。
更新重点:让人物生成结果更符合多样化现实
来源摘要明确指出,OpenAI 正在实施的新技术,是为了让 DALL·E 在生成“人”的图像时,更准确反映世界人口的多样性。换句话说,当提示词没有指定人物的具体种族、性别、外貌或其他身份特征时,模型不应总是给出某类固定形象,而应在更广泛的人群分布中生成结果。
这并不意味着用户失去对提示词的控制。对 API 或产品调用方来说,更合理的理解是:当用户没有明确限定人物属性时,系统默认输出将更注重多样化;当业务需要特定角色设定时,仍应通过清晰提示词表达需求。对于面向全球用户的应用,这种默认行为的改善有助于减少生成内容中的单一化倾向。
- 面向人物图像:更新重点集中在 DALL·E 2 生成人物时的表现。
- 降低偏见:减少模型在未指定条件下输出刻板或不均衡人群形象的可能。
- 提升安全性:将偏见治理纳入图像生成系统的安全改进方向。
- 影响开发者体验:下游应用在默认生成结果、内容审核和用户反馈上可能获得更稳健的基础。
对 API 使用者的影响:提示词、审核和产品设计都要跟进
从本站关注的模型调用与 API 接入角度看,这次更新提醒开发者:图像生成模型的能力演进不仅体现在分辨率、风格或速度上,也体现在默认行为与安全策略上。如果应用通过 API 批量生成包含人物的图片,模型侧的偏见缓解机制可能改变部分默认输出分布,因此产品侧需要重新观察样例、提示词模板和用户预期是否匹配。
例如,素材生成类产品通常会内置提示词模板。如果模板只写“一个医生”“一个创业者”“一位老师”等泛化描述,更新后的模型可能给出更多样化的人物形象。这对提升内容包容性是积极信号,但如果业务场景需要固定人物设定,则应在提示词中明确描述,而不是依赖模型默认联想。
同时,开发者不能把安全完全交给模型供应方。即便上游模型加强了偏见治理,下游仍应配置必要的内容审核、用户申诉和结果抽检流程。尤其在广告、电商、媒体发布等场景中,生成内容一旦对外展示,就会涉及品牌风险与合规风险。
行业解读:安全能力正在成为模型服务的重要指标
过去开发者评估图像生成 API,往往更关注画质、风格适配、响应速度、并发稳定性和调用成本。但随着 DALL·E 2 这类模型进入更多真实应用,偏见控制、安全策略和默认输出质量会成为同样重要的采购与接入指标。
对于使用中转 API、统一网关或多模型调度的团队来说,也需要在模型评测中加入安全维度:同一组提示词在不同模型、不同版本或不同供应链路下,输出差异可能很大。尤其是人物相关提示词,建议建立固定测试集,观察不同年龄、职业、地域和身份描述下的结果是否稳定、是否存在明显刻板化。
总体来看,OpenAI 此次围绕 DALL·E 2 的更新,体现了生成式图像模型从“能生成”向“更可靠地生成”演进。对 API 使用者而言,这意味着接入模型时不能只看功能可用,还要关注模型版本变化、默认策略调整以及由此带来的产品体验变化。未来在选择图像生成能力时,安全与公平性很可能会和成本、额度、并发一样,成为开发者评估服务质量的重要组成部分。
