DALL-E 2 的偏见 为什么人类需要领先 AI 一步

 手游巴士（www.shouyoubus.com）2022年04月23日讯:不久前人类需要做更高层次的道德规划和严肃设计. 随着研究组“Open AI”发布的图像创建算法“DALL-E 2”，许多业内人士的头脑变得复杂起来。它是一种算法，只需输入文字即可绘制图片，并将与之对应的图像以高分辨率、完美的数字打印方式显示出来。虽然目前还没有普遍使用，但研究团队会披露每天通过他们的 Instagram 帐户出来的图片，并经常显示通过评论收到的输入句子的结果。 

当一项新技术问世时，就像在任何市场上一样，各种商业理念都会升温。越来越多的人正在尝试如何赚钱。越来越多的人尝试将其应用到使用 API（应用程序编程接口）的领域，例如尝试将其用作营销辅助、教育内容规划或推广 AI 设计。 

原因可以从两个主要方面看出。首先，它是一种解决以前未解决问题的工具的方法。对于以影响力投资（追求利润和价值的投资）为目标的初创企业，他们期望通过出色地利用技术提供解决方案。二是不能假装看不到摇板技巧的恐惧。例如，在内容行业，DALL-E 2 等技术无法传承。有压力去尝试一些东西。 

他们中的大多数人将面临与 DALL-E 2 相同的技术无法在市场上使用的问题。DALL-E 2 单独检测到一定程度的偏差。例如，当被要求画手掌时，会出现一张看起来是白人男性手的图片。Open AI 方面也以 DALL-E 2 的性别和职业偏见以及对多样性的偏见为例，清楚地解释了 DALL-E 2 的偏见。  

将“婚礼”输入 DALL-E 2 时创建的图像，DALL-E 2 是由美国非营利研究组织“OpenAI”提出的图像生成算法。所有的形象都是建立在西方社会异性结合的前提下的。ⓒDALL-E 2 模型卡（https://github.com/openai/dalle-2-preview/blob/main/system-card.md）

在某些情况下，例如开放式 AI，会提供一个模型卡，明确指定可能的风险（一份指定并解释如何使用算法的文档），但有许多源技术提供者没有这样做。在每一个技术转折点，都会有大量尝试寻找解决新技术问题的方法，并研究将它们引入现实世界的可能性。每一次，都需要仔细检查这项底层技术是否存在任何风险，以及它将对人们产生什么影响。

《系统错误：大科技时代的伦理》一书的作者斯坦福大学教授强调，人工智能技术现在已经成为一个棘手的系统性问题，不能靠个人的注意力来解决。因此，作者认为，以民主为基础的组织应该主动处理和规范问题，以便新技术能够为社会带来好处。 

现在，对技术进行热烈评论或对反乌托邦进行批评的时代已经过去。这是一个许多选择与我们的生活直接相关的时代。对于众多人工智能程序的超验成果，我们人类必须进行更高层次的道德规划和认真的设计。