OpenAI的图像生成器DALL-E现在可以编辑人脸了

图片.png

该功能将让用户以多种不同方式编辑图像。例如，他们可以上传某人的照片并生成图片的变体，或者他们可以编辑特定的特征，比如改变某人的服装或发型。该功能无疑将对创意行业的许多用户有用，从摄影师到电影制片人。

"随着我们的安全系统的改进，DALL-E现在已经准备好支持这些令人愉快和重要的用例--同时最大限度地减少深度伪造的潜在危害，"OpenAI在宣布这一消息的致客户的信中说。

这一决定是人工智能艺术生成器的制造商与他们自己的用户正在进行的协商的一部分，因为他们试图驾驭该技术的潜在危害。作为一家资金雄厚、与微软等科技巨头有联系的公司，OpenAI采取了相对谨慎的态度。但该公司已被稳定扩散公司等竞争对手超越，该公司对用户的限制较少。这导致了技术的快速发展，但也使恶意的应用变得更加容易。例如，Stable Diffusion已经被用来生成名人的Deepfake情色内容。

对于OpenAI来说，用DALL-E来阻止这种露骨的材料应该是很容易的。该公司的使用条款也禁止用户在未经同意的情况下上传人物图像（尽管在其目前的访问模式下，这基本上是不可能主动执行的）。然而，没有任何内容过滤器是完美的，可能存在比未经同意的色情内容更微妙的有害用例。