微软 Designer 人工智能图像创建器再次被举报

今年 1 月，一位名叫谢恩-琼斯（Shane Jones）的微软员工致信华盛顿州总检察长鲍勃-弗格森（Bob Ferguson）以及多位美国参议员和众议员。琼斯声称，他发现微软基于人工智能的艺术制作工具 Designer（前身为必应图像创作工具）的防护栏存在问题。今天，琼斯又提出了新的说法，称 Designer 可以通过一些文字提示来创建暴力和性图片，而这本是微软不允许的。

据 CNBC 报道，琼斯今天向美国联邦贸易委员会主席莉娜-汗（Lina Khan）发出了新的信件，同时还向微软董事会发出了另一封信。在给可汗的信中，琼斯声称他已经敦促微软将 Designer 从公众使用中移除几个月，直到新的、更好的防护措施到位为止。

琼斯称，微软拒绝移除 Designer，因此他现在要求该公司对 Designer 可以创建的内容进行新的披露，并更改 Android 应用程序的评级，使其不再被评为 E 级（面向所有人）。

CNBC 称，琼斯声称他在 Designer 中输入了 "Pro-choice"（支持选择），随后 Designer 制作了大量暴力卡通形象。CNBC 表示：

CNBC 浏览了这些图片，其中包括一个长着尖牙的恶魔正准备吃掉一个婴儿，达斯-维达手持光剑，旁边是变异的婴儿，还有一个标有 "支持选择" 字样的手持钻头状装置正被用于一个完全长大的婴儿身上。

前微软 Windows Phone 主管称无线运营商销售人员损害了其前景

琼斯还声称，Designer 可以用来制作迪斯尼公司受版权保护的人物形象。文章称，它看到了诸如 "星球大战品牌的百威淡啤罐和白雪公主的肖像在 vape 上" 的图片。

在发给 CNBC 的一份声明中，微软发言人表示，微软感谢公司员工为测试其技术和服务所做的努力，以帮助他们更安全地使用这些技术和服务。该发言人补充道：

当涉及到安全绕过或可能对我们的服务或合作伙伴产生潜在影响的问题时，我们已经建立了强大的内部报告渠道，以妥善调查和补救任何问题，我们鼓励员工利用这些渠道，以便我们能够适当地验证和测试他们的担忧。

今年 2 月，谷歌关闭了双子座人工智能聊天机器人中使用的人工智能图像生成器，因为发现它可能被用于创建具有种族攻击性的图像。该公司表示，它正在设置新的防护措施，以便该功能恢复后不会再生成同样的图片。

在琼斯提出这些新说法的同时，反数字仇恨中心（Center for Countering Digital Hate）的最新研究表明，包括微软在内的人工智能艺术制作者可以轻易地被用来制作旨在制造有关选举和候选人的虚假信息的图像。