【标题】微软AI工程主管揭露Copilot Designer生成恶心图片的问题
【核心内容】
- 微软AI工程主管Shane Jones测试Copilot Designer发现其生成的图像常常与微软宣称的负责任AI原则相违背。
- Copilot Designer描绘出恶魔、怪物、堕胎权、携带半自动步枪的青少年、女性色情图像等不当内容。
- Jones上报问题，微软承认问题但拒绝下架产品，OpenAI也未回复。
- Jones向美国联邦贸易委员会和微软董事会发出函件，要求撤下产品和进行独立审查。
【评论内容】 小红书用户：这个AI生成的图像真是太过分了，堕胎权、暴力、色情，太恶心了！微软怎么能不下架这个产品呢？ 微信公众号读者：AI生成的图像本来就是根据输入的提示词来生成的，没什么问题吧，只是图像而已。微软不应该被迫改变任何事情。
" 【标题】微软AI图像生成器Copilot Designer被指生成不当内容，员工向联邦贸易委员会举报
【核心内容】
- 微软AI图像生成器Copilot Designer被指生成色情、暴力等不当内容。
- 微软AI工程主管Shane Jones发现这一问题，并向公司内部上报，但未得到有效解决。
- Jones向美国联邦贸易委员会（FTC）主席Lina Khan及微软董事会再次建议。
- 微软承认问题，但拒绝下架产品，称需加强内部报告渠道以解决问题。
【评论内容】 小红书用户： “这大大出乎我的意料，我也第一次意识到，现在的AI服务实在称不上安全。”
微信公众号读者： “我认为这是一封荒谬的信。除商标侵权外，您提到的所有图像都是您可以在互联网和视频游戏中找到的图像。政府没有业务立法道德，查看此类图像是父母应该与孩子讨论的个人决定，但 Microsoft 不应该被迫改变任何事情。他们不应该从事审查工作。如果存在商标侵权行为，则应向相关机构报告。”
【网友看法】
- 有人赞扬Jones的奉献精神，认为这是促进负责任的AI的一种方式。
- 有人认为Jones在吹毛求疵，认为微软无需采取过多措施。
- 有人认为微软已经在尽力解决这些问题，例如在输入特定提示时会返回警告信息。
【总结】 微软AI图像生成器Copilot Designer被指生成不当内容，员工向联邦贸易委员会举报。虽然微软承认问题，但拒绝下架产品，称需加强内部报告渠道以解决问题。网友对此看法不一，有人支持Jones的举报行为，认为这是促进负责任的AI的一种方式；也有人认为Jones在吹毛求疵，认为微软无需采取过多措施。"