站长之家(ChinaZ.com) 2月24日 消息:谷歌周五承认，其人工智能工具Gemini在生成历史人物图像时出现错误，导致图像显示出明显的种族偏差。
本周早些时候，媒体发现Gemini生成了不同种族的纳粹分子和美国开国元勋的图像。例如，当提示生成“1800年代美国参议员”的图像时，Gemini生成了一名黑人男性。
谷歌高级副总裁普拉巴卡尔·拉加万 （Prabhakar Raghavan） 在一篇博文中解释说，这个问题源于Gemini在设计时为了确保图像多样性而进行的调整。他说，这些调整导致模型在某些情况下“过度补偿”，例如将纳粹分子生成黑人。
此外，拉加万还表示，Gemini模型随着时间的推移变得过于保守，并拒绝回答某些提示，例如生成“黑人”或“白人”的图像。
由于这些问题，谷歌于2月22日暂停了Gemini生成人物图像的功能。拉加万表示，谷歌将继续测试Gemini，并在重新启用之前“努力显着改进它”。
拉加万强调，谷歌希望Gemini能够为每个人提供良好的服务，这意味着用户应该能够得到不同种族和文化背景的人的图像。然而，他也指出，当用户提示特定类型的人的图像时，例如“教室里的黑人老师”，模型应该能够准确反映用户的要求。
拉加万最后承认，人工智能生成图像仍然存在挑战，例如幻觉现象，导致模型在某些情况下会出错。他表示，谷歌将继续努力改进人工智能技术，以克服这些挑战。
（举报）