科技改变生活 · 科技引领未来
营销公司Wunderman Thompson的数据小组进行的一项最新研究表明,当对戴着口罩的人进行测试时,成熟的AI系统(如Google AI)存在性别偏见。
这项研究中使用的AI系统来自知名的技术名称,例如Google Cloud Vision,Microsoft Azure的Cognitive Services Computer Vision和IBM的Watson Visual Recognition。
我们都知道AI仍在开发中。此外,随着时间的推移频繁使用它只会变得更好。但是,研究结果表明,男人比女人更倾向于男人。该研究还使很多事情受到质疑。
Wunderman Thompson的数据小组进行的研究检查了视觉AI系统是否以与女性相同的方式对待穿着PPE套件的男性。在不同的条件和质量下总共拍摄了256张性别的图像。
研究中使用的所有AI系统均表现不佳
根据ZDNet的报告,研究中使用的AI系统都无法执行我们可以称做恒星或至少良好的人工智能系统。而且,所有人都发现很难在男人或女人的脸上发现口罩。
但是,戴着口罩的男性面部要比戴着口罩的女性面部更容易识别。Google AI的遮罩研究给出了一些令人震惊的结果。它可以识别出28%的女性图像,因为她们的嘴被胶带覆盖了。而且信心高达95%。其他8%的情况下,人工智能检测到戴口罩的女性,因为他们是面部毛发的女性。
IBM的数字也不是很好。结果显示,有23%的女性戴口罩。同时,在其他23%的案件中,可以肯定的是,妇女戴着链条或约束装置,而不是戴口罩。同时,只有5%的案例显示出预期的结果。
微软的计算机视觉似乎已经被很好地编码。结果表明,有40%的情况是因为女性穿着一些时尚配饰,还不错。在其他14%的时间中,它将女性脸上的面具识别为口红。它只有5%的时间检测到女性脸上的面具。
这项研究对像Google,IBM这样的成熟AI系统的教育提出了质疑
研究人员没有仔细检查这些AI系统的制造者,而是很好地揭示了这些AI系统所面临的偏见。
此外,尽管AI会随着时间的流逝而从学习模式中进行自我教育,但最终最终结果还是由人类来承担。此外,制造商应确保他们反映的是一个中立的社会,而不是普遍存在性别偏见的历史社会。
这将使自动化进入预期的路径。因为如果本地结果令人震惊,那么训练数据肯定存在问题。
李熙远
版权所有 未经许可不得转载
增值电信业务经营许可证备案号:辽ICP备14006349号
网站介绍 商务合作 免责声明