研究显示部分开源 AI 系统存在“偏见”，导致有色人种和儿童面临更高的安全风险

惊蛰财经 • 2023年8月27日 pm11:38 • 未分类 • 阅读 107

据 IT 之家 8 月 27 日报道，一项新的研究发现，自动驾驶汽车中的行人检测软件可能对不同肤色、性别和年龄的行人有不同的识别效果，导致有色人种和儿童面临更高的安全风险。这项研究由英国和中国的研究团队共同完成，他们测试了八种流行的行人检测软件在不同情况下的准确性。结果显示，性别对识别效果的影响较小，但肤色和年龄则有明显的差异。相比于浅肤色和成年人，深肤色和儿童被检测到的概率分别低了 7.52% 和 19.67%。

研究团队认为，这种偏见是由于许多公司使用的开源 AI 系统中存在的偏见造成的。这些开源 AI 系统是基于大量数据训练出来的，但这些数据并不一定能代表真实世界中的多样性。因此，当这些 AI 系统被用于自动驾驶汽车时，就可能出现对某些群体不公平或歧视的情况。