英国的独立隐私管理机构不希望公司或社会组织使用基于生物特征的情绪分析系统，认为这是一项未经测试的新生技术，甚至可能根本无法实现。英国信息专员办公室（ICO）最近对希望部署基于人工智能的情感分析技术的公司和组织发出了严厉的警告，称这些系统似乎还没有发挥作用，而且有可能永远无法准确运作。
英国信息专员办公室未来监管执行主任斯蒂芬·邦纳说，识别和区分人们情绪的机器学习算法是"不成熟的"。他说，这种技术带来的风险大于可能带来的好处。
"情绪化"的人工智能是ICO关注的问题，因为目前还没有以满足数据保护要求、公平性和透明度的方式开发的系统。邦纳建议，唯一可持续的生物识别技术是那些"功能齐全、负责任、有科学支持的技术"，而情感分析算法都不是这样的。
情绪分析技术处理的数据包括凝视跟踪、情绪分析、面部运动、步态分析、心跳、面部表情和皮肤水分监测。这些数据为工人的身体健康、考试期间的学生等提供监测功能。ICO警告说，旨在识别情绪的人工智能系统可能表现出系统性的偏见、不准确，甚至对特定的特征和面部特征的歧视。
情绪分析人工智能通常与复杂的生物识别系统相搭配，因为除了面部图像本身，它还需要管理大量的个人信息。除了算法的有用性，关于这些系统如何记录和存储数据，还有一个值得关注的原因。"下意识的行为或情绪反应"比传统的生物识别技术风险更大。
由于官员们还不能信任情感分析技术，ICO警告说，使用它的组织"对弱势群体构成了风险"，将面临调查。该办公室建议公司至少再等一年才能部署商业情感AI。
同时，隐私监督机构正在制定一个全面的"生物识别指南"，涉及如何以适当和非歧视的方式处理生物识别数据，包括面部特征、指纹和声音样本。
ICO预计将在2023年春季之前发布指南。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】