对人工智能的担忧通常围绕错误信息或技术逃避人类控制的可能性等问题。然而，今天可以说更真正的担忧是政府如何利用人工智能以及他们对其缺陷的机构理解（或缺乏）。例如，英国政府似乎以可能被认为仓促且可能不安全的速度接受了这项技术。
据《卫报》报道，多个英国政府机构已开始利用人工智能，以显着影响普通人的日常生活。该技术现在在各种程序中发挥着作用，从逮捕和办理结婚证再到福利发放。
甚至在人工智能成为广泛讨论的趋势之前，警方使用面部识别系统就一直存在争议。批评者长期以来一直警告其潜在的不准确性，尤其是在分析肤色较深的受试者时。这种不准确的情况在过去甚至导致了错误的拘留。尽管意识到这些缺点，伦敦大都会警察局仍然继续使用面部识别，并进行可能会损害该技术的修改。
英国国家物理实验室表示，系统在默认设置下通常保持较低的错误率。然而，如果伦敦警察厅为了更快地识别嫌疑人而降低其敏感度就会导致更多的误报。因此，系统对黑人的准确度会降低，与对白人的准确度相比，准确度低五倍。
此外，政府用于批准福利和结婚证的基于人工智能的工具已显示出歧视来自某些国家的申请人的倾向。一名议员强调了近年来发生的许多福利被莫名其妙地暂停的情况，使个人处于被驱逐和极端贫困的边缘。可疑的根本问题是工作和养老金部(DWP)用于检测福利欺诈的系统，该系统部分依赖于人工智能。
即使没有大量证据表明存在欺诈行为，该工具也会不成比例地标记保加利亚国民。DWP坚称该系统不考虑国籍。然而，他们承认没有完全掌握人工智能的内部运作方式，了解到系统控制偏见的能力有限并且担心坏人可能会操纵系统。
同样，内政部也面临着人工智能驱动工具的挑战，该工具旨在识别假婚姻。虽然该系统简化了结婚证的审批流程，但内部评估发现了大量误报，特别是来自希腊、阿尔巴尼亚、保加利亚和罗马尼亚的申请人。
政府在人工智能的部署中可能还存在其他疏忽，但如果没有相关部门的透明数据，很难查明它们。
对人工智能局限性的误解已在其他政府和法律机构内部引发了严重事件。今年早些时候，一名美国律师试图使用ChatGPT引用联邦法院备案的案例，结果发现所有这些都是聊天机器人捏造的。这些案例越来越多地证明，人工智能的真正风险可能更多地源于人类的滥用，而不是技术本身。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】