人工智能领先企业OpenAI周四发布博客文章，将拨出100万美元，分为10笔等额奖金，用于激励外部AI治理方案的提出。任何人都可以申请OpenAI的资助计划，提出可靠的代码程序来决定人工智能系统应该遵循哪些规则，从而帮助AI系统解决偏见和其他问题。申请期将在6月24日晚9点结束，随后，OpenAI将选出十名获奖者发放奖金。
申请人需要向OpenAI展示一个至少有500人参与的民主决策过程，并在10月20日之前发布公开报告，并开源相关的代码。
该计划正巧在OpenAI首席执行官SamAltman的国会听证会后发布。在国会作证中，Altman曾恳切呼吁当局成立一个监管人工智能的专属机构。此外，Altman最近还表示，如果欧盟通过了过于严苛的AI法规的话，OpenAI将离开欧盟。
综合考虑之下，这一计划更像是OpenAI在推出自己掌握了主动权的监管方案，并以此向政府提供基准。
非商业利益的考量
Altman曾在听证会上抛出一个观点，人工智能的创新非常之快，因此不能指望当局可以充分控制技术。
现如今，OpenAI打算将个人、团体和组织等一起囊括入人工智能“民主进程”的开发验证之中，借用外部力量完成实验，为未来的人工智能治理提供方向。
OpenAI表示，最初的实验并不会对人工智能系统的决策产生约束力，但希望这些实验可以探索与决策相关的问题，以便在未来更直接地为决策提供信息。
理想情况下，OpenAI希望这一计划可以产生一个这样的过程：一群具有广泛代表性的人交换意见并经过深思熟虑的讨论，最后以透明的方式进行决策。
更落地一些，这一过程将帮助人工智能解决诸如，何时AI应该谴责或批评公众人物，或者有争议的观点如何输出这样的问题。
OpenAI在公告中称，赠款的主要目的是促进流程创新，关于人工智能行为的决策应该由反映公众利益的不同观点来决定。其还暗示该资助计划完全不带商业利益色彩，但结合欧盟的AI监管法案，这一计划的出台仍有一些“自救”的意味。
不过，即使该项目是OpenAI商业计划中的一环，其人为人工智能决策发展提供了一个有趣的观察窗口，人们可以了解关于AI治理的更多想法，同时从OpenAI选择的获奖人身上获得一些OpenAI未来发展的线索。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】