OpenAI宣布卡内基梅隆大学ZicoKolter教授任命为董事会成员。Kolter还将加入董事会的安全与保障委员会该委员会负责为所有OpenAI项目的关键安全决策提出建议。
“我很高兴宣布加入OpenAI董事会。”卡内基梅隆大学计算机学院机器学习部门负责人Kolter表示，“我期待分享我在人工智能安全性和稳健性方面的观点和专业知识，以帮助指导OpenAI所做的出色工作。”
Kolter的工作主要集中在人工智能安全、对齐和机器学习分类器的稳健性上。他的研究和专业知识涵盖新的深度网络架构、理解数据对模型影响的创新方法以及评估AI模型稳健性的自动化方法，这使他成为OpenAI治理的宝贵技术总监。
OpenAI董事会主席BretTaylor表示：Zico在人工智能安全性和稳健性方面增加了深厚的技术理解和视角，这将帮助我们确保通用人工智能造福全人类。
Kolter是CMU计算机科学系12年来的关键人物、软件和社会系统部、机器人研究所、CyLab安全与隐私研究所以及工程学院电气与计算机工程系2010年，他在斯坦福大学获得计算机科学博士学位，随后于2010年至2012年在麻省理工学院获得博士后奖学金。
在他的职业生涯中，他为机器学习领域做出了重大贡献，在神经信息处理系统会议(NeurIPS)、国际机器学习会议(ICML)和国际人工智能与统计会议(AISTATS)等著名会议上撰写了许多获奖论文。
Kolter的研究包括开发第一种创建具有保证鲁棒性的深度学习模型的方法。他还开创了使用神经网络层中的经典优化将硬约束嵌入AI模型的技术。
最近，在2023年，他的团队开发了创新方法用于自动评估大型语言模型的安全性，展示了通过自动优化技术绕过现有模型保护措施的潜力。
除了学术追求之外，Kolter在其整个职业生涯中一直与行业密切合作，曾担任C3.ai的首席数据科学家，目前担任博世的首席专家和GraySwan的首席技术顾问，GraySwan是一家专注于人工智能安全和安保的初创公司。
相关文章
头条焦点
精彩导读
关注我们
【查看完整讨论话题】 | 【用户登录】 | 【用户注册】