监控已部署的机器学型验证同样重要,这不仅体现在模型质量下降方面,还体现在偏差/公平性、准确性、鲁棒性、隐私性、安全性和可解释性等方面。模型的可解释性经常被讨论,但故障可解释性也同样重要,因为它是调试和修复模型的必要条件。
我们知道如何创建成熟的 RAI 文化,但我们对道德咨询委员会了解不够
正如伦理人工智能成熟度模型所示,以及一些发言者指出,创建负责任的人工智能实践的第一步是制定员工知晓、理解并遵守的道德准则或指导原则。大多数与会组织都广泛实施了员工培训,但一个关键问题是如何衡量培训项目的有效性。RAI Champions 也被提及是成功 RAI 实践的组成部分。
员工可以接受道德培训,但如果缺乏相应的文化、框架和工具来支持工作,培训就毫无意义,甚至 手机号数据库列表 可能导致“器官排斥”(正如一位发言者所描述的)。这种动态可能会导致道德洗牌,人们为了尽快通过“勾选框”而敷衍了事。这引出了一个问题:哪些激励措施真正有效地让人们认同 RAI 的需求?每个组织的情况各不相同,但一些通用的激励措施适用于许多公司和受众。
一些公司设有道德咨询委员会,其组成各不相同。关于道德委员会的文献很少,包括成功指标,但其主要目的通常是邀请各种专业知识来指导伦理使用决策。伦理问题并非某个人或一家公司可以独自决定;我们需要各方观点和人员提出尖锐问题并提供建议。分享关于使用道德委员会的最佳实践和经验教训将使该领域受益。