公平性偏见与伦理

创造了机器学习系统要确保系统是合理公平合理无偏见的并且在应用中采用了伦理的方法例如一些招聘工具歧视女性人脸识别总是吧深色皮肤的人与犯罪照片匹配有些系统在发放银行贷款的时候存在偏见其实某一些子群体希望算法不会出现强化刻板印象除了偏见和对待个人的公平问题机器学习还存在一写不良使用案例或者说是负面使用案例例如使用宽度和深度伪造视频如黑化总统奥巴马用机器学习生成虚假内容用机器学习构建有害产品或者欺诈让机器学习更公平的意见在造成危害系统之前尝试组件一个多元化的团队来集思广益讨论可能出错的事情特别关注对弱势群体可能造成的伤害进行文献搜索查找所在行业的特定领域的任何标准或者指南例如在金融行业贷款系统如何才能被认为是合理的公平且无偏差的这些在不同领域出现的标准可以可以根据我们正在从事的工作来指导工作在识别出可能得问题之后根据这些已识别的可能危害维度对系统进行审计在部署前是有用的例如在自动驾驶汽车上路之前自动驾驶汽车团队都已经制定了对车辆发生事故的缓解计划以便在车辆发生事故之后可以立即执行缓解计划而不是在事故发生之后从匆忙想办法