脸书AI人工智能出错,误判洋葱相片为成人内容
Facebook一直使用自动AI系统来检测用户上传的所有图片和视频,并删除不符合Facebook准则的帖子。 但是,由于它不是手动批准的,因此总会有错误。 最近,一位加拿大网民在网站上上传了一张洋葱照片,但被误认为是成人内容,这使他对AI的准确性提出了质疑。
加拿大纽芬兰的一个园艺中心较早上传了一张洋葱照片,并对其出售的洋葱种子做广告,但后来收到了Facebook通知,指该照片违反了禁止色情广告的规定。因此,该照片被删除。
估计,Facebook的AI将洋葱误认为乳房或臀部。 种子商店的经理说表示这很有趣,因为必须具有很大的想象力才能看到这张照片中的成人内容,并希望Facebook可以手动批准该照片。
对于加拿大CBC的询问,Facebook做出了回应,该错误是由其AI审查技术造成的,并称已经恢复了广告并向受影响的商店表达了歉意。