在过去的一年里，人工智能（AI）技术的发展和应用引发了广泛的社会讨论。作为一家专注于研究AI对社会和伦理影响的机构，AI Now研究所已经发布了四份年度报告，其中包括去年的《AI Now Report 2018》。该报告深入分析了2018年的人工智能领域中出现的一系列技术丑闻，并提出了相应的问题解决方案。
为了进一步探讨这些问题，AI Now研究所每年都会举办「AI Now 研讨会」，邀请跨学科的研究者参与到相关话题的讨论中。在第四届研讨会上，组织者以及来自相关领域的学者、律师等人士聚焦于AI带来的负面影响展开了深入探讨。
联合创始人Kate Crawford和Meredith Whittaker在开场致辞中提出五个主要议题：1. 人脸和情感识别；2. AI偏见转变为公平；3. 城市、监视与边界；4. 劳动力、工会与AI；5. AI对气候影响。
首先，他们指出虽然企业和政府正推广使用人脸识别技术，但这项技术缺乏科学依据且存在隐私侵犯问题。例如，在未经个人同意的情况下，一些部门正在秘密访问驾驶执照数据库进行面部识别搜索。此外，有越来越多的声音呼吁限制或禁止这种技术使用，比如ACLU等组织，以及一些城市通过立法禁止其使用。
接着，他们谈到了从狭隘地追求去除偏见转向关注公正。这是由许多令人不安的事例所推动，如密歇根州自动化决策系统MiDAS错误标记大量居民涉嫌福利欺诈，这种情况暴露了预测性警务软件可能基于有误导性的记录而产生歧视性结果。
最后，他们强调改变数据记录方式至关重要，而不是仅仅删除某些数据集中的特定变量。此外，还有艺术作品如Trevor Paglen与Kate Crawford合作的Training Humans展览，对训练机器学习系统所用的数据进行审视，为我们展示了分类过程背后的逻辑及其潜在后果。
总之，从今年「AI Now 研究所」研讨会上可以看出，尽管科技进步迅速，但如何确保这些新工具不会被滥用并造成更大的不公，是当前社会迫切需要解决的问题。
