编译 杏花编辑 青暮对于某些任务，人工智能系统已经取得了令人瞩目的进展，可以被部署到我们的道路和家中。比如，物体识别可以帮助汽车更好地理解道路环境；语音识别则有助于个性化语音助手（如Siri和Alexa）与我们进行更加流畅的交流。对于其他任务，人工智能系统甚至能够超越人类表现，如AlphaGo，这是第一个击败世界顶尖围棋选手的计算机程序。
人工智能的前景无限广阔，它们将开启我们的车门，让医生诊断疾病更准确、法官做出更加公正的判决，并帮助雇主选择最合适的人才。
然而，我们也清楚地认识到这些人工智能系统可能是不完美且不公正的。在停车标志上涂鸦可以欺骗分类器，使其误认为这是另一件事。而向良性皮肤病变图像添加噪声同样能诱使分类器错误判断为恶性的。此外，美国法院使用的一些风险评估工具已被证明对黑人的处理存在偏见，而企业招聘工具也显示出了对女性持有的歧视倾向。
那么，我们如何才能实现AI带来的好处，同时解决这些对人类和社会来说至关重要的问题？简而言之，我们如何才能构建可信赖的人工智能？
本文旨在团结计算机科学界专家，从多个研究领域汇聚专业知识和情感支持，可持续发展的人工智能项目。本文重点探讨三个关键问题：首先，在可信计算基础上增加新的属性需求；其次，对数据使用提出的全新挑战以及技术创新；最后，对确保AI可信度所需正式方法审查。通过将形式方法、可信计算与AI领域研究人员相结合，我们希望培养一个跨学术界、产业界及政府层面的新型研究社区，以推动在AI领域内建立一致且长期稳定的合作关系。
周以真是一位双Fellow（ACM和IEEE），华人女计算机科学家，她曾任职于卡内基-梅隆大学教授，并担任过美国国家自然基金会计算与信息科学工程部助理部长。她主要从事形式方法、可信计算、分布式系统及编程语言等领域研究。在哥伦比亚大学担任数据科学研究所主任兼教授，她一直致力于网络安全、大数据隐私以及人工智能等方面深入探究。周以真不仅是在国际学术界知名人物，而且也是她所在社区中的引领者，为推动科技进步贡献了宝贵智慧。
自1999年国科院发表《网络空间信任》报告以来，可信计算成为一项不断发展的话题。这份报告奠定了未来AI发展不可或缺的基础。随后，一系列关于网络安全和隐私保护项目陆续启动，其中包括2001年的“可靠计算”计划，以及2004年的“网络安全”计划等，这些都是为了加强IT行业内部安全保障措施而设计的。此外，2011年还推出了“安全并且可靠”的网络空间项目，该项目旨在提升整个国家级互联网防护能力。
除了学术界，还有许多工业巨头积极参与这一运动，比如微软CEO比尔·盖茨在2002年发布了一份备忘录，他详细解释了他公司如何重视软件产品及其硬件平台上的用户隐私权益。他指出四大支柱，即安全性、私密性、商业诚信以及实用性，是维护用户利益必须遵循的一系列原则。
经过20年的努力与研发突破，“可靠”现在代表了一组交叉相关属性：
可靠：它是否正确执行预定的操作？
安全：它是否免受潜在威胁？
保密：它是否有效阻止未授权访问？
隐私：它是否保护个人身份信息？
实用性：它是否易于使用？
虽然过去几十年里学术界和产业界都取得了显著成就，但随着技术日新月异，加强这类系统防御仍然面临重大挑战。
此外，在考虑应用AI时，还需要进一步扩展我们对于“正确”的定义，因为目前还没有统一标准来衡量不同场景下的正确率。
例如，当人们谈论精度时，他们通常意味着模型输出结果与训练集中的目标值之间的一致程度。但实际情况中，每种决策背后都隐藏着复杂的情境因素，这要求我们重新思考什么才是真正意义上的精度，并尝试找到平衡点，以便最大限度地减少负面影响，同时保持高效运行。
透明度是一个特别重要的问题，因为只有当我们了解模型作出的决定是如何得出的时，那么这个过程才能得到充分验证并获得人们接受。
因此，要想让每个人都能相信这种技术，就必须逐渐提高它们各自应有的透明度，让所有相关方都能看到它们背后的逻辑链条，从而增强整体认知水平。
总之，无论是在哪个阶段，无论采用何种方式，只要能够保证每一次投入产生的是一种既符合最高标准又始终追求最佳实践的人类价值观念，那么即使最复杂的事情，也必将迎刃而解，最终实现真正意义上的成功。
