《以伦理为基准的设计》 - IEEE China

《《以伦理为基准的设计》 - IEEE China》由会员上传分享，免费在线阅读，更多相关内容在学术论文-天天文库。

1、ClickheretogobacktomainChinaCommitteePage《以伦理为基准的设计》--在人工智能及自主系统中将人类福祉摆在优先地位的愿景（第一版）为了从人工智能及自主系统（AI/AS）的潜力中充分获益，我们需要超越臆想，不局限于只是寻找更多计算的能力或解决问题的能力。我们需要确保这些技术与人类在道德价值观和伦理原则方面保持一致。人工智能及自主系统远不止于是实现功能性的目标和解决技术问题，而必须以一种造福于人们的方式行事，才能使人类与技术之间达成崇高的信任，让人工智能及自主系统能够在日常生活中被人们建设性地普遍使用。正如亚里士多德所阐述的“幸福（Eud

2、aimonia）”，它是一种将人类福祉定义为社会最高美德的实践。幸福大致理解为“繁荣”，它始于有意识的沉思，对伦理的思考有助于定义我们希望怎样生活。通过将人工智能及自主系统的创造与其用户和社会的价值观保持一致，我们优先将人类福祉的增加作为算法时代进步的指标。我们是谁？电气电子工程师学会（IEEE）关于人工智能及自主系统的伦理考虑的全球倡议（”IEEE全球倡议”）是IEEE的一个项目。IEEE是世界上最大的专业技术组织，致力于推进技术发展,造福人类，该组织在160多个国家拥有超过40万会员。IEEE全球倡议为人工智能及自主系统社群提供了一个汇集多种声音的机会，以便大家及时发

3、现问题并形成共识。IEEE将根据《知识共享署名-非商业性使用-相同方式共享3.0美国许可证》制定《伦理准则设计》（EAD）。根据该许可证的条款，组织或个人可以随时自行采纳本文件的各方面内容。还拟选取《伦理准则设计》的内容和主题提交正式的IEEE流程，其中包括标准制定等。IEEE全球倡议和《伦理准则设计》使得IEEE在更广泛的范围推出新项目，致力于在技术伦理领域开展开放、宽泛和包容的对话，这个项目被称为IEEETechEthics™。IEEE全球倡议的使命确保每位技术专家得到教育、培训和赋权，并在自主和智能系统的设计和开发中会优先考虑伦理问题。Clickheretogoba

4、cktomainChinaCommitteePage“技术专家”，在这指的是任何参与人工智能及自主系统的研究、设计、制造或信息交流的人，包括实现这些技术的大学、组织和公司。本文件体现了100多名全球思想领袖的集体智慧，他们分别来自学术界、科学界、政府和企业界，从事人工智能、法律和伦理、哲学、政策领域的相关工作。我们的目标是希望《伦理准则设计》中同仁们提供的见解和建议能为人工智能及自主系统技术专家未来的工作提供关键参考。为了实现这一目标，当前版本《伦理准则设计V1》（EADv1）确定了人工智能及自主系统的领域中的问题并提出了可选建议。IEEE全球倡议的第二个目标是基于《伦理

5、准则设计》为开发IEEE标准提供建议。IEEEP7000™－解决系统设计时伦理问题的流程模型，是第一个受到该倡议启发的IEEE标准项目（已批准并且正在开发中）。另外两个标准项目，IEEEP7001™－自主系统的透明度和IEEEP7002™－数据隐私流程也已被批准。由此可见，该倡议对人工智能及自主系统的伦理问题产生了实质性影响。结构和内容伦理准则设计包括八个部分，每个部分围绕着一个与人工智能及自主系统有关的特定话题进行阐述，分别由IEEE全球倡议相应的委员会组织探讨。每个委员会都列出了涉及的议题及其可选建议。以下是各委员会的摘要以及各个部分所涉及的问题：一、一般原则一般原则

6、委员会已清晰地說明适用于所有类型人工智能及自主系统的一般性的伦理关注，即：1.体现人权的最高理想；2.排列出对人类和自然环境最大利益的优先顺序；3.随着人工智能及自主系统逐渐演化成为社会技术系统，缓解其带来的风险和负面影响。委员会的目标是将其确定的原则、议题和建议选项，最终用于巩固和支撑人工智能及自主系统新伦理治理框架下的未来规范和标准。议题：ClickheretogobacktomainChinaCommitteePage●我们如何确保人工智能及自主系统不侵犯人权？（制定人权原则）●我们如何保证人工智能及自主系统是可以问责的？（制定责任原则）●我们如何确保人工智能及自主

7、系统是公开透明的？（制定公开透明原则）●我们如何扩大人工智能及自主系统技术所带来的利益，最小化其被滥用的风险？（制定教育和认知原则）二、将价值观嵌入自主智能系统为了开发成功而有益于社会的自主智能系统，对技术社群至关重要的是，需要理解和能够将相关的人类规范或价值观嵌入到他们的系统中。“价值观嵌入自主智能系统委员会”针对嵌入价值观于自主智能系统已采取了较宽广的目标，以三管齐下的方式协助设计者：1.识别受自主智能系统影响的特定社群的规范和价值观；2.将这些特定社群的规范和价值观建置于自主智能系统中；以及3.评估社群中的这些规范和价值