涉（shè）及高层次伦理问题的三项人（rén）工智能标准

IEEE（美国电气（qì）和电（diàn）子工程（chéng）师协会）最新宣（xuān）布（bù）了三项新（xīn）的人工智能发展标准。IEEE 号称为“世界（jiè）上最大的先进技术专（zhuān）业组（zǔ）织”。根据（jù）最（zuì）近（jìn）发布的一份（fèn）报告（gào），他们的人工智能标（biāo）准（zhǔn）将（jiāng）优先考虑人类，因为他们承（chéng）诺要跟上AI领域不断发展的（de）脚步。

在发布的《合乎（hū）伦理（lǐ）的设计（jì）：将人类福祉与人工智能和（hé）自主系统优先考虑的愿景（jǐng）》报告中，共分（fèn）为八个部（bù）部（bù）分（fèn）阐述了新（xīn）的人工智能发展问题。分别是：一（yī）般原（yuán）则，人（rén）工智能系统赋值；指（zhǐ）导（dǎo）伦理学（xué）研究和设（shè）计的方（fāng）法学；通（tōng）用人（rén）工智（zhì）能和超级人工智能的（de）安（ān）全与（yǔ）福祉；个人数（shù）据和个人（rén）访问（wèn）控制；重（chóng）新构造（zào）自动武（wǔ）器（qì）系统；经（jīng）济/人道主义问题；法律。

一（yī）般原（yuán）则涉及高层次伦理问题（tí），适用于（yú）所有类型的人（rén）工智能和自主系（xì）统。在确（què）定一（yī）般原则（zé）时，主要考虑（lǜ）三大因素：体现人权；优先考（kǎo）虑最大化（huà）对人类和自然环境的（de）好处；削弱人（rén）工智能的（de）风险和负面影（yǐng）响（xiǎng）。

人类利益原则（zé）要求考虑如何（hé）确保AI不侵犯人权。责任（rèn）原则涉及如何确（què）保AI是（shì）可以被问责的（de）。为了（le）解决过错问题，避免公众困惑（huò），AI系（xì）统必须在程序层面具（jù）有可（kě）责性，证（zhèng）明其为什（shí）么以特定方式运作。透明性原则意味着自主系统的运（yùn）作必须是透明的。AI是透明（míng）的意味着（zhe）人们能够（gòu）发现其如何（hé）以及为何做（zuò）出特定决（jué）定（dìng）。

在关于如（rú）何将人类规范和道德价值观嵌入AI系统（tǒng）中，报告中（zhōng）表（biǎo）示（shì）由于AI系统在（zài）做决定（dìng）、操（cāo）纵其所处环境等（děng）方（fāng）面越来（lái）越（yuè）具有自主性（xìng），让其（qí）采（cǎi）纳、学（xué）习（xí）并遵守其所（suǒ）服务的社（shè）会和团体的规范和价值是（shì）至（zhì）关重要的。可以（yǐ）分三步来实（shí）现将（jiāng）价值嵌入（rù）AI系（xì）统的目的：第一，识（shí）别（bié）特定社（shè）会或团体的（de）规（guī）范和价值；第二，将这些规范和（hé）价值编写进AI系统（tǒng）；第（dì）三，评估被写（xiě）进AI系统的规（guī）范和价值的有（yǒu）效性，即其（qí）是否（fǒu）和（hé）现（xiàn）实（shí）的规范和价值相一致、相兼容。

虽然（rán）上述（shù）的相关（guān）研究一直在持续，这些研究领域包括（kuò）机器道德（dé）（Machine Morality）、机（jī）器伦（lún）理学（Machine Ethics）、道德机器（Moral Machine）、价值一（yī）致论（Value Alignment）、人工道德（Artificial Morality）、安全AI、友好AI等，但开发能够意识到并理解人类规范和（hé）价值的计算机系（xì）统，并（bìng）让其在做决策时考虑（lǜ）这（zhè）些问（wèn）题，一直困（kùn）扰着人（rén）们。当（dāng）前主要存在两种（zhǒng）路径：自（zì）上而下（xià）的路径和自（zì）下而上的路（lù）径。这（zhè）一领域的研（yán）究需要加强。

报告中还（hái）指出需要指导伦理研究和设计（jì）的方法论，通用人工智（zhì）能和超级人（rén）工智能的安全与福（fú）祉，重（chóng）构自主（zhǔ）武器系统，以及（jí）经济/人道主义问题等八（bā）个人工智能（néng）发展面（miàn）临的（de）问题。报告中收（shōu）集了（le）超过一百位（wèi）来自人工智能领域学术界，科学界，以及政府相（xiàng）关部门的（de）思想领（lǐng）袖的（de）意见，整合了人工智（zhì）能、伦理学、哲学和政策等多（duō）个领（lǐng）域专业（yè）知识（shí）。它的修订版EAD（Ethically Aligned Design） 版（bǎn）本将会在2017年底推出，报告增至为十三个章节，含二百五十（shí）多个全球思想（xiǎng）领袖（xiù）的精华（huá）分享。

IEEE 机器（qì）人和自动化协（xié）会的（de）主席（xí）Satoshi Tadokoro 解（jiě）释了他们为什么想要制定这样的标准（zhǔn）：“机器人和自（zì）动系统将为社会带来重大创新。最近，公（gōng）众越来越关注可能（néng）发生的社会问题，以及（jí）可能产生的巨大潜在利益（yì）。不幸的是，在这些讨论中，可能（néng）会出现一些来自（zì）虚构和想象的（de）错误信息。”

Tadokoro 继续（xù）说（shuō）道：“IEEE 将基于科学和（hé）技（jì）术（shù）的公认事实来引（yǐn）入知识（shí）和智慧，以帮助达（dá）成公共（gòng）决（jué）策（cè），使人类的整体（tǐ）利益最（zuì）大化。”除了AI伦理标准外，还有其他两个人（rén）工智能标准也（yě）被引入报告中，每个项目都（dōu）由领域专（zhuān）家领导。

第一个标准是：“机器化系统、智能（néng）系统和自动（dòng）系统的伦理（lǐ）推动标（biāo）准”。这个（gè）标准探讨了“推动”，在人工智（zhì）能世界里，它指的是AI会影响人类（lèi）行为的微妙行动。第二个标准（zhǔn）是“自动和半（bàn）自（zì）动系统的故障安全设计标（biāo）准”。它包含（hán）了自动技术，如果它（tā）们（men）发（fā）生故障（zhàng），可能（néng）会对（duì）人类造成危害。就目（mù）前而言，最明显的问（wèn）题是自（zì）动驾（jià）驶汽车。第三个标准是“道德化的人工智（zhì）能（néng）和自（zì）动（dòng）系统（tǒng）的福祉（zhǐ）衡量标准”。它阐（chǎn）述了进步的人工智（zhì）能技术如何（hé）有（yǒu）益于人类（lèi）的益处。

这些（xiē）标准的实施（shī）可能比我们想象的要早（zǎo），因为像 OpenAI 和 DeepMind 这（zhè）样的（de）公司越来（lái）越快地推进人工智（zhì）能（néng）的发展，甚至创造出能够自我学习又扩（kuò）大（dà）“智能”领域的人（rén）工智能系统。专家们认为（wéi），这样（yàng）的人工智能会破（pò）坏世（shì）界稳（wěn）定，导（dǎo）致（zhì）大规模的失（shī）业和战争，甚至（zhì）转（zhuǎn）向创造“杀人武器”。最近，联合国的重要讨论促使（shǐ）人们开始认（rèn）真思考，需对将人工智能（néng）技（jì）术当作武器使用进行更严格的监管。