最近，全球的一些人工智能各企（qǐ）业都很关注AI的法规，欧盟也出了《人工（gōng）智能白皮书》来监管AI市场。人（rén）工智能（néng）法规的陆续推（tuī）出，约束AI进一（yī）步走向正（zhèng）规化 ，规（guī）避一些不法分（fèn）子在AI上的不好（hǎo）想法来获利。

科技是（shì）把双（shuāng）刃剑，当人工智能技术大规（guī）模应用于社会时（shí），我们必须考虑（lǜ）它所带来的负面效果。

现代是（shì）一个文明（míng）社会，大众除了道（dào）德限制还有法律对自身（shēn）行为进行约束（shù），但（dàn）开（kāi）发者进（jìn）行应用开（kāi）发时，是否考（kǎo）虑到（dào）输入给机器（qì）的数据（jù）是否符合“法规”，特别是近年来人（rén）机交（jiāo）互的数（shù）量（liàng）急剧增加，从而使（shǐ）得AI监管问题的讨论变得更为热烈。

感（gǎn）官的欺骗

视觉与听觉是我们对（duì）外（wài）界感（gǎn）知的重要（yào）窗口（kǒu），大众的观念（niàn）中普遍认为“人的第一印（yìn）象很重要”“眼见为实（shí），耳（ěr）听为（wéi）虚（xū）”。

但面对信息错综复杂的世界，如（rú）今眼见也不（bú）一定为实，听（tīng）到的则（zé）可能更为虚假。曾经被议论的Deepfake换（huàn）脸技术就属于罪（zuì）魁祸首之（zhī）一（yī），其利用了AI深度学习（xí）功（gōng）能，通（tōng）过数以亿计的自我学习、神（shén）经网络训练，AI能够识（shí）别出画（huà）面中那些和周（zhōu）围场（chǎng）景（jǐng）格格不入（rù）的部分，同时将其移（yí）走和生成缺失的像素，最后重绘出部分像（xiàng）素进行画面填补（bǔ）。

谷歌公司也曾推出WaveNet软件，可以利用其神经网络系统对原始音频（pín）波形进行建模，生成带有不同语气音节和情感表达的人类自然语言（yán）的（de）音频。

外媒（méi）曾报道过一（yī）例案（àn）件，不法分子就（jiù）利用了类似的AI技术，成功模仿了（le）英国（guó）某能源公司CEO的声音（yīn），诈骗了220，000欧元，执法当局（jú）认为此种类（lèi）案件的（de）调查取（qǔ）证（zhèng）更为困难（nán）。

AI道德准则

2019年，我国首次（cì）将（jiāng）AI造（zào）假（jiǎ）音视频（pín）列入法规，国家网（wǎng）信办出台《网络音视（shì）频信息服务管理规定》。

对（duì）于利用基于深度学习（xí）、虚拟现实等新（xīn）技术（shù）新应用制作（zuò）、发布、传播非真（zhēn）实音视频信息的（de）网络音视频：，应当以显著方式予以（yǐ）标识（shí），不（bú）得利用其制作、发布、传（chuán）播（bō）虚假（jiǎ）新闻信息；网络（luò）音（yīn）视频信息服务提供者（zhě）应当部署应用违法违规音视（shì）频以及非真实音视（shì）频鉴别技（jì）术，应（yīng）当建立健全辟谣机制。

日前，欧盟（méng）也相继出（chū）台《人工智能白皮书（shū）》，对（duì）人工智（zhì）能领（lǐng）域的投资监管路径设立双重目标，旨在推动（dòng）道德和可信赖人工智能（néng）的（de）发（fā）展。并通过建设“卓越生态系统”和“信任生态（tài）系（xì）统”双重系（xì）统，构（gòu）建一（yī）个（gè）卓越的（de）、可（kě）信赖的人工智能体系框架（jià）。

近日，面对人工（gōng）智能的伦理 “红线”，博世在（zài）“博（bó）世互联世界大会（huì）”上发布人工智能技术（shù）的指（zhǐ）导方针《AI道德（dé）准则》，博世认（rèn）为人工智能是服务（wù）于人类的（de）工具，任何可能对人造成影响（xiǎng）的人（rén）工智能决策都需要人（rén）类的监管。

准则（zé）中（zhōng）包含了三种机制，它（tā）们遵（zūn）守着（zhe）一个共同的原则，即（jí）博世（shì）开发的人工智能产品中（zhōng），人类（lèi）必须保留对人工智能（néng）所做决策的最终控制权。

第一种（zhǒng）机制为人工控制（human－in－command），它适用于人工智能只作为（wéi）支持工具出现的情况。例如，在决策支持系统中（zhōng），人工（gōng）智（zhì）能帮（bāng）助（zhù）人们对物体或生物进行分类（lèi）。

第二种机制为使用阶段的人为干（gàn）预（human－in－the－loop），适（shì）用于人工智能系（xì）统（tǒng）可以自主决策（cè），但人类可以随时（shí）干预的情（qíng）况。例如，驾驶辅助系统，驶员（yuán）可以直（zhí）接介入停车辅助系（xì）统的决（jué）策等。

第三（sān）种机制为设（shè）计阶段的人为干预（human－on－the－loop），适用于紧急制动系（xì）统等应用。开发此类智能产品时，专家（jiā）将定义参数作为人工智能决策的基础，而（ér）人类（lèi）不参与（yǔ）决策，由（yóu）人工（gōng）智（zhì）能进行（háng）。

但是工程师可以随时追（zhuī）溯检（jiǎn）查（chá）机器是否（fǒu）遵（zūn）守所设定的参数进（jìn）行（háng）决策，必（bì）要情况下可以修改参数。

面临的（de）困难

人工智能在应用层面有逐（zhú）渐完善的法律法规进行约（yuē）束（shù），但在实际的技术开（kāi）发中仍面临着许多难以确定的细则（zé）。

数（shù）据（jù）标定没有统一（yī）标准（zhǔn）：在机器学（xué）习中训（xùn）练数据（jù）前都会对数据进行（háng）清洗和标定。有时为了（le）满足业务进度的要求，不会进行（háng）全量全分（fèn）类的处理。

准确的说，无法对数据进行严格而准确的分类。这（zhè）也是有（yǒu）监督学习（xí）类算法的缺点，就（jiù）是针对特（tè）殊业务（wù）往往要进（jìn）行专门的数据标定（dìng），同时（shí）算法设计者自身存在价值（zhí）偏见也会导致人工智能系统无法（fǎ）正常（cháng）运行。

数据分析（xī）难全面（miàn）：在准备训（xùn）练数据时应容扩各类发生（shēng）的情况，AI在数（shù）据错误（wù）的（de）情况势必会造成（chéng）BUG，除了掌握各类情况，仍（réng）要调整好处理各种情况的参数或系数，包括（kuò）算（suàn）法模（mó）型存在的技术性缺陷（xiàn）可能导致人工智能系统无（wú）法正常运行（háng）。

模型成长环境差异：AI算法模型的（de）训练环境对算法结果有重大影响，假（jiǎ）设机器训（xùn）练环（huán）境变（biàn）得没有边界（jiè），各类数据都被机器学习，这将很难保证（zhèng）机（jī）器（qì）会往（wǎng）着（zhe）人类预想的（de）方向发（fā）展，以（yǐ）及因（yīn）为算法日趋（qū）“黑箱化”可能导致（zhì）技术失（shī）控等问题（tí）。

无论在技术或应用方向，都应该通过政策和法律引（yǐn）导，开（kāi）展人（rén）工智能算（suàn）法安全的评估检测；推动技术伦理的算法（fǎ）导（dǎo）入，要求（qiú）人工智（zhì）能开发者设计高可解释性（xìng）的（de）智（zhì）能（néng）系统；同时，加强智能算法的透明监督（dū），人工智（zhì）能企业、行（háng）业应建立相（xiàng）应的算（suàn）法监管体制，保持与政（zhèng）府监管的协同。

相信（xìn）在人工智能法规陆续出（chū）台监管的路上，AI市（shì）场会越来越规范，符合市场的需求。