最（zuì）近，全（quán）球的一些人工智能各（gè）企（qǐ）业都很关注（zhù）AI的法规，欧（ōu）盟也出了《人（rén）工智能白皮书》来监管AI市场。人工智能法规的陆续推（tuī）出，约束AI进（jìn）一（yī）步走向正规化 ，规避一（yī）些（xiē）不法分子（zǐ）在AI上的不好想法来获利。

科（kē）技是把（bǎ）双刃剑，当人（rén）工（gōng）智能技术大规（guī）模应用于社（shè）会时，我们必须（xū）考虑它所带（dài）来的（de）负面效果。

现（xiàn）代是一个文（wén）明社会，大众除了道德限制还有法律对自身行为（wéi）进行约束，但开发者进（jìn）行应（yīng）用开发时，是否考虑到输入给机器的（de）数据（jù）是（shì）否符合“法规”，特别是近年来人机交互的（de）数量急剧增加，从而使得AI监管问题的（de）讨（tǎo）论变得更为（wéi）热烈。

感官（guān）的欺骗

视（shì）觉（jiào）与听觉是我们对（duì）外界感知的重要窗口，大众的观（guān）念中（zhōng）普遍（biàn）认（rèn）为（wéi）“人的第一（yī）印象很重要”“眼见为实（shí），耳听为虚”。

但（dàn）面对（duì）信息（xī）错综复（fù）杂（zá）的（de）世界，如今眼见也不一定为实，听到的则可能更为虚假。曾（céng）经被议论的（de）Deepfake换脸技（jì）术就属于罪魁祸首之一，其利用了AI深（shēn）度学习功能，通过数以亿计的自我学习、神经网（wǎng）络训练，AI能够识（shí）别出画面中那些（xiē）和周围（wéi）场景格（gé）格不入的部分，同时将其移走和生成（chéng）缺失（shī）的像素，最后重绘出部（bù）分像（xiàng）素进行画（huà）面填补（bǔ）。

谷歌公司（sī）也曾推出WaveNet软件，可（kě）以利用其（qí）神经网络系统对原始（shǐ）音（yīn）频波（bō）形进行（háng）建模，生成带有不（bú）同语气音节（jiē）和情感表达（dá）的人类自然语（yǔ）言的（de）音频。

外媒（méi）曾报道过一例案件，不法分子就利（lì）用了（le）类似的AI技术，成功（gōng）模仿了英国某能源公司CEO的声音，诈骗了220，000欧元，执法当局认（rèn）为此种类案件的（de）调（diào）查取证（zhèng）更为困难（nán）。

AI道（dào）德准则（zé）

2019年，我国首（shǒu）次将AI造假音视频（pín）列入法规，国家网信办（bàn）出台《网络音视频（pín）信息服务管理规定》。

对于利用基于深度学习、虚（xū）拟现实等（děng）新技术新应用制作、发布、传播非真实音视频信息的网（wǎng）络音视频：，应当以显（xiǎn）著方式予以标（biāo）识，不得利用其制（zhì）作、发布、传播虚假新闻信息；网络音（yīn）视频信（xìn）息服务提供者应（yīng）当部署应用违法违规音视（shì）频以及非真实音视频鉴别（bié）技（jì）术，应当建（jiàn）立健全辟谣机制（zhì）。

日前（qián），欧盟也（yě）相继出台《人（rén）工智能白皮书》，对人工智能领域的投资监管路径设立双（shuāng）重目标，旨在推动道德和可信赖（lài）人工智能（néng）的发展。并（bìng）通过（guò）建设“卓越生态（tài）系统（tǒng）”和“信任生态系统”双重系（xì）统（tǒng），构建一（yī）个（gè）卓越的、可信（xìn）赖（lài）的人（rén）工智（zhì）能（néng）体系框（kuàng）架。

近日（rì），面对人（rén）工智能的伦理 “红线（xiàn）”，博世在“博世互联世（shì）界大会”上发（fā）布人工智（zhì）能技术的指导方针《AI道德准则》，博世认（rèn）为（wéi）人工智能是服务（wù）于人类的工具，任何可能对人（rén）造成影（yǐng）响的人工智能决策都需要人类的监管。

准则中包含了（le）三种机制，它们（men）遵守着一个共同的原则，即博（bó）世开发的人工智能产品中，人类必须（xū）保留对人工智能所做决策的最终控（kòng）制权。

第一种机制为人工控制（human－in－command），它适用于人工智能只（zhī）作为支持工具出现的情况。例如，在决（jué）策支持系统中，人工智能（néng）帮助人们对物体或生物进行分类。

第二种机制（zhì）为使用阶段的（de）人为干预（human－in－the－loop），适（shì）用于人工（gōng）智能系统可以（yǐ）自主决策，但人类（lèi）可以随时干（gàn）预的情况（kuàng）。例如，驾驶（shǐ）辅助系统，驶（shǐ）员可以直（zhí）接介入停车（chē）辅助系统（tǒng）的决策等。

第（dì）三种机（jī）制为（wéi）设计阶（jiē）段的人为干预（human－on－the－loop），适用于（yú）紧急制动（dòng）系统（tǒng）等应（yīng）用。开发此类智能产品时，专（zhuān）家将（jiāng）定义参数作为（wéi）人（rén）工智能决（jué）策的基础（chǔ），而人类不（bú）参与决策，由人工智能（néng）进行。

但（dàn）是工程师可以随时追溯检查机器是否遵守所设（shè）定的参数（shù）进行决策，必要情况下可以（yǐ）修改参数。

面临的困难

人工智能在应用层面有逐渐完善的法律法规进行（háng）约束，但（dàn）在（zài）实际的技术（shù）开发（fā）中仍面（miàn）临着许多（duō）难（nán）以确定的（de）细则。

数据标定（dìng）没有统（tǒng）一标准：在机（jī）器学习中训练数据前都（dōu）会（huì）对数据进行清（qīng）洗（xǐ）和标定。有时为了（le）满足业（yè）务进（jìn）度（dù）的要求，不会进行全量（liàng）全分类的处（chù）理。

准确的说（shuō），无法（fǎ）对数据进（jìn）行（háng）严（yán）格而准（zhǔn）确的分类。这也是有监督学习类算法的缺点，就是针对特殊业务往往要（yào）进行专门的数据（jù）标定，同时算法设计者自（zì）身存在价值偏见也（yě）会（huì）导致人工智能系统（tǒng）无法正常（cháng）运行。

数据（jù）分析难（nán）全面：在准备（bèi）训练数（shù）据时应容（róng）扩各类（lèi）发生（shēng）的情况，AI在数据错误的情（qíng）况势必会造（zào）成BUG，除了掌（zhǎng）握（wò）各类情况，仍（réng）要调整好（hǎo）处（chù）理各（gè）种（zhǒng）情（qíng）况的参数或系（xì）数，包括算法模型存在的技术性缺陷可能导（dǎo）致人工智（zhì）能系统无法（fǎ）正常运行。

模型成长环（huán）境差异（yì）：AI算法模型的训练环境对算（suàn）法（fǎ）结果有（yǒu）重大影响（xiǎng），假设机器（qì）训练环境变得没有边界，各类数（shù）据（jù）都被机器学习（xí），这将很难保证（zhèng）机器会往着人（rén）类预（yù）想的方向发（fā）展，以（yǐ）及因（yīn）为算法日趋“黑箱化（huà）”可能导致（zhì）技术失（shī）控等问题。

无论在技（jì）术或应用（yòng）方向，都应该通过（guò）政策和法律引导，开展人工智能（néng）算法安全（quán）的评（píng）估检测；推动技术（shù）伦理（lǐ）的算法（fǎ）导入（rù），要求人工智能开发（fā）者设计高（gāo）可解释性的（de）智（zhì）能系统；同时，加（jiā）强智（zhì）能（néng）算法的透明（míng）监督，人工智能（néng）企业、行业应建立相应的算法监管（guǎn）体制（zhì），保持与政府监管的协同。

相信在人（rén）工智能法规陆续出台监管（guǎn）的路上，AI市（shì）场会越来越（yuè）规（guī）范，符（fú）合市场的（de）需（xū）求（qiú）。