7月27日，在微博、新（xīn）浪新闻（wén）主办的人工智能领（lǐng）域行业峰会——2022新（xīn）智者大（dà）会上，360公（gōng）司创始人周鸿（hóng）祎（yī）分享了题为《筑牢AI安全基（jī）座 护航智能新（xīn）时代》的（de）演讲，从数字安全的角度，带给我们（men）关于网络（luò）安全的全新视角和定（dìng）义。

2022新（xīn）智者大会-360公（gōng）司创始人周鸿祎-主（zhǔ）题演讲

以下是周鸿祎分享（xiǎng）实（shí）录（lù），内容经编辑略有删减（jiǎn）：

尊敬的各位领导、各位同仁、各位来宾，感谢大会组委会的邀请，非常高兴参加“2022年（nián）新（xīn）智者（zhě）大（dà）会”。

我叫周鸿祎，虽然说可能很多人都认识我，但是很多人都问我一个问题，为什么你老喜欢穿红衣服？那（nà）是因为我的名字（zì）老被叫成（chéng）周鸿“伟”，所以我穿一（yī）个红衣服，就是给大家提示一下，我是鸿（hóng）祎（yī）（yi），不是鸿伟（Wei）。

本次会议的主题是“融合生态，价值共创”。当（dāng）前发展（zhǎn）数字（zì）经济，以人工智能为代（dài）表的数字技术赋能产业变（biàn）革（gé），推动整个社会经济进入智能化的新阶段。

我（wǒ）是（shì）绝对支持数（shù）字（zì）经济，支持新技术人工（gōng）智（zhì）能的。但是，我（wǒ）们做（zuò）安（ān）全的人，稍（shāo）微有点变（biàn）态，天天都（dōu）在琢磨（mó）这个技术有啥（shá）风（fēng）险，这个技（jì）术有什（shí）么不安全的地方（fāng）。

那（nà）么，我们今天谈数字经济、人工智能里（lǐ）不安（ān）全的问题，也是为了保证（zhèng）让（ràng）我们建设数字中国（guó），促进数（shù）字（zì）经（jīng）济能走得更稳、更远。

简单来总结，当前（qián）一个大的趋势是（shì）数字化发展，数字化已（yǐ）经成为国（guó）家战略（luè）。这里（lǐ）边包括我觉得（dé）最（zuì）重要（yào）的大家应该关（guān）注的是产业数（shù）字化，是红海中（zhōng）的蓝海。为什么这么讲（jiǎng）呢？未来所有的传统行业，都值得用数字化重塑一遍（biàn）它的（de）产业链、供应链（liàn）、价值链（liàn），甚至是商业模式。

数（shù）字（zì）经济已经成为当代的主（zhǔ）旋律。很多人老误（wù）以为数字经济=虚拟经济，其（qí）实所有用数字化技术打（dǎ）造的经济（jì）成果，都是（shì）数字经济。中国在这方面已经（jīng）遥遥领先，我们数字（zì）经济（jì）占GDP的比重已经超过30%。

所（suǒ）以，未（wèi）来（lái）5-10年，所有的企业都将（jiāng）转型升级成（chéng）数字化企业。

如果没有数字（zì）化的企业（yè），可能就消失或者被淘汰了（le）。

我们经（jīng）常（cháng）讲互联网的上半场，我的理解互联网的上半场是消费互联（lián）网的（de）数（shù）字化。也（yě）就是这个互（hù）联网公司，把中（zhōng）国老百姓的吃喝玩（wán）乐（lè）、衣食（shí）住行，各种生活方式充分实现了数字化。所以，这些传统互（hù）联网公司，当仁不让成了主角。

但是，未来10年（nián），我觉得是互（hù）联（lián）网的下（xià）半场，主（zhǔ）角就不再是互联网公司，而是各种传（chuán）统企（qǐ）业，各级政府，他（tā）们才会变成大数据、数字化真正的（de）玩家，把各种产业场（chǎng）景（jǐng）用（yòng）数字（zì）化（huà）再重新塑造一遍。

简单讲，数（shù）字化（huà）发展的几个（gè）核（hé）心技术。为了让大家记，我编了（le）一个字母歌，叫I、M、A、B、C、D、E。

I，IoT，物联网技术，主要是未来（lái）用来把这（zhè）个世界（jiè），把所有（yǒu）的商业流（liú）程，所有数字化，主要（yào）是依靠物联网设备。

M，移动通信，5G，实（shí）际（jì）上是为数字时代准（zhǔn）备的，并（bìng）不是说仅仅方便（biàn）我们个人为了（le）看视频，能够快速，实际上为了（le）通过5G，把各（gè）种现实世界数（shù）字化的（de）数据传到云端。

C是Cloud computing，云（yún）计算；A是人工智能（néng）；B是区块链；D是大（dà）数据；E是边缘（yuán）计算。

所以，这（zhè）里边的逻辑，我觉得（dé）最重（chóng）要是以（yǐ）AI为核心，AI是一个（gè）大数据的（de）基础，才有了（le）深度学（xué）习，所以AI也是数据基础（chǔ）。

数据又来源于哪儿呢，来源于IoT，大（dà）量对这个世界的数字化，通过5G，传到云端。通过大数据系（xì）统（tǒng）管理起来。

所以，未来（lái）我们谈数字经济，我们谈数（shù）字化战略，都脱离不开（kāi）这几个技术。当（dāng）然，还有一个是我们今天要说到的，有（yǒu）一个技术跟它们（men）都（dōu）不能并列，是“安全”。因为只有（yǒu）“安全（quán）”，给（gěi）它（tā）们提供了坚实的基础，这些技术才（cái）能（néng）够充分发挥（huī）作（zuò）用，而不至于成（chéng）为风险的来（lái）源（yuán）。

我可以举一个简单的例（lì）子。

最（zuì）近的“俄乌冲突”相当于是一场（chǎng）开卷考试，是新的（de）时代下数字世界（jiè）对抗冲突的真实预演，有几个特点，我给大家总结一下。

第一，网（wǎng）络（luò）战和（hé）传（chuán）统战争相结合，已经演变成一场数字化（huà）战（zhàn）争。

在战前，网络战已经不是传说中（zhōng）的幻想（xiǎng）小说。实际上在传统作战发生之前（qián），网络（luò）战已（yǐ）经开打。俄（é）乌双方的政府（fǔ）部（bù）门，还（hái）有（yǒu）银行、电信、电力等（děng）关键基础（chǔ）设施，均遭到了网络打击。那（nà）除了（le）网络攻击之外，星链、卫星、互联网、人工智能、无人机，人（rén）工（gōng）智能技术，传统（tǒng）武器、传统（tǒng）攻击方法融为一（yī）体，打了（le）一场新型的数字战争。乌克兰获得了北约和美国的支持。在数字化（huà）技术（shù）方面，弥补了弱势，而俄方由于在（zài）数（shù）字化方面落后（hòu），所以不免有扩（kuò）大的损失。

第二，网络攻击（jī）的手段（duàn）无所（suǒ）不用其极。

此次（cì），双（shuāng）方除了（le）使用包括原来常规的基于漏洞的（de）APT攻（gōng）击，还把DDoS拒绝服务攻击，特别是（shì）数据查（chá）处攻击、供应链（liàn）攻击各种（zhǒng）网站攻击（jī），各（gè）种传（chuán）统（tǒng）手段（duàn），包括新的手段结合起来，所以这一次战（zhàn）争（后面（miàn）我会讲）还有一（yī）个特点，不（bú）仅是数字化战争，还是第一次人工（gōng）智能参（cān）战的数字战争。

第三，这（zhè）一次是一场数字时代的人民战争。

正（zhèng）因为（wéi）双方都大量使（shǐ）用了（le）数字化技术，而数字化的技术，真正的高手在民间（jiān）。所以，很多高（gāo）科技公（gōng）司走向攻防的前沿，民间的黑客成为主（zhǔ）力军。

比如美（měi）国有很（hěn）多高科技的（de）公司，哪怕是民间公司，实际上都参与了战斗。包括IBM、微软（ruǎn）、谷歌，他们对俄罗斯禁运芯（xīn）片（piàn），或者（zhě）终止服务，包括埃隆马斯克，提供星（xīng）链（liàn）、卫（wèi）星、互联（lián）网（wǎng）等技术。

然后（hòu），民间的网安（ān）公司也纷纷参战。也就是包（bāo）括俄（é）罗斯（sī）的卡（kǎ）巴（bā）斯基，还有欧洲的很多传统杀毒软件（jiàn）公（gōng）司都纷（fēn）纷参加，成为（wéi）网（wǎng）络攻击攻防的重要（yào）力量（liàng）。

本来（lái）俄罗斯在乌克兰的系统里，预埋了一些后门和漏洞。但是，美国的网络（luò）战部队和美国的（de）一些安全公司出（chū）手（shǒu）。帮助乌克（kè）兰做（zuò）了漏洞和预埋后门的清理，使得（dé）俄罗斯原（yuán）来预设的网络打（dǎ）击效（xiào）果（guǒ）大打折扣。

乌（wū）克兰还组织了30万国际黑（hēi）客（kè），又叫“IT志愿军”，这30万黑客（kè）冲到俄（é）罗斯的网络空间里，大打出手，导致俄罗斯的（de）网军（jun1）精力难以兼顾，处处被动。

所以，我们可以从俄乌（wū）的例子来看，这是（shì）人类历史上第一次数字化战争，也是第一次AI战争（zhēng）。体现了双方谁的数字化技术（shù）落（luò）后（hòu），谁就（jiù）要（yào）挨打这个机制。

过去我们有句老话（huà）讲“落后就要挨打”。通过俄乌（wū）战争，我们可以把这句话（huà）改（gǎi）成，今天在数字化的时代里，谁（shuí）在数字化体系上落后，谁就要挨打。

我们（men）可以看到，这次俄乌战争表面上是两（liǎng）个（gè）国家的武力（lì）冲突。但实际上背后是俄罗斯和西方两大数字体系的（de）碰撞。结果（guǒ）不言而喻，西方强大（dà）的数字体系，不再区分军工、民用，也不再区（qū）分国企、民企，也不再区分企业（yè）、个（gè）人，把整（zhěng）个的数字化力量综合在一起（qǐ），在（zài）这方（fāng）面俄罗（luó）斯就应该说处于下风吧。

为（wéi）什（shí）么我又讲这是人类历史（shǐ）上第一次AI战争呢？因为在军事冲突（tū）过（guò）程中，你会发（fā）现（xiàn）这一（yī）次（cì）AI（人工智能）活跃于战场（chǎng）的各个领域，扮（bàn）演着非常（cháng）重要的角色。甚至包括（kuò）AI的（de）武器，直（zhí）接参与了战场的攻击（jī），参与了战场的情报支（zhī）持，辅助战场决策，被用于心理战的这种虚假宣传，下面呢我（wǒ）讲一一详细来给（gěi）大家做一些例子的说明。

第一个（gè），AI的武器直（zhí）接参（cān）与战（zhàn）场攻击。

我（wǒ）记得当年阿西·莫夫在讲“机器（qì）人三原则”的（de）时（shí）候，有一个重要的原则，就是机（jī）器人（rén）不能伤害人。实际（jì）上今（jīn）天各（gè）种无人战车、无人飞机，已（yǐ）经（jīng）应用在战场（chǎng）上（shàng）。这里面（miàn）举一（yī）个例（lì）子（zǐ），乌克兰军（jun1）队使用美国的弹簧（huáng）刀无人机（jī），具（jù）备监视、侦（zhēn）察和打击（jī）功能。既是无人机，又是（shì）一（yī）个自杀式导弹，在人工智能的加持下，单兵就能（néng）熟练掌握，有效打击俄军（jun1）的机动（dòng）目标，成为战场规则的改变者。

那今天（tiān）弹簧刀无人（rén）机可能还是在被遥（yáo）控，最后（hòu）打击的瞬（shùn）间可能还是由人来下指令。但是，从（cóng）人下指令，到（dào）它自动识别、自动判断、自主发起攻击，我觉得这就是一层薄薄的窗（chuāng）户纸。

第二个，AI参与战场（chǎng）情报支持。

乌克兰国（guó）防部使用Clearview AI面部识别技术，通（tōng）过人工（gōng）智能来识别俘虏和尸体。该公司拥有一个包括来自网络（luò）的100亿张面孔的数（shù）据库。其中，仅来自（zì）俄罗斯社交媒体的图像（xiàng）就高达20亿张。这种技术通过战场上（shàng）传来的俄罗斯战俘或（huò）者尸体的面部照（zhào）片，可以对死（sǐ）者的（de）身份（fèn）进（jìn）行匹配。

第三个，AI辅助战场决策。

这次我们（men）都知道说乌克兰派出很多（duō）小（xiǎo）分队（duì），对（duì）俄罗斯的运（yùn）输线进行各种灵活的打击，打完了（le）就跑。这个前提是要有完（wán）全，应该（gāi）说（shuō）尽在掌握之中的战场态势（shì）感知。

这一次呢，Seekr和Semantic AI的增强智能平台相结合，应用深度分析技术，来（lái）发现（xiàn）人员（yuán）地点，事件之间的隐蔽连接，自动生（shēng）成报告和动态仪表盘，从而帮助指挥者（zhě）做出更（gèng）明（míng）确的选择。所以，这一次整个战场态（tài）势感知，大数据分析（xī）应（yīng）该说AI功不可没。

第四（sì）个，打仗（zhàng）既是认知（zhī）战，也是心理战，也是宣传（chuán）战。

所以，前面网（wǎng）上流传了一个叫Deepfake的视（shì）频，所谓Deepfake就是利用（yòng）AI做的深度伪造，内（nèi）容是泽连斯基（jī）宣布他投降，这个视频（pín）害的泽连斯基不（bú）得不公（gōng）开辟谣。但还是有大（dà）量的（de）AI水军（jun1）机（jī）器人在网上狂炒（chǎo），制造（zào）舆论（lùn）。

所以，在这个（gè）过（guò）程中，AI发挥了（le）巨大的作用。

第五（wǔ）个，AI基础算力设施的（de）服务断供（gòng）。

我（wǒ）们讲运行AI需要算力，算力（lì）需要大数（shù）据等（děng）基础设施。但如果数（shù）据中心，云（yún）服务都被（bèi）终止，那么各种无人机，自（zì）动（dòng）驾驶坦克各种大（dà）脑就失去（qù）了重要（yào）的能源。

在本次俄乌冲突中，西（xī）方对俄罗斯采取了（le）“六断”（断网、断（duàn）供、断服（fú）务、断证书、断域名、断舆论（lùn）），包括说微软、IBM和甲骨文这些公（gōng）司对俄停止（zhǐ）SSL证书，停止域名解析，停止互联网接口（kǒu），中断国际（jì）传输网络（luò），停止了各种（zhǒng）软件（jiàn）跟服（fú）务，芯片和（hé）硬（yìng）件供应（yīng）商，比如英特尔对俄断供，甚（shèn）至包括（kuò）脸书、推特（tè）等就彻底把俄（é）罗斯的很多帐号给禁（jìn）掉，彻（chè）底将俄孤立。再试图把俄罗斯在（zài）数字（zì）化的世界里彻底（dǐ）抹去（qù）。

而俄罗斯由于缺（quē）乏市场化的数字产业支撑，完全被动（dòng）挨打，这个都让俄罗斯算（suàn）力、产品和（hé）服务的基础（chǔ）被掣肘。

所（suǒ）以，大（dà）家想一（yī）想当未来发生冲突的（de）时候，实际上就成（chéng）了数字体系的对（duì）抗。这个数字（zì）体系的强壮与否，已经不完全（quán）取决于军（jun1）队或者仅（jǐn）仅是军工企业（yè），可（kě）能（néng）跟每一（yī）家数字化（huà）的（de）公（gōng）司，每一家研究数字技术的科技人员，都有密（mì）切的关系。

所以，我（wǒ）们可以（yǐ）得出一个结论，安全是数字化的基座，在一切皆（jiē）可编程（chéng），万（wàn）物均要互联，大（dà）数据驱动业务、软件重新世界的趋势下，整个全世界的安全环境（jìng）也更加的脆弱，这其中AI也不例外。

一切皆可（kě）编程，我刚（gāng）才讲过了，就意味着所有的东西都是软件（jiàn）。比（bǐ）如（rú）说汽车也是软件，无人机也是软件（jiàn），所以漏洞无处不在。有漏洞，就有可（kě）能被人（rén）利用，被人（rén）利用就（jiù）可（kě）能被人攻击。

我稍微解（jiě）释一下漏（lòu）洞的原理，过（guò）去大家只（zhī）要觉得说自己（jǐ）的电脑口令（lìng）不丢失（shī），帐（zhàng）号不泄（xiè）漏，就（jiù）没有安全（quán）的问题。实际上“漏洞”的（de）出现改变（biàn）了这一切，漏洞（dòng）改（gǎi）变了（le）整个网络攻（gōng）防的游戏规则（zé）。基于一个我知（zhī）道，而你不知（zhī）道的漏洞（dòng），可能别人就能以一种完（wán）全意想不到的方法来控制你的系统。

举（jǔ）一个例（lì）子（zǐ），比（bǐ）如说利用一个常见的浏览（lǎn）器漏洞，可能你在浏览一张（zhāng）美女图片的时候，你在享受看图片的时候，可能（néng）在这个图片里面编（biān）码的一个代（dài）码（mǎ），就（jiù）神不知（zhī）鬼不觉在你的电脑上开始运转起来。

前两天，有（yǒu）一个（gè）WannaCry勒索病毒利（lì）用了一（yī）个漏洞，更是匪夷所思。一台（tái）电脑向另外一台电脑（nǎo）的网（wǎng）卡发（fā）送了一个（gè）数据包，两台电（diàn）脑毫无感（gǎn）觉，这（zhè）个（gè）数据包就（jiù）能（néng）够在接收机器的电脑上运行，从而控制这台电脑，所以应该讲，漏洞现在是无（wú）孔不入。

关于漏洞最典型的例子，是去年年底阿帕奇基金开源项目的Log4j2的（de）组（zǔ）件，被发现存在着远程代码（mǎ）执行漏洞。这个软件（jiàn）被大量（liàng）应用于关键业务系（xì）统底层开发，这个漏（lòu）洞（dòng）就意味着我们（men）很多重要的（de）系统，被（bèi）漏（lòu）洞的利用者能够洞开。

万物均要互联，万物（wù）互（hù）联带来的好处就不讲了。所以，今（jīn）天的车联（lián）网、智（zhì）慧城市、工业互联网都是万物互联的典（diǎn）型例子。但是（shì），这也意味着（zhe）在虚拟世界里的攻击（jī），往（wǎng）往会变成物（wù）理（lǐ）世界的伤害。在（zài）过去，大（dà）家（jiā）中了病毒，只是说文件丢失，大不了电脑不用了，邮件不收了，网不（bú）上了。但是，今天虚拟世界里（lǐ）的伤害，都可以转成对物（wù）理世界的攻击。

所以，我（wǒ）们可以看到，导致工（gōng）厂停工（gōng），大面（miàn）积停（tíng）电，社会停（tíng）摆（bǎi）。

我举两个例子，今年2月-3月，三家丰田的供应商遭到黑客攻击，丰田（tián）不得不停止其14家日（rì）本工厂的运营（yíng），导致每月的生产能力（lì）下（xià）降了（le）5%。

前几年，在委内瑞拉、乌克兰都出（chū）现了（le）利用网络（luò）攻击，攻击（jī）变电站（zhàn）设备，远程拉闸，导（dǎo）致大面积停电（diàn），所以这里就不是美国科幻（huàn）电影里（lǐ）的幻想。

再举一个真实的例（lì）子，我们现在大家都会买智（zhì）能（néng）网联车或者（zhě）新能源车，但是（shì）说句（jù）不（bú）好听的（de）话，你买了车，你不要以为这（zhè）车就是你的了，实际上是听车厂的。

我们的车每（měi）时每刻都需（xū）要（yào）跟车厂（chǎng）保（bǎo）持联系，不断的从车厂各种更（gèng）新的指令、更新软件，也不断把（bǎ）各（gè）种数据（jù）传回车厂。

一旦黑客破解了这个（gè）车厂（chǎng）的（de）协议，或者（zhě）破解了车厂的云（yún）端服务器，就（jiù）可（kě）以远端对你的车进行遥控，那么可能就会出现（xiàn）更大的风险。在2017年，我们曾（céng）经帮助某（mǒu）全球知名的（de）一个知名（míng）车（chē）企（qǐ），发现了大概（gài）19个漏洞。通过（guò）这些漏洞，这个车厂（chǎng）在2017年（nián）以（yǐ）后出的全球600多（duō）万辆车，都可以远程启（qǐ）动、远程（chéng）熄（xī）火、远程开门、远（yuǎn）程开天窗，一（yī）旦这些漏洞被黑客（kè）掌握（wò），后果不堪设想。

大（dà）数据驱（qū）动业务（wù），我们现在（zài）对大数据都非常重（chóng）视。数（shù）据变成重要（yào）的战略（luè）资产（chǎn），数据（jù）变成整个信息化社会（huì）的重（chóng）要（yào）的像石油一样的基础血液。但是，反（fǎn）过来（lái）说，数据一旦遭（zāo）到了（le）攻击，可能就意味着业务停转，数据安全直接影响业务安全。

那（nà）2022年（nián）1月，我们国家台湾地区（qū）的台达电遭（zāo）到勒索软件攻击，有1500台服务器，12000台电脑在（zài）本次攻击中数据被加密，被勒索1500万（wàn）美金。

还有一个去（qù）年5月份，美国东海岸一（yī）家输油管道（dào）公司（sī）受到了攻（gōng）击，当（dāng）时这个事情很（hěn）出（chū）名，美国东海岸（àn）很（hěn）多（duō）加油站都供不（bú）上（shàng）油了，害了（le）美国总统都为之出来做了一些（xiē）讲话。美国（guó）交通部甚至都要宣布，在美（měi）国东部要进（jìn）入（rù）紧急状态。当时我们也（yě）觉得（dé）这是（shì）一件很（hěn）诡异的工业互（hù）联网攻（gōng）击。

后来调查（chá）下来发现，其实（shí）比我们想得要简单。因为（wéi）来自（zì）俄罗（luó）斯的黑客（kè），直（zhí）接把这家（jiā）美（měi）国（guó）油（yóu）管公司的财务数据给加密了，导致整个（gè）财务数据（jù）系统崩（bēng）溃之后，就没有办法（fǎ）向客户提供油（yóu）料了。所以，整个的业（yè）务就中止了（le）。

这几年我们在国内也接到不少公（gōng）司的报案（àn），他们受（shòu）到勒（lè）索攻击的这种侵犯。实际上（shàng）一旦核心数据被加密，整个（gè）业务系统立刻停摆。

所以，这里边（biān）我也讲一下勒索软件或者勒（lè）索攻（gōng）击，已经变（biàn）成现在成长（zhǎng）速（sù）度最快，获利最高的一种新的（de）黑产的商（shāng）业模式（shì）。

过去（qù）我（wǒ）们（men）很多人很迷信，我（wǒ）的数（shù）据很（hěn）加密（mì），别人（rén）也拿不走，但（dàn）是勒索攻击者脑洞很清奇，他们不（bú）拿走你（nǐ）的数据，把你的数据（jù）再加密一点，就像我（wǒ）说的，我们家（jiā）有一个保险柜，你来了（le）之（zhī）后不用打开它（tā），再带一个（gè）更大的保险柜，把我的（de）保险柜锁在你的保险柜里，这（zhè）样我只能乖乖地找（zhǎo）你去要保险柜的钥匙，所以这就是勒（lè）索攻击的核心秘密。

所以，我们（men）可以看（kàn）到数字（zì）化技术，固然一方面给（gěi）我们创造了自动（dòng）化，非常美（měi）好的科技的这种未来，美好的生活，更高的生产力（lì）、更（gèng）高的效率。但是它同时也（yě）有安（ān）全上的隐患。

当然（rán）了，前（qián）面讲人（rén）工智能（néng）技（jì）术本质也是（shì）软件（jiàn），本质也是基于数据，也有很多破绽。所以（yǐ），总结起来（lái），我觉（jiào）得人工智能安（ān）全有（yǒu）七大安全（quán）挑战：硬件、软件、通（tōng）信协议、算法、数（shù）据、应用和社会伦理。

下（xià）面我将给大（dà）家逐个解（jiě）释一下。

第（dì）一个，硬件，可能会出错。因为我（wǒ）刚才讲（jiǎng），今天的数（shù）字化世（shì）界，我们很多数（shù）据是（shì）来自于物联网设（shè）备及各种传感（gǎn）器。如果这个传感器数据（jù）出错，传给系统的数（shù）据本（běn）身信号（hào）就是（shì）错的，那（nà）么系统当然就会做出（chū）错（cuò）误的判断。

比如（rú）说美（měi）国波音公（gōng）司的737Max前几年出了（le）几次空难，实（shí）际上（shàng）是自动压机头和自动提升的软（ruǎn）件出（chū）了错（cuò）误（wù）。因为机头升降（jiàng）仰角（jiǎo）读取的传感器读出了错误，以至于AI发生了（le）错误（wù）判断。

包括今天我们比较（jiào）看（kàn）好（hǎo）的无（wú）人驾驶（shǐ）车，都会装有激光雷（léi）达，用激光雷达来对（duì）前方的路障进行识（shí）别。但（dàn）是，如果我用类似的激光（guāng）笔或者对（duì）激（jī）光雷达进行干扰，可能无人驾驶车，就会发生错误的判断（duàn）。所以，硬件是整个AI数（shù）字化很（hěn）重要的基础，硬件有可能（néng）会（huì）带（dài）来错误的数据。

第二个，软件存在漏洞。特别是我们今天的AI训练，很多都是（shì）基于开源框架（jià），这些开源框架本身软件都（dōu）有很多的（de）漏洞。在过去的时间（jiān）里面（miàn），我们360已经（jīng）挖（wā）取了不少的漏洞。

比如说最近（jìn）有一个（gè）AI编程神器的软件，自动（dòng）生成代（dài）码中（zhōng）有40%存（cún）在漏（lòu）洞，这个漏洞比一个优秀的人工工程师的漏洞还（hái）要多出（chū）10倍以上。

第三（sān）个，通信协议可（kě）能会被劫持。你比（bǐ）如说，刚才（cái）我（wǒ）们讲了无人驾驶汽车，跟车厂（chǎng）之间是有（yǒu）特殊的协议，来进行（háng）软（ruǎn）件的更新（xīn）和远程控制。如果这个（gè）协议被破（pò）获（huò）之后，无人驾驶车就可能会（huì）失（shī）控（kòng）。

那么，伊朗曾经通过（guò）GPS信号的欺（qī）骗（piàn），把（bǎ）美国的一架无人（rén）机迫降到（dào）伊朗的（de）机场，这种GPS的信号欺骗也（yě）是一种通（tōng）信协议的劫持。

第四个，算法可以被欺骗、被（bèi）误导。谷歌曾经有一个AI算法，把黑人识别成猩猩，惹（rě）出了很大的风（fēng）波。现在我们有一些（xiē）人工智能漏洞挖掘团（tuán）队（duì），发现当（dāng）你走在街（jiē）上，面（miàn）对满大街人工智（zhì）能的基于人脸识别的摄像头，你如果不想被他认出来你（nǐ）是一个人，你穿上特殊条纹（wén）或者特殊图案（àn）的T恤，摄像头就会（huì）不认为（wéi）你是（shì）一（yī）个人，它就（jiù）对你不会（huì）做面部识（shí）别，这就（jiù）说明（míng）了算法（fǎ）是可以通过一种（zhǒng）特殊（shū）的组合（hé）数据来（lái）进行（háng）欺骗和误导的。

更重要的数据可以被污染，或者我们称之（zhī）为数据投毒。因为数据（jù）是宝贵的数字资产，AI的深度学习是（shì）要基于大（dà）量的数据训练。但是，如果（guǒ）我（wǒ）们在训（xùn）练（liàn）过程中，我（wǒ）们给（gěi）的数（shù）据是有误的，有可能（néng）训练出（chū）一个完全不一样的AI的（de）结果。

比如说，如果我们在训练如（rú）何识别猫（māo）的这样一个训练集的时（shí）候，我们给了很多狗的图片（piàn），那将来这个AI可能就会把狗（gǒu）误认为是猫（māo）。

AI比较独有的两个特点，我（wǒ）们（men）也在这儿提（tí）一下。就是应（yīng）用上可能会危害人类的根本利益，这（zhè）里面的（de）案例有两个，主要是涉及到社（shè）会伦理的问题。

第一，AI在5G上战场直接攻击人类。原来（lái）阿西·莫夫就希望说，只要有AI能力的（de），把这些机（jī）器都称之为（wéi）叫机器人，机器人永远不要伤害人类（lèi）。但是现（xiàn）在看（kàn）来这个原则已经被打（dǎ）破。所以，我们可能有一个建议（yì）说，因为（wéi）现在各国都在AI跟武器结合方面（miàn），世界各（gè）国都（dōu）在展（zhǎn）开军备竞赛，这也是未来大（dà）国角力的焦点（diǎn）。

所以，AI武器应（yīng）该把最后的决定权，应该让人来做最后（hòu）的控制，而不（bú）是完全让AI做自动的判断、自动的决策。包括深度（dù）伪造技术，前面（miàn）已经讲了，这个技（jì）术也涉及（jí）到对（duì）人的利益的伤害。不（bú）仅可以（yǐ）用于网络诈骗，制造色情视频，甚至伪造新闻，误导舆论。

你比如（rú）说，最近有人用马斯克的视频，深度伪造（zào）。伪造了一个他鼓动粉丝购买特定（dìng）的虚拟货币的事件，害得马斯（sī）克不得（dé）不（bú）出来辟谣（yáo），说（shuō）这个视频是别人（rén）用Deepfake来（lái）伪造的。

AI最大的（de）一（yī）个（gè）问题，也（yě）是现（xiàn）在我们国家很多学者都在讨论的，AI在社会伦理（lǐ）上，有可能超（chāo）出（chū）现有（yǒu）的社会法（fǎ）律和道德的规（guī）范。

比（bǐ）如（rú）说，有一个电车难题，如何（hé）认（rèn）定无（wú）人驾驶车出事以后的（de）责任。比如说在（zài）高速行（háng）驶（shǐ）之中（zhōng），自动（dòng）驾驶（shǐ）汽车，如果避让行人（rén），可能会（huì）撞（zhuàng）上旁边的（de）障碍物，导致（zhì）车主（zhǔ）人身伤亡；如果（guǒ）不避让，就会导（dǎo）致行（háng）人伤亡。在这种情况（kuàng）下，就有（yǒu）两个问（wèn）题，AI的（de）程序应该如何来做出判断（duàn）。第二个，如（rú）果出了车祸，到底这个责任应该算（suàn）是（shì）AI的，算是车厂的（de），还（hái）算是（shì）驾驶（shǐ）员的，所以这些问题应该（gāi）说都还没（méi）有一个明确的答案。

前（qián）面我们讲了（le）数字化技术（shù）带来（lái）了诸（zhū）多挑（tiāo）战，但是今天（tiān）也（yě）有很多人，对安（ān）全的认识还停留在计（jì）算（suàn）机安全和网络（luò）安全（quán）的时代（dài），以为安全就是（shì）杀杀病毒，防防木马，用防火墙隔离等传（chuán）统手段。

面对大数据、人工智能各（gè）种复杂的安全挑战，我觉得网络（luò）安全还应该重新被定（dìng）义，要（yào）将计算机安全（quán）、网络安全升级到（dào）数字安（ān）全，才能跟得上整个（gè）行业的发展要求，才能（néng）跟得上国家的产业数字化（huà）的发（fā）展要求，才能保障我（wǒ）们进入数（shù）字文（wén）明时代。

当（dāng）前一（yī）个重要的变化是，人工智能安全已经上升为（wéi）国家安全的重要组成（chéng）部分，《国家安全战略（2021年-2025年）》明确提（tí）出加快提升网络安（ān）全、数据安全（quán）、人工智（zhì）能安全等领域的（de）治理能力（lì），这也是（shì）国家战（zhàn）略（luè）层面首次提出来（lái），人工智能安全的概念，说（shuō）明人工（gōng）智能安全是数字（zì）安全的一部（bù）分，也（yě）是平（píng）常我们所说的“非传统安全（quán）”。

反过来，说了半天AI的问题，我们讲数字化技术也是一把双刃剑。人工智能技术高（gāo）速发展，带（dài）来安（ān）全挑战的同时，也为解（jiě）决网络安全、数字安全的风险提供（gòng）了新的技术手段。

现（xiàn）在AI技术已经（jīng）广（guǎng）泛利用于（yú）大数据的分析、威胁（xié）情报的处理、智能防（fáng）御等（děng）领域，特别是在恶意代码的样（yàng）本（běn）检测、恶意代码流（liú）量分析、漏洞挖掘、僵尸网（wǎng）络检测、网络黑灰产检（jiǎn）测等方面发（fā）挥了（le）巨大（dà）的（de）作用。360这（zhè）几年（nián）连续帮助国家发现了50个（gè）境外的国家级黑（hēi）客组（zǔ）织，与（yǔ）我们对AI的使用都是分不开的。

在（zài）AI数据（jù）分析方面，人工智能在（zài）海（hǎi）量数据分析方面，发挥了积（jī）极重要的作用。因（yīn）为大数据的（de）数量浩如烟海，依靠（kào）人工去做发现是基本不可能的。必须借助人工智（zhì）能，去对（duì）多维度海量、鲜活的安全大数据进行实时的分析，用算力来代替人力，然后再从中挖掘出安全的线索，再由（yóu）安全专家来进行跟进（jìn）。

在AI情（qíng）报处理方面，人（rén）工智能（néng）可以（yǐ）参与漏洞的挖掘（jué），筛选恶（è）意的样本、恶意的网（wǎng）址，对（duì）APT的攻击（jī）行为进行自（zì）动化的分析跟（gēn）学（xué）习，实现（xiàn）针对威胁攻击的智能化检测、监（jiān）测、预警和（hé）响应。

未（wèi）来在AI智能防御方面，人工智能可（kě）以发（fā）现未知（zhī）的病毒木马，对（duì）DDoS攻击进行（háng）监测和预警（jǐng），并对APT的攻击溯源进行定（dìng）位，有效提高（gāo）安全运营的（de）效率（lǜ），大幅度提高我国的安全防御能力。

作为中国（guó）数字安全的（de）领军（jun1）企业，360一直高度重视人工智（zhì）能安全，率先在行业里进行布局（jú），积极构（gòu）建人（rén）工智能安全能（néng）力体系（xì）。我们确立（lì）了“数据制胜”为核心的新（xīn）战法，核心就是无论任何（hé）的攻（gōng）击，首先要（yào）强（qiáng）调能（néng）够想（xiǎng）办（bàn）法利（lì）用大数据分（fèn）析，能够看见（jiàn）攻击。看见攻击，那么（me）随后对它进（jìn）行阻断，进行溯（sù）源，进（jìn）行封堵，进（jìn）行清理，就变得比（bǐ）较（jiào）简单。如果看不见（jiàn），那什么（me）都是抓瞎（xiā）。

所以，如何利用人工智能技（jì）术，从全（quán）网大数据中进行分析，建（jiàn）立全局视（shì）角，并且从（cóng）中构建起（qǐ）看（kàn）见的这种能力。

在（zài）新的战法指导下，360应用人工智能数据分（fèn）析技（jì）术，对自身积累的全球最大规模的安全大数据进行（háng）实时分析，形成360全网安全大脑的原（yuán）型，为行业或者企业提供强大（dà）的（de）数（shù）据和情报支（zhī）撑，实现（xiàn）对网络威胁进行（háng）有效（xiào）的分析（xī）、预（yù）警、发（fā）现和（hé）阻断。

面（miàn）对人工智能自身的安全（quán）挑战，360也（yě）积极参与人工智能漏洞挖掘。我们（men）一共发现了150多个机器（qì）学习框架和供应链的漏（lòu）洞，涉及到Tensorflow、Caffe、PyTorch等主流深度学习AI开（kāi）源（yuán）框架。我们（men）发现了多款人脸识别设备的安全漏洞，利用漏洞可（kě）以实（shí）现远程控制（zhì）、隐（yǐn）私的窃取、模型（xíng）文件的窃取。360的AI安全实验（yàn）室发现了多款移动（dòng）APP、人脸识别（bié）功能方面存在的数字（zì）泄漏（lòu）的安（ān）全风险。

所（suǒ）以，未来利用AI解决安全，也大有可为。

360将AI安全作为公司业务发展的（de）重点方（fāng）向，愿意与行（háng）业（yè）、产（chǎn）业一（yī）起开放协同（tóng）创（chuàng）新。我们积极（jí）承担安全大脑，国家新一代人工智能开（kāi）放创新平（píng）台的建设，目（mù）前360安全大（dà）脑开放平台（tái）的能力，已（yǐ）经落地（dì）于（yú）工业互联网、物（wù）联网、智能网联（lián）车、智慧（huì）城市、数（shù）字政府等多个场景，并且赋能（néng）教育、运营商、信创等诸多行业。

360还牵头研发了人工智能安全评测与风险（xiǎn）监（jiān）测预警平台，入选工信部的人（rén）工智能产（chǎn）业创新任务揭榜单位（wèi）名单。

作为中国数字安全的领军企业，360愿（yuàn）意开放自身的安全大数据，将产业（yè）力量（liàng）联合（hé）起来，共建AI安全生态，集中（zhōng）推动数字安全的创新，其（qí）成果也将最终沉淀于安（ān）全大脑人（rén）工智（zhì）能创新开放平台的（de）建设。

360还将在安全（quán）大脑人工智能开放创新平台建设的基础之上，倡导建立人工（gōng）智能与（yǔ）开放（fàng）创新体系，建（jiàn）立平台化机制，实现核（hé）心研究（jiū）成果的对接与转换，赋能人工智能与安全相（xiàng）关（guān）的中（zhōng）小微企业、高校、科研院所（suǒ），赋能中（zhōng）小微初（chū）创的安（ān）全企业（yè），全（quán）球行业、AI产业，共（gòng）享技术成果，推动产（chǎn）业健康快速（sù）发（fā）展，提升国家（jiā）人工智能（néng）安（ān）全整（zhěng）体的防御能力。

在过去的20年（nián）里面，360核心（xīn）做（zuò）的就（jiù）一件事，就是（shì）“安全”。希（xī）望在（zài）未（wèi）来越来越富有挑战（zhàn）的安全环（huán）境里面（miàn），我们做到真正能（néng）看见攻击，发现（xiàn）威胁，抵御威胁。

未（wèi）来360将携手合作伙伴，共同夯（bèn）实AI安全能（néng）力，把服务（wù）于国家和社会的数字安全能（néng）力复制到（dào）各个行业里，为数字中国的建设，各个行业的数字化（huà）转型（xíng）贡（gòng）献力量。

谢谢大家！