2020年(nián)12月31日,北京智源人工智能研(yán)究院(以下简称(chēng)“智源研究院”)发布了《2020人工智能(néng)十大进展报告》。该报告由智(zhì)源研究院(yuàn)全体(tǐ)智源学(xué)者共同参与,对2020年里全球(qiú)范围内人工智能领域的科学系统、算法等(děng)方向进行了评价分析,最(zuì)终形成(chéng)了十大进展成果。其(qí)中,由中国学(xué)者取得的进(jìn)展有3项(xiàng)。
这十大进展(zhǎn)分(fèn)别(bié)是:
进展1:OpenAI发(fā)布全球规模最大的(de)预训练语言模型GPT-3;
进展(zhǎn)2:DeepMind的AlphaFold2破解蛋白质结构预测(cè)难题(tí);
进展3:深度势能分子动力学研究获得戈登·贝(bèi)尔奖;
进展4:DeepMind等用深度神经网络求解薛定谔方程促(cù)进量子(zǐ)化学发展;
进展5:美国贝勒医学院通(tōng)过动态颅(lú)内电刺(cì)激实现高(gāo)效率“视皮层打(dǎ)印机”功能;
进展6:清华大学首次提(tí)出类脑(nǎo)计算完备性概念及计算系统层(céng)次结构;
进(jìn)展(zhǎn)7:北京大学(xué)首次实现基于相变存储器的神经网络高速训练系统;
进展8:MIT仅用19个类脑神经元实(shí)现控制(zhì)自动驾驶汽车;
进展9:Google与FaceBook团队分(fèn)别提出全新无监(jiān)督表征(zhēng)学习算法;
进展(zhǎn)10:康(kāng)奈尔大学提出无偏公平排序模型可(kě)缓解检索排名的马(mǎ)太效应问题(tí);
在中国学者取(qǔ)得的进展中(zhōng),北京应(yīng)用物(wù)理(lǐ)与计算数学(xué)研究院王(wáng)涵所(suǒ)在(zài)的“深度势能”团队,获得了国(guó)际高(gāo)性能计(jì)算应用(yòng)领(lǐng)域最高奖项“戈登·贝尔奖”。“戈登·贝尔奖”设立于1987年,由美(měi)国计算机(jī)协会(ACM)颁(bān)发,被誉为“计算应用领域的诺贝尔奖”。该团(tuán)队研究(jiū)的“分子动力学”,结合了分(fèn)子建模、机器(qì)学习(xí)和高(gāo)性能计算相关(guān)方法,能够将第一性原理精度(dù)分(fèn)子动力(lì)学(xué)模拟规模(mó)扩展到1亿原子(zǐ),同(tóng)时计(jì)算效率相比此前人类最(zuì)好水平提升1000倍以(yǐ)上,极(jí)大地(dì)提(tí)升了人类使(shǐ)用计算机模拟客观(guān)物理世界的能力(lì)。
清华大学张悠慧(huì)、李国齐、宋森团队首次提出“类(lèi)脑计算完备性”概念以及软硬件(jiàn)去耦合的(de)类脑计算系统层次结构,通过理论论证与原型实验证明(míng)该类系统(tǒng)的硬件完(wán)备性与编(biān)译可行(háng)性,扩展(zhǎn)了类脑计算系(xì)统应用范围使之能(néng)支持通用计算。《自(zì)然》周(zhōu)刊评论(lùn)认为(wéi),“‘完备性’新概(gài)念推动(dòng)了类脑计算”,对于类(lèi)脑系统存在的软硬件(jiàn)紧耦合(hé)问题而(ér)言这是“一个突破性(xìng)方案”。
北京大学杨玉超团队提出并实现了一种基于相变(biàn)存储器(PCM)电导随机(jī)性的神经(jīng)网(wǎng)络高速训练系统(tǒng),有效地缓解了人工神经网络训练过程中时间、能量开销巨大(dà)并难(nán)以在片(piàn)上实现的问(wèn)题。该系统在误差直接(jiē)回传算法(fǎ)(DFA)的基础上进行改进,利用PCM电导的(de)随机性自然地产生传播误差的随(suí)机权重,有(yǒu)效降低(dī)了系统的硬件(jiàn)开销以及训练过(guò)程(chéng)中的时间、能量消耗。该系统在大型卷积神(shén)经网络的训练过程中表现优异,为人工神(shén)经网(wǎng)络在终(zhōng)端平(píng)台上的应用以及(jí)片上训练(liàn)的实(shí)现提供了新的方向。