在CCF HPC China2019第十五届全国高性能计算学术年会上,清华大学计算机系教授、本届年会共同主席郑纬民在大会做了从2019年TOP500和2018年戈登贝尔奖看E级超级计算机与应用发展趋势报告。报告上介绍说,高性能计算是一个国家综合国力的体现,最近十几年来,我国高性能计算取得了非常大的进展。我们国家的高性能计算机已在世界Top500强排行榜里位列第一,这表明我们超级计算机的水平已经名列世界前列。我国于 2016年和2017年连续两次夺得了高性能计算应用专项奖-戈登贝尔奖,这也说明了我们国家高性能计算应用水平大幅度的提高。
他总结了超级计算机与应用两个重要发展趋势
趋势1,异构架构在超算系统构建层面被广泛接受
TOP 10系统中异构超算占据7成,异构架构已经成为构建顶级超算系统的大势所趋,加速器异构还是异构众核之争仍将继续,目前的 TOP10系统中异构超算占据七成,其中, NVIDIA GPU构建的异构超算 占5席。
随着人工智能技术在科学与工程计算中越来越广泛的应用,支持高性能张量计算的图形加速器硬件还可能越来越多地受到超算中心决策者的青睐。
趋势2,人工智能应用有望成为超算的主流应用之一
算力一直被认为是人工智能再次起飞的重要基础之一。随着深度神经网络规模的扩大,最新的网络生成和训练往往需要数万GPU小时(如BERT, NASNet等)甚至更多,具有顶级计算能力的超算系统理应为大规模人工智能应用提供助力,不断拓展后者的技术边界。
2018年的戈登·贝尔奖选择大规模深度学习应用,入围应用中人工智能相关的项目也前所未有地占据了半壁江山,这一切都预示人工智能与超算的结合将愈来愈紧密。
好文章,需要你的鼓励
刚刚,确实是刚刚。2026 年 6 月 12 日,SpaceX 以每股 135 美元在纳斯达克挂牌(SPCX),收于 160.95 美元,涨 19%,市值突破 2 万亿美元,史上最大 IPO。
这项研究提出用费舍尔信息矩阵谱范数衡量深度神经网络的内在脆弱性,无需发动对抗攻击即可评估模型稳健性,并推导了VGG、ResNet、DenseNet和Transformer的理论排名。
前美国总统候选人杨安泽认为,AI浪潮将压缩薪资、取代就业,由此催生出一个新的创业机会——帮助普通人降低生活成本。他以马克·库班的平价药品公司为灵感,于去年创办了移动虚拟运营商Noble Mobile,以低价提供手机服务并与用户共享利润。杨安泽表示,住房、教育、食品、交通等基本生活领域都存在巨大机会,市场可以在政策失灵时发挥再分配作用,鼓励创业者突破AI泡沫思维,关注真实的民生问题。
南加州大学提出DistIL方法,通过前向交叉熵目标和完整序列级梯度,解决AI自蒸馏训练中方向偏差与局部信用分配问题,在科学推理、编程和难题数学上均超越现有基线。