第三届HUAWEI CONNECT 2018(华为全联接大会)2018年10月12日继续,就像任正非说的,鼓励科学家,专家与工程师交流,思想碰撞。今天全联接大会上世界知名计算机专家,唯一华人图灵奖获得者、清华大学交叉信息研究院院长,中科院院士,美国科学院外籍院士姚期智教授将阐述人工智能理论新方向。为下一代人工智能突破提供理论基础。
姚期智首先分享了清华大学交叉信息研究院目前人工智能的应用,包括精准医疗、蛋白质三维结构重构、基于深度学习的医学影像诊断等。
姚期智谈到人工智能理论新方向:
人工智能及深度学,在未来三五年能产生非常出色的结果。这方面计算机科学、信息论以及统计物理学为基础。
姚期智认为目前理论上人类在科学上啊还不了解科和解释深度学习的运行原理。目前不能够解释算法做了什么事情,完全是一个黑盒子。目前深度学习最大的问题是“是不是做了不公平的事情,我们也不知道。”也困扰着人工智能的发展,全球出色的科学家都在探讨这个问题。
还有一个历史问题,图灵提出的人工智能的计算能不能模仿人的行为。这个问题困扰了世界很多年。最近人工智能的成功给了我们希望。人工智能和神经科学有一个互动。
第三个方向,人类的知识能够到达一个什么程度,这就让与量子人工智能产生关系。人工智能和量子计算机是两个很重要的发展。人工智能和量子计算机合并起来?是否是未来的终极学习机器?
姚期智主要分享了深度学习和量子计算的理论方向:
介绍了深度学习的起源,从理论基础到表达能力到学习能力再到收敛理论。
从计算机科学的角度看深度学习,目前传统的计算机算法是先证明正确性,在实施。
从信息论的角度看深度学习,怎么能够把信息中的信息提取出来。
从统计物理学的角度看深度学习,把你信息论的方法用数学展示出来。提出重整化群方法。物理学的理论用到计算机算法里面?
姚期智认为发现一个新的算法,远远超过对现有算法的升级。需要计算机科学跳出纯粹计算机方法的范畴。
量子数据如何传播通过并行传输量子路由器来解决。利用人工神经网络解决量子多体物理学问题。
最后姚期智憧憬未来,向了解自然世界一样了解算法世界进军。
(此文是作者个人理解,不作为专业解读。)
好文章,需要你的鼓励
微软高级软件工程师Alice Vinogradova将自己用SAP ABAP语言编写的向量数据库ZVDB移植到了搭载Z80处理器的经典计算机Sinclair ZX Spectrum上。她发现ABAP(1983年)和Z80(1976年)几乎是同时代产物,都诞生于内存珍贵、每个字节都很重要的计算时代。通过应用Z80优化技术,尽管时钟频率相差857倍,但代码运行速度仅慢3-6倍。她认为这些老式优化技术具有普遍适用性,在现代硬件上依然有效。
这项由东京科学技术大学等机构联合发布的研究提出了UMoE架构,通过重新设计注意力机制,实现了注意力层和前馈网络层的专家参数共享。该方法在多个数据集上显著优于现有的MoE方法,同时保持了较低的计算开销,为大语言模型的高效扩展提供了新思路。
韩国电子巨头三星宣布收购美国西雅图数字健康技术公司Xealth,进一步扩大在健康领域的布局。Xealth专注于帮助医疗专业人员将数字健康技术整合到日常实践中,与70多家数字健康技术供应商合作,应用覆盖美国500多家医院。此次收购将推动三星向连接医疗保健平台转型,结合其在传感器技术和可穿戴设备方面的优势,完善Samsung Health平台功能。
小米团队开发的MiMo-7B模型证明了AI领域"小而精"路线的可行性。这个仅有70亿参数的模型通过创新的预训练数据处理、三阶段训练策略和强化学习优化,在数学推理和编程任务上超越了320亿参数的大模型,甚至在某些指标上击败OpenAI o1-mini。研究团队还开发了高效的训练基础设施,将训练速度提升2.29倍。该成果已完全开源,为AI民主化发展提供了新思路。