HPC供应商DDN加入小型的、但不断增长逐渐进入企业AI主流市场的公司,DDN旗下的存储产品可与Nvidia的DGX-1 GPU服务器结合在一起。
DDN最近出台了一系列举措以扩展旗下企业存储公信力,上个月收购了Tintri(https://www.theregister.co.uk/2018/09/05/ddn_buys_tintri_biz_remains_for_60mn/)后有了出售企业存储阵列的能力,现在又凭借旗下A3I品牌的可扩展参考架构产品进入人工智能(AI)系统领域。
企业AI系统市场最初由Pure建立,Pure将AIRI(https://www.theregister.co.uk/2018/03/27/pure_nvidia_ai_airi/)的FlashBlade阵列与DGC-1双响炮结合在一起。后来NetApp携其A700全闪存阵列/ FGX-1组合加入该市场,后来又推出更快的A800/ DGX-1装置(https://www.theregister.co.uk/2018/08/03/netapp_a800_pure_airi_flashblade/)。戴尔EMC则推出人工智能完备解决方案(Ready Solution for AI):深度学习(https://www.theregister.co.uk/2018/08/07/dell_emc_ai_deep_learning/ ),思科也推出了C480 AI /机器学习服务器(https://www.theregister.co.uk/2018/09/10/cisco_ai_server_nvlinked_tesla_gpu/)。
所有这些系统都涉及到全闪存,DDN则拥有AI200和AI400全闪存系统以及混合闪存/磁盘AI7990。二者都运行DDN的Exascaler软件,Exascaler是个基于Lustre的并行文件系统。
AI200是个容量高达360TB的24倍双端口NVMe闪存驱动器,置于2U机箱内,以4 x EDR InfiniBand(EDR IB)或100Gbit / s以太网(100 GbitE)连接到DGX-1。AI200可提供高达20GB/秒的文件系统顺序读取吞吐量和超过100万IOPS。
AI400使用相同的机箱,可提供高达40GB/秒的顺序读取吞吐量和高达300万IOPS。AI400具有8个EDR InfiniBand端口或100GbitE端口,闪存容量与AI200相同。
而较大的AI7990则置于4U机箱内,回归20Gb /秒的顺序读取性能,可提供高达700,000的IOPS。AI7990支持90 x 3.5英寸的插槽,可用于SSD和磁盘驱动器。最多可以有4个扩展机座,每机座有90个架,可提供高达5.6PB的容量。
DDN 的A3I解决方案简介可从网上下载(https://www.ddn.com/?wpdmdl=42534&ind=1538608827207),简介里提供了使用A3I软件的示例,例如Resnet-50和Resnet-152,Caffe GoogleNet,Inception V3 。
A3I解决方案指南(http://www.ddn.com/?wpdmdl=42573&ind=1538599065785)提供了Tensorflow,Horovod,TensorRT,Torch,PyTorch提供具有9 x DGX-1服务器和系统性能的AI200及其他AI框架的配置示例。
在Resnet-152和Resnet-50测试中,AI200的测试速度比竞争对手Pure、NetApp和Dell EMC的系统更快。思科未提供旗下AI系统性能的任何公开信息。
AI200和AI7990数据表可从此处获取:https://www.ddn.com/products/a3i-accelerated-any-scale-ai/。
好文章,需要你的鼓励
在我们的日常生活中,睡眠的重要性不言而喻。一个晚上没睡好,第二天的工作效率就会大打折扣,而充足的睡眠不仅能让我们恢复精力,还能帮助大脑整理和巩固当天学到的知识。有趣的是,AI模型竟然也表现出了类似的“睡眠需求”。
DeepSeek-AI团队通过创新的软硬件协同设计,仅用2048张GPU训练出性能卓越的DeepSeek-V3大语言模型,挑战了AI训练需要海量资源的传统观念。该研究采用多头潜在注意力、专家混合架构、FP8低精度训练等技术,大幅提升内存效率和计算性能,为AI技术的民主化和可持续发展提供了新思路。
尽管模型上下文协议(MCP)自11月推出以来用户数量快速增长,但金融机构等监管行业仍保持谨慎态度。银行等金融服务公司虽然在机器学习和算法方面是先驱,但对于MCP和Agent2Agent(A2A)系统的采用较为保守。监管企业通常只使用内部代理,因为其API集成需要经过多年审查以确保合规性和安全性。专家指出,MCP缺乏基本构建块,特别是在互操作性、通信标准、身份验证和审计跟踪方面。金融机构需要确保代理能够进行"了解您的客户"验证,并具备可验证的身份识别能力。
加拿大女王大学研究团队首次系统评估了大型视频语言模型的因果推理能力,发现即使最先进的AI在理解视频中事件因果关系方面表现极差,大多数模型准确率甚至低于随机猜测。研究创建了全球首个视频因果推理基准VCRBench,并提出了识别-推理分解法(RRD),通过任务分解显著提升了AI性能,最高改善幅度达25.2%。