希捷日前宣布发布Apache Hadoop on Lustre连接器的相关资料,以兑现其一直以来支持开源社区的承诺。Hadoop on Lustre连接器能提高工作流效率,运行Apache Hadoop任务之前无需将数据复制到Hadoop分布式文件系统(HDFS)。Hadoop on Lustre连接器还为Hadoop对分布式文件系统(HDFS)的依赖性提供了替代方法,让Hadoop系统工具如Mahout、Hive、Pig等也可利用Lustre文件系统。希捷还发布了源代码作为Hadoop的补丁,允许Map 和 Reduce程序共享文件,并启用“无磁盘”Hadoop计算集群,让Hadoop与使用Lustre进行存储的高性能计算(HPC)架构共同运行。在生命科学和能源领域,越来越多的高性能计算(HPC)客户同时将Hadoop 和 Lustre作为数据分析工作流的一部分。Hadoop on Lustre连接器帮助HPC客户简化Hadoop工作流,缩短展现成效的时间。
希捷同时还公布一项协议,将Lustre.org的相关资产转让至开放式可扩展文件系统(OpenSFS)和欧洲开放式文件系统SCE(EOFS)。OpenSFS和EOFS是Lustre分布式文件软件领域的委托管理组织,将携手管理Lustre.org。希捷通过对OpenSFS给予最高“促进者”级别的资金支持并成为活跃的董事成员,兑现其对Lustre的承诺。希捷深度参与OpenSFS和EOFS的各项工作,成为Lustre代码树最大的代码贡献者之一。
希捷云系统和解决方案部门ClusterStor业务副总裁Ken Claffey 表示:“希捷相信,直接参与能够提升核心能力并培养新的应用环境,这对于开源社区尤其是Lustre的发展至关重要。Lustre是科学、政府以及商界领袖获得高性能计算成就的基础。我们与OpenStack Swift、开源计算项目(OCP)、OpenSFS、EOFS以及目前Hadoop的合作仅仅是一个开始,我们将与开源社区通力合作,致力于推动开源创新并研发出整个业界所倚重的尖端科技。”
这是继希捷于今年一月份公布向开源计算项目(OCP)开放以太网硬盘接口规格以及T-Card开发适配器后的又一举措。
好文章,需要你的鼓励
Allen AI研究所联合多家顶尖机构推出SAGE智能视频分析系统,首次实现类人化的"任意时长推理"能力。该系统能根据问题复杂程度灵活调整分析策略,配备六种智能工具进行协同分析,在处理10分钟以上视频时准确率提升8.2%。研究团队创建了包含1744个真实娱乐视频问题的SAGE-Bench评估平台,并采用创新的AI生成训练数据方法,为视频AI技术的实际应用开辟了新路径。
联想推出新一代NVMe存储解决方案DE6600系列,包含全闪存DE6600F和混合存储DE6600H两款型号。该系列产品延迟低于100微秒,支持多种连接协议,2U机架可容纳24块NVMe驱动器。容量可从367TB扩展至1.798PiB全闪存或7.741PiB混合配置,适用于AI、高性能计算、实时分析等场景,并配备双活控制器和XClarity统一管理平台。
中科院团队首次系统评估了AI视觉模型在文本压缩环境下的理解能力,发现虽然AI能准确识别压缩图像中的文字,但在理解深层含义、建立关联推理方面表现不佳。研究通过VTCBench测试系统揭示了AI存在"位置偏差"等问题,为视觉文本压缩技术的改进指明方向。