Meta刚发布的最新开源大模型Llama 3系列,现已上线国家超算互联网。
即日起,开发者可限时免费在国家超算互联网上搭建专属开发环境、使用专属微调大模型,“一键”开启Llama 3推理。欢迎广大AI开发者登录国家超算互联网(www.scnet.cn),搜索“Llama”关键词注册体验。
作为全球知名开源大模型,Llama 3系列在数据训练规模、长文本支持、能耗、安全性等方面具有一定先发优势,因此受到全球AIGC行业关注。
而为满足国内开发者需求,国家超算互联网还提供多款Llama系列原生、量化、优化模型,包括Llama-3-8B-chinese-chat中文微调版本,以提高其在中文环境下表现,更有GGUF/GPTQ等多款量化版本模型上线。
更易用、安全的Llama大模型
国家超算互联网上线的Llama模型版本更安全和易用,平台上的Llama系列源码包均经过严密审核。相比国外网站可能存在的错误版本,国家超算互联网上的Llama源码包具有更高的可信度、准确性和稳定性。
为让国内AI开发者更快上手,国家超算互联网特别为Llama系列模型编制中文使用手册,以便用户掌握模型功能和操作流程。
“一键”启动AI训练、推理
最新发布的Llama3系列模型,其庞大的参数规模在提升AI推理、多任务性能的同时,对开发环境配置要求也相应提高,开发者自行搭建环境需投入巨大成本。
为此,国家超算互联网上所有AI大模型均支持“一键”启动Notebook服务,用户能够在云端实现快捷在线训练与实时推理,简化操作流程,实现了无需繁琐配置的高效体验。
值得关注的,上线国家超算互联网的Llama系列大模型,已能在国产加速器上实现在线推理服务,超算互联网平台不仅能为垂直行业大模型训练提供算力资源,也可为用户提供大模型即服务(MaaS)。这对推动我国AI产业生态完善,降低外部技术依赖具有深远意义。
除Llama3系列外,国家超算互联网还可深度支持Stable Diffusion、Gemma、Mistral、Phi、StarCoder2、ChatGLM、通义千问等50余款AI应用模型商品。
注: “限时免费”活动详情以平台上商品页信息为准。
好文章,需要你的鼓励
IBM Spyre加速器将于本月晚些时候正式推出,为z17大型机、LinuxONE 5和Power11系统等企业级硬件的AI能力提供显著提升。该加速器基于定制芯片的PCIe卡,配备32个独立加速器核心,专为处理AI工作负载需求而设计。系统最多可配置48张Spyre卡,支持多模型AI处理,包括生成式AI和大语言模型,主要应用于金融交易欺诈检测等关键业务场景。
加拿大女王大学研究团队首次对开源AI生态系统进行端到端许可证合规审计,发现35.5%的AI模型在集成到应用时存在许可证违规。他们开发的LicenseRec系统能自动检测冲突并修复86.4%的违规问题,揭示了AI供应链中系统性的"许可证漂移"现象及其法律风险。
意大利初创公司Ganiga开发了AI驱动的智能垃圾分拣机器人Hoooly,能自动识别并分类垃圾和可回收物。该公司产品包括机器人垃圾桶、智能盖子和废物追踪软件,旨在解决全球塑料回收率不足10%的问题。2024年公司收入50万美元,已向谷歌和多个机场销售超120台设备,计划融资300万美元并拓展美国市场。
这项由剑桥大学、清华大学和伊利诺伊大学合作的研究首次将扩散大语言模型引入语音识别领域,开发出Whisper-LLaDA系统。该系统具备双向理解能力,能够同时考虑语音的前后文信息,在LibriSpeech数据集上实现了12.3%的错误率相对改进,同时在大多数配置下提供了更快的推理速度,为语音识别技术开辟了新的发展方向。