通常用户在云上进行应用部署的时候,首先要考虑采用多少计算核心、多大内存、多高存储、多大带宽,然后在业务应用的时候还需要再反复的去进行调试。云计算"按需调配,自由扩展"的优势并不能很好的体现出来。那么在云上是否可以通过"智能调配 按需服务"的方式对云计算各项资源来自动进行分配呢?在3月29日Think in Cloud大会的专访中,UCloud应用创新部研发总监叶理灯先生向我们介绍了UCloud是如何通过Serverless架构来改变未来的。
UCloud应用创新部研发总监 叶理灯
功能即服务 减轻运维负担
通常,大家意识中的云计算,是按需付费的。但实际上目前云计算iaas平台,并非全都可以做到完全按需付费。还有很多是按照一个虚机一个虚机的进行扩容。这个时候就很容易出现,当扩出一个虚机之后,但是应用只用了一个虚机多一些,但是没有把两个虚机用满。这样的粗力度,对用户来讲是一种浪费,对于云计算提供商来讲,同样也是一种资源的浪费。
真正的按需付费,需要将计算力度放的更小,变成一个函数,来一个请求,拉起一个函数,算完了就将其销毁,这样就不占资源,自动统计应用了多少时间,精细的按需管理。这就是Ucloud通用计算解决方案--UCloud Serverless。
Serverless是一种用户无需关注底层资源的全新服务架构,UCloud的Serverless架构可以跟据用户功能代码请求量,智能的进行系统资源调配。例如某用户应用代码运行在PaaS平台上时,需要考虑服务的伸缩问题,手动来调节低层系统资源分配。而在采用UCloud Serverless架构的UGC上,可以根据用户功能代码的请求量,自动的实现服务伸缩和计算资源最优分配。从而有效减少用户系统资源运行维护的工作强度。
动与静相合 加速应用部署
UCloud Serverless架构是如何实现智能调配的呢,叶总监详细为向我们进行了讲解。在UCloud的UGC上首先借助Docker细粒度、轻量级的技术优势,将计算资源做服务化打包。然后将Docker运行在VM集群中统一调度管理。UGC通过这种动静结合的方式,既满足了用户细粒度资源调用的应用需求,又可以提供高等级的隔离管理能力。
Docker+VM不能算是很新的技术形式,甚至一些对云计算开源系统有效多研究的企业用户,也可以对此进行搭建。但是当云计算系统规模庞大到一定程度后,开源系统在网络管理、资源调度等方面的不足就开始显现出来了。UCloud的UGC又可以为用户提供多高的计算能力呢?叶总监的答案是十万核级。通过如此高并且可以灵活调配的计算能力,结合UCloud的单文件最大支持5TB的UFILE对象存储,可以轻松实现每天1600万的图片处理,每张图片2~3秒就可处理完毕。以及通过高并发的处理方式,高效率的满足OCR业务应用需求。
虽然十万核级的规模部署还只是UCloud的"一面之词",目前尚无更进一步的数据可以分析这"十万核级"可以为用户带来多高的应用处理性能。但是大规模细粒度的云计算应用部署,已经是云计算由"技术"向"产品"转变的一个具体表现。未来至顶网也将会更加深入的对UCloud的Serverless架构进行了解,从功能和应用性能方面,将UCloud的云计算技术解决方案更加深度全面的进行展示。
好文章,需要你的鼓励
浙江大学和吉利汽车研究院联合团队提出的FreeTimeGS是一种创新的动态3D场景重建方法。不同于传统方法,它允许高斯基元在任意时空位置自由出现,并赋予每个基元运动功能,使其能够随时间移动到相邻区域。研究通过4D正则化策略解决了高不透明度基元阻碍优化的问题。在多个数据集测试中,该方法在渲染质量和速度上均大幅超越现有技术,特别是在处理复杂动态场景时,使用单个RTX 4090 GPU能以467 FPS的速度实现1080p实时渲染,为电影制作、游戏和虚拟现实等应用提供了新可能。
这篇研究介绍了"对角线批处理"技术,该技术解决了循环记忆Transformer模型在处理长文本时的并行计算瓶颈。通过重新编排计算顺序,研究团队实现了在不破坏依赖关系的情况下进行并行计算,使LLaMA-1B模型处理长文本的速度提升3.3倍,同时内存使用减少167.1倍。这种纯运行时优化不需要重新训练模型,为实际应用中的长文本处理提供了高效解决方案。
BEVCALIB是一种利用鸟瞰图表示实现激光雷达与相机校准的创新方法,由南加州大学和加州大学河滨分校的研究团队开发。该方法将不同传感器数据转换到共享的BEV空间,并通过几何引导的特征选择实现高精度校准。在KITTI和NuScenes等数据集上,BEVCALIB比现有最佳方法平均提高了47-82%的性能,为自动驾驶和机器人系统提供了可靠的传感器融合基础。
博尔扎诺自由大学研究团队开发的PATS技术通过保留完整运动片段代替随机抽取视频帧,显著提升了AI评估体育技能的能力。该方法在EgoExo4D基准测试中表现出色,攀岩评估准确率提高26.22%,音乐提高2.39%,篮球提高1.13%。PATS能根据不同运动类型自动调整采样策略,为体育训练和人才发展提供了更准确的自动评估技术。