AI大模型崛起,算力供不应求怎么办?道客用“一体化方案”让算力更自由

   日期:2024-12-27    作者:chuanyouhg 移动:http://3jjewl.riyuangf.com/mobile/quote/66806.html

今年是大模型应用加速落地的一年

AI大模型崛起,算力供不应求怎么办?道客用“一体化方案”让算力更自由

训练规模的提升

带动算力需求爆发式增长

总部在上海的道客网络科技有限公司

专注云原生领域

致力于打造

开放的云操作系统

为实体经济赋能

推动传统企业完成数字化转型

成立十年来

这家国家级“专精特新”小巨人企业

已在金融科技、先进制造、

智能汽车、零售网点、城市大脑等

多个领域深耕

用云原生操作系统

和算力一体化解决方案

为数字世界寻找全局最优解

驾驶算力马车

通往未来智能世界

为了快速抢滩 AI 业务,国内一家“500强”金融资产管理集团今年启动了AI大模型试点建设工作。不过,试点一开始就遇到了一系列棘手问题:市面上算力设施众多,不仅要考虑兼容性,稳定性、传输速度、能耗、散热等一系列指标都是需要直面和权衡的问题。

为了尽快搭建起知识库平台,这家"500强"集团找到了上海道客网络科技有限公司,在充分调研后,他们为客户规划了基于算力租赁模式的基础设施建设方案,通过采用“d.run算力一体化方案”,有效管理并优化算力资源的使用,同时提供丰富的模型支持工具,更加高效实现 AI 智能应用的快速落地。

d.run 的 AI 生态开发平台,覆盖数据准备、模型开发、模型训练、模型部署等环节,拥有各种便捷实用的生态产品和开源工具。市场部负责人李欢欢介绍,“可以理解为,数据科学家、AI科学家需要的这些东西,都已经在一个实验室全部具备了。不需要关注底层资源是怎么运转的,只需要关注于自身的业务,底下的资源由我们帮他非常好地管理起来。”

通过软件层面的深度优化,道客提供的 d.run 可以点“铁”成“算”,实现国内外主流GPU卡“协同作战”,让算力的调度更自由。

“一般来说,AI 任务有不同的优先级,我们会动态调度算力资源,优先满足优先级高的 AI 任务,以确保关键任务能够及时完成。”李欢欢说

拓展“云原生”生态圈

60万名开发者云集社区

在道客创始人兼首席执行官陈齐彦看来,真正高质量的算力就像是一家豪华的五星级酒店,道客在其中扮演的角色,就是星级酒店的管理公司。道客“十年磨一剑”,在数据中心操作系统这一产业排名全球前三,成为行业引领者。

在掌握核心代码话语权的同时,道客不断产出创新开源项目,去定义云原生技术的后续发展方向。“我们团结了全球很多优秀的开发者,虽然我们公司研发工程师也就两百多人不到,但是我们团结了全球生态圈的60万人。” 陈齐彦说。

在道客的官网上,有一个“DCE社区”的页面,面向开发者介绍云原生前沿技术、开源项目、解决方案、典型案例等,积极拓展云原生生态圈。陈齐彦表示,“道客公司现在被开源世界认为是践行开源理念和发扬开源精神最彻底的公司,这是我们很骄傲的一点。”

让AI更普惠

让算力更共享

陈齐彦认为,目前,AI应用已经处于一个爆发周期的前序。通用人工智能意味着普惠,每个人都能够驾驭的AI要变得和拿起手机来打电话一样方便。“去投简历的时候,你的简历可能第一页讲的是有什么技能,但第二页未来会变成‘我训练的模型能干什么事’。”

今年8月,服务了众多大企业的道客在香港宣布成立分公司,希望以此作为道客在亚太地区乃至全球业务的重要支点,进一步扩大公司的国际化版图。得到头部市场的高度认可的道客,也正在探索提供普惠型的AI基础设施能力。

算力基础设施建设不断加快,让算力像水和电一样流向千行百业的过程中,闲置算力的互联互通、资源共享还需要解决技术问题和产业链整合的问题。陈齐彦认为,对于底层的生产资料和未来新的生产力模型而言,最迫切需要的就是算力的统一大市场。掌握核心技术的道客,也希望在上海贡献出自己的一份力量。

“我觉得范式很重要,上海绝对是现在人工智能产业最高度集聚的地方,产业链不缺任何一个环节。我们希望在上海打造出中国人工智能产业发展的范式。中国的人工智能最终是要通用化、平民化,这个事情应该是从上海出发。”

——道客创始人兼首席执行官陈齐彦


特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。


举报收藏 0评论 0
0相关评论
相关最新动态
推荐最新动态
点击排行
{
网站首页  |  关于我们  |  联系方式  |  使用协议  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号