大茂名网

 找回密码
 用户注册

QQ登录

只需一步,快速开始

查看: 35|回复: 0

[【其他】] 全域Serverless+AI,华为云加速大模型应用开发

[复制链接]

4766

主题

4768

帖子

1万

积分

金牌元老

Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23Rank: 23

积分
18540
发表于 2024-7-30 11:33 | 显示全部楼层 |阅读模式

马上注册登陆,结交更多好友,享用更多功能,让你轻松玩转社区

您需要 登录 才可以下载或查看,没有账号?用户注册

x

 Serverless

  日前,华为全联接大会2023在上海召开。华为云CTO张宇昕在大会上发布了基于Serverless技术的大模型应用开发框架,框架以面向AI领域全新升级的FunctionGraph 3.0为核心,将BaaS for AI 后端和开放平台快速无缝集成,助力企业轻松商用AI应用。

    在“全域Serverless + AI 加速应用创新”专题演讲上,华为云首席产品官方国伟、华为2012实验室中软分布式与并行软件实验室主任谭焜,分享了Serverless和AI如何结合的前沿理念和实践,深度解析华为云在Serverless领域核心产品及基于元戎架构构建的分布式内核能力,为开发者打造Serverless AI极优体验,帮助企业加速应用创新;广联达科技股份有限公司首席业务专家/副总裁祁长福分享了在建筑行业,华为云Serverless产品如何基于FunctionGraph优化AI应用开发,提升开发团队工作效率。

    全域Serverless 为千行万业深度用云带来新体验

    方国伟介绍,在AI时代背景下,软件开发的方式由以代码为中心,走向以模型为中心,如何将AI大模型能力充分利用起来,是当下云厂商积极探索的事情。

    企业研发人员在构建AIGC应用时更多关注开发部署门槛能否降低,更快的完成企业需求。运维人员要确保系统能够稳定运行,在业务量高峰时刻做到快速弹性,业务量小时节约成本,企业既能实现业务目标,又能保证系统可靠性高、成本较低。

    为了更好的支撑AIGC应用,华为云提供了全域Serverless能力,推出了CCE Autopilot、FunctionGraph、CAE等Serverless产品,将一系列的AI原生技术构筑成后端服务,形成BaaS for AI能力,调用即可得。结合完善的工具链,帮忙企业快速构建应用。

    Serverless 容器CCE Autopilot、CCI让用户无需关注底层资源,自动运维,帮助用户降低运维成本。

    在Cloud Bursting场景,去哪儿网基于CCI打造了灵活上云新体验,完成业务0改造,实现4000实例/30s的极致弹性。

    FunctionGraph 3.0八大关键能力,助力AIGC应用创新

    全新升级的FunctionGraph 3.0,新增Serverless应用中心、独创Snapshot冷启动加速、预留实例智能推荐特性,配合异构资源虚拟化技术,实现AIGC应用低成本、低延迟,加上端到端的全链路压测和全栈可观测能力,助力AIGC应用快速开发,天级上线。

    杭州曼孚科技有限公司是行业*的AI基础架构与数据智能平台服务商,基于FunctionGraph构建自动化AI训练平台,更细粒度的GPU算力供给加上按需全自动资源弹性,实现成本降低40%。

    华为云Serverless事件总线服务事件网格EventGrid能够支持统一事件中心、事件驱动引擎、开放与集成、降低开发成本四大典型场景,为企业提供中心化的事件集成、治理和驱动能力。

    在车联网场景,某Top车企使用EventGrid构建Serverless化的事件驱动架构的同时,实现上下游异步解耦,便于扩展和避免单点故障;作为无码化对接的事件中心,避免云服务间点对点对接,减少50%开发工作量以及数据高可靠0丢失和数据规则调整0变更。降低成本。



金艾纺http://www.adshirt.com.cn/
您需要登录后才可以回帖 登录 | 用户注册

本版积分规则

QQ|客服:0668-2886677QQ:75281068|大茂微博|小黑屋|手机版|Archiver|大茂名网 ( 粤ICP备18149867号 )茂名市大茂科技有限公司 版权所有 

GMT+8, 2024-11-22 09:48 , Processed in 0.102953 second(s), 8 queries , Redis On.

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表