迈向AIoT新纪元 云天励飞边缘AI战略全貌在WAIC 2024闪耀登场
7月5日,由中国信息通信研究院承办的WAIC 2024“迈向AGI:大模型焕新与产业赋能”论坛在上海成功召开。论坛深度聚焦大模型行业应用落地、终端智能、大模型安全等前沿热点话题。云天励飞董事长兼CEO陈宁博士受邀发表主题演讲,首次展示云天励飞边缘AI的战略全貌。
7月5日,由中国信息通信研究院承办的WAIC 2024“迈向AGI:大模型焕新与产业赋能”论坛在上海成功召开。论坛深度聚焦大模型行业应用落地、终端智能、大模型安全等前沿热点话题。云天励飞董事长兼CEO陈宁博士受邀发表主题演讲,首次展示云天励飞边缘AI的战略全貌。
当前,云端大模型落地行业面临许多挑战:行业数据缺失,信息反馈缓慢,长尾场景无法覆盖,模型幻觉等。大模型应用落地进入“深水区”,上述难点如何应对?云天励飞的答案是:边缘AI。
近年来,越来越多行业巨头开始拥抱边缘AI:一方面,谷歌、微软、Meta包括云天励飞都推出了轻量化大模型支撑边缘AI的应用;另一方面,苹果、英伟达等巨头推出边缘AI芯片,应用在AI 手机和机器人上,云天励飞也在2022年底推出DeepEdge 10系列芯片,支撑边缘端的大模型运行。
此外,边缘AI让物联网升级成为AIoT,助力大模型落地。国泰君安证券研究所数据显示,随着AIOT的发展,未来3年边缘智能硬件设备将保持50%以上的复合增长率。
在个人领域,搭载了边缘AI的各种3C设备让每个人都能拥有一个AI Copilot,AI服务随手可得;
在家庭领域,边缘AI让以服务机器人为代表的各种智能终端主动完成家庭任务,成为每个家庭的生活助手;
在城市领域,边缘AI赋能下的千行百业实现无数场景的价值闭环,如公共安全从“被动治理”到“主动预防”,城市治理实现从发现、分拨到处置、上报的整体闭环等。
第一个阶段是在边缘设备上搭载小模型算法,让边缘设备具有处理简单任务的能力,比如在摄像头中加入车辆识别、人脸识别等算法;
第二阶段是视觉语义大模型走向边缘,代表的产品有AI手机、AI PC等,这也是我们当前所处的阶段;
第三阶段是端到端行为大模型走向边缘,在这一阶段,各类机器人、智能可穿戴设备将变得随处可见;
基于当前边缘AI的发展趋势和多年的技术积累,云天励飞制定了2+3+3边缘AI的战略布局全景,即2个技术平台——多模态大模型、NPU加速计算平台;3类主营业务——智能硬件、智算运营、智慧行业;3个应用方向——个人Copilot、家庭Copilot、城市Copilot,助力边缘AI渗透至物理世界的各个角落。
在本次论坛中,中国信息通信研究院发布了2024大模型示范应用案例,“云天天书”数字政务大模型荣列其中。
云天励飞提出“E-MAGIC”政务大模型服务框架,集成数据交易平台、AIGC内容生成平台、数据加工及分析平台、GPT大模型训练中心、输入提示工程中心和算力支持六大核心组件,利用前沿的AI技术和大数据处理能力,为政府部门提供高效的数据服务和智能化解决方案,提升日常办公的效率及服务质量等。
此外,云天励飞在某区全面落地的数字政府大模型,实现了基层工作“大减负”:比如在12345系统,过去人工根据权责清单进行点选和事件分拨最快也需要15秒,在应用大模型后3秒后即可实现智能分拨,无需人工参与,还能避免误操作,效率提升达到80%。
在今年的WAIC上,“大模型+行业”成为趋势,如何让大模型作为新质生产力赋能千行百业是政府部门和企业都关心的问题。在这个过程中,云天励飞将持续深耕,不断创新,推动边缘AI与物理世界的融合,加速推动大模型行业落地。
普通高校、省属中小学投资几十万甚至上百万的视频监控系统,仅起到一个录像的作用,不能实现预警;通过校园入侵检测、徘徊检测、速度检测、人群检测、离岗睡岗检测。由分散的多屏幕监控变为整个校园的全景图,由靠人发现问题,变为智能识别,实时报九游娱乐 九游娱乐官方警,哪里出现问题,哪里弹窗,高效率定位,校园安全智能AI隐患预警系统主要应用场景如下:
云算力租赁是一种通过云计算平台按需租用计算资源(如GPU、CPU、存储等)的服务模式。用户无需自建数据中心,即可快速获取高性能算力,适用于AI训练、科学计算、大数据分析等场景。
《公共安全视频图像信息系统管理条例》已经2024年12月16日国务院第48次常务会议通过,现予公布,自2025年4月1日起施行。
视频监控是以数字化、网络化视频监控为基础,但又有别于一般的网络化视频监控,它是一种更高端的视频监控应用。智能视频监控系统能够自动识别不同的物体,发现监控画面中的异常情况,并能够以最快和最佳的方式发出警报和提供有用信息,从而能够更加有效地协助安全人员处理危机,并最大限度地降低误报和漏报现象。
配置AI服务器的硬件时,需要考虑多种因素,以确保其能满足不同类型的AI任务(如训练深度学习模型、进行大规模数据分析等)的需求。以下是详细的AI服务器硬件配置指南,提供不同应用场景下的配置建议,帮助您打造一个满足AI任务需求的高性能计算平台。AI服务器硬件配置如九游娱乐 九游娱乐官方下: