弹性加速计算实例EAIS(Elastic Accelerated Computing Instances)是一款阿里云提供的性能卓越、成本优化、弹性扩展的IaaS(Infrastructure as a Service)级别弹性计算服务。EAIS可以将CPU资源与GPU资源成功解耦,帮助您将GPU资源附加到ECS实例上,构建成您希望得到的GPU实例规格,用于推理场景下的弹性使用,从而提高资源利用率,降低成本。
一、为什么选择弹性加速计算实例EAIS
选择EAIS,您可以轻松构建具有以下优势的异构计算资源:
- 无需自建机房,无需采购以及配置硬件设施。
- 分钟级交付,快速部署,缩短应用上线周期。
- 快速接入部署在全球范围内的数据中心和BGP(Border Gateway Protocol,边界网关协议)机房。
- 成本透明,按需使用,支持根据业务波动随时扩展和释放资源。
- 提供任意ECS实例与GPU、NPU、FPGA等异构计算搭配的实例类型,满足您的多种需求。
- 支持通过内网访问其他阿里云服务,形成丰富的行业解决方案,降低公网流量成本。
- 提供虚拟防火墙、角色权限控制、内网隔离、防病毒攻击及流量监控等多重安全方案。
- 提供性能监控框架和主动运维体系。
- 提供行业通用标准API,提高易用性和适用性。
二、弹性加速计算实例EAIS产品架构
EAIS主要包含以下功能组件:
- 云服务器ECS包含的所有功能组件。
- 异构计算资源:一块或1/N块GPU或NPU。
以下为EAIS的产品组件架构图:
弹性加速计算实例EAIS产品详情参考:https://www.aliyun.com/product/ecs/eais
三、弹性加速计算实例EAIS产品优势
与常规的异构实例相比,阿里云弹性加速计算实例EAIS具有解耦性、低成本、弹性、多适配性和高性能的优势。
1.解耦性
常规GPU实例的CPU、内存和GPU是部署在同一台物理机上的。EAIS实例可以将CPU与GPU成功解耦,其CPU、内存和GPU可以存在于不同的物理机中。您可以根据对CPU和内存的需求选择一款ECS实例,然后再匹配一个EAIS实例,即可生成一款满足您需求的新规格GPU实例。
2.低成本
EAIS实例能够将推理成本降低多达50%。您可以单独制定所需的推理加速量级,无需超额预置GPU资源,选择最合适您应用的实例类型即可。
以您需要一个内存超过128 GiB,且只带一块GPU的实例为例,说明如下:
使用常规GPU实例:
在常规GPU实例规格中,能刚好满足您需求的实例规格有如下几种选择:
实例规格 | vCPU | 内存(GiB) | GPU | GPU显存(GB) |
---|---|---|---|---|
ecs.gn6i-c24g1.12xlarge | 48 | 186 | T4*2 | 32 |
ecs.gn6v-c8g1.8xlarge | 32 | 128 | V100*4 | 64 |
ecs.gn6e-c12g1.12xlarge | 48 | 368 | V100*4 | 128 |
如上表所示,您购买的GPU实例可能会自带多个GPU资源,此时,将会造成超额预置GPU资源的浪费。
使用EAIS实例:
您只需要购买如下计算资源:
产品 | 实例规格 | 指标数据 |
---|---|---|
云服务器ECS | ecs.r6.6xlarge | 24 vCPU 192 GiB |
弹性计算加速实例EAIS | eais.ei-a6.4xlarge | 16 TFLOPS/FP32,32 GB/显存 |
综上所述:如果您购买GPU实例,则只能在已有的固定实例规格中进行选择,并且您需要为该实例的全部资源付费。而使用EAIS实例,您只需选择一个内存满足您业务需求的不带GPU的ECS实例,然后再匹配一个算力和显存满足您业务需求的EAIS实例,即可灵活地解决相同的问题场景,具有明显的低成本优势。
3.弹性
EAIS实例可以准确获取您所需的资源,为您灵活匹配GPU资源。您可以轻松扩展和缩减推理加速量级以满足您的业务需求,不会过度投资预置资源,具体说明如下:
- 当需要增加ECS实例以满足不断增长的需求时,您可以为每个ECS实例扩展EAIS实例。
- 当需求降低时,您也可以随时释放任意ECS实例绑定的EAIS实例,在需要时,重新创建并绑定EAIS实例到该ECS实例上,可以灵活匹配和使用GPU资源,避免资源闲置带来的计费。
4.多适配性
EAIS实例具有极强的适配性,能够支持GPU、NPU、FPGA多种异构硬件的适配,种类多样,适配性强。
5.高性能
EAIS实例可以为您提供模型推理加速功能。相较于常规的GPU实例,使用同等算力的EAIS实例进行推理能够获得更高的性能。
四、弹性加速计算实例EAIS应用场景
弹性加速计算实例EAIS能够支持您所有的推理场景。
1.目标检测
检测出图片中多个目标的坐标位置,并给出目标的分类标签。目标检测可应用在:
- 视频检测:对视频中每一帧目标的精准定位。如车载地图对过往车辆、行人、车道线、红绿灯位置等周边环境进行智能检测,为驾驶员提供跟车距离预警、压线预警、红绿灯监测与提醒、提前变道提醒等驾驶安全辅助。
- 图像识别:将图像检测目标剪裁后配合图像识别提升识别精度。
- 目标定位:对海量图片进行分类、打标签。
2.图片分类
通过识别图片信息实现分类管理,得出正确结果。EAIS在推理场景中支持更灵活的配置和丰富的网络访问。
3.自然语言处理
- 支持对字、词、句、篇章的输入、输出、识别、分析、理解、生成等的操作和加工功能。能够提供:
- 内容推荐:通过关键词提取、短文本相似度等技术,提取关键语义信息,精准匹配出语义相似的内容,快速构建推荐场景。
- 翻译:通过文本语言分析,精准翻译语句,帮助用户跨语言沟通。
- 舆情分析:挖掘突发事件、舆论导向,进行话题发现、趋势发现、舆情分析,多维度分析情绪、热点、趋势,及时全面的掌握舆情动态。
- 智能问答系统:通过中文分词、短文本相似度、命名实体识别等相关技术解决问答、对话、语料挖掘、知识库构建等问题。
五、使用限制
下表为您介绍弹性加速计算实例EAIS在产品功能和使用上的不同限制,帮助您更好地应用EAIS。
限制项 | 限制说明 |
---|---|
用户身份 | 创建EAIS实例的用户必须完成实名认证。 |
账户余额 | 开通按量付费EAIS资源时,确保您的阿里云账户余额(即现金余额)和代金券的总值不得小于100.00元人民币。 |
推理框架 | 目前支持基于TensorFlow和PyTorch框架的推理业务,其他框架暂不支持。 |
付费方式 | 目前仅支持按量付费的方式,其他购买方式暂不支持。 |
售卖地域 | 目前仅只支持5个地域:华北2(北京)、华东1(杭州)、华东2(上海)、华南1(深圳)以及西南1(成都)。暂不支持国际业务售卖。 |
ECS实例规格 | ECS实例的vCPU最小为1 vCPU,内存最小为2 GiB。 |
绑定关系 | 一个EAIS实例仅支持绑定一个ECS实例。 一个ECS实例支持绑定的EAIS实例个数与您使用的框架有关,具体如下: - TensorFlow:一个ECS实例只能绑定一个EAIS实例。 - PyTorch:一个ECS实例可以绑定一个或多个EAIS实例,最多支持绑定256个。 |
地域 | 待绑定的ECS实例与EAIS实例必须在同一个地域下的同一个可用区。 |
网络 | 待绑定的ECS实例与EAIS实例必须属于同一专有网络下的同一个交换机。 |
六、弹性加速计算实例EAIS实例规格
下面是介绍弹性加速计算实例EAIS的具体实例规格信息和实例规格的限制信息。
1.实例规格信息
EAIS支持创建的实例规格如下表所示。
实例规格 | FP32(TFLOPS) | FP16(TFLOPS) | 显存(GB) |
---|---|---|---|
eais.ei-a6.4xlarge | 16 | 128 | 32 |
eais.ei-a6.2xlarge | 8 | 64 | 16 |
eais.ei-a6.xlarge | 4 | 32 | 8 |
eais.ei-a6.large | 2 | 16 | 4 |
2.实例规格限制
您在选择EAIS实例规格时,需要注意该EAIS实例规格是否支持当前地域和可用区,具体支持情况如下表所示。
地域 | eais.ei-a6.large | eais.ei-a6.xlarge | eais.ei-a6.2xlarge | eais.ei-a6.4xlarge |
---|---|---|---|---|
华北2(北京) | 不支持该地域 | 不支持该地域 | 可用区G 可用区H 可用区I 可用区J 可用区K | 可用区G 可用区H 可用区I 可用区J 可用区K |
华东1(杭州) | 可用区H 可用区I 可用区J 可用区K | 可用区H 可用区I 可用区J 可用区K | 可用区H 可用区I 可用区J 可用区K | 可用区H 可用区I |
华东2(上海) | 不支持该地域 | 不支持该地域 | 可用区B 可用区E 可用区F 可用区G 可用区L 可用区M | 可用区G 可用区L 可用区M |
华南1(深圳) | 不支持该地域 | 不支持该地域 | 可用区E | 可用区E |
西南1(成都) | 不支持该地域 | 不支持该地域 | 可用区B | 不支持该地域 |
七、创建EAIS实例
下面为您介绍创建EAIS实例的准备工作及具体操作。
1.前提条件
完成如下创建EAIS实例的准备工作:
- 创建账号,以及完善账号信息。
注册阿里云账号,并完成实名认证。
创建按量付费实例,您的阿里云账户余额、代金券和优惠券的总值不得小于100.00元人民币。 - 阿里云提供一个默认的专有网络VPC,如果您不想使用默认专有网络VPC,可以在目标地域创建一个专有网络和交换机。
- 阿里云提供一个默认的安全组,如果您不想使用默认安全组,可以在目标地域新创建一个安全组。
- 创建一个ECS实例来作为EAIS实例的绑定目标。
2.背景信息
EAIS实例的计费时长与EAIS实例的创建方式有关,具体说明如下:
EAIS实例创建方式 | 计费说明 |
---|---|
使用EAIS实例控制台 | 从EAIS实例启动开始计费,直到EAIS实例停止结束计费。 |
推荐:调用CreateEaisEi创建 | 从EAIS实例启动开始计费,直到EAIS实例停止结束计费。 |
不推荐:调用CreateEai创建 | 从EAIS实例创建成功开始计费,直到EAIS实例释放停止计费。 |
3.通过EAIS控制台创建
当您使用EAIS实例控制台创建EAIS实例时,具体操作如下:
- 登录弹性加速计算实例控制台。
- 在左侧导航栏,选择弹性加速计算实例 EAIS > 弹性加速计算实例列表。
- 单击创建弹性加速计算实例,跳转至购买页面。
- 完成弹性加速计算实例页面的参数配置,然后单击立即购买。
配置项说明如下表所示。
配置项 | 说明 |
---|---|
地域 | 选择EAIS实例所在地域。 |
实例名称 | 设置EAIS实例的名称。 |
实例规格 | 根据您的业务要求,选择EAIS实例的实例规格。 |
专有网络 | 选择专有网络。 |
交换机 | 选择交换机。 |
安全组 | 选择安全组。安全组类似防火墙功能,用于设置网络访问控制。 |
资源组 | 默认设置为默认资源组。资源组是在阿里云账号下进行资源分组管理的一种机制,资源组能够帮助您解决单个云账号内的资源分组和授权管理的复杂性问题。如果您需要新的资源组,则您可以创建资源组后返回EAIS创建页面继续操作。 |
- 在确认订单页面,选中服务协议右侧的我已阅读并同意弹性加速计算实例服务协议,然后单击立即开通。
您可以前往EAIS控制台的实例列表页面查看实例的状态,实例列表每15秒自动刷新,当实例状态由创建中变为可绑定时,表示EAIS实例已经创建完成。
4.调用API创建
- 推荐:您可以调用CreateEaisEi来创建EAIS实例,然后通过EAIS控制台或调用API管理EAIS实例。
- 不推荐:您也可以调用CreateEai来创建EAIS实例,但使用该方式创建的实例,不支持启动或停止EAIS实例。
5.后续操作
创建成功后,您需要将EAIS实例绑定到ECS实例上,才能使用EAIS实例。具体操作,请参见下文。
八、将EAIS实例绑定至对应的ECS实例上
EAIS实例作为加速器需要附加在ECS实例上进行使用,在您创建完成EAIS实例后,需要将EAIS实例绑定至对应的ECS实例上。下面为您介绍绑定一个EAIS实例至ECS实例上的具体操作。
1.前提条件
- 当前EAIS实例的状态为可绑定。
- 待绑定的ECS实例目前未绑定任意一个EAIS实例。
2.使用限制
一个EAIS实例仅支持绑定一个ECS实例。
一个ECS实例支持绑定的EAIS实例个数与您使用的模型有关,具体如下:
- TensorFlow模型:一个ECS实例只能绑定一个EAIS实例。
- PyTorch模型:一个ECS实例可以绑定一个或多个EAIS实例,最多支持绑定256个。
3.操作步骤
1.登录EAIS控制台。
2.在弹性加速计算实例 EAIS页面左上角选择创建的实例所在地域。
3.在实例列表中,选择需要绑定ECS实例的EAIS实例,单击操作列下的绑定。
4.在弹出的对话框中,选择待绑定的目标ECS实例。
5.单击确定。
EAIS实例列表每15秒自动刷新,当实例状态由绑定中变为已绑定时,表示实例绑定成功。
3.后续步骤
EAIS实例绑定至ECS实例后,您需要根据EAIS实例的创建方式执行后续步骤,具体如下。
- 使用EAIS控制台或调用CreateEaisEi创建
当您使用EAIS实例控制台或调用CreateEaisEi创建EAIS实例时,绑定ECS实例后,您必须要先启动EAIS实例,才可以在ECS实例上查看并使用EAIS实例进行AI推理或训练。 - 调用CreateEai创建
当您调用CreateEai - 创建EAIS实例创建EAIS实例时,绑定ECS实例后,您可以登录该ECS实例,直接查看和使用EAIS实例进行AI推理或训练。
2025年阿里云官方热门活动直达:
1.云服务器ECS最新活动:点此进入阿里云上云优选活动
2.快速了解阿里云最新产品优惠和所有活动资讯:点此进入阿里云官方活动中心
3.154款云产品免费试用:点此进入阿里云免费试用中心
4.上云抵扣金、无门槛优惠券、迁云补贴优惠券:点此进入阿里云开发者权益中心
5.阿里云7.5折优惠券免费领,支持购买活动内云服务器叠加使用,最高减12500元:点此进入阿里云官方云小站平台
综上所述:阿里云弹性加速计算实例EAIS以其独特的解耦性、低成本、弹性、多适配性和高性能优势,为AI推理场景提供了灵活高效的解决方案。通过EAIS,用户可以轻松构建满足特定需求的异构计算资源,无需自建机房或超额预置GPU资源,即可实现分钟级部署和按需扩展。无论是目标检测、图片分类还是自然语言处理,EAIS都能提供强大的支持。只需简单几步,即可将EAIS实例绑定至ECS实例,开启AI加速之旅。阿里云EAIS,让AI推理更高效、更便捷、更经济。