原虚拟化迁移至以容器为核心的云原生平台,是否会有助于制造企业直接进阶到下一代面向AI的数据中心?

容器是AI大模型应用的首选运行环境,原虚拟化迁移至以容器为核心的云原生平台,是否会有助于制造企业直接进阶到下一代面向AI的数据中心?显示全部

容器是AI大模型应用的首选运行环境,原虚拟化迁移至以容器为核心的云原生平台,是否会有助于制造企业直接进阶到下一代面向AI的数据中心?

收起
参与18

查看其它 6 个回答jillme的回答

jillmejillme课题专家组CIO某大型银行

先说结论,不一定。
虽然说,容器化为大模型训练或者AIOPS的使用,提供了强大的伸缩性,例如在所有的节点上可以一致性部署,保障在各个节点上的运行结果一致性。此外容器化技术也将应用和环境隔离开来,使得应用可以在任何支持容器技术的平台上运行。使得应用更加灵活和可移植,可以根据需要轻松地在不同的环境中进行部署和管理 。
但是容器化本身也为使用带来了诸多的不便。例如部署的和维护的技能要求,以及可能存在一些组件无法容器化部署。
此外AI数据中心的突出的是持续的智能的解决方案,需要提取、采集、加工、训练大量的运维案例,目前使用的还是依靠集中计算资源的方式进行计算和训练,特别是GPU的资源和数据存储资源,这个确实可以按需动态扩容容器化分配。但是容器化本身资源的损耗也非常大,在大机器集群的环境下,不一定是最好的成本解决方案。
另外大数据量的实时传输性能,在容器下,特别是容器分配到不同区域DC后,会变得十分恶劣。
另外容器的动态扩缩容,看似很好的解决了资源分配问题,但是实际上很多应用需要额外调整扩容规则。且容器之间的弹性竞争解决需要设置很好的策略,或者直接隔离,但是这样又回到了虚拟化的样式了。
此外随着边缘计算的兴起,未来计算的主流是分批分片并行计算还是分布到各个连接终端设备上还未可知。
容器化为未来AI数据中心建设提供了较好的基础,但是是否可以直接进入还有待商榷。

银行 · 2024-05-13
浏览442

回答者

jillme
CIO某大型银行

jillme 最近回答过的问题

回答状态

  • 发布时间:2024-05-13
  • 关注会员:8 人
  • 回答浏览:442
  • X社区推广