探求云原生环境中的人工智能和机器学习

审校 | 重楼

在咱们的行业中，很少有组合能像人工智能（AI）和机器学习（ML）与云原生环境的结合那样令人兴奋并扭转游戏规定。这是一个为翻新、可裁减性、甚至老本效率而生的“联盟”。接上去，就让咱们走进这个数据迷信与云相遇的灵活环球吧！

在咱们探求AI/ML和云原生技术之间的协同作用之前，先来了解一些基础概念。

AI/ML和云原生的融合

在云原生环境中成功AI和ML有哪些好处呢？

可裁减性

你能否曾经尝试过手动裁减ML模型，由于它遭到有数恳求的轰炸？这个环节显然并不轻松。但有了云原生平台，裁减就像周日下午在公园散步一样容易。例如，Kubernetes可以依据实时目的智能裁减运转AI模型的pod，这象征着你的AI模型即使在遭到胁迫的状况下也能体现良好。

矫捷性

在云原生环球中，微服务架构象征着你的AI/ML组件可以独立开发、更新和部署。这种模块化促成了矫捷性，使你能够加快地启动翻新和迭代，而不用担忧破坏整个系统。这就像你可以在开车的时刻换掉汽车引擎的部件来成功安保更新一样。

老本效率

无主机计算平台（如AWS Lambda、Google Cloud Functions和Azure Functions）准许你仅在须要时运转AI/ML上班负载，无需再为闲置的计算资源付费。这相当于在你分开房间时关掉灯，便捷、智能又经济。它关于间歇性或无法预测的上班负载也特意无利。

单干

云原生环境使数据迷信家、开发人员和运营团队之间的单干变得轻而易举。有了集中的存储库、版本控制和CI/CD管道，每团体都可以在相反的ML生命周期中谐和地上班。

云原生环境中AI/ML的抢手运行

只管大少数群众是经过与生成式AI聊天机器人的互动看法了AI/ML技术，但很少有人看法到AI/ML曾经在多大水平上增强了他们的在线体验。以下是云原生环境中AI/ML的一些抢手用例：

AI驱动的DevOps（AIOps）

经过经常使用AI/ML强化DevOps流程，你可以智能启动事情检测、基本要素剖析和预测性保养。此外，将AI/ML与可观察性工具和CI/CD管道集成可以提高运营效率并缩小服务停机期间。

Kubernetes + AI/ML

Kubernetes是常年以来容器编排的实践平台，如今也是编排AI/ML上班负载的首选。Kubeflow等名目简化了Kubernetes上机器学习管道的部署和治理，这象征着你可以取得对模型训练、调优和服务的端到端支持。

边缘计算

边缘计算处置AI/ML上班负载更接近数据生成的位置，这大大缩小了提前。经过在边缘位置部署轻量级人工智能模型，企业可以对物联网传感器、摄像头和移动设备（甚至是智能冰箱）等设备启动实时推断。

联邦学习

联邦学习不须要组织为了单干训练人工智能模型而共享原始数据。关于医疗保健和金融等具备严厉隐衷和合规法规的行业来说，这是一个很好的处置打算。

MLOps将DevOps通常集成到机器学习生命周期中。MLflow、TFX （TensorFlow Extended）和Seldon Core等工具使人工智能模型的继续集成和部署成为事实。MLOps是比DevOps更智能的存在。

AI/ML集成带来的应战

集成让事情变得幽默，但这一切也随同着应战。

复杂性

将AI/ML上班流程与云原生基础设备集成并不适宜谨小慎微的人。治理依赖相关、确保数据分歧性和编排散布式训练环节都充溢复杂性，须要弱小的技艺支持和常识储藏。

提前和数据传输

关于实时AI/ML运行程序，提前或许是一个关键疑问。在存储节点和计算节点之间移动少量数据会带来提前。边缘计算处置打算可以经过更接近数据源处置数据来缓解这一疑问。

老本治理

云的现收现付形式很棒，直到不受控制的资源调配开局鲸吞你的估算。实施资源配额、智能裁减战略和老本监控工具是你的财务安保网。

AI/ML通常指南

1.模块化！经常使用微服务的准则来设计你的AI/ML运行。解耦数据预处置、模型训练和推理组件，以成功独立裁减和更新。

2.应用托管服务：云提供商提供AI/ML服务，以简化基础设备治理并减速开发。

3.观察模型：将AI/ML上班负载与可观察性工具集成—访问无关资源经常使用、模型性能和系统肥壮状况的目的可以协助你被动检测和处置疑问。

4.包全数据和模型：经常使用加密、访问控制和安保留储处置打算来包全敏感数据和人工智能模型。

结语

AI/ML技术与云原生环境中的集成提供了可裁减性、矫捷性和老本效率，同时增强了团队之间的单干。但是，驾驭这一格式也面临着一系列应战，触及治理复杂性、确保数据隐衷以及老本控制等疑问。

此外，一些抢手趋向雷同值得关注，比如AIOps为DevOps带来智慧；联结学习让组织在不共享数据的状况下共享智能。应用这些技术的关键在于最佳通常：思索模块化设计、弱小的监控以及经过可观察性工具取得洞察力。

AI/ML在云原生环境中的未来并不只仅是紧跟最新的技术潮流。它是关于构建愈加智能、有弹性和顺应性的系统，让科幻电影中的想象成为事实。如今，请坚持你的算法敏锐，你的云同步，一同见证接上去会出现什么吧！

原文题目： Artificial Intelligence and Machine Learning in Cloud-Native Environments ，作者：Reese Lee