大家好,今天小编来为大家解答以下的问题，关于研究人员发现MLOps 平台存在20 多个供应链漏洞，这个很多人还不知道，现在让我们一起来看看吧！
MLOps 平台提供设计和执行ML 模型管道的功能，其中模型注册表充当存储库，用于存储经过训练的ML 模型并对其进行版本控制。然后可以将这些模型嵌入到应用程序中或允许其他客户端使用API（也称为模型即服务）查询它们。
JFrog 研究人员在详细报告（https://jfrog.com/blog/from-mlops-to-mloops-exusing-the-attack-surface-of-machine-learning-platforms/）中表示：“固有漏洞是由目标技术引起的由所使用的底层格式和流程引起的漏洞。”
固有漏洞的一些示例包括滥用ML 模型来运行攻击者选择的代码、利用支持加载时自动执行代码的模型（例如Pickle 模型文件）。
这种行为还扩展到某些数据集格式和库，允许自动执行代码，当简单地加载公开可用的数据集时，可能会为恶意软件攻击打开大门。
固有漏洞的另一个例子涉及JupyterLab（以前称为Jupyter Notebook），这是一种基于Web 的交互式计算环境，使用户能够执行代码块（或单元）并查看相应的结果。
“许多人不知道的一个固有问题是在Jupyter 中运行代码块时如何处理HTML 输出。Python 代码的输出可能会发出浏览器呈现的HTML 和[JavaScript]，”研究人员指出。
这里的问题是JavaScript 结果在运行时没有被父Web 应用程序沙箱化，并且父Web 应用程序可以自动运行任意Python 代码。
换句话说，攻击者可以输出恶意JavaScript 代码，在当前JupyterLab 笔记本中添加新单元，向其中注入Python 代码，然后执行它。在利用跨站脚本（XSS）漏洞的情况下尤其如此。
为此，JFrog 表示，它在MLFlow 中发现了一个XSS 漏洞（CVE-2024-27132，CVSS 评分：7.5），该漏洞源于运行不受信任的配方时缺乏足够的清理，导致客户端在JupyterLab 端执行代码。
详情请参考：https://github.com/advisories/GHSA-6749-m5cp-6cg7
研究人员表示：“这项研究的主要结论之一是，我们需要将ML 库中的所有XSS 漏洞视为潜在的任意代码执行，因为数据科学家很可能将这些ML 库与Jupyter Notebook 一起使用。”
第二组缺陷与实现缺陷有关，例如MLOps 平台缺乏身份验证，这可能允许具有网络访问权限的攻击者通过滥用ML Pipeline 功能来获得代码执行能力。
这些威胁不仅仅是理论上的，出于经济动机的攻击者可能会滥用此类漏洞来部署加密货币矿工，就像未修补的Anyscale Ray 的情况一样（CVE-2023-48022，CVSS 评分：9.8）。
详细信息：https://thehackernews.com/2024/03/ritic-unpatched-ray-ai-platform.html
第二种实施漏洞是针对Seldon Core 的容器逃逸，它允许攻击者超越代码执行，在云环境中横向移动，并通过将恶意模型上传到推理服务器来访问其他用户的模型和数据集。
这些漏洞共同作用的最终结果是，它们不仅可以被武器化以在组织内渗透和传播，而且还可以危害服务器。
研究人员表示：“如果您正在部署一个允许模型服务的平台，那么您现在应该知道，任何可以提供新模型的人实际上也可以在该服务器上运行任意代码。” “确保模型运行的环境完全隔离，并加强防止容器逃逸。”
正如人工智能应用中暴露的安全问题一样，人们也设计了一些技术来毒害训练数据集，最终目标是欺骗大型语言模型（LLM）生成易受攻击的代码。
参考链接：
原创文章，作者：小su，如若转载，请注明出处：https://www.sudun.com/ask/137459.html
用户评论
遗憾最汹涌
MLOps 真的太重要了现在，没想到还有这么多漏洞！这让人心里有点慌啊，希望尽快修补吧，否则整个安全体系都会受到威胁。
有9位网友表示赞同！
忘故
看来 MLOps 平台的安全问题还很严重啊，20 多个漏洞？这是不是代表着模型训练和部署过程都处于危险状态？我们需要更加重视平台安全的建设！
有17位网友表示赞同！
有些人,只适合好奇~
这篇文章太实用了！！让我知道现在 MLOps 平台的安全性还有很长路要走。作为一名开发人员，需要提高警惕，加强对代码的安全审查。
有14位网友表示赞同！
蹂躏少女
之前我一直觉得安全是后话，结果没想到这些漏洞可以造成如此严重的损失！ 希望研究人员能尽快公布详细的信息，让大家都能提前做好防御准备。
有6位网友表示赞同！
无所谓
这么多的漏洞，听起来可怕，但同时也提醒我们要始终保持警惕，不断学习新的安全知识，才能在不断变化的科技环境中生存下去。
有9位网友表示赞同！
雪花ミ飞舞
这篇文章让我对 MLOps 平台的安全性有了更深入的理解。 这些漏洞确实很危险，需要开发人员和运营商共同努力来修复它们。
有16位网友表示赞同！
如你所愿
研究人员发现那么多漏洞，说明现在 MLOps 的发展还是比较快的，但安全问题也跟上了！希望以后的安全措施能更加完善。
有14位网友表示赞同！
浮殇年华
MLOps 平台是未来发展的方向，但是安全始终是头等大事。这些漏洞的出现提醒我们不能忽视安全问题，要加强对 MLOps 平台的漏洞扫描和修复工作。
有17位网友表示赞同！
晨与橙与城
这篇文章写的还不错，很全面地介绍了 MLOps 平台存在的常见漏洞以及一些解决方案。希望以后能看到更多关于 MLOps 安全的文章。
有5位网友表示赞同！
半梦半醒i
MLOps 平台发展迅速，但安全防护工作却显得相对滞后！需要开发商和用户一起重视安全问题，加强安全意识的培养，才能保障 MLOps 的安全可持续发展。
有15位网友表示赞同！
呆萌
20 多个漏洞？ 听起来真的很让人不安啊。 我还是建议大家在使用 MLOps 平台之前先做好充分的安全防护工作，避免财产损失。
有20位网友表示赞同！
十言i
MLOps 正在变得越来越复杂，随之而来的安全风险也越来越高。希望研究人员能够不断揭示这些漏洞，帮助我们更好地保护自己的数据和系统安全。
有5位网友表示赞同！
落花忆梦
作为 MLOps 的开发者之一，看到这么多漏洞出现的的确让人有些担忧。 我们需要更加认真地对待安全问题，努力修补这些漏洞，确保平台安全可靠。
有5位网友表示赞同！
代价是折磨╳
MLOps 平台的安全问题是我一直比较关心的议题。感谢研究人员的调查和发布，希望这些信息能够帮助大家提高警惕并采取相应的措施来保护自己。
有19位网友表示赞同！
哥帅但不是蟋蟀
这篇文章让我意识到 MLOps 平台的安全问题确实不容忽视。作为一名使用 MLOps 的开发者，我需要更加关注安全方面的知识，不断学习和提升自己的安全意识。
有8位网友表示赞同！
肆忌
MLOps 可以带来很多好处，但安全漏洞也确实存在。我们需要保持警惕，同时积极寻求解决方案，才能更好地利用 MLOps 技术。
有5位网友表示赞同！
留我一人
这篇文章提醒我们要提高警惕，不要把 MLOps 平台的安全问题当做小事。需要制定更加完善的安全性机制，确保平台安全稳定运行！
有9位网友表示赞同！