JFrogがNVIDIA NIMと統合しAIモデルの導入を加速

リキッドソフトウェア企業JFrogは、NVIDIA AI Enterpriseソフトウェアプラットフォームの一部であるNVIDIA NIMマイクロサービスとの新しい製品統合を発表した。この統合により、エンドツーエンドのソフトウェアサプライチェーンワークフローで、GPUに最適化された承認済みのAIモデルと集中型のDevSecOpsプロセスが統合される予定だ。その目的は、組織が透明性、追跡可能性、信頼性を高めながら、安全な機械学習（ML）モデルと大規模言語モデル（LLM）を迅速に実稼働環境に導入できるようにすることだ。

DevOps、セキュリティー、MLOpsプロセスをNVIDIA NIMマイクロサービスによるエンドツーエンドのソフトウェアサプライチェーンワークフローに統合することで、顧客は安全なモデルを効率的に本番環境に導入できるようになると期待されている。これは、パイプライン全体にわたって高いレベルの可視性、追跡可能性、制御を維持しながら実現される。この統合は、組織によるAIテクノロジーの急速な導入と、その効率性と安全性を確保するプラクティスを実装する必要性への対応と見なされている。

ソフトウェアアプリケーションにおけるAIの需要の増加と加速により、データサイエンティストやMLエンジニアは、エンタープライズ環境でMLモデルの展開を拡大する際に大きな課題に直面している。これらの課題には、断片化された資産管理、セキュリティーの脆弱性、コンプライアンスの問題、パフォーマンスのボトルネックなどがある。これらの課題は、AIワークフローを既存のソフトウェア開発プロセスに統合する複雑さと、さまざまな環境にわたる柔軟で安全な展開オプションの必要性によってさらに複雑になっている。NVIDIA NIMマイクロサービスをJFrogプラットフォームに統合することで、開発者は完全に準拠したパフォーマンスが最適化されたモデルを迅速に本番環境で実行できるようになると期待されている。

JFrogプラットフォームとNVIDIA NIMの統合により、複数のメリットがもたらされると予想されている。これには、統合管理、包括的なセキュリティーと整合性、優れたモデルパフォーマンスとスケーラビリティー、柔軟な展開が含まれる。この統合により、コンテナ化されたAIモデルがソフトウェアパッケージとして既存のソフトウェア開発ワークフローに組み込むことが期待されている。GPUに最適化されたディープラーニング、ML、HPCモデルのハブであるNVIDIA NGCをJFrogプラットフォームおよびJFrog Artifactoryモデルレジストリーと組み合わせることで、組織は全てのソフトウェア パッケージとAIモデルの唯一の真実のソースを維持できるようになる。これにより、エンタープライズDevSecOpsのベストプラクティスを活用して、ソフトウェアサプライチェーン全体の可視性、ガバナンス、制御を実現できる。

出典：JFrog