◆ NIM(NVIDIA Inference Microservice)
GenAIアプリを開発/展開するためのマイクロサービス “NIM” を発表。業界標準APIの使用やドメイン固有のモデル、様々なデプロイ先、最適化された推論エンジンにより、開発/運用時の負荷/コストを軽減し、さらに推論の性能/精度を向上することが可能。
- 業界標準APIを使用
開発者がAIモデルにアクセスしXXXXXXXXxXXXXXXxxXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXxxXXXXXXXXXXXXXXXXXXXXXXXXX
x XXXXXXXXXX
xxxxxx xxxx XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX
x XXXXXXXXXX
XXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXXX
x XXXXXXXXXXXXXXXX