NVIDIA rozwija lokalną AI: nowe modele i narzędzia dla deweloperów

Pierwsza porcja dzisiejszych nowości dotyczyła modelu Nemotron 3.5 Lightning, a teraz czas na kolejne informacje z obszaru lokalnej sztucznej inteligencji. Tym razem NVIDIA przedstawia nowe możliwości dla deweloperów i entuzjastów AI, związane m.in. ze skalowaniem środowisk DGX Spark, lokalnym uruchamianiem modeli oraz tworzeniem treści generatywnych na własnym sprzęcie.

Pełne zestawienie nowości w zaktualizowanym materiale na blogu NVIDIA Local AI.

Poniżej przedstawiamy skrót:

• Skalowanie środowiska DGX Spark z NVIDIA Sync Cluster Assistant. Narzędzie pozwala połączyć co najmniej dwa systemy w tzw. klaster o wysokiej wydajności (high-speed cluster), a przy tym upraszcza konfigurację sieci, routing zadań oraz monitorowanie stanu całego środowiska.
• Jeszcze więcej możliwości z DGX Spark. Google Chrome pojawi się w natywnej wersji ARM64 dla systemu Linux. Nowe narzędzie NVIDIA Sync Resource Monitor umożliwi natomiast podgląd danych dotyczących procesora i karty graficznej w czasie rzeczywistym oraz analizę danych historycznych, zarówno w pojedynczym systemie, jak i w całym klastrze.
• Meta Muse Glimmer do lokalnych zastosowań AI. To model 30B typu open weight, zoptymalizowany pod kątem lokalnych agentów AI działających nieprzerwanie. Na karcie graficznej GeForce RTX 5090 generuje on ponad 200 tokenów na sekundę.
• LTX-2.5 umożliwia lokalne tworzenie wysokiej jakości materiałów wideo. Model ten, udostępniony w otwartej formule, wprowadza funkcję generowania wielu ujęć (multishot generation) oraz edycję generatywną. Na kartach graficznych NVIDIA RTX oraz systemach DGX Spark i DGX Station działa nawet dwukrotnie szybciej, jednocześnie pozwalając zmniejszyć zużycie pamięci o 40%.
• Więcej otwartych modeli ze wsparciem NVIDIA. Wśród nich znajdują się Cosmos 3 Edge, MiniMax-H3, Laguna S 2.1 od Poolside, DeepSeek-V4-Flash, Inkling-Small od Thinking Machines Lab, Unsloth Desktop oraz Wan-Animate-2.