Startup sztucznej inteligencji Lamini zaskakuje swoim wyborem kart graficznych AMD zamiast popularniejszych Nvidia, aby napędzać swoje duże modele językowe (LLM), szczególnie flagowy model Llama-2.
Jednym z najważniejszych produktów firmy Lamini jest LLM Superstation, który ma na celu uproszczenie procesu tworzenia własnych modeli LLM przy użyciu kart graficznych AMD Instinct. Dzięki połączeniu zoptymalizowanego oprogramowania z kartami graficznymi AMD, Lamini udowodniło, że te karty radzą sobie złożonymi modelami na równi z kartami Nvidia. Firma Lamini cicho korzysta już z ponad 100 GPU AMD Instinct MI200, wykorzystując jednocześnie oprogramowanie ROCm od AMD, które można porównać do CUDA od Nvidia.
Ten rozwój sygnalizuje potencjalną konkurencję dla Nvidia na rynku akceleratorów, które zasila duże modele AI. Choć Lamini jest aktualnie małym startupem, ich udane korzystanie z kart graficznych AMD pokazuje, że te karty radzą sobie złożonymi modelami i oferują realną alternatywę dla Nvidia.
Należy zauważyć, że jest to pozytywny rozwój dla całej branży AI, ponieważ zwiększona konkurencja może pomóc w obniżeniu kosztów i rozszerzeniu dostępności infrastruktury niezbędnej do zaawansowanych zastosowań AI. Dla przedsiębiorstw szukających wdrożeń prywatnych i niestandardowych modeli AI, coraz bardziej atrakcyjne staje się dostępność kart graficznych spoza Nvidia. Ponadto to, że oprogramowanie ROCm od AMD osiągnęło równorzędność z CUDA od Nvidia, rozszerza ekosystem oprogramowania, zapewniając większą elastyczność dla programistów.
Podsumowując, wybór kart graficznych AMD przez Lamini do modeli językowych AI oznacza obiecującą alternatywę dla Nvidia. To z kolei przynosi korzyści branży poprzez promowanie zdrowej konkurencji, obniżanie kosztów i rozszerzanie opcji GPU dla zaawansowanych zastosowań AI.