Grafikai szerverek

Becsült olvasási idő 3 perc.

Dolgozzunk a felhőben!

A mesterséges intelligencia programok közös jellemzője, hogy óriási mennyiségű számítási kapacitást igényelnek.

Az elmúlt években az irodai számítógépek olyan sokat fejlődtek, hogy bőven gyorsabban tudnak dolgozni, mint amire ténylegesen szükség volt. Leginkább csak a játékok és a 3D programok igényeltek még olyan teljesítményt, amihez speciális grafikai kártyákra volt szükség.

Amióta viszont a mesterséges intelligencia belépett a mindennapokba, mindez megváltozott.

PixelRita írd le, hogy mi a CPU, a GPU a VRAM és ezek miért fontosak a mesterséges intelligencia szempontjából

Köszönöm Rita!
Most készíts egy táblázatot néhány példával, hogy egyes MI műveletekhez mennyi VRAM szükséges.

Köszönöm!

A fenti táblázatban jól látszik, hogyha a mesterséges intelligenciával nyomdakész képet készítünk, vagy csak az irodai dokumentumokat akarjuk kezelni, akkor már mindjárt a 16 GB-os VRAM-ban kell gondolkodnunk. Ez sokszor több, mint a legtöbb irodában a „sima” memória (RAM).

Egy 16 GB-os videókártya (NVIDIA RTX szükséges) 1000 USD körül van. De még szükséges a számítógép is, amiben ez működni fog, ami további kb. 2000 USD-t jelent. Vagyis legalább 3000 USD-vel kell számolni, ha egy mesterséges intelligenciát használó gépet szeretnénk otthonra vagy az irodába. Magyar forintra átszámolva kicsit több, mint egymillió (2024. május).

Amennyiben nem akarunk ennyit költeni, akkor választhatunk speciális GPU felhő szolgáltatásokat. Ezek leginkább akkor érik meg, ha havonta csak néhány órát használjuk a mesterséges intelligenciát. Szolgáltatástól függően általában 0.5 – 1.0 USD körül bérelhetünk egy szervert egy órára (még az 1 dolláros ár mellett is napi 8 órás használattal 375 nap alatt érjük el azt az árat, ami egy teljesen új számítógépé).

Erre az oldalra összegyűjtünk néhány GPU szerver szolgáltatást, amit vagy kipróbáltunk vagy ajánlottak.

Grafikai szerverek

A RunPod egy globális, GPU-alapú felhőplatform, amely kifejezetten MI fejlesztésre lett tervezve. A platform lehetővé teszi MI modellek fejlesztését, tréningjét és skálázását egy integrált környezetben.

A Think Diffusion egy teljes körű, kezelhető Stable Diffusion munkaterület, amely lehetővé teszi a felhasználók számára, hogy lenyűgöző vizuális anyagokat hozzanak létre egy privát, személyes művészeti laborban, amely a felhőben található. A felület egyszerűtől a professzionális szintig terjed, így mindenki megtalálhatja a számára megfelelő beállításokat.

Replicate AI egy felhőalapú szolgáltatás, amely lehetővé teszi a mesterséges intelligencia modellek egyszerű használatát és integrálását különböző projektekbe. A platform támogatja a legújabb MI modelleket, mint a Stability AI’s SDXL és a Plasma, amelyeket API-n keresztül lehet elérni.

Loading

No votes yet.
Please wait...

Szólj hozzá!