Lokální AI

Lokální AI na vlastním serveru: data neopustí firmu

Jazykový model může běžet na serveru ve vaší kanceláři nebo serverovně. Dokumenty, e-maily ani nahrávky pak nikam neodcházejí a asistent funguje i bez připojení k internetu.

Provoz u nás, bez vlastního serveru

Nemáte serverovnu? Vyhradíme vám DGX Spark s lokálním modelem v našem datovém centru v EU a zabezpečeně ho napojíme na vaše systémy. Hardware slouží jen vám, o provoz se staráme my a platíte měsíční paušál.

NVIDIA DGX Spark

Výkonný počítač velikosti krabice od bot se 128 GB paměti. Pro kanceláře a firmy do zhruba stovky uživatelů. Postavíte ho na stůl nebo do serverovny.

GPU servery

Pro větší organizace a nemocnice. Servery s kartami NVIDIA, Kubernetes a vysoká dostupnost, napojení na Active Directory a dohledové systémy.

Kombinace s cloudem

Citlivé úlohy zpracuje lokální model, náročné a necitlivé úlohy může převzít Claude nebo Codex. Pravidla určujete vy.

Pro koho se lokální provoz hodí

Jaké modely používáme

Otevřené modely jako gpt-oss, Qwen, Llama, Mistral nebo DeepSeek. Model vybíráme podle úlohy, jazyka a výkonu hardwaru a průběžně ho aktualizujeme, když vyjde lepší verze. K modelu patří vyhledávání ve vašich dokumentech, přepis řeči a napojení na firemní systémy.

Co dodáváme

Hardware, instalaci, výběr a ladění modelu, napojení na vaše systémy, nastavení rolí a oprávnění, zálohy a dohled. Po spuštění se staráme o aktualizace a hlídáme provoz.

Časté otázky

Jak velký model na DGX Spark poběží?

DGX Spark má 128 GB sdílené paměti a zvládne otevřené modely zhruba do 200 miliard parametrů. Dva propojené počítače zvládnou ještě větší modely.

Potřebuje lokální AI internet?

Ne. Model, vyhledávání v dokumentech i přepis řeči běží na serveru ve vaší síti a systém může být úplně odpojený.

Jsou lokální modely stejně dobré jako cloudové?

Na běžnou firemní práci ano. U nejnáročnějších úloh, třeba složitého programování, jsou cloudové modely pořád napřed, proto nabízíme i kombinaci.

Musíme si hardware kupovat?

Nemusíte. Lokální model můžeme provozovat na vyhrazeném DGX Spark u nás a napojit ho na vaše systémy. Nebo vám hardware dodáme do kanceláře, případně ho pronajmeme.

Kolik stojí hardware?

Záleží na počtu uživatelů a velikosti modelu. Malé kanceláři stačí jeden DGX Spark, velkým organizacím navrhneme GPU servery. Cenu připravíme v nabídce.

Chcete vědět, kolik času by vám asistent ušetřil?

Napište pár vět o tom, čím se zabýváte. Ozveme se do jednoho pracovního dne a domluvíme nezávaznou konzultaci.