Krok 1 – Zmapujte své AI dotazy podle složitosti. Otevřete logy vašich API volání za poslední měsíc (nebo jednoduše požádejte ChatGPT, ať vám pomůže dotazy kategorizovat) a rozdělte je do tří skupin: jednoduché (překlady, shrnutí, klasifikace), středně složité (generování kódu, interní odpovědi) a komplexní (strategická analýza, debugging, kreativní výstup). Typicky zjistíte, že 60–70 % volání patří do první nebo druhé skupiny – a právě ty jsou ideální pro lokální model.

Krok 2 – Vyberte správný lokální model pro vaši situaci. Qwen 3.6 27B je momentálně komunitou označován jako ideální sweet spot pro lokální development – skvěle funguje na serveru s jednou GPU Nvidia RTX 4090 nebo na dedikovaném cloudu a zvládá generování kódu, klasifikaci i češtinu s překvapivou přesností. Pro agentic coding a self-improving úlohy stojí za prozkoumání Ornith-1.0, otevřený model zaměřený přímo na kódovací agenty. Pokud potřebujete složitější reasoning nebo generování dlouhých dokumentů, tam nechte pracovat Claude nebo GPT-5.

Krok 3 – Propojte vše přes Elys Automate do jediného workflow. V Elys Automate vytvořte router workflow: příchozí dotaz nejprve projde klasifikačním krokem (jednoduchý prompt do Qwen přes lokální Ollama endpoint), který rozhodne, zda úlohu zpracuje lokál, nebo přepošle do Claude API. Výsledek se loguje do Elys Data pro pozdější analýzu nákladů. Celé nastavení včetně testování zabere zkušenému IT manažerovi přibližně 3–4 hodiny a poté běží plně automaticky – žádná ruční obsluha, žádné manuální přepínání mezi nástroji. 🛠️

Chyba č. 1: Nasadit lokální model na vše bez testování kvality výstupu. Firmy jsou nadšené z úspory nákladů a přesměrují 100 % dotazů na Qwen – pak zjistí, že složité analytické úlohy nebo právní texty vycházejí podprůměrně. Řešení je jednoduché: nastavte v Elys Automate automatický A/B test prvních dvou týdnů, kde paralelně posíláte vzorek dotazů na lokál i na Claude a výsledky porovnáváte v Elys Analytics. Teprve pak finálně nastavte pravidla routeru a budete mít data, která vaše rozhodnutí obhájí i před vedením.

Chyba č. 2: Podceňovat bezpečnost a správu přístupu k lokálnímu endpointu. Lokální model neznamená automaticky bezpečný model – pokud je Ollama endpoint dostupný bez autentizace v rámci firemní sítě, může k němu přistupovat kdokoli. Vždy nastavte API klíč na lokálním endpointu, logujte všechna volání do Elys Data a omezte přístup na konkrétní IP adresy nebo firemní VPN. Tento krok zabere 30 minut, ale ochrání vás před situací, kdy by citlivá firemní data zpracovával neoprávněný uživatel nebo externíní skript.

Přechod na hybridní model s lokálním Qwen a Elys Automate je technicky zvládnutelný krok, který se reálně vrátí již do tří měsíců – a tým Elys vám s celým nastavením rád pomůže. Spočítejte si vaši úsporu přes naši online kalkulačku, nebo rovnou kontaktujte tým Elys a probereme, která vrstva AI architektury dává pro vaši firmu největší smysl.