Jirka Herník ve čtvrtém díle série AI pro lidi vysvětluje, proč lidé a firmy váhají s používáním AI kvůli obavám o soukromí a obchodní tajemství, a představuje tři možnosti ochrany dat, tedy anonymizaci, pseudonymizaci a lokální zpracování. Podrobně rozebírá anonymizaci včetně pojmu k-anonymita a pseudonymizaci pomocí kódů, přičemž za jedinou technicky spolehlivou cestu, jak udržet citlivá data uvnitř firmy, označuje provoz modelu přímo na vlastním počítači. V praktické části ukazuje instalaci LM Studio Bionic a Unsloth Studia, stažení lokálního modelu Qwen 3.8 27B a jeho využití k vygenerování CSV souboru s historií plateb i webového dashboardu zcela offline. Vysvětluje pojmy kvantizace, tokeny, KV cache a metriky jako TTFT a doporučuje pro rozpočet do 100 000 Kč sestavu s 64 GB RAM a grafickou kartou RTX 3090. Na závěr srovnává lokální provoz s cloudovým modelem GLM 5.3 Flash, který přišel zhruba na 25 haléřů, a nabízí kalkulačku návratnosti vlastního hardwaru na adrese aox.cz/lokalni-AI.

📅 Datum vydání: 1.9.2026
📺 Zdroj: Jak na AI na vašem počítači
Klikněte na odkaz a dejte odběr na kanálu autora, podpoříte ho a vylepšíte svůj algoritmus.

▶ 00:00
Neochota svěřit data AI — Herník na úvod ironicky poznamenává, že lidé nechtějí posílat AI citlivá data, protože se bojí narušení soukromí a vyzrazení obchodního tajemství.

▶ 00:18
Tři důvody pro lokální AI — Herník uvádí, že k provozování lokální AI vedou podle něj jen tři relevantní důvody, tedy ochrana dat, snaha ušetřit a specifické požadavky, které cloudové modely nesplní.

▶ 00:47
Představení čtvrtého dílu — Herník se představuje a oznamuje, že jde o čtvrtý díl jeho série AI pro lidi, který ukáže, jak levně a bez vyzrazení tajemství rozjet lokální model.

▶ 01:38
Data u velkých firem — Herník upozorňuje, že většinu dat už o uživatelích mají firmy jako Facebook, Google a Microsoft, a řeší se, jak data dál chránit při využití AI.

▶ 02:00
Cloudové modely jako hrozba — Herník vysvětluje, že špičkové modely běží v cloudu u Anthropicu, OpenAI a Googlu, a pokud smluvní zabezpečení nestačí, je třeba jiné řešení.

▶ 02:30
Tři možnosti ochrany dat — Herník představuje tři způsoby, jak zajistit, že data neopustí firmu, tedy anonymizaci, pseudonymizaci a lokální zpracování.

▶ 03:17
Vysvětlení anonymizace — Herník popisuje, že anonymizace odstraní vše, podle čeho by šlo poznat konkrétního člověka nebo firmu, a data pak lze poslat ke zpracování ven.

▶ 04:00
Kvazi-identifikátory a k-anonymita — Herník varuje, že pouhé vymazání jména nestačí, protože kvazi-identifikátory jako město, věk a povolání umožňují určit konkrétního člověka, a proto se ověřuje takzvaná k-anonymita.

▶ 05:44
Vysvětlení pseudonymizace — Herník vysvětluje, že pseudonymizace nahrazuje osobní údaje kódem jako zákazník 42, přičemž dekódovací tabulka zůstává bezpečně u vlastníka.

▶ 06:32
Lokální model pro obě metody — Herník dodává, že k anonymizaci i pseudonymizaci lze použít malý lokální model, který data připraví před odesláním do velkého cloudového modelu.

▶ 06:54
Úplné lokální zpracování — Herník uvádí, že třetí možnost znamená provoz modelu přímo na vlastním počítači nebo firemním serveru, kdy data vůbec neopustí infrastrukturu a lze odpojit i internet.

▶ 07:42
Cena lokálního provozu — Herník upozorňuje, že lokální AI vyžaduje výkonnější hardware a správu, a lokální model nebývá tak kognitivně vybavený jako nejlepší cloudové modely.

▶ 08:04
Kombinace přístupů — Herník doporučuje v praxi anonymizovat, co jde, pseudonymizovat, co je třeba zachovat pro práci, a skutečně citlivá data zpracovat lokálně.

▶ 08:30
Otázka před odesláním promptu — Herník zdůrazňuje, že bezpečnost začíná otázkou, zda AI opravdu musí znát všechny informace, a ve většině případů je odpověď ne.

▶ 08:47
Plán praktické části — Herník oznamuje, že ukáže, jak rozjet jazykový model na vlastním počítači, jaký hardware dává smysl a jak lokální model napojit na agenta.

▶ 09:08
Výhody a nevýhody lokální AI — Herník shrnuje, že lokální provoz přináší soukromí a úsporu nákladů, ale vyžaduje řešit hardware, paměť, instalaci a bývá o řád horší než špičkové cloudové modely.

▶ 09:46
Další varianty provozu — Herník zmiňuje, že kromě cloudu a vlastního počítače existují i OpenRouter pro střídání modelů přes API a pronájem hardwaru na Vast.ai.

▶ 10:29
Doporučení LM Studio Bionic — Herník doporučuje pro co nejjednodušší začátek stáhnout LM Studio Bionic z adresy lmstudio.ai, které funguje na Windows, Macu i Linuxu.

▶ 12:02
Nastavení Runtime a CUDA — Herník ukazuje v Bionic Studiu záložku Runtime a doporučuje vybrat CUDA, zatímco provoz na CPU znamená pomalé tři tokeny za sekundu.

▶ 12:47
Výběr modelu Qwen 3.8 27B — Herník v záložce Local Models vybírá doporučený model Qwen 3.8 27B, tedy 27 miliard parametrů, vhodný pro práci včetně programování.

▶ 13:21
Unsloth Studio alternativa — Herník zmiňuje Unsloth Studio, které nabízí více nastavení a optimalizované modely, ale pro začátek zůstává u LM Studio.

▶ 14:18
Volba mezi kvalitou a velikostí — Herník radí volit mezi kvalitou, velikostí a rychlostí modelu a jako rozumnou volbu pro rozpočet do 100 000 Kč uvádí PC s 64 GB RAM a kartou RTX 3090.

▶ 15:13
Srovnání s cloudovými modely — Herník na grafu Intelligence Index ukazuje, že Qwen 3.8 27B se nachází poblíž modelů Gemini 3.7 Flash, Kimi K3 a GPT-5.6 Sol Max.

▶ 16:38
Pravidlo menšího modelu — Herník doporučuje začít modelem, který se pohodlně vejde do paměti, protože malý svižný model je použitelnější než velký, který generuje jen tři tokeny za sekundu.

▶ 17:07
Formát GGUF a kvantizace — Herník rozebírá soubor modelu ve formátu GGUF a ukazuje, že kvantizace Q4 má 16 GB a Q6 22,5 GB, přičemž kvantizace model zaokrouhlí a zmenší.

▶ 18:35
Tokeny uvnitř modelu — Herník ukazuje vnitřek souboru, kde je slovník tokenů, tedy kousků slov různé délky, a vysvětluje, že počet tokenů nelze předem určit bez tokenizeru.

▶ 20:14
Váhy jako mozek modelu — Herník popisuje, že na konci souboru jsou binární váhy modelu, tedy jeho vlastní mozek, ze kterého nelze zpětně zjistit trénovací data.

▶ 21:07
Načtení a test modelu — Herník načítá Qwen 3.8 do paměti grafické karty a testuje ho příkazem ping, na který model odpoví pong, a potvrzuje, že umí česky i přes drobné nedostatky.

▶ 22:06
Zadání CSV souboru — Herník zadává modelu diktováním úkol vytvořit CSV soubor se simulovanou historií plateb za měsíc s 50 platbami včetně obědů a dovolené.

▶ 23:40
Sledování načtené instance — Herník ukazuje v nastavení načtený model Qwen 3.8 s třemi requesty a vysvětluje ikony pro vision, nástroje a přemýšlecí model.

▶ 25:23
Vysvětlení kvantizace vah — Herník vysvětluje, že váhy modelu jsou původně 16bitové a na běžné použití se kvantizují na 8 bitů, ale do jeho karty se vejde jen 4bitová verze.

▶ 26:32
Metriky TTFT a Prefill — Herník vysvětluje, že TTFT je čas do prvního tokenu, kdy se zpracovává prompt takzvaným Prefillem, a na jeho kartě probíhá rychlostí kolem 800 tokenů za sekundu.

▶ 27:44
Vstupní a výstupní tokeny — Herník rozlišuje vstupní tokeny za sekundu, tedy rychlost zpracování promptu, a výstupní tokeny za sekundu, tedy rychlost generování odpovědi.

▶ 28:14
KV cache jako pracovní paměť — Herník popisuje KV cache jako pracovní paměť, která ukládá výsledky zpracování a zkracuje TTFT, ale spotřebovává místo v grafické paměti.

▶ 29:20
Chyba počtu řádků a úsilí — Herník ukazuje, že model vygeneroval jen 49 řádků místo 50 a při extra high reasoning úsilí se zacyklil v přemýšlení o formátu čísla 38 500.

▶ 32:18
Přechod na Unsloth Studio — Herník přechází do Unsloth Studia, kde se mu model vejde do paměti a odpovídá rychleji, a ukazuje nastavení délky kontextu s přepočtem spotřeby GPU.

▶ 34:38
Sledování requestu v API — Herník v API sleduje běžící request s kontextem 137 tisíc tokenů, kde první token přišel pod sekundu a generování běží rychlostí 50 tokenů za sekundu.

▶ 36:02
Napojení agenta OpenCode — Herník v záložce agents vybírá OpenCode a spouští ho příkazem z příkazového řádku, přičemž agent používá lokální model Qwen 3.8 27B.

▶ 37:26
System prompt a KV cache — Herník ukazuje, že při startu agenta se posílá rozsáhlý system prompt, který zabere 42 procent kontextu, a díky KV cache je další ping rychlejší.

▶ 39:29
Opětovné generování CSV — Herník znovu zadává agentovi OpenCode vytvoření CSV souboru s 50 platbami a sleduje, jak volá nástroje a zapisuje obsah souboru.

▶ 42:15
Hlavní test offline dashboardu — Herník žádá agenta, aby z vygenerovaného CSV vytvořil přehledný webový dashboard a otevřel ho v prohlížeči, což by šlo provést i s odpojeným internetem.

▶ 43:16
Výsledný dashboard s grafy — Herník ukazuje výslednou stránku s grafem průběhu zůstatku, koláčovým grafem kategorií a přehledem největších výdajů, přičemž data neopustila počítač.

▶ 44:00
Kompaktace kontextu — Herník vysvětluje, že model musel provést kompaktaci, tedy shrnout dosavadní postup, protože se mu obsah nevešel do kontextového okna.

▶ 45:06
Ověření stránky a metriky — Herník ukazuje, že při generování dashboardu první token přišel za 35 sekund kvůli zpracování 48 tisíc tokenů a model pak přes Chrome ověřoval, zda se stránka načetla.

▶ 46:06
Srovnání s cloudovým modelem — Herník nechá stejný dashboard vytvořit cloudovým modelem GLM 5.3 Flash za 25 centů za milion tokenů a celá stránka vyšla asi na 25 haléřů.

▶ 47:33
Model už není jen chatbot — Herník zdůrazňuje, že model prochází soubory a generuje HTML kód, a lokální provoz nabízí kompromis mezi soukromím, cenou a praktičností.

▶ 48:21
OpenRouter pro pohodlné použití — Herník radí těm, kdo nechtějí řešit grafiku a nastavení, použít OpenRouter s jedním API a stovkami modelů včetně bezplatných.

▶ 48:48
Pronájem hardwaru na Vast.ai — Herník doporučuje pronajmout si výkon na Vast.ai na dobu, kdy ho skutečně potřebujete, místo nákupu vlastního železa.

▶ 49:21
Shrnutí výhod a nevýhod — Herník shrnuje výhody lokální AI, tedy data u vlastníka a kontrolu, i nevýhody jako hardware, horší výkon, hluk a přetížení počítače.

▶ 50:07
Rozhodovací první otázka — Herník radí, že první otázkou má být, zda data musí zůstat na vlastním počítači, a pokud ano, nezbývá než vlastní lokální provoz.

▶ 50:39
Volba podle potřeb uživatele — Herník rozlišuje, zda stačí hotový nástroj jako ChatGPT nebo Claude Code, nebo zda je lepší připojit model z OpenRouteru pro více možností.

▶ 52:25
Vlastní stack a pronájem H200 — Herník popisuje třetí variantu, kdy si lze postavit vlastní stack na vlastním hardwaru nebo pronajmout kartu H200 se 141 GB RAM za asi 83 korun za hodinu.

▶ 53:06
Kalkulačka návratnosti aox.cz — Herník představuje stránku aox.cz/lokalni-AI, kde si lze spočítat, zda se vyplatí provozovat lokální hardware.

▶ 53:27
Ekonomika vlastního PC — Herník na příkladu bazarového PC za 60 tisíc s kartou 3090 ukazuje, že proti levnému GLM 5.3 Flash by se hardware nikdy nezaplatil.

▶ 55:12
Návratnost u dražších modelů — Herník dopočítává, že oproti dražšímu Kimi K3 by se investice vrátila za 1,7 měsíce, ale u realističtějšího scénáře s vlastním hardwarem za 120 tisíc činí bod návratnosti 10,4 měsíce.

▶ 56:49
Lokální generování médií — Herník zmiňuje, že lokálně lze generovat i obrázky, video a zvuk, a sám nechal video nadabovat do 12 jazyků lokálním modelem.

▶ 57:08
Návrh pokračování série — Herník nabízí pokračování o lokálních obrázcích, agentech nebo srovnání lokálního modelu proti cloudu a zve na Discord a streamy AI Mastermind.

🔴 DŮLEŽITÉ UPOZORNĚNÍ A VYLOUČENÍ ODPOVĚDNOSTI

Výše uvedený text je shrnutí původního video obsahu a byl vygenerován výhradně umělou inteligencí (AI) bez jakéhokoli následného lidského ověření nebo kontroly. Provozovatel těchto webových stránek (dále jen „provozovatel“) výslovně upozorňuje, že takto generovaný text může obsahovat:

  • Faktické chyby a nepřesnosti
  • Zavádějící nebo neúplné informace
  • Informace vytržené z kontextu původního díla
  • Nepravdivá tvrzení nebo údaje (tzv. „halucinace“ AI)

Toto shrnutí slouží pouze ke zcela nezávazným, informativním nebo studijním účelům a v žádném případě nenahrazuje zhlédnutí původního video obsahu. Provozovatel důrazně nedoporučuje činit na základě tohoto shrnutí jakákoli rozhodnutí (obchodní, finanční, zdravotní, právní či jiná).

Provozovatel se tímto v maximálním možném rozsahu povoleném právními předpisy České republiky a Evropské unie zříká jakékoli odpovědnosti za:

  • Správnost, úplnost, aktuálnost nebo pravdivost informací obsažených v tomto shrnutí
  • Jakoukoli přímou či nepřímou újmu (majetkovou i nemajetkovou), která by uživateli nebo jakékoli třetí straně vznikla v důsledku použití nebo spoléhání se na informace z tohoto shrnutí
  • Případné porušení práv třetích stran (včetně práv autorských nebo práv na ochranu osobnosti), kterého by se mohlo shrnutí generované AI dopustit

Použitím tohoto shrnutí bere uživatel na vědomí, že tak činí výhradně na své vlastní riziko a odpovědnost. Pro ověření jakýchkoli informací je uživatel povinen zhlédnout původní zdroj (video) a/nebo konzultovat danou problematiku s kvalifikovaným odborníkem.

⚠️ MECHANISMUS PRO NAHLÁŠENÍ PROBLEMATICKÉHO OBSAHU (NOTICE & TAKE DOWN)

Provozovatel bere ochranu práv třetích stran vážně. Pokud se domníváte, že kterékoli automaticky generované shrnutí obsahuje faktické chyby, zasahuje do vašich práv (např. autorských práv, práv na ochranu osobnosti) nebo je jinak v rozporu s platnými právními předpisy, žádáme vás o neprodlené oznámení. Kontaktujte nás prosím e-mailem na adrese: chyba@shrnuti.cz

Do předmětu e-mailu uveďte „Nahlášení obsahu“ a v těle zprávy prosím specifikujte:

  • Přesný odkaz (URL) na stránku obsahující problematický souhrn
  • Jasný popis problému — uveďte, v čem spatřujete pochybení (např. „text je nepravdivý“, „zasahuje do mého práva na ochranu osobnosti“, „porušuje autorská práva k…“)
  • Vaše kontaktní údaje pro případnou zpětnou vazbu

Provozovatel se zavazuje každé takové oznámení přijaté v dobré víře bez zbytečného odkladu prověřit a v případě, že bude oznámení shledáno oprávněným, zjednat adekvátní nápravu (zejména opravou, nebo trvalým odstraněním dotčeného textu).