Nová povinnost označovat AI obsah podle AI Actu otevírá debatu o tom, že hranici mezi AI a lidským obsahem prakticky nelze určit, protože i běžná fotka z mobilu je dnes algoritmicky upravená. Hosté se obávají, že povinné nálepky časem ztratí smysl podobně jako informace o cookies na webu. Katka předvádí jazykový model o 29 milionech parametrů s kontextovým oknem 256 tokenů, který běží přímo na mikrokontroleru ESP32. Debata se dále točí kolem lokálních modelů, jejichž hlavní výhodou je, že nikam neposílají data, a kolem kvality AI generovaného kódu, který často duplikuje funkcionalitu místo tvorby abstrakcí. Katka představuje svůj projekt pro interpretabilitu jazykových modelů a řečníci zvou na konferenci v Ostravě 15. září. Závěr patří orkestračním patternům, experimentu s modely Luna a Tera a zážitkům z vibe coding hackathonu.

📅 Datum vydání: 9.8.2026
📺 Zdroj: AI ta Krajta #62 | AI modely na ESP32, AI Act a praktický vibecoding
Klikněte na odkaz a dejte odběr na kanálu autora, podpoříte ho a vylepšíte svůj algoritmus.

▶ 00:04
Úvod a označování AI obsahu — Moderátor zahajuje 62. díl podcastu a jeden z hostů oznamuje, že podle AI Actu se ode dneška musí označovat AI obsah, k čemuž zmiňuje i nové tlačítko pro označení AI slopu na LinkedInu.

▶ 00:47
Hranice AI a lidského obsahu — Řečník upozorňuje, že drtivá většina dnes produkovaného obsahu je někde mezi čistě lidským a AI obsahem, protože i běžná fotka z mobilu je algoritmicky vylepšená, a očekává kolem této hranice právní spory.

▶ 01:48
Míra AI generování a kompilace — Řečník namítá, že AI Act chápe označení jen jako ano či ne, ale skutečný problém je popsat míru AI v obsahu, což ilustruje na kódu kompilovaném do vygenerovaného assembleru, takže hranice není nikde definovaná.

▶ 03:33
Smysl AI Actu a paralela s GDPR — Řečník připouští, že software na citlivých strategických místech je bezpečnostní otázka, ale u vlastního projektu povinné označování smysl nedává, a připomíná, že lidé reagovali přehnaně už u nařízení GDPR.

▶ 04:26
Obava z všudypřítomných nálepek — Řečník se bojí, že za pět let bude na každém webu nálepka AI generated podobně jako dnes informace o cookies, takže označení ztratí veškerý význam, a ostatní toto riziko uznávají za reálné.

▶ 05:15
Označování záběrů v médiích — Řečník připouští, že u televizních záběrů dává rozlišení skutečného, ilustračního a AI vygenerovaného materiálu smysl, ale seriózní média takové označení dělala už dříve a u textu lze AI poznat podle typických obratů.

▶ 06:36
Jazykový model v ESP32 — Katka předvádí jazykový model, který se pomocí techniky Pair Layer Embeddings podařilo natěsnat do paměti mikrokontroleru ESP32 v krabičce od cereálií, a popisuje, že se k němu připojuje přes terminál a SSH.

▶ 09:14
Model na úrovni GPT-2 — Řečník srovnává běžící model s úrovní GPT-2 a Katka upřesňuje, že má kontextové okno pouhých 256 tokenů, přičemž praktické využití vidí v klasifikaci a energeticky nenáročném provozu na zařízení.

▶ 11:22
Trend malých lokálních modelů — Jeden z hostů se věnuje benchmarkům nového modelu, jejichž výsledky nechá na příští díl, a dodává, že se potvrzuje trend malých jazykových modelů provozovatelných na zařízení, proč někteří nepovažují Apple za odepsaný.

▶ 12:08
Středně velké modely v tandemu — Řečník rozlišuje Katčin miniaturní model od středně velkých modelů, které už zvládají function calling, RAG, sumarizaci či anonymizaci a mohou fungovat v tandemu s velkými cloudovými modely, protože čistě cloudový provoz považuje za neudržitelný.

▶ 13:30
Katka testuje lokální modely a češtinu — Katka je překvapená, jak dobré jsou lokální modely pro její aplikaci, ale hlavní překážkou je kvalitní čeština, kterou podle ní zvládá i model Gemma 4B se speciální architekturou běžící na mobilu.

▶ 14:55
Aplikace Edge Gallery a tandem — Řečník zmiňuje androidovou aplikaci Edge Gallery od Googlu pro stahování lokálních modelů a popisuje tandem, kdy jeden model vede konverzaci v češtině a těžší úkoly deleguje na silný thinking model, který výsledky přeformuluje do přirozených vět.

▶ 16:47
Výhody lokálních modelů — Řečník tvrdí, že rychlost paradoxně výhodou lokálních modelů není, protože na běžném hardwaru se výkon vyplatí koupit od providera, a skutečná výhoda je, že data nikam neodcházejí a službu nikdo nemůže vypnout, což bude podle něj vyžadovat stále více firem.

▶ 18:24
Cena služeb třetích stran — Řečník upozorňuje, že reálnou cenu služeb třetích stran nikdo nezná, protože token price ani předplatné neodpovídají skutečným nákladům, a Katka přiznává, že si nově nechává přes noc běžet agenty.

▶ 19:41
Přehodnocení modelu Fable — Katka přiznává, že model Fable dříve hodnotila přísně, protože neměla správný use case, ale když jí kamarád ukázal hru vytvořenou z jediné věty, uznala, že jde o dobrý model.

▶ 20:18
Správný use case a vývoj kódování — Řečník vysvětluje, že rozdíl mezi modely se projeví hlavně při návrhu architektury a rozhodování, a připomíná, jak se od fascinace GPT-4 a služeb jako Lovable posunulo vnímání kvality AI kódu.

▶ 22:19
AI jako programátor a kvalita kódu — Řečník tvrdí, že AI výborně implementuje konkrétní funkce, ale při revizi kódu se ukazují snadno opravitelné nedostatky, a další řečníci doplňují, že model se drží chyb, neuklízí kód a opakuje funkcionalitu místo společné abstrakce.

▶ 24:39
Duplikovaná DNS komponenta — Řečník uvádí případ, kdy agent zkopíroval DNS komponentu na více stránek a automatické nastavení Cloudflare přidal jen na jedno místo, takže se duplicitní kód vyvíjel každý vlastním směrem.

▶ 26:26
Projekt interpretability modelů — Katka představuje svůj open source projekt pro interpretabilitu jazykových modelů, díky kterému lze sledovat, v které vrstvě se model rozhodl, či model ovlivnit, a zmiňuje, že Anthropic a Google monitorují bezpečnost na úrovni aktivací.

▶ 28:51
Rozdělení úloh a pozvánka do Ostravy — Moderátor oceňuje téma interpretability a navrhuje spojit ho s rozdělováním velkých úloh mezi malé modely, přičemž řečníci zvou diváky na AI konferenci v Ostravě 15. září.

▶ 30:01
Rigidní pipeline versus agentní přístup — Řečníci označují za zajímavá témata lokální modely, interpretabilitu a orkestrace a Katka vysvětluje posun od pevně dané pipeline s vektorovou databází k agentnímu přístupu, který u lokálních modelů funguje hůře kvůli malému kontextovému oknu.

▶ 33:00
Dva orkestrační patterny — Řečník popisuje dva protichůdné vzorce, kdy silný agent deleguje úkoly na slabší subagenty, nebo se naopak eskaluje od malého lokálního modelu k silnějšímu, a uvádí, že první z nich představil Apple při integraci ChatGPT.

▶ 34:03
Tandem a kritéria kvality — Řečník přidává třetí tandemový vzorec reálného a thinking modelu, který jim dobře funguje, ale upozorňuje, že u eskalací je těžké poznat, kdy je výstup dostatečně dobrý, jinak hrozí ztráta klienta, a Katka přiznává, že lokálním modelům zatím plně nevěří.

▶ 35:36
Experiment s modely Luna a Tera — Řečník dva týdny testoval nové modely od OpenAI a zjistil, že Tera zvládla 9 z 10 úloh a levnější Luna 17 z 20, takže rozdíl ve spolehlivosti byl malý při pětinové spotřebě a používání Terry je spíš psychologický efekt.

▶ 36:57
Vibe coding hackathon a styl agentů — Řečník popisuje experiment z vibe coding hackathonu, kde dobře nakonfigurovaný agent s knihovnou Babylon.js vytvářel lepší matematické vizualizace než generický agent, a soudí, že služby jako Lovable staví právě na specifickém programátorském stylu.

▶ 38:41
Závěr a pozvánka na workshop — Moderátor děkuje sponzorovi a zve diváky na bezplatný workshop konaný 20., přičemž Katka oznamuje, že se připojí, a moderátor se loučí s tím, že další témata přijdou v příštím díle.

🔴 DŮLEŽITÉ UPOZORNĚNÍ A VYLOUČENÍ ODPOVĚDNOSTI

Výše uvedený text je shrnutí původního video obsahu a byl vygenerován výhradně umělou inteligencí (AI) bez jakéhokoli následného lidského ověření nebo kontroly. Provozovatel těchto webových stránek (dále jen „provozovatel“) výslovně upozorňuje, že takto generovaný text může obsahovat:

  • Faktické chyby a nepřesnosti
  • Zavádějící nebo neúplné informace
  • Informace vytržené z kontextu původního díla
  • Nepravdivá tvrzení nebo údaje (tzv. „halucinace“ AI)

Toto shrnutí slouží pouze ke zcela nezávazným, informativním nebo studijním účelům a v žádném případě nenahrazuje zhlédnutí původního video obsahu. Provozovatel důrazně nedoporučuje činit na základě tohoto shrnutí jakákoli rozhodnutí (obchodní, finanční, zdravotní, právní či jiná).

Provozovatel se tímto v maximálním možném rozsahu povoleném právními předpisy České republiky a Evropské unie zříká jakékoli odpovědnosti za:

  • Správnost, úplnost, aktuálnost nebo pravdivost informací obsažených v tomto shrnutí
  • Jakoukoli přímou či nepřímou újmu (majetkovou i nemajetkovou), která by uživateli nebo jakékoli třetí straně vznikla v důsledku použití nebo spoléhání se na informace z tohoto shrnutí
  • Případné porušení práv třetích stran (včetně práv autorských nebo práv na ochranu osobnosti), kterého by se mohlo shrnutí generované AI dopustit

Použitím tohoto shrnutí bere uživatel na vědomí, že tak činí výhradně na své vlastní riziko a odpovědnost. Pro ověření jakýchkoli informací je uživatel povinen zhlédnout původní zdroj (video) a/nebo konzultovat danou problematiku s kvalifikovaným odborníkem.

⚠️ MECHANISMUS PRO NAHLÁŠENÍ PROBLEMATICKÉHO OBSAHU (NOTICE & TAKE DOWN)

Provozovatel bere ochranu práv třetích stran vážně. Pokud se domníváte, že kterékoli automaticky generované shrnutí obsahuje faktické chyby, zasahuje do vašich práv (např. autorských práv, práv na ochranu osobnosti) nebo je jinak v rozporu s platnými právními předpisy, žádáme vás o neprodlené oznámení. Kontaktujte nás prosím e-mailem na adrese: chyba@shrnuti.cz

Do předmětu e-mailu uveďte „Nahlášení obsahu“ a v těle zprávy prosím specifikujte:

  • Přesný odkaz (URL) na stránku obsahující problematický souhrn
  • Jasný popis problému — uveďte, v čem spatřujete pochybení (např. „text je nepravdivý“, „zasahuje do mého práva na ochranu osobnosti“, „porušuje autorská práva k…“)
  • Vaše kontaktní údaje pro případnou zpětnou vazbu

Provozovatel se zavazuje každé takové oznámení přijaté v dobré víře bez zbytečného odkladu prověřit a v případě, že bude oznámení shledáno oprávněným, zjednat adekvátní nápravu (zejména opravou, nebo trvalým odstraněním dotčeného textu).