68. díl podcastu Ainda Krajda moderuje host z auta cestou na AI Monday Jihlava a diskutuje s Petrem a Pavlem hlavně o klasifikačním modelu Jeff, který vzbudil na internetu velký rozruch. Jeff nemá klasické tokeny ani reasoning, vrací jen volbu, míru jistoty a skóre, a podle řečníka se hodí na routing, klasifikaci tiketů a rychlé rozhodování v reálném čase. Řečník popisuje vlastní experimenty s Jeffem na routing a testování a srovnává ho s klasickými LLM i difuzním modelem Mercurial, přičemž vyzdvihuje nízkou cenu a odezvu kolem 100 ms. Debatuje se o tom, zda Jeff zapadne do trendu specializovaných menších modelů, o pořadí slabých a silných modelů i o tom, že výběr z možností je snazší než samotné řešení. Moderátor zmiňuje novou zprávu Anthropicu o měření tempa vývoje AI a uvádí, že Claude dělá v srpnu 26 % výzkumné práce, plné autonomie ale zatím nedosáhl. V závěru se řečníci vracejí k limitům Jeffa, jako je vstup 32 tisíc tokenů či možnost halucinací, a k jeho potenciálu zlevnit coding harnessy.

📅 Datum vydání: 22.9.2026
📺 Zdroj: Jev není AGI: Malé modely, klasifikace a routing AI agentů | AItaKrajta 68. díl-1
Klikněte na odkaz a dejte odběr na kanálu autora, podpoříte ho a vylepšíte svůj algoritmus.

▶ 00:03
Úvod cestou na AI Monday Jihlava — Moderátor zahajuje 68. díl podcastu Ainda Krajda z auta a zmiňuje přednášky Radima Světlé o lokálních modelech a CTO Ondry Hanouska o krotení všemocné AI.

▶ 00:41
Pozvánka na AI Horizons se slevou — Řečník zve na konferenci AI Horizons a do komentářů slibuje kód na 25% slevu.

▶ 00:56
Pavlův workshop a přednáška — Pavel má na AI Horizons ve středu workshop a ve čtvrtek přednášku, které se zúčastní i jeden z hostů s Kačkou.

▶ 01:11
Jeff vzal AI internet útokem — Řečník líčí, jak klasifikační model Jeff s cenou 42 dolarů za miliardu tokenů vzbudil velký hype a debatu o tom, zda jde o AGI.

▶ 02:11
Routing a testování s Jeffem — Řečník experimentuje s Jeffem na klasifikaci tiketů pro routing mezi modely a na proklikávání aplikací v kombinaci s difuzním modelem Mercurial 2,5.

▶ 03:37
Jeff nemá tokeny ani reasoning — Řečník vysvětluje, že Jeff nemá koncept tokenů a žádný reasoning, jen vrátí volbu, míru jistoty a skóre v rámci asi 256 možností.

▶ 04:25
Nízká cena, odpověď za 100 ms — Řečník srovnává Jeffovu nízkou cenu a odezvu kolem 100 ms s klasickým LLM, který odpovídá postupně a bez vyjádřené jistoty, pokud k ní není vyzván.

▶ 05:00
Návrat k datům a ML metodám — Řečník očekává obrat pozornosti k tréninkovým datům a klasickému strojovému učení a vyzdvihuje Jeffovu klasifikaci bez nutnosti dotrénovávat model.

▶ 06:08
Pevná struktura výstupu JSON — Strukturu Jeffova JSON výstupu nelze ovlivnit, řekne se mu jen vybírat z daných až 256 možností a on vrátí nejlepší volbu s pravděpodobností.

▶ 06:43
Limit 32 tisíc tokenů vstupu — Jeff je omezený na 32 tisíc tokenů vstupu a hodí se hlavně na rychlé rozhodování v reálném čase s omezeným počtem akcí.

▶ 07:15
Šachy odhalily Jeffovy limity — Lidé dělali záměrně absurdní experimenty a šachový Jeff hrál sice extrémně rychle, ale bez myšlení, takže by ho řečník v šachu snadno porazil.

▶ 08:00
Šachy vyžadují výpočet dopředu — Řečník připomíná Alphu Go z roku 2016 a vysvětluje, že šachy vyžadují výpočet tahů dopředu a enginy jako Stockfish pracují s optimálními tahy, ne s prohledáním všech možností.

▶ 08:47
Anthropic měří tempo vývoje AI — Moderátor uvádí zprávu Anthropicu o měření tempa vývoje AI a říká, že Claude dělá v srpnu 26 % výzkumné práce oproti méně než 1 % v únoru, plné autonomie ale zatím nedosáhl.

▶ 09:50
Klony a benchmark kolem Jeffa — Mluvčí dodává, že Jeff je uzavřený za API, ale vzniklo asi deset klonů a už i benchmark porovnávající jednotlivé varianty.

▶ 10:31
Jeff jako dílek skládačky — Řečník vidí Jeffa jako jeden dílek obří skládačky, který zapadne do trendu specializovaných menších modelů pro routing a klasifikaci.

▶ 11:08
Pořadí slabého a silného modelu — Mluvčí se ptá, zda má rychlý model rozhodovat jako první, a řečník odpovídá, že většina dotazů je jednoduchá a stačí na ně slabší model, zatímco na zajímavé se nasadí silnější.

▶ 12:26
Přepínání modelů Astra a Luna — Přepínání mezi modely jako Astra a Luna probíhá až při vyčerpání usage a zatím není chytré, ale podle řečníka funguje dobře, pokud jsou dobře položené základy.

▶ 13:09
Malý klasifikátor v Kanbu AI — Řečník připomíná, že podobnou architekturu s malým klasifikačním modelem navrhovali už před třemi lety v Kanbu AI, kde je výběr z možností snazší než samotné řešení.

▶ 14:07
DSPy, AX a sběr dat — Řečník zmiňuje nástroje DSPy a AX pro klasifikaci a varuje, že levnější a hloupější model může při rozhodování dopředu něco přehlédnout, proto je klíčový sběr dat.

▶ 15:45
Gemma a přiznání neznalosti — Řečník upozorňuje, že jazykové modely špatně přiznávají neznalost, a kdyby malá Gemma spolehlivě řekla, že na úkol nestačí, dala by se jednoduše napojit na silnější model.

▶ 17:17
Tři režimy: if, switch, scoring — Mluvčí ukazuje tři režimy Jeffa, klasický if, fakta či switch a scoring, a řečník dodává, že slabší modely při potížích panikaří a začnou mazat práci, což pozoroval i u DeepSeeku.

▶ 18:21
Jeff jako klasický jazykový model — Mluvčí se ptá, zda by se Jeff dal použít jako klasický jazykový model doplňováním písmen, a řečník odpovídá, že to podle něj fungovat nebude, ale vyzkoušet se to dá.

▶ 19:21
Astra hypotéza a tokeny — Řečník říká, že podobné experimenty se slabšími modely ukázaly jen malý pokles inteligence, ale enormní nárůst spotřeby tokenů, a na dobrou aplikaci by bylo potřeba více než 32 tisíc tokenů kontextu.

▶ 20:33
Bez reasoningu, halucinace a cutoff — Řečník vysvětluje, že Jeff nemá reasoning a rovnou vrací scoring, takže halucinace by znamenala konzistentně špatnou odpověď s vysokou jistotou, což se ale Šimonovi nepodařilo reprodukovat.

▶ 21:24
Potenciál optimalizovat harnessy — Mluvčí vidí Jeffa jako potenciálně univerzální optimalizátor, který by mohl výrazně zlevnit provoz coding harnessů, ale řečník oponuje, že by se musel optimalizovat celý harness a reasoning zůstává klíčový.

▶ 23:27
Tool calling uvnitř reasoningu — Řečník popisuje prototyp, který přes MCP vrací agentovi relevantní skilly s pravděpodobností, a zamýšlí se nad zapojením Jeffa do tool callingu přímo uvnitř reasoningu.

🔴 DŮLEŽITÉ UPOZORNĚNÍ A VYLOUČENÍ ODPOVĚDNOSTI

Výše uvedený text je shrnutí původního video obsahu a byl vygenerován výhradně umělou inteligencí (AI) bez jakéhokoli následného lidského ověření nebo kontroly. Provozovatel těchto webových stránek (dále jen „provozovatel“) výslovně upozorňuje, že takto generovaný text může obsahovat:

  • Faktické chyby a nepřesnosti
  • Zavádějící nebo neúplné informace
  • Informace vytržené z kontextu původního díla
  • Nepravdivá tvrzení nebo údaje (tzv. „halucinace“ AI)

Toto shrnutí slouží pouze ke zcela nezávazným, informativním nebo studijním účelům a v žádném případě nenahrazuje zhlédnutí původního video obsahu. Provozovatel důrazně nedoporučuje činit na základě tohoto shrnutí jakákoli rozhodnutí (obchodní, finanční, zdravotní, právní či jiná).

Provozovatel se tímto v maximálním možném rozsahu povoleném právními předpisy České republiky a Evropské unie zříká jakékoli odpovědnosti za:

  • Správnost, úplnost, aktuálnost nebo pravdivost informací obsažených v tomto shrnutí
  • Jakoukoli přímou či nepřímou újmu (majetkovou i nemajetkovou), která by uživateli nebo jakékoli třetí straně vznikla v důsledku použití nebo spoléhání se na informace z tohoto shrnutí
  • Případné porušení práv třetích stran (včetně práv autorských nebo práv na ochranu osobnosti), kterého by se mohlo shrnutí generované AI dopustit

Použitím tohoto shrnutí bere uživatel na vědomí, že tak činí výhradně na své vlastní riziko a odpovědnost. Pro ověření jakýchkoli informací je uživatel povinen zhlédnout původní zdroj (video) a/nebo konzultovat danou problematiku s kvalifikovaným odborníkem.

⚠️ MECHANISMUS PRO NAHLÁŠENÍ PROBLEMATICKÉHO OBSAHU (NOTICE & TAKE DOWN)

Provozovatel bere ochranu práv třetích stran vážně. Pokud se domníváte, že kterékoli automaticky generované shrnutí obsahuje faktické chyby, zasahuje do vašich práv (např. autorských práv, práv na ochranu osobnosti) nebo je jinak v rozporu s platnými právními předpisy, žádáme vás o neprodlené oznámení. Kontaktujte nás prosím e-mailem na adrese: chyba@shrnuti.cz

Do předmětu e-mailu uveďte „Nahlášení obsahu“ a v těle zprávy prosím specifikujte:

  • Přesný odkaz (URL) na stránku obsahující problematický souhrn
  • Jasný popis problému — uveďte, v čem spatřujete pochybení (např. „text je nepravdivý“, „zasahuje do mého práva na ochranu osobnosti“, „porušuje autorská práva k…“)
  • Vaše kontaktní údaje pro případnou zpětnou vazbu

Provozovatel se zavazuje každé takové oznámení přijaté v dobré víře bez zbytečného odkladu prověřit a v případě, že bude oznámení shledáno oprávněným, zjednat adekvátní nápravu (zejména opravou, nebo trvalým odstraněním dotčeného textu).