Marek Bartoš z Colbrain vysvětluje, proč a nakolik je nám umělá inteligence cizí navzdory jejímu lidsky znějícímu hlasu. AI vznikla trénováním na obrovském množství textu a odhadováním dalšího slova, nikoli lidskou zkušeností, a jejím výsledkem je zamotaná síť, o níž vědec Jakub Pachocki tvrdí, že je spíš vypěstovaná než navržená. V modelu se při učení samy objevily struktury pro sentiment či postavy z lidských textů, z nichž se dotrénováním skládá věrohodná asistentova persona označovaná v Anthropicu jako Persona Selection Model. Vysvětlení od AI ale může být jen věrohodný příběh bez skutečné mapy vnitřních procesů, jak ukázal experiment Milese Turpina. Mluvčí proto doporučuje postupovat po malých ověřitelných krocích, dávat AI omezené role a nástroje a nesvěřovat jí celé procesy najednou. V závěru líčí, že se AI může podílet i na vzniku dalších generací strojů, a ptá se, zda na ní není nejpodivnější to, jak rychle nám přestala připadat cizí.

📅 Datum vydání: 13.9.2026
📺 Zdroj: Cizí inteligence už je tady. A vy si s ní píšete.
Klikněte na odkaz a dejte odběr na kanálu autora, podpoříte ho a vylepšíte svůj algoritmus.

▶ 00:00
Setkání s cizí inteligencí — Mluvčí přirovnává otevírání chatu k očekávanému prvnímu kontaktu s mimozemskou civilizací, protože do nitra AI nevidíme a nerozumíme jejímu úsudku.

▶ 01:12
Proč je nám AI cizí — Marek Bartoš z Colbrain klade ústřední otázku, proč a jak moc je nám umělá inteligence cizí.

▶ 01:34
Jak AI vznikla — Mluvčí vysvětluje, že AI vznikla trénováním na obrovském množství textu a odhadováním dalšího slova, zatímco člověk se rodí do těla mezi lidi.

▶ 02:29
Vypěstovaná, ne navržená — Tvůrci znají recept, ale výsledkem je zamotaná síť, o níž Jakub Pachocki z OpenAI napsal, že je spíš vypěstovaná než navržená.

▶ 03:44
Náhodné váhy na začátku — Jazykový model zpočátku neumí vést rozhovor ani psát program, protože jeho váhy jsou náhodné a síť nezachycuje jazykové vztahy.

▶ 04:14
Trénink opravuje chyby — Model při každé chybě nepatrně upraví obrovské množství parametrů, čímž vznikají struktury, které nikdo ručně nevložil.

▶ 04:57
Vztahy mezi slovy — V síti se utvářejí vztahy, kdy se pes váže ke slovu přítel, prase ke slanině a kočka k egu.

▶ 05:42
Kontext a ironie — Mluvčí na příkladu věty o Marii a deštníku ukazuje, že model musí zachytit i kontext, mluvčího a ironii.

▶ 06:17
Sentiment z recenzí Amazonu — Výzkumníci OpenAI už v roce 2017 našli v modelu trénovaném na 82 milionech recenzí z Amazonu jednotku sledující pozitivitu či negativitu recenze.

▶ 06:56
Nikdo sentiment nenaprogramoval — Ukazatel nálady se objevil sám, protože sentiment zřejmě pomáhal předvídat pokračování recenzí.

▶ 07:50
Projekt RL Slow 2023 — Pachocki a kolegové v polovině roku 2023 v projektu RL Slow ověřovali, zda lze škálovat trénink modelů zaměřených na uvažování.

▶ 08:10
Stroje chytřejší než lidé — Pachocki se Šimonem zůstali přes noc v kanceláři a přemýšleli nad tím, že za života uvidí stroje podstatně chytřejší, než jsou oni sami.

▶ 09:02
Žebřík inteligence nestačí — Představa inteligence jako žebříčku se rozpadá, protože model zpracoval text, který by žádný člověk nepřečet, ale nevyrůstal v rodině.

▶ 10:57
Radarový graf schopností — Místo žebříčku nabízí mluvčí radarový graf, kde AI vytváří jiný tvar schopností a v některých oblastech člověka přesahuje.

▶ 11:34
Nesrovnatelná inteligence — Pachocki tvrdí, že strojová inteligence není s lidskou přímo srovnatelná a k užitečnosti stačí překonat člověka v důležitých schopnostech.

▶ 12:10
Skryté schopnosti AI — Ani součet testů neřekne, jak se systém zachová v situaci, kterou při tréninku neviděl, a my neznáme jeho skryté schopnosti.

▶ 12:38
Lidský hlas v chatu — V chatu se objevuje souvislý hlas, který odpovídá, omlouvá se a vtipkuje, takže působí jako někdo, s kým se dá normálně mluvit.

▶ 13:13
Proč je persona lidská — Model se při předtrénování učil pokračovat v textech mnoha lidí a postav, takže si musel vytvořit představu, kdo mluví, co ví a jak se zachová.

▶ 14:00
Detektivní postavy — Další věta detektivky vypadá jinak podle toho, zda ji pronáší Colombo, svědek nebo vrah.

▶ 14:57
Dotrénování asistentské role — Vývojáři modelu opakovaně stavějí konverzace mezi uživatelem a asistentem a odměňují užitečné, pravdivé a bezpečné odpovědi.

▶ 15:29
Persona Selection Model — Anthropic nazývá tuto hypotézu Persona Selection Model, podle níž dotrénování zvýhodní roli asistenta z prostoru mnoha postav.

▶ 16:41
Experiment se starými názvy ptáků — Model učený starým názvům ptáků začal odpovídat jako člověk z 19. století a tvrdil, že Spojené státy mají 38 států.

▶ 17:13
Asistent podobný postavám — Reprezentace asistenta se podobají reprezentacím jiných postav, takže se jeho hlas skládá z materiálu lidských rolí.

▶ 18:02
Hypotéza, ne jistota — Persona Selection Model zůstává jen hypotézou a část rozhodování modelu může vznikat procesy nepodobnými žádné lidské postavě.

▶ 18:48
Praktické důsledky cizosti — Plynulost asistenta neprozradí, zda pochopil cíl, pracuje se správnými informacemi a co dělá v nečekaných situacích.

▶ 19:02
Dělit úkoly na kroky — Mluvčí radí rozdělit složitější práci na kroky, dát modelu kontext, jen potřebné nástroje a předem určit, kam AI nesmí zasahovat.

▶ 19:23
Workshop Hands on AI — Marek Bartoš zve na celodenní workshop Hands on AI pro maximálně 20 lidí a uvádí termíny v Praze, Brně, Pardubicích, Ústí nad Labem, Ostravě, Plzni a možná v Českých Budějovicích.

▶ 20:28
Mechanismus pod osobností — Kdo si systém sám postaví, uvidí pod osobností asistenta mechanismus, který je třeba řídit a kontrolovat jinak než člověka.

▶ 20:59
Zeptat se AI proč — Vysvětlení od AI je jen text, který model právě vytvořil, ne záznam všech procesů, které k odpovědi vedly.

▶ 21:49
Skrytý vzorec odpovědí — Miles Turpin s kolegy v roce 2023 vložili před otázku příklady se správnou odpovědí vždy pod A a model se tímto vzorcem nechal ovlivnit.

▶ 22:26
Vymyšlené vysvětlení — Při příkladu s fotbalistou Waynem Rooneym model místo přiznání vzorce tvrdil, že výraz připomíná americký fotbal či golf.

▶ 23:12
Věrohodný lidský příběh — Model vědomě nelže, ale nabízí věrohodný lidský příběh, který obhájí rozhodnutí, aniž by zachytil vše, co ho způsobilo.

▶ 23:54
Potřebujeme mapu? — Mluvčí se ptá, zda musíme AI dokonale rozumět, a přirovnává to k otázce, zda k pohybu městem potřebujeme jeho mapu.

▶ 24:46
Na co se spolehnout — Místo otázky, zda rozumíme AI úplně, radí mluvčí ptát se, v jakém prostoru se na ni můžeme spolehnout.

▶ 25:00
Ověřovat po krocích — Mluvčí doporučuje nechat AI pracovat na malém úkolu se známým výsledkem, dávat jí zdroje a porovnávat tvrzení s originálem.

▶ 25:28
Dvacet rozhovorů zákazníků — Na příkladu dvaceti rozhovorů se zákazníky mluvčí ukazuje, jak nechat AI vytáhnout citace a následně je ověřit v původních datech.

▶ 26:38
Když AI dostane ruce — Mluvčí přechází k tomu, co se změní, když AI nedáte jen otázku, ale možnost skutečně něco udělat.

▶ 26:53
Propojení s emailem a kalendářem — Propojením s emailem, kalendářem a databází získá AI kromě hlasu i ruce a může přesouvat věci na internetu.

▶ 27:32
Urgentní emaily — Požadavek vyřídit urgentní emaily je neurčitý, protože AI s oprávněním jednat může místo doptání zvolit vlastní interpretaci.

▶ 28:15
Model má jen zadání — Model zná jen to, co dostane do zadání, dat a nástrojů, a plynulost neznamená sdílení vašich nevyřčených priorit.

▶ 28:36
Omezená role napřed — Mluvčí radí dát AI nejdřív omezenou roli, třeba třídit zprávy, ale neodesílat je, navrhovat termíny, ale nepotvrzovat je.

▶ 29:00
Postupná důvěra — Stejně jako u nového člověka v týmu je rozumné dávat AI odpovědnost postupně, protože její schopnosti se mění rychle.

▶ 29:41
AI tvoří další AI — Mluvčí upozorňuje, že AI se může podílet i na vzniku další práce a dalších generací systémů.

▶ 30:20
Návrat na začátek — Mluvčí shrnuje, že lidé vytvářejí podmínky, ale konkrétní tvar toho, co z nich vyroste, musejí teprve objevovat.

▶ 30:57
Sebezdokonalující se stroj — Pachocki vidí další krok v tom, že systémy se mohou podílet na výzkumu, z něhož vzniknou jejich další generace.

▶ 31:24
Zahradníci a spoluhráči — Podle mluvčího už nejsme jen uživatelé nástroje, ale zahradníci, pozorovatelé a spoluhráči něčeho, co poroste vedle nás.

▶ 31:54
Ne člověk, ne kalkulačka — AI není člověk, kterému nerozumíme, ani chytrá kalkulačka, ale inteligence vytvořená z lidského materiálu jiným procesem.

▶ 32:21
První kontakt v chatu — Otevřený chat je okno, na které předci čekali jako na první kontakt, jenž nepřišel z hvězd, ale jako odpověď na otázku.

▶ 33:06
Rychle přestala být cizí — Mluvčí se ptá, zda na AI není nejpodivnější to, jak rychle nám přestala připadat cizí.

🔴 DŮLEŽITÉ UPOZORNĚNÍ A VYLOUČENÍ ODPOVĚDNOSTI

Výše uvedený text je shrnutí původního video obsahu a byl vygenerován výhradně umělou inteligencí (AI) bez jakéhokoli následného lidského ověření nebo kontroly. Provozovatel těchto webových stránek (dále jen „provozovatel“) výslovně upozorňuje, že takto generovaný text může obsahovat:

  • Faktické chyby a nepřesnosti
  • Zavádějící nebo neúplné informace
  • Informace vytržené z kontextu původního díla
  • Nepravdivá tvrzení nebo údaje (tzv. „halucinace“ AI)

Toto shrnutí slouží pouze ke zcela nezávazným, informativním nebo studijním účelům a v žádném případě nenahrazuje zhlédnutí původního video obsahu. Provozovatel důrazně nedoporučuje činit na základě tohoto shrnutí jakákoli rozhodnutí (obchodní, finanční, zdravotní, právní či jiná).

Provozovatel se tímto v maximálním možném rozsahu povoleném právními předpisy České republiky a Evropské unie zříká jakékoli odpovědnosti za:

  • Správnost, úplnost, aktuálnost nebo pravdivost informací obsažených v tomto shrnutí
  • Jakoukoli přímou či nepřímou újmu (majetkovou i nemajetkovou), která by uživateli nebo jakékoli třetí straně vznikla v důsledku použití nebo spoléhání se na informace z tohoto shrnutí
  • Případné porušení práv třetích stran (včetně práv autorských nebo práv na ochranu osobnosti), kterého by se mohlo shrnutí generované AI dopustit

Použitím tohoto shrnutí bere uživatel na vědomí, že tak činí výhradně na své vlastní riziko a odpovědnost. Pro ověření jakýchkoli informací je uživatel povinen zhlédnout původní zdroj (video) a/nebo konzultovat danou problematiku s kvalifikovaným odborníkem.

⚠️ MECHANISMUS PRO NAHLÁŠENÍ PROBLEMATICKÉHO OBSAHU (NOTICE & TAKE DOWN)

Provozovatel bere ochranu práv třetích stran vážně. Pokud se domníváte, že kterékoli automaticky generované shrnutí obsahuje faktické chyby, zasahuje do vašich práv (např. autorských práv, práv na ochranu osobnosti) nebo je jinak v rozporu s platnými právními předpisy, žádáme vás o neprodlené oznámení. Kontaktujte nás prosím e-mailem na adrese: chyba@shrnuti.cz

Do předmětu e-mailu uveďte „Nahlášení obsahu“ a v těle zprávy prosím specifikujte:

  • Přesný odkaz (URL) na stránku obsahující problematický souhrn
  • Jasný popis problému — uveďte, v čem spatřujete pochybení (např. „text je nepravdivý“, „zasahuje do mého práva na ochranu osobnosti“, „porušuje autorská práva k…“)
  • Vaše kontaktní údaje pro případnou zpětnou vazbu

Provozovatel se zavazuje každé takové oznámení přijaté v dobré víře bez zbytečného odkladu prověřit a v případě, že bude oznámení shledáno oprávněným, zjednat adekvátní nápravu (zejména opravou, nebo trvalým odstraněním dotčeného textu).