Jak bezpečně ověřovat výstupy AI a nepodlehnout digitálnímu klamu

Tento manuál definuje základní postupy pro práci s velkými jazykovými modely (LLM). Cílem je eliminovat riziko psychózy z LLM – stavu, kdy nekriticky přijímáme chybná, ale přesvědčivě znějící data.

1. Zaujměte roli posledního arbitra

AI neprodukuje fakta, ale pravděpodobnosti. Přistupujte ke každému výstupu jako k návrhu od stážisty, nikoliv jako
k hotovému dílu od experta.

• Pravidlo: Vy nesete plnou odpovědnost za pravdivost výsledku. Pokud výstupu 100% nerozumíte, nesmíte ho publikovat ani použít v obchodní nabídce.
• Akce: Před použitím si položte otázku: Dokázal bych toto tvrzení obhájit před klientem bez pomoci AI

2. Používejte techniku křížové kontroly (Multi-Model Check)

Jednotlivé modely (Gemini, ChatGPT, Claude) mají různé silné stránky, ale i slepá místa.

• Akce: Pokud řešíte složitý výpočet nebo odbornou analýzu, vložte stejné zadání do dvou různých modelů.
• Kontrola: Pokud se jejich odpovědi liší v detailech, zbystřete. AI pravděpodobně v daném bodě halucinuje (vymýšlí si).

3. Vyžadujte řetězec úvah (Chain of Thought)

AI často udělá chybu v logice, pokud po ní chcete rovnou výsledek. Donuťte ji přemýšlet nahlas.

• Akce: Do promptu vždy přidejte instrukci: Postupuj krok za krokem a u každého kroku vysvětli svou logiku.
• Kontrola: Projděte si tyto mezikroky. Často v nich objevíte banální chybu, která by v konečném výsledku zůstala skrytá za krásnými slovy.

4. Testujte pomocí slepé prověrky

Nespokojte se s tím, že výsledek vypadá logicky. Aktivně hledejte trhliny.

• Akce: Zeptejte se modelu přímo: Najdi v tomto svém textu 3 nejslabší místa nebo potenciální faktické chyby.
• Výsledek: Budete překvapeni, jak ochotně AI přizná, kde si nebyla jistá, jakmile k tomu dostane přímý pokyn.

5. Žádejte o zdroje (ale ověřujte je)

I když modely uvádějí zdroje a odkazy, mohou si je kompletně vymyslet, aby vyhověly vaší poptávce.

• Akce: Klikněte na každý odkaz. Ověřte každé citované jméno.
• Varovný signál: Pokud AI cituje obecně známé studie bez konkrétních dat nebo jmen autorů, pravděpodobně si danou informaci upravila pro své potřeby.

Závěrečné doporučení pro tým:

Rychlost není měřítkem kvality. To, že AI vygenerovala text za tři sekundy, neznamená, že je připraven k odeslání. Věnujte ověřování alespoň 20 % času, který jste díky AI ušetřili při samotné tvorbě.