ChatLab využívá technologii RAG (Retrieval-Augmented Generation) k poskytování odpovědí na základě vaší báze znalostí. Pochopení jejích limitů vám pomůže optimalizovat výkon chatbota a nastavit realistická očekávání.
Omezení kontextového okna
ChatLab používá AI modely s přísnými limity tokenů pro zpracování dotazů. Do kontextového okna se musí vejít uživatelský dotaz, historie konverzace i vyhledané znalosti dohromady.
Velikost kontextu podle plánu:
- FREE/BASIC: 8 000 tokenů
- STANDARD: 16 000 tokenů
- PREMIUM: 32 000 tokenů
Co se stane při překročení kontextu:
- Vyhledané znalosti se zkrátí
- Důležité informace mohou být vynechány
- Odpovědi mohou být neúplné nebo v nich mohou chybět podstatné detaily
Řešení:
- Odstraňte z trénovacích dat duplicitní obsah
- Rozdělte velké soubory na menší dokumenty zaměřené na konkrétní témata
- Přejděte na vyšší plán pro získání většího kontextového okna
- Používejte jasné a konkrétní instrukce pro roli, které odpovědi usměrní
Limity trénování a extrakce obsahu
Limity pro nahrávání souborů
- Maximální velikost souboru: 50 MB na soubor
- Podporované formáty: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Obsah, který nelze extrahovat
ChatLab nedokáže přečíst ani extrahovat text z těchto zdrojů:
- Obrázky a grafika - text vložený v obrázcích není rozpoznán
- Naskenovaná PDF - PDF soubory obsahující obrázky textu namísto skutečného textu
- Stránky chráněné přihlášením - stránky vyžadující ověření uživatele
- Obsah náročný na vykreslování přes JavaScript - některé dynamické stránky se nemusí plně načíst
- Netextová média - zvuk, video nebo vložené soubory
Omezení při skenování webových stránek
- Doba zpracování: skenování velkých webů může trvat 10-60 minut
- Hluboké zanoření: u velmi hluboko zanořených URL může vypršet časový limit
- Dynamický obsah: některé javascriptové frameworky brání úplné extrakci obsahu
Úskalí chování AI
Halucinace
AI modely mohou generovat věrohodně znějící, ale nesprávné odpovědi, pokud v bázi znalostí nenajdou relevantní informace. AI může namísto přiznání, že odpověď nezná, čerpat ze svých obecných trénovacích dat.
Jak omezit halucinace:
- Nastavte položku Creativity (Kreativita) na hodnotu 0 (Bot Settings (Nastavení bota) > Conversation (Konverzace) > AI Behavior (Chování AI))
- Přidejte jednoznačné instrukce v nastavení Role & Behavior (Role a chování): „Odpovídejte pouze na základě poskytnuté báze znalostí. Pokud nemůžete najít relevantní informace, řekněte: ‚K tomuto tématu nemám dostatek informací.‘“
- Udržujte svou bázi znalostí komplexní pro váš konkrétní obor
Povědomí o bázi znalostí
ChatLab nedokáže:
- Shrnovat, co všechno se v bázi znalostí nachází
- Vypsat pokrytá témata, soubory nebo země
- Uvést, kolik dokumentů je natrénováno
- Vysvětlit, proč byly vyhledány konkrétní informace
Chatbot vyhledává relevantní úseky textu pro jednotlivé dotazy, ale nerozumí celkové struktuře ani metadatům vaší báze znalostí.
Výkon při rozsáhlých bázích znalostí
Problémy se sémantickým překryvem
Pokud více dokumentů obsahuje podobné informace, systém může:
- Vyhledat méně relevantní obsah
- Minout nejvhodnější odpověď
- Nesprávně zkombinovat informace z různých kontextů
Řešení:
- Vyvarujte se duplicity obsahu napříč soubory
- Používejte jasné a odlišné názvy i strukturu
- Otestujte dotazy, které by se mohly shodovat s více zdroji
- Rozdělte souhrnné příručky do souborů zaměřených na jednotlivá témata
Prioritizace při vyhledávání
AI vyhledává obsah na základě sémantické podobnosti s dotazem uživatele. Systém:
- Neupřednostňuje novější obsah před starším
- Nestanovuje prioritu konkrétním typům souborů
- Nerozumí hierarchii ani důležitosti dokumentů
Pro dosažení nejlepších výsledků uspořádejte svou bázi znalostí do zřetelného, nepřekrývajícího se obsahu.
Limity využití a kvóty
Limity rychlosti zpráv
Aby se zabránilo zneužití, mají chatboti konfigurovatelné limity rychlosti odesílání zpráv. Při jejich překročení:
- Uživatelé uvidí zprávu o dosažení limitu
- Před odesláním dalších zpráv musí počkat
- Limity můžete nakonfigurovat v sekci Bot Settings > Security (Zabezpečení)
Měsíční kredity na zprávy
Každý plán zahrnuje měsíční kredity na zprávy, které se obnovují k datu vašeho zúčtování:
- FREE: 30 zpráv
- BASIC: 2 400 zpráv
- STANDARD: 11 000 zpráv
- PREMIUM: 50 000 zpráv
Po vyčerpání kreditů chatbot přestane odpovídat, dokud se kredity neobnoví nebo dokud nepovolíte účtování nadlimitních zpráv.
Závislosti na externích službách
ChatLab spoléhá na služby třetích stran:
- OpenAI/Google - rozhraní API AI modelů pro generování odpovědí
- Pinecone - vektorová databáze pro vyhledávání ve znalostech
- ZenRows - extrakce obsahu webových stránek
Výpadky služeb nebo limity požadavků těchto poskytovatelů mohou dočasně ovlivnit:
- Rychlost generování odpovědí
- Schopnost skenování webových stránek
- Přesnost vyhledávání znalostí
Tyto výpadky jsou vzácné, ale během oken údržby mohou způsobit krátká zpoždění nebo chyby.
Přehled doporučených postupů
| Problém | Řešení |
|---|---|
| Neúplné odpovědi | Omezte duplicitu obsahu, navyšte velikost kontextu přechodem na vyšší plán |
| Halucinace | Nastavte položku Creativity na 0, přidejte striktní instrukce pro roli |
| Nelze extrahovat obsah | Používejte textová PDF, vyhněte se zdrojům založeným převážně na obrázcích |
| Překrývající se výsledky | Uspořádejte obsah do samostatných témat |
| Dosažení limitů zpráv | Upravte limity v nastavení Security |
| Pomalé trénování | Využijte skenování pomocí sitemap, snižte hloubku procházení |
V případě konkrétních potíží, které zde nejsou popsány, kontaktujte podporu prostřednictvím cesty Main Menu (Hlavní menu) > Support Request (Žádost o podporu).