ChatLab maakt gebruik van Retrieval-Augmented Generation (RAG) om antwoorden te leveren op basis van je kennisbank. Begrip van de beperkingen hiervan helpt je om de prestaties van je chatbot te optimaliseren en realistische verwachtingen te scheppen.
Beperkingen van de context window
ChatLab gebruikt AI-modellen met strikte tokenlimieten voor het verwerken van zoekopdrachten. De context window moet plaats bieden aan de gebruikersvraag, de gespreksgeschiedenis en de opgehaalde kennis samen.
Contextgrootte per plan:
- FREE/BASIC: 8.000 tokens
- STANDARD: 16.000 tokens
- PREMIUM: 32.000 tokens
Wat er gebeurt als de context wordt overschreden:
- Opgehaalde kennis wordt ingekort
- Cruciale informatie kan worden weggelaten
- Antwoorden kunnen onvolledig zijn of belangrijke details missen
Oplossingen:
- Verwijder overbodige inhoud uit je trainingsgegevens
- Splits grote bestanden op in kleinere documenten die zich richten op één onderwerp
- Upgrade je plan voor grotere context windows
- Gebruik duidelijke, specifieke rolinstructies om antwoorden te sturen
Limieten voor training en inhoudsextractie
Limieten voor bestandsuploads
- Maximale bestandsgrootte: 50 MB per bestand
- Ondersteunde formaten: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Inhoud die niet kan worden geëxtraheerd
ChatLab kan geen tekst lezen of extraheren uit:
- Afbeeldingen en afbeeldingselementen - Tekst in afbeeldingen wordt niet herkend
- Gescande pdf's - Pdf-bestanden die afbeeldingen van tekst bevatten in plaats van echte tekst
- Met een login beveiligde pagina's - Pagina's die authenticatie vereisen
- Inhoud die zwaar leunt op JavaScript - Sommige dynamische pagina's worden mogelijk niet volledig gerenderd
- Niet-tekstuele media - Audio, video of ingesloten bestanden
Beperkingen bij het scannen van websites
- Verwerkingstijd: Grote scans kunnen 10-60 minuten duren
- Diepe sitestructuur: Zeer diep geneste URL's kunnen een time-out veroorzaken
- Dynamische inhoud: Sommige JavaScript-frameworks verhinderen een volledige extractie van de inhoud
Uitdagingen rond AI-gedrag
Hallucinatie
AI-modellen kunnen aannemelijke, maar onjuiste antwoorden genereren wanneer relevante informatie niet in de kennisbank wordt gevonden. De AI kan putten uit zijn algemene trainingsgegevens in plaats van toe te geven dat hij het antwoord niet weet.
Hallucinatie verminderen:
- Stel Creativity to 0 (Creativiteit op 0) in via Bot Settings (Bot-instellingen) > Conversation (Gesprek) > AI Behavior (AI-gedrag)
- Voeg expliciete instructies toe in de instellingen voor Role & Behavior (Rol en gedrag): "Only respond based on the provided knowledge base. If you cannot find relevant information, say 'I don't have information about that.'"
- Zorg dat je kennisbank volledig is voor jouw specifieke domein
Kennis van de eigen kennisbank
ChatLab kan niet:
- Samenvatten wat er in de kennisbank staat
- Een overzicht geven van behandelde onderwerpen, bestanden of landen
- Rapporteren hoeveel documenten er zijn getraind
- Uitleggen waarom specifieke informatie is opgehaald
De chatbot haalt relevante fragmenten op voor zoekopdrachten, maar begrijpt de structuur of metadata van je kennisbank niet.
Prestaties bij grote kennisbanken
Problemen met semantische overlapping
Wanneer meerdere documenten vergelijkbare informatie bevatten, kan het systeem:
- Minder relevante inhoud ophalen
- Het meest passende antwoord missen
- Informatie uit verschillende contexten verkeerd combineren
Oplossingen:
- Voorkom dubbele inhoud in verschillende bestanden
- Gebruik duidelijke, onderscheidende namen en structuren
- Test zoekopdrachten die mogelijk overeenkomen met meerdere bronnen
- Splits uitgebreide handleidingen op in thematische bestanden
Prioritering bij het ophalen
De AI haalt inhoud op basis van semantische gelijkenis met de vraag van de gebruiker. Het model doet niet het volgende:
- Nieuwere inhoud verkiezen boven oudere
- Prioriteit geven aan specifieke bestandstypen
- De hiërarchie of het belang van documenten begrijpen
Structureer je kennisbank met duidelijke, niet-overlappende inhoud voor de beste resultaten.
Rate limits en quota's
Rate limits voor berichten
Om misbruik te voorkomen, hebben chatbots configureerbare rate limits. Wanneer deze worden overschreden:
- Krijgen gebruikers een melding over de rate limit te zien
- Moeten ze wachten voordat ze meer berichten kunnen sturen
- Stel limieten in via Bot Settings > Security (Beveiliging)
Maandelijkse bericht-credits
Elk plan bevat maandelijkse bericht-credits die worden gereset op je factuurdatum:
- FREE: 30 berichten
- BASIC: 2.400 berichten
- STANDARD: 11.000 berichten
- PREMIUM: 50.000 berichten
Wanneer de credits op zijn, stopt de chatbot met antwoorden totdat de credits worden gereset of totdat je facturering voor extra verbruik inschakelt.
Afhankelijkheden van externe diensten
ChatLab is afhankelijk van diensten van derden:
- OpenAI/Google - API's van AI-modellen voor het genereren van antwoorden
- Pinecone - Vectordatabase voor het ophalen van kennis
- ZenRows - Extractie van website-inhoud
Onderbrekingen van de dienstverlening of rate limits van deze providers kunnen tijdelijk invloed hebben op:
- De snelheid waarmee antwoorden worden gegenereerd
- De mogelijkheid om websites te scannen
- De nauwkeurigheid van het ophalen van kennis
Deze storingen komen zelden voor, maar kunnen tijdens onderhoudsperioden korte vertragingen of fouten veroorzaken.
Overzicht van best practices
| Uitdaging | Oplossing |
|---|---|
| Onvolledige antwoorden | Verminder dubbele inhoud, vergroot de contextgrootte |
| Hallucinatie | Stel creativiteit in op 0, voeg strikte rolinstructies toe |
| Kan inhoud niet extraheren | Gebruik op tekst gebaseerde pdf's, vermijd bronnen met veel afbeeldingen |
| Overlappende resultaten | Organiseer inhoud in afzonderlijke onderwerpen |
| Rate limits bereikt | Pas de limieten aan in de Security-instellingen |
| Trage training | Gebruik sitemap-scans, verlaag de crawl-diepte |
Neem voor specifieke problemen die hier niet worden behandeld contact op met de klantenservice via Main Menu (Hoofdmenu) > Support Request (Ondersteuningsverzoek).