ChatLab bruger Retrieval-Augmented Generation (RAG) til at levere svar baseret på din vidensbase. Når du forstår systemets begrænsninger, hjælper det dig med at optimere din chatbots ydeevne og opstille realistiske forventninger.
Begrænsninger for kontekstvinduet
ChatLab bruger AI-modeller med faste token-grænser til behandling af forespørgsler. Kontekstvinduet skal kunne rumme brugerens spørgsmål, samtalehistorikken og den hentede viden tilsammen.
Kontekststørrelser efter plan:
- FREE/BASIC: 8.000 tokens
- STANDARD: 16.000 tokens
- PREMIUM: 32.000 tokens
Hvad der sker, når kontekstvinduet overskrides:
- Den hentede viden bliver afkortet
- Vigtige oplysninger kan blive udeladt
- Svar kan være ufuldstændige eller mangle væsentlige detaljer
Løsninger:
- Fjern overflødigt indhold fra dine træningsdata
- Opdel store filer i mindre, emnefokuserede dokumenter
- Opgrader din plan for at få større kontekstvinduer
- Brug klare, specifikke rolleinstruktioner til at styre svarene
Grænser for træning og indholdsudtræk
Grænser for filupload
- Maksimal filstørrelse: 50 MB pr. fil
- Understøttede formater: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Indhold, der ikke kan udtrækkes
ChatLab kan ikke læse eller udtrække tekst fra:
- Billeder og grafik - Tekst integreret i billeder genkendes ikke
- Scannede PDF'er - PDF-filer, der indeholder billeder af tekst frem for egentlig tekst
- Login-beskyttede sider - Sider, der kræver godkendelse
- Indhold, der afhænger stærkt af JavaScript - Nogle dynamiske sider gengives muligvis ikke fuldstændigt
- Ikke-tekstlige medier - Lyd, video eller integrerede filer
Begrænsninger ved scanning af websites
- Behandlingstid: Store scanninger kan tage 10-60 minutter
- Dyb indlejring: Webadresser med meget dyb mappestruktur kan få timeout
- Dynamisk indhold: Visse JavaScript-frameworks forhindrer fuld udtrækning af indhold
Udfordringer med AI-adfærd
Hallucination
AI-modeller kan generere sandsynlige, men ukorrekte svar, hvis relevante oplysninger ikke findes i vidensbasen. AI'en kan trække på sine generelle træningsdata i stedet for at erkende, at den ikke kender svaret.
Sådan reducerer du hallucination:
- Sæt Creativity (kreativitet) til 0 (Bot Settings (bot-indstillinger) > Conversation (samtale) > AI Behavior (AI-adfærd))
- Tilføj eksplicitte instruktioner i indstillingerne for Role & Behavior (rolle og adfærd): "Svar udelukkende baseret på den angivne vidensbase. Hvis du ikke kan finde relevante oplysninger, skal du svare 'Det har jeg desværre ingen oplysninger om.'"
- Sørg for, at din vidensbase er dækkende inden for dit specifikke område
Manglende overblik over vidensbasen
ChatLab kan ikke:
- Opsummere, hvad der findes i vidensbasen
- Opleve en liste over dækkede emner, filer eller lande
- Rapportere, hvor mange dokumenter der er trænet på
- Forklare, hvorfor specifikke oplysninger blev hentet
Chatbotten henter relevante tekststykker frem til forespørgsler, men forstår ikke strukturen eller metadataene for din vidensbase.
Ydeevne ved store vidensbaser
Problemer med semantisk overlap
Når flere dokumenter indeholder lignende oplysninger, kan systemet:
- Hente mindre relevant indhold
- Overse det mest passende svar
- Kombinere oplysninger fra forskellige kontekster forkert
Løsninger:
- Undgå duplikeret indhold på tværs af filer
- Brug en klar, tydelig navngivning og struktur
- Test forespørgsler, der matcher flere forskellige kilder
- Opdel omfattende vejledninger i mere fokuserede emnefiler
Prioritering ved informationssøgning
AI'en henter indhold baseret på semantisk lighed med brugerens spørgsmål. Den gør ikke følgende:
- Foretrækker nyere indhold frem for ældre
- Prioriterer specifikke filtyper
- Forstår dokumenthierarki eller vigtighed
Strukturer din vidensbase med tydeligt adskilt indhold uden overlap for at få de bedste resultater.
Hastighedsgrænser og kvoter
Grænser for beskedhastighed
For at forhindre misbrug har chatbots konfigurerbare hastighedsgrænser. Når de overskrides:
- Ser brugerne en besked om hastighedsbegrænsning
- Skal de vente, før de kan sende flere beskeder
- Grænserne konfigureres i Bot Settings (bot-indstillinger) > Security (sikkerhed)
Månedlige besked-credits
Hver plan indeholder månedlige besked-credits, som nulstilles på din faktureringsdato:
- FREE: 30 beskeder
- BASIC: 2.400 beskeder
- STANDARD: 11.000 beskeder
- PREMIUM: 50.000 beskeder
Når dine credits er opbrugt, stopper chatbotten med at svare, indtil dine credits nulstilles, eller du aktiverer forbrugsbaseret afregning.
Eksterne serviceafhængigheder
ChatLab er afhængig af tredjepartstjenester:
- OpenAI/Google - AI-model-API'er til generering af svar
- Pinecone - Vektordatabase til hentning af viden
- ZenRows - Udtrækning af indhold fra websites
Tjenesteafbrydelser eller hastighedsbegrænsninger fra disse udbydere kan midlertidigt påvirke:
- Hastigheden på svargenerering
- Evnen til at scanne websites
- Nøjagtigheden af den hentede viden
Disse nedbrud er sjældne, men kan forårsage korte forsinkelser eller fejl under vedligeholdelsesvinduer.
Oversigt over bedste praksis
| Udfordring | Løsning |
|---|---|
| Ufuldstændige svar | Reducer overflødig tekst, opgrader kontekststørrelse |
| Hallucination | Sæt kreativitet til 0, tilføj strenge rolleinstruktioner |
| Kan ikke udtrække indhold | Brug tekstbaserede PDF'er, undgå kilder med mange billeder |
| Overlappende resultater | Organiser indhold i tydeligt adskilte emner |
| Hastighedsgrænser nået | Juster grænserne i Security-indstillingerne |
| Langsom træning | Brug sitemap-scanning, reducer crawl-dybden |
Ved specifikke problemer, der ikke er nævnt her, kan du kontakte support via Main Menu (hovedmenu) > Support Request (supportanmodning).