ChatLab naudoja paieškos papildytą generavimą (angl. Retrieval-Augmented Generation, RAG), kad pateiktų atsakymus remiantis Jūsų žinių baze. Šios technologijos apribojimų supratimas padeda optimizuoti pokalbių roboto veikimą ir kelti realistiškus lūkesčius.
Konteksto lango apribojimai
ChatLab naudoja dirbtinio intelekto modelius su griežtais prieigos raktų (angl. tokens) limitais užklausoms apdoroti. Konteksto lange turi tilpti naudotojo klausimas, pokalbio istorija ir kartu gautos žinios.
Konteksto dydžiai pagal planą:
- FREE / BASIC: 8 000 prieigos raktų
- STANDARD: 16 000 prieigos raktų
- PREMIUM: 32 000 prieigos raktų
Kas nutinka viršijus kontekstą:
- Gautos žinios sutrumpinamos
- Gali būti praleista svarbi informacija
- Atsakymai gali būti neišsamūs arba be esminių detalių
Sprendimai:
- Pašalinkite perteklinį turinį iš apmokymo duomenų
- Suskaidykite didelius failus į mažesnius, konkrečioms temoms skirtus dokumentus
- Pasirinkite aukštesnį planą, kad gautumėte didesnius konteksto langus
- Naudokite aiškias, konkrečias vaidmens instrukcijas atsakymams nukreipti
Apmokymo ir turinio išgavimo limitai
Failų įkėlimo limitai
- Maksimalus failo dydis: 50 MB vienam failui
- Palaikomi formatai: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Turinys, kurio negalima išgauti
ChatLab negali perskaityti ar išgauti teksto iš:
- Paveikslėlių ir grafikos - paveikslėliuose esantis tekstas neatpažįstamas
- Nuskenuotų PDF failų - PDF failų, kuriuose yra teksto vaizdai, o ne tikras tekstas
- Slaptažodžiu apsaugotų puslapių - puslapių, kuriems reikalingas prisijungimas
- Daug „JavaScript“ kodo turinčio turinio - kai kurie dinaminiai puslapiai gali būti nevisiškai atvaizduojami
- Ne tekstinės medijos - garso, vaizdo įrašų ar įterptųjų failų
Svetainių nuskaitymo apribojimai
- Apdorojimo laikas: dideli nuskaitymai gali trukti 10-60 minučių
- Gilus įdėjimas: labai giliai esantys URL gali sukelti skirtąjį laiko limitą
- Dinaminis turinys: kai kurios „JavaScript“ sistemos trukdo visiškai išgauti turinį
DI elgsenos iššūkiai
Haliucinacijos
DI modeliai gali sugeneruoti įtikinamus, bet klaidingus atsakymus, kai žinių bazėje nerandama reikiamos informacijos. DI gali pasitelkti savo bendruosius apmokymo duomenis, užuot pripažinęs, kad informacijos nežino.
Sumažinkite haliucinacijas:
- Nustatykite Creativity to 0 (kūrybiškumas į 0) parinktyje Bot Settings (roboto nustatymai) > Conversation (pokalbis) > AI Behavior (DI elgsena)
- Pridėkite aiškias instrukcijas nustatymuose Role & Behavior (vaidmuo ir elgsena): „Atsakykite tik remdamiesi pateikta žinių baze. Jei negalite rasti svarbios informacijos, pasakykite: „Neturiu informacijos šiuo klausimu.““
- Užtikrinkite, kad Jūsų žinių bazė būtų išsami ir pritaikyta konkrečiai sričiai
Žinių bazės suvokimas
ChatLab negali:
- Apibendrinti, kas yra žinių bazėje
- Pateikti aptariamų temų, failų ar šalių sąrašo
- Nurodyti, kiek dokumentų yra apmokyta
- Paaiškinti, kodėl buvo gauta konkreti informacija
Pokalbių robotas randa aktualias ištraukas pagal užklausas, tačiau nesupranta Jūsų žinių bazės struktūros ar metaduomenų.
Veikimas su didelėmis žinių bazėmis
Semantinio sutapimo problemos
Kai keliuose dokumentuose yra panašios informacijos, sistema gali:
- Pateikti mažiau svarbų turinį
- Praleisti tinkamiausią atsakymą
- Neteisingai sujungti informaciją iš skirtingų kontekstų
Sprendimai:
- Venkite turinio dubliavimo keliuose failuose
- Naudokite aiškią, išskirtinę struktūrą ir pavadinimus
- Išbandykite užklausas, kurios galėtų atitikti kelis šaltinius
- Išskaidykite išsamius vadovus į teminius failus
Paieškos prioritetų nustatymas
DI pateikia turinį remdamasis semantiniu panašumu į naudotojo klausimą. Jis:
- Neteikia pirmenybės naujesniam turiniui prieš senesnį
- Neteikia prioriteto konkretiems failų tipams
- Nesupranta dokumentų hierarchijos ar svarbos
Siekdami geriausių rezultatų, tvarkykite savo žinių bazę taip, kad turinys būtų aiškus ir nesidubliuotų.
Užklausų dažnumo limitai ir kvotos
Pranešimų dažnumo limitai
Siekiant išvengti piktnaudžiavimo, pokalbių robotams taikomi konfigūruojami dažnumo limitai. Juos viršijus:
- Naudotojai mato pranešimą apie viršytą limitą
- Prieš siųsdami daugiau pranešimų, jie turi palaukti
- Sukonfigūruokite limitus skiltyje Bot Settings (roboto nustatymai) > Security (sauga)
Mėnesiniai pranešimų kreditai
Kiekvienas planas apima mėnesinius pranešimų kreditus, kurie atnaujinami Jūsų atsiskaitymo dieną:
- FREE: 30 pranešimų
- BASIC: 2 400 pranešimų
- STANDARD: 11 000 pranešimų
- PREMIUM: 50 000 pranešimų
Išnaudojus kreditus, pokalbių robotas nustoja atsakyti, kol kreditai nebus atnaujinti arba kol neįjungsite papildomo apmokestinimo už viršijimą.
Išorinių paslaugų priklausomybės
ChatLab naudoja trečiųjų šalių paslaugas:
- OpenAI / Google - DI modelių API atsakymų generavimui
- Pinecone - vektorinė duomenų bazė žinių paieškai
- ZenRows - svetainės turinio išgavimas
Šių teikėjų paslaugų sutrikimai arba užklausų limitai gali laikinai paveikti:
- Atsakymų generavimo greitį
- Svetainių nuskaitymo galimybes
- Žinių paieškos tikslumą
Šie sutrikimai pasitaiko retai, tačiau planinės priežiūros metu gali atsirasti trumpų vėlavimų ar klaidų.
Geriausios praktikos santrauka
| Iššūkis | Sprendimas |
|---|---|
| Neišsamūs atsakymai | Sumažinkite perteklinį turinį, padidinkite konteksto dydį |
| Haliucinacijos | Nustatykite kūrybiškumą į 0, pridėkite griežtas vaidmens instrukcijas |
| Nepavyksta išgauti turinio | Naudokite tekstinius PDF failus, venkite šaltinių su daug paveikslėlių |
| Sutampantys rezultatai | Suskirstykite turinį į atskiras temas |
| Pasiekti dažnumo limitai | Pakoreguokite limitus saugos nustatymuose |
| Lėtas apmokymas | Naudokite svetainės schemos (angl. sitemap) nuskaitymą, sumažinkite nuskaitymo gylį |
Dėl konkrečių problemų, kurios čia neaptartos, susisiekite su palaikymo komanda skiltyje Main Menu (pagrindinis meniu) > Support Request (palaikymo užklausa).