A ChatLab lekérdezéssel kiegészített generálást (Retrieval-Augmented Generation - RAG) használ, hogy az Ön tudásbázisa alapján adjon válaszokat. A rendszer korlátainak megértése segít optimalizálni a chatbot teljesítményét, és reális elvárásokat támasztani vele szemben.
A kontextusablak korlátai
A ChatLab szigorú tokenlimitekkel rendelkező MI-modelleket használ a lekérdezések feldolgozásához. A kontextusablaknak együttesen kell befogadnia a felhasználói kérdést, a beszélgetési előzményeket és a visszakeresett tudásanyagot.
Kontextusméretek csomagonként:
- FREE/BASIC: 8 000 token
- STANDARD: 16 000 token
- PREMIUM: 32 000 token
Mi történik a kontextus túllépésekor:
- A visszakeresett tudásanyag csonkolódik
- Kritikus információk maradhatnak ki
- A válaszok hiányosak lehetnek, vagy fontos részleteket hagyhatnak figyelmen kívül
Megoldások:
- Távolítsa el a felesleges, ismétlődő tartalmakat a betanítási adatokból
- Bontsa a nagy fájlokat kisebb, egy-egy témára fókuszáló dokumentumokra
- Váltson magasabb csomagra a nagyobb kontextusablak eléréséhez
- Használjon egyértelmű, konkrét szerepkör-utasításokat a válaszok irányításához
Betanítási és tartalomkinyerési korlátok
Fájlfeltöltési korlátok
- Maximális fájlméret: 50 MB fájlonként
- Támogatott formátumok: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Nem kinyerhető tartalmak
A ChatLab nem tudja beolvasni vagy kinyerni a szöveget az alábbiakból:
- Képek és grafikák - a képekbe ágyazott szövegeket a rendszer nem ismeri fel
- Szkennelt PDF-ek - olyan PDF-ek, amelyek valódi szöveg helyett a szöveg képét tartalmazzák
- Bejelentkezéssel védett oldalak - hitelesítést igénylő weboldalak
- Erősen JavaScript-alapú tartalmak - előfordulhat, hogy egyes dinamikus oldalak nem jelennek meg teljesen
- Nem szöveges médiafájlok - hanganyagok, videók vagy beágyazott fájlok
Weboldal-beolvasási (scanning) korlátok
- Feldolgozási idő: a nagy méretű beolvasások 10-60 percet is igénybe vehetnek
- Mély beágyazás: a túlságosan mélyen beágyazott URL-eknél időtúllépés léphet fel
- Dinamikus tartalom: egyes JavaScript-keretrendszerek megakadályozzák a teljes tartalom kinyerését
Az MI viselkedésével kapcsolatos kihívások
Hallucináció
Az MI-modellek valószerűnek tűnő, de helytelen válaszokat generálhatnak, ha a releváns információ nem található meg a tudásbázisban. Az MI ahelyett, hogy beismerné a tudás hiányát, az általános betanítási adataira támaszkodhat.
A hallucináció csökkentése:
- Állítsa a Creativity (Kreativitás) értéket 0-ra itt: Bot Settings > Conversation > AI Behavior (Botbeállítások > Beszélgetés > MI viselkedése)
- Adjon meg kifejezett utasításokat a Role & Behavior (Szerepkör és viselkedés) beállításokban: "Csak a megadott tudásbázis alapján válaszolj. Ha nem találsz releváns információt, mondd azt, hogy 'Erről nem rendelkezem információval.'"
- Tartsa tudásbázisát részletesnek és naprakésznek az adott szakterületre vonatkozóan
A tudásbázis átlátásának hiánya
A ChatLab nem képes a következőkre:
- Összefoglalni, hogy mi található a tudásbázisban
- Felsorolni a lefedett témákat, fájlokat vagy országokat
- Jelentést adni arról, hány dokumentum lett betanítva
- Megmagyarázni, miért pont egy adott információt hívott le
A chatbot a lekérdezésekhez releváns szövegrészleteket keresi vissza, de nem értelmezi a tudásbázis felépítését vagy metaadatait.
Teljesítmény nagy tudásbázisok esetén
Szemantikai átfedésekből adódó problémák
Ha több dokumentum tartalmaz hasonló információt, a rendszer:
- Kevésbé releváns tartalmat kereshet vissza
- Elvétheti a legmegfelelőbb választ
- Helytelenül kombinálhat különböző kontextusokból származó információkat
Megoldások:
- Kerülje a tartalmak párhuzamos ismétlését a különböző fájlokban
- Használjon egyértelmű, jól megkülönböztethető elnevezéseket és struktúrát
- Teszteljen olyan lekérdezéseket, amelyek több forráshoz is illeszkedhetnek
- Bontsa az átfogó útmutatókat fókuszált témafájlokra
A visszakeresés prioritása
Az MI a felhasználó kérdéséhez való szemantikai hasonlóság alapján hívja le a tartalmat. A rendszer nem képes az alábbiakra:
- Nem részesíti előnyben az újabb tartalmakat a régebbiekkel szemben
- Nem ad prioritást bizonyos fájltípusoknak
- Nem értelmezi a dokumentumok hierarchiáját vagy fontosságát
A legjobb eredmény érdekében szervezze tudásbázisát egyértelmű, átfedésmentes tartalmakba.
Korlátok és keretek (Rate limits)
Üzenetgyakorisági korlátok
A visszaélések megelőzése érdekében a chatbotok konfigurálható gyakorisági korlátokkal rendelkeznek. A korlát elérésekor:
- A felhasználók egy üzenetet látnak a sebességkorlátozásról
- Várniuk kell, mielőtt újabb üzeneteket küldhetnének
- A korlátokat a Bot Settings > Security (Botbeállítások > Biztonság) menüpontban állíthatja be
Havi üzenetkreditek
Mindegyik csomag tartalmaz havi üzenetkrediteket, amelyek a számlázási napon nullázódnak:
- FREE: 30 üzenet
- BASIC: 2 400 üzenet
- STANDARD: 11 000 üzenet
- PREMIUM: 50 000 üzenet
A kreditek kimerülésekor a chatbot nem válaszol többé, amíg a kreditek nem nullázódnak, vagy amíg be nem kapcsolja a kerettúllépés számlázását.
Külső szolgáltatásoktól való függőség
A ChatLab külső szolgáltatásokra támaszkodik:
- OpenAI/Google - MI-modell API-k a válaszok generálásához
- Pinecone - vektordadatbázis a tudásanyag visszakereséséhez
- ZenRows - weboldaltartalmak kinyerése
Az ezen szolgáltatóknál fellépő szolgáltatáskimaradások vagy sebességkorlátozások átmenetileg befolyásolhatják a következőket:
- A válaszgenerálás sebessége
- A weboldal-beolvasási képesség
- A tudásanyag-visszakeresés pontossága
Ezek a leállások ritkák, de a karbantartási időszakok alatt rövid késéseket vagy hibákat okozhatnak.
A bevált gyakorlatok összefoglalása
| Kihívás | Megoldás |
|---|---|
| Hiányos válaszok | Csökkentse a felesleges ismétlődést, váltson nagyobb kontextusméretre |
| Hallucináció | Állítsa a kreativitást 0-ra, adjon szigorú szerepkör-utasításokat |
| A tartalom nem nyerhető ki | Használjon szöveges PDF-eket, kerülje az erősen képalapú forrásokat |
| Átfedő eredmények | Szervezze a tartalmat különálló témákba |
| Elért gyakorisági korlátok | Módosítsa a korlátokat a Security beállításokban |
| Lassú betanítás | Használjon webhelytérkép-beolvasást, csökkentse a bejárási mélységet |
Az itt nem szereplő konkrét problémákkal kapcsolatban forduljon az ügyfélszolgálathoz a Main Menu > Support Request (Főmenü > Támogatási kérelem) útvonalon.