ChatLab koristi Retrieval-Augmented Generation (RAG) za pružanje odgovora na osnovu Vaše baze znanja. Razumevanje njegovih ograničenja pomaže Vam da optimizujete rad svog chatbota i postavite realna očekivanja.
Ograničenja kontekstnog prozora
ChatLab koristi AI modele sa strogim ograničenjima tokena za obradu upita. U kontekstni prozor moraju zajedno stati korisničko pitanje, istorija razgovora i preuzeto znanje.
Veličine konteksta po planovima:
- FREE/BASIC: 8.000 tokena
- STANDARD: 16.000 tokena
- PREMIUM: 32.000 tokena
Šta se dešava kada se prekorači kontekst:
- Preuzeto znanje se skraćuje
- Ključne informacije mogu biti izostavljene
- Odgovori mogu biti nepotpuni ili bez važnih detalja
Rešenja:
- Uklonite suvišan sadržaj iz podataka za treniranje
- Podelite velike fajlove na manje dokumente fokusirane na pojedinačne teme
- Nadogradite svoj plan za veće kontekstne prozore
- Koristite jasna, precizna uputstva za ulogu kako biste usmeravali odgovore
Ograničenja treniranja i izdvajanja sadržaja
Ograničenja za otpremanje fajlova
- Maksimalna veličina fajla: 50 MB po fajlu
- Podržani formati: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Sadržaj koji se ne može izdvojiti
ChatLab ne može da čita niti izdvaja tekst iz sledećih izvora:
- Slike i grafika - tekst ugrađen u slike se ne prepoznaje
- Skenirani PDF dokumenti - PDF fajlovi koji sadrže slike teksta umesto stvarnog teksta
- Stranice zaštićene prijavom - stranice koje zahtevaju autentifikaciju
- Sadržaj koji se u velikoj meri oslanja na JavaScript - pojedine dinamičke stranice se možda neće u potpunosti prikazati
- Netekstualni mediji - audio, video ili ugrađeni fajlovi
Ograničenja skeniranja veb-sajtova
- Vreme obrade: velika skeniranja mogu trajati 10-60 minuta
- Duboko ugnježdavanje: URL adrese sa veoma dubokom strukturom mogu dovesti do isteka vremena (timeout)
- Dinamički sadržaj: pojedini JavaScript radni okviri sprečavaju potpuno izdvajanje sadržaja
Izazovi u ponašanju AI modela
Haluciniranje
AI modeli mogu generisati uverljive, ali netačne odgovore kada se relevantne informacije ne nalaze u bazi znanja. Umesto da prizna da ne zna odgovor, AI može upotrebiti podatke iz svog opšteg treniranja.
Smanjite haluciniranje:
- Podesite Creativity to 0 (Kreativnost na 0) u (Bot Settings > Conversation > AI Behavior (Podešavanja bota > Razgovor > Ponašanje AI-ja))
- Dodajte izričita uputstva u podešavanjima Role & Behavior (Uloga i ponašanje): "Odgovaraj isključivo na osnovu pružene baze znanja. Ako ne možeš da pronađeš relevantne informacije, reci 'Nemam informacije o tome.'"
- Održavajte bazu znanja sveobuhvatnom za svoju specifičnu delatnost
Svest o bazi znanja
ChatLab ne može:
- Da sumira šta se sve nalazi u bazi znanja
- Da navede teme, fajlove ili države koje su obuhvaćene
- Da prijavi na koliko je dokumenata treniran
- Da objasni zašto su preuzete baš te konkretne informacije
Chatbot preuzima relevantne delove teksta za potrebe upita, ali ne razume strukturu niti metapodatke Vaše baze znanja.
Performanse sa velikim bazama znanja
Problemi sa semantičkim preklapanjem
Kada više dokumenata sadrži slične informacije, sistem može:
- Preuzeti manje relevantan sadržaj
- Propustiti najprikladniji odgovor
- Pogrešno spojiti informacije iz različitih konteksta
Rešenja:
- Izbegavajte dupliranje sadržaja u više fajlova
- Koristite jasna, zasebna imena i strukturu
- Testirajte upite koji bi mogli da odgovaraju većem broju izvora
- Podelite opširne vodiče na fajlove fokusirane na pojedinačne teme
Prioritizacija preuzimanja
AI preuzima sadržaj na osnovu semantičke sličnosti sa korisničkim pitanjem. On:
- Ne daje prednost novijem sadržaju u odnosu na stariji
- Ne stavlja u prioritet određene tipove fajlova
- Ne razume hijerarhiju ili važnost dokumenata
Za najbolje rezultate organizujte bazu znanja u zasebne celine bez međusobnog preklapanja sadržaja.
Ograničenja učestalosti i kvote
Ograničenja učestalosti poruka
Radi sprečavanja zloupotrebe, chatbotovi imaju podesiva ograničenja učestalosti. Kada se ona prekorače:
- Korisnici vide poruku o dostignutom limitu
- Moraju da sačekaju pre slanja novih poruka
- Podesite ograničenja u Bot Settings > Security (Podešavanja bota > Bezbednost)
Mesečni Message Credits
Svaki plan uključuje mesečne poruke (Message Credits) koji se resetuju na datum Vašeg obračunskog perioda:
- FREE: 30 poruka
- BASIC: 2.400 poruka
- STANDARD: 11.000 poruka
- PREMIUM: 50.000 poruka
Kada se potroše svi krediti, chatbot prestaje da odgovara sve dok se krediti ne resetuju ili dok ne omogućite naplatu prekoračenja.
Zavisnost od spoljnih servisa
ChatLab se oslanja na servise trećih strana:
- OpenAI/Google - API-ji AI modela za generisanje odgovora
- Pinecone - vektorska baza podataka za preuzimanje znanja
- ZenRows - izdvajanje sadržaja sa veb-sajtova
Prekidi u radu ili ograničenja učestalosti kod ovih provajdera mogu privremeno uticati na:
- Brzinu generisanja odgovora
- Mogućnost skeniranja veb-sajtova
- Tačnost preuzimanja znanja
Ovi prekidi su retki, ali mogu izazvati kratka kašnjenja ili greške tokom perioda održavanja sistema.
Pregled najboljih praksi
| Izazov | Rešenje |
|---|---|
| Nepotpuni odgovori | Smanjite suvišne podatke, nadogradite veličinu konteksta |
| Haluciniranje | Podesite kreativnost na 0, dodajte stroga uputstva za ulogu |
| Sadržaj se ne može izdvojiti | Koristite tekstualne PDF fajlove, izbegavajte izvore sa mnogo slika |
| Preklapanje rezultata | Organizujte sadržaj u zasebne teme |
| Dostignut limit poruka | Prilagodite ograničenja u bezbednosnim podešavanjima |
| Sporo treniranje | Koristite skeniranje sitemap fajla, smanjite dubinu pretrage (crawl depth) |
Za konkretne probleme koji ovde nisu navedeni, obratite se podršci putem opcije Main Menu > Support Request (Glavni meni > Zahtev za podršku).