ChatLab izmanto izguves papildināto ģenerēšanu (Retrieval-Augmented Generation jeb RAG), lai sniegtu atbildes, balstoties uz Jūsu zināšanu bāzi. Tās ierobežojumu izpratne palīdz optimizēt Jūsu tērzēšanas robota darbību un noteikt reālistiskas cerības.
Konteksta loga ierobežojumi
ChatLab izmanto mākslīgā intelekta modeļus ar stingriem žetonu robežvērtību ierobežojumiem vaicājumu apstrādei. Konteksta logā ir jāietilpst lietotāja jautājumam, sarunas vēsturei un atlasītajām zināšanām kopā.
Konteksta lielumi pēc plāna:
- FREE/BASIC: 8 000 žetonu
- STANDARD: 16 000 žetonu
- PREMIUM: 32 000 žetonu
Kas notiek, ja konteksts tiek pārsniegts:
- Atlasītās zināšanas tiek apgrieztas
- Var tikt izlaista būtiska informācija
- Atbildes var būt nepilnīgas vai tajās var trūkt svarīgu detaļu
Risinājumi:
- Noņemiet lieko saturu no apmācības datiem
- Sadaliet lielus failus mazākos, uz konkrētām tēmām vērstos dokumentos
- Uzlabojiet savu plānu, lai iegūtu lielākus konteksta logus
- Izmantojiet skaidras, konkrētas lomas instrukcijas, lai virzītu atbildes
Apmācības un satura izgūšanas ierobežojumi
Failu augšupielādes ierobežojumi
- Maksimālais faila izmērs: 50 MB vienam failam
- Atbalstītie formāti: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Saturs, ko nevar izgūt
ChatLab nevar nolasīt vai izgūt tekstu no:
- Attēliem un grafikas - attēlos iegultais teksts netiek atpazīts
- Skenētiem PDF failiem - PDF failiem, kas satur teksta attēlus, nevis reālu tekstu
- Lapām ar pieteikšanās aizsardzību - lapām, kurām nepieciešama autentifikācija
- Satura, kas tiek būtiski renderēts ar JavaScript - dažas dinamiskās lapas var pilnībā nerenderēties
- Mēdijiem, kas nav teksts - audio, video vai iegultiem failiem
Vietnes skenēšanas ierobežojumi
- Apstrādes laiks: lielu vietņu skenēšana var aizņemt 10-60 minūtes
- Dziļa ligzdošana: ļoti dziļi ligzdotiem URL var iestāties noildze
- Dinamisks saturs: dažas JavaScript ietvarstruktūras liedz pilnīgu satura izgūšanu
MI uzvedības izaicinājumi
Halucinācijas
MI modeļi var ģenerēt ticamas, bet nepareizas atbildes, ja zināšanu bāzē netiek atrasta atbilstoša informācija. Tā vietā, lai atzītu, ka atbilde nav zināma, mākslīgais intelekts var izmantot savus vispārējos apmācības datus.
Samaziniet halucinācijas:
- Iestatiet Creativity to 0 (Kompensācija uz 0) sadaļā Bot Settings > Conversation > AI Behavior (Bota iestatījumi > Saruna > MI uzvedība)
- Pievienojiet skaidrus norādījumus iestatījumos Role & Behavior (Loma un uzvedība): "Atbildiet tikai, pamatojoties uz nodrošināto zināšanu bāzi. Ja nevarat atrast atbilstošu informāciju, sakiet: "Man nav informācijas par šo jautājumu.""
- Uzturiet savu zināšanu bāzi visaptverošu savai konkrētajai nozarei
Zināšanu bāzes aptvere
ChatLab nespēj:
- Apkopot zināšanu bāzes saturu
- Uzskaitīt aptvertās tēmas, failus vai valstis
- Ziņot, cik dokumentu ir apmācīti
- Paskaidrot, kāpēc tika atlasīta konkrēta informācija
Tērzēšanas robots atlasa atbilstošos fragmentus vaicājumiem, taču tas neizprot Jūsu zināšanu bāzes struktūru vai metadatus.
Veiktspēja ar lielām zināšanu bāzēm
Semantiskās pārklāšanās problēmas
Ja vairāki dokumenti satur līdzīgu informāciju, sistēma var:
- Atlasīt mazāk atbilstošu saturu
- Palaist garām vispiemērotāko atbildi
- Nepareizi apvienot informāciju no dažādiem kontekstiem
Risinājumi:
- Izvairieties no satura dublēšanas dažādos failos
- Izmantojiet skaidrus, atšķirīgus nosaukumus un struktūru
- Pārbaudiet vaicājumus, kas varētu atbilst vairākiem avotiem
- Sadaliet visaptverošas pamācības atsevišķos tēmu failos
Atlases prioritāšu noteikšana
Mākslīgais intelekts atlasa saturu, pamatojoties uz semantisko līdzību ar lietotāja jautājumu. Tas:
- Nepievirza priekšroku jaunākam saturam salīdzinājumā ar vecāku
- Nenoteic prioritātes konkrētiem failu tipiem
- Neizprot dokumentu hierarhiju vai svarīgumu
Lai sasniegtu vislabākos rezultātus, sakārtojiet savu zināšanu bāzi ar skaidru, nepārklājošos saturu.
Biežuma ierobežojumi un kvotas
Ziņojumu biežuma ierobežojumi
Lai novērstu ļaunprātīgu izmantošanu, tērzēšanas robotiem ir konfigurējami biežuma ierobežojumi. Ja tie tiek pārsniegti:
- Lietotāji redz paziņojumu par limita pārsniegšanu
- Pirms nākamo ziņojumu sūtīšanas viņiem ir jānogaida
- Konfigurējiet ierobežojumus sadaļā Bot Settings > Security (Bota iestatījumi > Drošība)
Mēneša ziņojumu kredīti
Katrā plānā ir iekļauti ikmēneša ziņojumu kredīti, kas tiek atiestatīti Jūsu norēķinu datumā:
- FREE: 30 ziņojumi
- BASIC: 2 400 ziņojumi
- STANDARD: 11 000 ziņojumu
- PREMIUM: 50 000 ziņojumu
Kad kredīti ir iztērēti, tērzēšanas robots pārstāj atbildēt, līdz kredīti tiek atiestatīti vai Jūs iespējojat norēķinus par pārtēriņu.
Ārējo pakalpojumu atkarības
ChatLab paļaujas uz trešo pušu pakalpojumiem:
- OpenAI/Google - MI modeļu API atbilžu ģenerēšanai
- Pinecone - vektoru datubāze zināšanu izgūšanai
- ZenRows - vietnes satura izgūšana
Šo pakalpojumu sniedzēju darbības traucējumi vai biežuma ierobežojumi var īslaicīgi ietekmēt:
- Atbilžu ģenerēšanas ātrumu
- Vietnes skenēšanas iespējas
- Zināšanu atlases precizitāti
Šie pārtraukumi notiek reti, taču apkopes periodos tie var izraisīt īsas aizkaves vai kļūdas.
Labākās prakses kopsavilkums
| Izaicinājums | Risinājums |
|---|---|
| Nepilnīgas atbildes | Samaziniet dublēšanos, palieliniet konteksta loga izmēru |
| Halucinācijas | Iestatiet radošumu uz 0, pievienojiet stingrus lomas norādījumus |
| Nevar izgūt saturu | Izmantojiet uz tekstu balstītus PDF failus, izvairieties no avotiem ar daudziem attēliem |
| Pārklājošies rezultāti | Sakārtojiet saturu atsevišķās tēmās |
| Sasniegti biežuma ierobežojumi | Pielāgojiet ierobežojumus drošības iestatījumos |
| Lēna apmācība | Izmantojiet vietnes kartes skenēšanu, samaziniet pārmeklēšanas dziļumu |
Ja rodas konkrētas problēmas, kas šeit nav aplūkotas, sazinieties ar atbalsta dienestu sadaļā Main Menu > Support Request (Galvenā izvēlne > Atbalsta pieprasījums).