ChatLab використовує Retrieval-Augmented Generation (RAG) для надання відповідей на основі вашої бази знань. Розуміння його обмежень допоможе вам оптимізувати роботу чатбота та сформувати реалістичні очікування.
Обмеження контекстного вікна
ChatLab використовує моделі AI з суворими лімітами токенів для обробки запитів. Контекстне вікно має вміщувати запитання користувача, історію розмови та отримані з бази знання разом взяті.
Розміри контексту за планами:
- FREE / BASIC: 8 000 токенів
- STANDARD: 16 000 токенів
- PREMIUM: 32 000 токенів
Що відбувається при перевищенні контексту:
- Отримані знання обрізаються
- Важлива інформація може бути пропущена
- Відповіді можуть бути неповними або містити не всі суттєві деталі
Рішення:
- Видаліть повторюваний вміст із навчальних даних
- Розділіть великі файли на менші документи, присвячені конкретним темам
- Перейдіть на вищий план для отримання більшого контекстного вікна
- Використовуйте чіткі, конкретні інструкції для ролі, щоб скеровувати відповіді
Обмеження навчання та вилучення вмісту
Ліміти завантаження файлів
- Максимальний розмір файлу: 50 МБ на файл
- Підтримувані формати: PDF, DOC, DOCX, TXT, CSV, XLS, XLSX
Вміст, який не вдається вилучити
ChatLab не може читати або вилучати текст із таких джерел:
- Зображення та графіка - текст на зображеннях не розпізнається
- Відскановані PDF - документи PDF, які містять зображення тексту, а не сам текст
- Сторінки із захистом авторизацією - сторінки, що вимагають входу
- Вміст із надмірним рендерингом через JavaScript - деякі динамічні сторінки можуть відображатися не повністю
- Нетекстові медіафайли - аудіо, відео або вбудовані файли
Обмеження сканування вебсайтів
- Час обробки: великі сканування можуть тривати 10-60 хвилин
- Глибока вкладеність: для URL-адрес із дуже глибокою вкладеністю може минути час очікування (timeout)
- Динамічний вміст: деякі фреймворки JavaScript заважають повному вилученню вмісту
Складнощі в поведінці AI
Галюцинації
Моделі AI можуть генерувати правдоподібні, але некоректні відповіді, якщо потрібної інформації немає в базі знань. Замість того щоб повідомити, що інформація відсутня, AI може звернутися до своїх загальних навчальних даних.
Як зменшити кількість галюцинацій:
- Встановіть Creativity (Креативність) на 0 (Bot Settings (Налаштування бота) > Conversation (Розмова) > AI Behavior (Поведінка AI))
- Додайте чіткі інструкції в налаштуваннях Role & Behavior (Роль і поведінка): "Відповідай виключно на основі наданої бази знань. Якщо ти не можеш знайти релевантну інформацію, скажи 'У мене немає інформації про це.'"
- Підтримуйте повноту бази знань відповідно до вашої галузі
Поінформованість про власну базу знань
ChatLab не може:
- Підсумувати весь вміст бази знань
- Надати список розглянутих тем, файлів або країн
- Повідомити, скільки документів використано для навчання
- Пояснити, чому саме було знайдено ту чи іншу інформацію
Чатбот вилучає відповідні фрагменти для запитів, але не розуміє структуру чи метадані вашої бази знань.
Ефективність із великими базами знань
Проблеми семантичного перекриття
Коли кілька документів містять схожу інформацію, система може:
- Вилучати менш релевантний вміст
- Пропускати найбільш відповідну відповідь
- Некоректно поєднувати інформацію з різних контекстів
Рішення:
- Уникайте дублювання вмісту між файлами
- Використовуйте чіткі й зрозумілі назви та структуру
- Тестуйте запити, які можуть збігатися з кількома джерелами
- Розбивайте великі посібники на окремі файли за темами
Пріоритезація вилучення знань
AI шукає та вилучає вміст на основі семантичної схожості із запитанням користувача. При цьому він:
- Не надає перевагу новішому вмісту над старішим
- Не надає пріоритет певним типам файлів
- Не розуміє ієрархію чи важливість документів
Для отримання найкращих результатів структуруйте базу знань так, щоб матеріали були чіткими і не перекривали один одного.
Ліміти запитів і квоти
Ліміти частоти повідомлень
Щоб запобігти зловживанням, чатботи мають налаштовувані ліміти частоти запитів. Якщо ліміт перевищено:
- Користувачі бачать повідомлення про обмеження частоти
- Їм потрібно зачекати, перш ніж надсилати наступні повідомлення
- Ліміти налаштовуються у Bot Settings (Налаштування бота) > Security (Безпека)
Щомісячні кредити на повідомлення
Кожен план містить щомісячні повідомлення (credits), які оновлюються в день розрахункового періоду:
- FREE: 30 повідомлень
- BASIC: 2 400 повідомлень
- STANDARD: 11 000 повідомлень
- PREMIUM: 50 000 повідомлень
Коли повідомлення вичерпуються, чатбот припиняє відповідати, доки кредити не оновляться або доки ви не ввімкнете тарифікацію за додаткове використання.
Залежність від зовнішніх сервісів
ChatLab покладається на сторонні сервіси:
- OpenAI/Google - API моделей AI для генерації відповідей
- Pinecone - векторна база даних для пошуку знань
- ZenRows - сервіс для вилучення вмісту вебсайтів
Збої в роботі або обмеження запитів з боку цих постачальників можуть тимчасово впливати на:
- Швидкість генерації відповідей
- Можливість сканування вебсайтів
- Точність вилучення знань
Такі перебої трапляються рідко, але під час технічного обслуговування можливі короткі затримки або помилки.
Підсумок практичних рекомендацій
| Проблема | Рішення |
|---|---|
| Неповні відповіді | Зменшіть надмірність даних, збільште розмір контексту |
| Галюцинації | Встановіть креативність на 0, додайте суворі інструкції для ролі |
| Не вдається вилучити вміст | Використовуйте текстові PDF, уникайте джерел із великою кількістю зображень |
| Перекриття результатів | Організуйте вміст за окремими темами |
| Досягнуто ліміту повідомлень | Змініть ліміти в налаштуваннях Security |
| Повільне навчання | Використовуйте сканування карти сайту (sitemap), зменшіть глибину сканування |
У разі виникнення специфічних проблем, не описаних у цій статті, зверніться до служби підтримки через Main Menu (Головне меню) > Support Request (Запит до служби підтримки).