Доверие к нейросети: можно ли верить ответу в незнакомой теме

Верить можно той части ответа, которую вы проверите сами: цене, сроку, номеру документа, адресу, телефону. Остальное — текст, и звучит он одинаково ровно, когда в нём правда и когда ошибка. В незнакомой теме отличить одно от другого вам нечем. Поэтому смотрите не на автора ответа и не на уверенность в нём, а на то, откуда взялось каждое число.
Помощник отвечает в вашем Telegram, пока вы заняты
Попробовать бесплатноЧто в ответе проверяется, а что нет
Разделите ответ на две части. Первая — то, что можно открыть и сверить: цена, срок, номер закона, название материала, адрес, имя мастера. Вторая — рассуждение, которое всё это связывает. Сверить получится только первую.

Если проверяемых мест в ответе нет вообще, то и проверять нечего. «Сроки зависят от объёма работ» — верно всегда и не говорит ничего про ваш объём. В незнакомой теме такие фразы читаются убедительно именно потому, что возразить на них нельзя.
Спросить источник — шаг обязательный, но он ничего не гарантирует. Нейросеть называет документ, которого может не существовать, и ставит ссылку, которая ведёт не туда. Открывать придётся самому, иначе проверки не было.

Пять проверок ответа в незнакомой теме
- Спросите, откуда цифра. Нужно название документа или сайта.
- Попросите назвать условия. «Доставка бесплатная» и «доставка бесплатная от 5000 рублей по Москве, в область — по тарифу перевозчика» выглядят одинаково спокойно, а разницу между ними клиент обнаруживает при получении заказа.
- Откройте первоисточник.
- Задайте тот же вопрос другими словами в новом чате. Если во втором ответе цена выросла вдвое или срок сдвинулся на неделю, опираться нельзя ни на первый, ни на второй.
- Покажите ответ человеку, который в этой теме работает руками.
Что из этого делать в переписке с клиентами
Ответ помощника в HeadHack собирается из базы знаний. Это экран «База знаний», он открывается из карточки аватара: одно большое поле с подсказкой «FAQ, прайс, условия работы» и счётчик сверху — «0 / 100 000». Ниже раздел «Документы», туда идут PDF, DOCX, TXT и ссылки. Пока поле пустое, помощник отвечает общими словами, а их клиент не проверит и не запомнит. Чем наполнять и что разводить по разным элементам — в гайде про FAQ и базу знаний.
Границу «об этом отвечаю, об этом молчу» задаёт поле «Системная инструкция» в той же карточке аватара. Помощник сам не знает, где заканчивается ваша компетенция: про сроки монтажа не отвечать, скидки не обещать, такие вопросы переводить на владельца — это пишете вы, обычными фразами. Где помощник имеет право трогать ваш текст, а где нет, разобрано в отдельном посте.
Если в готовом ответе появилась сумма, ссылка или контакт, которых нет ни в базе знаний, ни в переписке, помощник его не отправляет — вам приходит черновик с подписью «Фактура не сошлась с базой знаний». Сверяются ровно эти три вещи. Фраза «сделаем до пятницы» проверку пройдёт спокойно: за сроки в тексте отвечаете вы.
Кто ставит подпись под ответом
В поле «Что делать с ответом» три режима: «Отправлять сразу», «Спрашивать о важном» и «Показывать мне». Последний под подписью «Каждый ответ жду вашего решения»: помощник готовит черновик, отправляет человек. Это единственное место в разговоре, где цену перед отправкой видит тот, кто её знает.
Черновик живёт сутки. Через 24 часа он получает статус «Устарел», отправить его уже нельзя — ответ придётся собирать заново. У тех, кто подключился по QR-коду, а не через Telegram Business, ответ на подтверждении ждёт 15 минут, так что смотреть надо сразу. Почему владельцы держат отправку за собой — отдельный разговор, он про вашу переписку, а не про чужой ответ.
Частые вопросы
Можно ли доверять ответу нейросети, если сам в теме не разбираешься
Доверять стоит не ответу целиком, а тем его частям, которые вы способны сверить: цене, сроку, ссылке на документ, номеру телефона. Всё остальное остаётся утверждением, которое вы не проверяли. В решении, где на кону деньги или здоровье, одного такого ответа мало.
Как понять, что текст написала нейросеть, а не человек
По самому тексту — никак, и время на это тратить не стоит. Смотрите на проверяемые утверждения внутри: названы ли условия, есть ли источник, открывается ли он.
Нужно ли предупреждать клиента, что за меня отвечает помощник
Это ваш выбор и вопрос честности перед клиентом. Автоматической пометки к ответам помощник не добавляет. Если он сам проговорится о своей роли, ответ остановится черновиком с подписью «Ассистент выдал себя — проверьте формулировку».
Что делать, если помощник назвал цену, которой у меня нет
Такой ответ он не отправит. Сумма, ссылка или контакт, которых нет ни в базе знаний, ни в переписке, останавливают отправку, и вам приходит черновик с подписью «Фактура не сошлась с базой знаний». Поправьте цену в базе знаний — в следующий раз ответ уйдёт сам.
Подключите ассистента к своему Telegram
Открыть ботаЧитайте дальше
- ИИ-чат-бот против бота с кнопками: что он ответит на вопрос не из сценарияБот с кнопками сверяет нажатие с заранее описанной веткой и выдаёт привязанный к ней текст. ИИ-чат-бот получает сообщение целиком, вместе с предыдущими репликами разговора, и составляет ответ сам. Разница видна на первом же вопросе, которого нет в сценарии: кнопочный бот показывает меню заново или молчит, а ИИ-чат-бот отвечает по тому, что вы написали про своё дело.
- Непрямая коммуникация: почему руководитель говорит намёкамиРуководитель спрашивает «ты уверен, что успеешь к пятнице?» вместо того чтобы сказать «сдвинь срок». Просьбы нет, а действие подразумевается — и вы весь вечер решаете, что он имел в виду. Понять намёк можно одним способом: переспросить его же словами и дать два варианта на выбор. «Когда вы сказали „посмотри ещё раз“ — речь про сроки или про расчёт?» Пока вы додумываете, работа стоит, а вопрос занимает одну строку.