Регистрация закрыта.Купить подписку и звёзды больше нельзя — только продлить тем, кто внутри. Вход по приглашению.Открыть HeadHack
  1. HeadHack
  2. Блог

Доверие к нейросети: можно ли верить ответу в незнакомой теме

Доверие к нейросети: можно ли верить ответу в незнакомой теме

Верить можно той части ответа, которую вы проверите сами: цене, сроку, номеру документа, адресу, телефону. Остальное — текст, и звучит он одинаково ровно, когда в нём правда и когда ошибка. В незнакомой теме отличить одно от другого вам нечем. Поэтому смотрите не на автора ответа и не на уверенность в нём, а на то, откуда взялось каждое число.

Помощник отвечает в вашем Telegram, пока вы заняты

Попробовать бесплатно

Что в ответе проверяется, а что нет

Разделите ответ на две части. Первая — то, что можно открыть и сверить: цена, срок, номер закона, название материала, адрес, имя мастера. Вторая — рассуждение, которое всё это связывает. Сверить получится только первую.

Карточка аватара помощника с полями системной инструкции и настройками ответов
Границу «об этом отвечаю, об этом молчу» задаёт человек в карточке аватара — сама модель не знает, где заканчивается ваша компетенция.

Если проверяемых мест в ответе нет вообще, то и проверять нечего. «Сроки зависят от объёма работ» — верно всегда и не говорит ничего про ваш объём. В незнакомой теме такие фразы читаются убедительно именно потому, что возразить на них нельзя.

Спросить источник — шаг обязательный, но он ничего не гарантирует. Нейросеть называет документ, которого может не существовать, и ставит ссылку, которая ведёт не туда. Открывать придётся самому, иначе проверки не было.

Открытый диалог с сообщением собеседника и карточкой черновика ответа
Черновик — это та секунда, когда ответ читает единственный участник разговора, у которого есть экспертиза в теме.

Пять проверок ответа в незнакомой теме

  • Спросите, откуда цифра. Нужно название документа или сайта.
  • Попросите назвать условия. «Доставка бесплатная» и «доставка бесплатная от 5000 рублей по Москве, в область — по тарифу перевозчика» выглядят одинаково спокойно, а разницу между ними клиент обнаруживает при получении заказа.
  • Откройте первоисточник.
  • Задайте тот же вопрос другими словами в новом чате. Если во втором ответе цена выросла вдвое или срок сдвинулся на неделю, опираться нельзя ни на первый, ни на второй.
  • Покажите ответ человеку, который в этой теме работает руками.

Что из этого делать в переписке с клиентами

Ответ помощника в HeadHack собирается из базы знаний. Это экран «База знаний», он открывается из карточки аватара: одно большое поле с подсказкой «FAQ, прайс, условия работы» и счётчик сверху — «0 / 100 000». Ниже раздел «Документы», туда идут PDF, DOCX, TXT и ссылки. Пока поле пустое, помощник отвечает общими словами, а их клиент не проверит и не запомнит. Чем наполнять и что разводить по разным элементам — в гайде про FAQ и базу знаний.

Границу «об этом отвечаю, об этом молчу» задаёт поле «Системная инструкция» в той же карточке аватара. Помощник сам не знает, где заканчивается ваша компетенция: про сроки монтажа не отвечать, скидки не обещать, такие вопросы переводить на владельца — это пишете вы, обычными фразами. Где помощник имеет право трогать ваш текст, а где нет, разобрано в отдельном посте.

Если в готовом ответе появилась сумма, ссылка или контакт, которых нет ни в базе знаний, ни в переписке, помощник его не отправляет — вам приходит черновик с подписью «Фактура не сошлась с базой знаний». Сверяются ровно эти три вещи. Фраза «сделаем до пятницы» проверку пройдёт спокойно: за сроки в тексте отвечаете вы.

Кто ставит подпись под ответом

В поле «Что делать с ответом» три режима: «Отправлять сразу», «Спрашивать о важном» и «Показывать мне». Последний под подписью «Каждый ответ жду вашего решения»: помощник готовит черновик, отправляет человек. Это единственное место в разговоре, где цену перед отправкой видит тот, кто её знает.

Черновик живёт сутки. Через 24 часа он получает статус «Устарел», отправить его уже нельзя — ответ придётся собирать заново. У тех, кто подключился по QR-коду, а не через Telegram Business, ответ на подтверждении ждёт 15 минут, так что смотреть надо сразу. Почему владельцы держат отправку за собой — отдельный разговор, он про вашу переписку, а не про чужой ответ.

Частые вопросы

Можно ли доверять ответу нейросети, если сам в теме не разбираешься

Доверять стоит не ответу целиком, а тем его частям, которые вы способны сверить: цене, сроку, ссылке на документ, номеру телефона. Всё остальное остаётся утверждением, которое вы не проверяли. В решении, где на кону деньги или здоровье, одного такого ответа мало.

Как понять, что текст написала нейросеть, а не человек

По самому тексту — никак, и время на это тратить не стоит. Смотрите на проверяемые утверждения внутри: названы ли условия, есть ли источник, открывается ли он.

Нужно ли предупреждать клиента, что за меня отвечает помощник

Это ваш выбор и вопрос честности перед клиентом. Автоматической пометки к ответам помощник не добавляет. Если он сам проговорится о своей роли, ответ остановится черновиком с подписью «Ассистент выдал себя — проверьте формулировку».

Что делать, если помощник назвал цену, которой у меня нет

Такой ответ он не отправит. Сумма, ссылка или контакт, которых нет ни в базе знаний, ни в переписке, останавливают отправку, и вам приходит черновик с подписью «Фактура не сошлась с базой знаний». Поправьте цену в базе знаний — в следующий раз ответ уйдёт сам.

Подключите ассистента к своему Telegram

Открыть бота

Читайте дальше