Предвзятость ИИ: может ли помощник незаметно изменить ваше мнение

Что именно проверяли

Человек пишет текст по общественному вопросу. Ассистент подсказывает, чем продолжить начатую фразу: хочешь — принял подсказку, хочешь — набрал своё. У части участников подсказки были односторонними и вели к одной позиции. После работы установки этих людей оказались сдвинуты в сторону позиции ассистента.

Речь именно о подсказках при наборе. Ассистент не советовал, за какую сторону быть, и не спорил с человеком — он дописывал фразу, которую тот уже начал.

Изнутри сдвиг не виден

Главный результат работы не в самом сдвиге, а в том, что его не замечают. Большинство участников не увидело, что подсказки односторонние. И не считало, что подсказки на что-то повлияли. Мнение у человека менялось, а ощущение оставалось прежним: решил сам.

Предупреждение не помогло

Участников предупреждали, что ассистент может быть предвзят. Предупреждали до работы с ним. Предупреждали после. Сдвиг мнения не уменьшился ни в одном из вариантов — собственная бдительность его не остановила.

Где граница этого вывода

Замеряли общественные вопросы и автодополнение при наборе, а не переписку с клиентом по прайсу. Переносить величину сдвига на рабочие задачи нельзя, своих замеров у нас нет. Практический вывод простой: перед отправкой перечитывайте в черновике цену, сроки и отказ — то, что потом придётся отыгрывать назад руками.

Как это устроено в переписке с клиентами

В HeadHack помощник не дописывает фразу за вас во время набора. Он собирает ответ целиком и кладёт его в раздел «Сообщения», а в Telegram присылает карточку с текстом и кнопками. Кнопку «✅ Отправить так» нажимаете вы.

Второй случай — вы написали ответ сами и нажали «Причесать формулировку». Тогда правится форма, а над готовым текстом встаёт строка «Вы написали: …» с вашим исходником. Появляется она только если правка что-то изменила: когда текст остался прежним, строки нет. Что помощнику можно трогать, а что нет, разобрано в посте меняет ли помощник то, что вы хотели написать клиенту.

Факты для ответов помощник берёт из «Базы знаний» аватара. В черновике он не подписывает, из какой записи взял цифру: чтобы проверить, откройте «Базу знаний» у аватара и найдите запись сами. Что туда складывать, показано в гайде про базу знаний и частые вопросы.

Что настроить, чтобы решение оставалось за вами

• В разделе «Как отвечать» три варианта: «Отправлять сразу», «Спрашивать о важном», «Показывать мне». На последнем под переключателем написано: «Каждый ответ жду вашего решения».
• «Где отвечать» — тумблер у каждого чата.
• «База знаний» у аватара: из этих записей и собираются ответы.
• Кнопка «❌ Не отвечать» на карточке закрывает черновик, собеседнику не уходит ничего.

Частые вопросы