CATI или CAWI: телефонный опрос или онлайн, что выбрать
Чем телефонный опрос отличается от онлайн-опроса, кому лучше звонить, кого проще найти по ссылке и как получать честные данные в обоих случаях.
Юзабилити-тест устроен просто. Вы берёте несколько человек, похожих на ваших клиентов, даёте им задачи на вашем сайте или в приложении и наблюдаете, как они справляются. Никаких анкет и мнений «нравится или нет». Вы видите, где человек замедлился, что не нашёл и куда нажал вместо нужной кнопки.
Самое ценное здесь не то, что говорят участники, а то, что они делают. Люди не всегда замечают собственные затруднения, но вы замечаете.
Часто цитируют правило «пяти пользователей». Оно основано на работе Якоба Нильсена и Томаса Ландауэра: в среднем один участник обнаруживает около 31% проблем интерфейса. Пять человек вместе находят около 85%, а дальше повторы: вы снова и снова видите то, что уже нашли.
Из этого вытекают три вещи.
Лучше проводить несколько небольших раундов, чем один большой. Пять человек, правки, ещё пять. Так вы проверите, что исправления сработали, и заметите то, что раньше загораживали главные проблемы.
Для каждой отдельной аудитории нужны свои участники. Новичок и опытный пользователь, покупатель и администратор, телефон и компьютер ведут себя по-разному. Пять-восемь человек на каждый такой сегмент.
Если нужны числа, например «80% справляются с оплатой за минуту», то пятью не обойтись. Для количественных оценок берут обычно от 20 человек, иначе диапазон погрешности слишком широкий.
Сначала вы решаете, что хотите выяснить: можно ли оформить заказ, понятна ли навигация, заметна ли новая функция. Затем пишете задачи, находите участников и прогоняете один пробный запуск, чтобы поймать неудачные формулировки и технические сбои. После этого проводите сами сессии, где участник выполняет задачи и рассуждает вслух, и в конце сводите наблюдения в список проблем с приоритетами.
Найти участников можно так, чтобы они были похожи на ваших реальных клиентов. Коллеги и друзья не подойдут: они знают продукт или хотят вам помочь.
Хорошая задача описывает цель человека, а не движения мышью.
В первом случае вы подсказали, что кнопка существует и как называется. Во втором проверяете, найдёт ли человек путь сам. Не используйте в задаче слова из интерфейса и заранее решите, что считать успехом.
Главное правило: не помогать. Даже невинное «а может, попробуете вот здесь?» портит наблюдение, потому что дома рядом с вами никто не сидит.
Если нужно что-то спросить, спрашивайте нейтрально: «Что вы сейчас думаете?», «Чего ожидали увидеть?». Если человек ошибся, это ошибка интерфейса, а не участника, и оправдывать интерфейс не нужно. Иногда стоит просто помолчать: люди часто сами находят выход, и это тоже полезное наблюдение.
Команда продукта лучше смотрит сессию из другой комнаты или по трансляции, чтобы не давить на участника.
Каждую проблему оцениваем по двум признакам: насколько она мешает и как часто повторяется.
| Уровень | Что это значит |
|---|---|
| Критическая | Человек не смог выполнить задачу |
| Серьёзная | Справился, но с трудом или после ошибок |
| Небольшая | Раздражает, но задача выполнена |
Критические проблемы, которые повторились у нескольких людей, чинят первыми. То, что случилось у одного и не помешало результату, лучше записать как наблюдение, а не как задачу в бэклог.
Тестируют на коллегах. Подсказывают по ходу дела. Дают слишком много задач за раз. Смешивают разные аудитории в одну кучу. Спрашивают «нравится ли вам?» вместо того, чтобы смотреть на действия. И приносят отчёт на 40 замечаний без приоритетов, из которого непонятно, что чинить завтра.
Если нужно проверить сайт, приложение или прототип, посмотрите, как это устроено у нас, на странице юзабилити-тестирования. Если же вам важно понять не «удобно ли», а «зачем людям это нужно», читайте про кастдев-интервью.
Для одной однородной аудитории и поиска проблем в интерфейсе пяти-восьми человек обычно достаточно: главные проблемы повторяются уже на первых сессиях. Если аудиторий несколько, пять-восемь нужно на каждую. Если нужны точные числа, то есть доля успешных прохождений или время, участников нужно больше, обычно от 20.
Обычно четыре-шесть на 45–60 минут. Дальше человек устаёт, и наблюдения становятся хуже.
Юзабилити-тест показывает, почему людям трудно, и обходится небольшим числом участников. A/B-тест показывает, какой из двух вариантов работает лучше в цифрах, но не объясняет, почему, и ему нужен большой трафик.
Предложим метод, выборку и сроки под вашу задачу и бюджет. Цену называем до начала работ.
Чем телефонный опрос отличается от онлайн-опроса, кому лучше звонить, кого проще найти по ссылке и как получать честные данные в обоих случаях.
Сколько человек опросить, чтобы цифрам можно было верить: простая формула, таблица погрешности, поправка для маленькой аудитории и главная ошибка при сравнении групп.