Как составить собственный тест

Сегодня интерактивные тесты стали важной частью многих отраслей, начиная от образования и заканчивая бизнесом. Они помогают учиться, оценивать знания и умения, собирать обратную связь и даже привлекать новых клиентов. Однако составление собственного теста может быть сложной задачей. Как создать эффективный тест, который будет отвечать всем вашим потребностям? Ответ прост: используйте Testograf — удобный и функциональный конструктор анкет и опросов.

Что такое Testograf?

Testograf — это инструмент для создания анкет и тестов, который подходит как для образовательных, так и для бизнес-целей. С его помощью вы можете создавать тесты с проходным баллом или просто за баллы. Testograf предлагает различные типы вопросов: выбор одного ответа, выбор нескольких ответов, текстовый ответ, упорядочивание и многое другое.

Почему стоит создать свой тест?

Создание собственного теста — это отличный способ оценить уровень знаний, определить прогресс учащегося, получить обратную связь от клиентов или сотрудников и многое другое. Кроме того, с помощью Testograf вы можете легко адаптировать свой тест к конкретной цели или аудитории.

Как создать свой тест с помощью Testograf?

Выберите шаблон. Testograf предлагает множество готовых шаблонов анкет и тестов, которые вы можете использовать в качестве отправной точки.

Добавьте вопросы. Выберите тип вопроса, который подходит под ваши цели. Вы можете использовать вопросы с выбором одного или нескольких ответов, вопросы с текстовым ответом или вопросы с упорядочиванием.

Установите баллы. Вы можете создать тест с проходным баллом или просто за баллы.

Тестируйте и анализируйте результаты. После создания теста вы можете его протестировать и анализировать результаты, чтобы улучшить его в будущем.

Примеры использования Testograf в различных сферах

Образование. Преподаватели могут использовать Testograf для создания тестов для проверки знаний студентов, а также для проведения самооценки. Такие тесты могут включать в себя различные типы вопросов, включая вопросы с выбором одного или нескольких ответов, вопросы с текстовым ответом или вопросы с упорядочиванием.

Бизнес. Компании могут использовать Testograf для сбора обратной связи от клиентов, проведения опросов среди сотрудников или для оценки эффективности обучения. Например, отдел HR может использовать тесты и опросы Testograf для оценки уровня удовлетворенности сотрудников, выявления потребностей в обучении и развитии, а также для проведения оценки кандидатов на вакансии.

Заключение

Создание собственного теста может быть сложной задачей, но с помощью Testograf этот процесс становится простым и удобным. Этот инструмент предлагает широкий спектр функций, которые позволяют создать эффективный тест, адаптированный под ваши конкретные потребности и цели.

Правило 1

Начните с заголовка

Как только у вас родилась идея теста, сформулируйте черновой заголовок. Во-первых, если короткий и понятный заголовок не будет получаться, то это признак, что с вашей идеей что-то не так или тема для теста слишком сложная, — это повод доработать идею. Во-вторых, так вам будет проще понять, о чем именно будет тест. Это поможет определиться с тем, как лучше всего выстроить тест с точки зрения логики, какие именно нужны вопросы и результаты, и отсечь все лишнее. Лучше всего, когда в заголовке есть вопрос и читатель хочет узнать на него ответ. Еще лучше, когда заголовок касается конкретно человека и мы предлагаем узнать читателю что-то о себе: все любят узнавать себя.

Примеры заголовков:

• Сможете ли вы потратить триллион рублей?
• Умеете ли вы экономить по-настоящему?
• Насколько хорошо вы питаетесь по сравнению с другими россиянами?
• Как низко вы готовы пасть ради денег?
• Экспресс-тест: насколько вы счастливы?

Правило 2

Сформулируйте цель теста

Наверняка вы не хотите делать тест ради теста. А хотите чего-то большего:

1. донести до читателей определенную мысль;
2. достичь своих целей.

С первым все ясно: читатель должен пройти тест и узнать что-то новое или о чем-то задуматься. Например, о своих личных предпочтениях или о том, как на самом деле устроена жизнь вокруг:

Со вторым тоже все просто. Цель может быть прикладной — например, мы хотим ненавязчиво рассказать о нашем курсе по инвестициям. Тут все понятно: на заголовок кликают люди, которые интересуются темой и хотят узнать про себя что-то новое. Получают развлекательный контент и в конце узнают о курсе.

Или, наоборот, цель может быть более призрачной — например, нам важно писать про бизнес. У нас есть целый раздел про это, мы хотим подогревать интерес к теме разными способами: тот, кому пока скучно читать длинный текст, возможно, клюнет на что-то развлекательное. Скорее всего, человеку выпадет хороший результат, мы заложим в его голову идею, и, вероятно, в следующий раз он уже созреет для более серьезных форматов.

Правило 3

Нащупайте логику, на которой будет построен тест

Чтобы результаты теста выглядели убедительно, нужно придумать, на чем именно будут основаны ваши расчеты. Вам может казаться, что вы делаете максимально шуточный тест и придумывать какое-то обоснование необязательно. Но чаще всего это заметно, и у читателей возникнут вопросы:

В некоторых тестах результат можно выдавать рандомно. Подумайте, насколько такое решение уместно в конкретном тесте: оно должно выглядеть как фича, а не баг.

Примеры разных видов логики:

• «Какой вы миллиардер из кино?» — мы взяли список богатейших выдуманных персонажей «Форбса», выбрали из них киногероев, изучили их биографии, нашли пересекающиеся моменты и спрашиваем у человека, какая из описанных ситуаций больше похожа на его. В результатах рассказываем читателю краткую сводку о персонаже, с чьей биографией было больше всего пересечений, сумму его состояния и выделяем положительные свойства характера.
• «Относитесь ли вы к среднему классу?» — лучше всего, когда тест опирается на проверенный источник, будь то соцопрос или список «Форбса». В этом случае мы взяли несколько исследований, посвященных среднему классу, и сделали из них тест. Еще в тестах с такой логикой можно предлагать читателю проверить, насколько хорошо он разбирается в какой-то теме. Например, в зарплатах россиян или их мнениях по самым разным поводам.
• «Знаете ли вы, как супермаркеты нарушают ваши права?» — пример полезного теста на тему конкретной проблемы. Мы собрали случаи супермаркетного произвола, нашли законодательные акты, регулирующие эти ситуации, и предлагаем читателям рассказать, как бы в этих ситуациях они себя повели, и заодно узнать, на чьей стороне закон.
• «Финансовые предсказания: что вас ждет в следующем году?» — здесь результаты как раз распределяются более-менее рандомно, цель таких тестов — порадовать читателя, сказать ему что-то приятное, подбодрить. Но логика в распределении результатов все равно присутствует.

Правило 4

Решите, что в вашем тесте главное

Бывают тесты, в которых главное — результаты. Бывают тесты, в которых главное — вопросы. Здесь важно продумать, как правильно расставить акценты, чтобы и читатель был доволен, и вы рассказали людям все, о чем хотели.

Примеры:

• «Насколько хорошо вы питаетесь по сравнению с другими россиянами?» — в этом тесте важны вопросы. По сути, мы интерактивным способом рассказываем человеку о том, что известно статистике о пищевых пристрастиях россиян. Поэтому после ответа на вопрос мы даем уточняющую расшифровку и ссылку на источник. Обязательно собирайте все пруфы!
• «Какой страны вы достойны?» — а в этом тесте интереснее результат. Мы собрали 5 профайлов разных стран, основываясь на статистике, реальных ценах и культурных особенностях. Спрашиваем читателей об их предпочтениях, вкусах и привычках и делаем вывод, где условия для всего этого благоприятнее.

Правило 5

Старайтесь делать тесты короче

10 вопросов всегда лучше, чем 15, а 7 — лучше, чем 10. Можно пойти еще дальше и сделать тест из двух вопросов — и даже из одного! Все зависит от цели и от того, что в вашем тесте главное, — не стоит прятать это слишком далеко.

Также старайтесь соблюдать баланс: если вопросов много, то пусть и вопросы, и варианты ответов будут максимально короткими. Если вопросов мало, то можно себе позволить сделать вопросы или варианты ответов подлиннее. Варианты с картинками выбирать проще, даже если на этих картинках написан текст. Конечно, это не всегда возможно. Просто помните об этом и стремитесь к идеалу.

Старайтесь формулировать вопросы емко, убирайте лишние подробности. Избегайте длинных придаточных и громоздких фраз. Ваш вопрос должен быть понятным и конкретным.

Правило 6

Согласуйте заголовок с результатами

В идеальном мире текст результата всегда должен отвечать на вопрос в заголовке. Человек заинтересовался вопросом в заголовке и хочет получить на него ответ. А если ответа нет, то, вполне вероятно, человека постигнет разочарование. Это не те эмоции, которые нужно получать от тестов.

Правило 7

Не скупитесь на результаты

Желание увидеть результат — это главное, почему человек проходит наш тест. Проходить тест трудно. Нужно думать, читать и нажимать на кнопки. Кнопок бывает много: узнать правильный ответ, перейти к следующему вопросу, узнать результат. Это активное потребление контента. Поэтому в тестах результат — это награда. Если человек получит слишком короткий или неинтересный результат, он также будет разочарован. У него останется ощущение, что результат не стоил затраченных усилий. Поэтому к результатам надо отнестись внимательно и сделать их с любовью.

Правило 8

Добавьте дополнительную стоимость результатам

Если человек получил удовольствие от прохождения теста и от его результата, он становится довольно лояльным пользователем и благосклонно отнесется к нашему предложению продолжить вечеринку. Поэтому при создании теста мы сразу думаем о том, что еще предложить читателю. Мы можем предложить пройти еще один тест или прочитать текст по теме. В каждом результате может быть что-то уникальное: например, если человек показал слабый уровень знаний по какому-то предмету, мы можем отправить его читать про азы, а если высокий — проходить более сложный тест. Или во всех результатах может быть ссылка на что-то одно. Все зависит от цели.

Примеры:

• «Какой ваш финансовый возраст?» — здесь в каждом из восьми вариантов результатов читателю предлагаются разные тесты в зависимости от контекста.
• «В какую теплую страну вам пора переехать?» — здесь мы сопроводили каждый результат ссылкой на статью про конкретную страну.
• «Какой вы модератор Т—Ж?» — здесь тоже восемь вариантов результатов, но в рекомендациях — один и тот же тест.

Правило 9

Не расстраивайте читателей, а дарите им радость

Тесты — это развлекательный формат. Возможно, читателю скучно и он хочет развлечь себя. Возможно, у читателя был тяжелый день и он хочет отвлечься. Но он точно не хочет прочитать что-то неприятное про себя. Поэтому старайтесь даже в самых плохих результатах описывать недостатки мягко, упоминайте возможные сильные стороны и добавляйте во все это самоиронии и дружеского подмигивания.

Правило 10

Избегайте конкретных примеров в результатах

Помните, что и механики тестов, и сама концепция таких тестов построены на допущениях — мы даем очень приблизительный результат. Кроме того, продумать абсолютно все довольно тяжело и весьма вероятно, что где-то в вашей логике найдется слабое место. Поэтому нужно максимально застраховать себя от провалов. Если вы сами чувствуете, что халтурите или чересчур притягиваете нечто за уши, убирайте: это однозначно заметят.

Используйте слова: «возможно», «вероятно», «кажется» и так далее. Старайтесь не упоминать в результатах конкретные вещи, если механика теста не гарантирует вам, что читатель выбрал определенный результат. Зачастую бывает так: один из вариантов ответа — «обожаю хот-доги», читатель фыркает про себя, выбирает другой ответ, но по ответам в других вопросах оказывается, что он должен основать компанию по производству сосисок. Поэтому результат нужно завуалировать таким образом, чтобы даже тем, кто не любит хот-доги, было понятно, почему им выпал такой результат. Добавляйте в описание результата примеры не из вопросов, а другие, из жизни, которые расширяют картину.

Помните, что правила созданы, чтобы их нарушать. Если вы понимаете, что какое-то правило противоречит вашей идее или цели, и вы знаете, как сделать лучше, — делайте. Но сначала согласуйте все с редактором: возможно, он уже сталкивался с подобным и знает, как поступить, или просто поможет найти решение.

Виды тестов

Тесты-квизы: с правильными и неправильными ответами:

1. С одним верным вариантом ответа. Например, тест «Знаете ли вы, чем лечат себя россияне?».
2. С несколькими верными вариантами ответа. Например, тест «Какие финансовые вопросы россияне решают с помощью поисковика?».
3. Со счетчиком: он считает заработанное или штрафы. Например, тест «Сможете ли вы избежать штрафов в другой стране?».

Тесты-стратегии: без правильных и неправильных вариантов ответов:

1. С возможностью выбрать один вариант ответа. Например, тест «Насколько хорошо вы спите по сравнению с другими россиянами?».
2. Экспресс-тесты: собирают статистику. Пример: тест «Как низко вы готовы пасть ради денег?».
3. Со счетчиком: считает потраченное. Пример: тест «Сможете ли вы потратить 10 млрд юаней?».
4. С возможностью выбрать несколько вариантов ответа. Эта механика пока в разработке.

Квесты: тесты с разветвленной системой ответов. Формат пока в разработке.

Форматы вопросов и ответов

В вопросах могут быть заголовок, текст, картинка. Что-то одно из этого или все вместе.

Ответы бывают следующие.

Радиокнопки:

1. С текстом и картинкой. Например, тест «Угадайте, о каком товаре этот отзыв с „Алиэкспресса“».
2. С тайлами. Например, тест «Сколько могла бы стоить ваша самая безумная свадьба?».
3. С видео. Например, тест «В какой богатейшей российской семье вы могли бы родиться?».
4. С аудио. Например, тест «В какую теплую страну вам пора переехать?».

Тайлы:

1. С текстом. Например, тест «Насколько вы типичный читатель Тинькофф-журнала?».
2. С картинками. Например, тест «Угадайте, кто из российских звезд зарабатывает больше».

Чекбоксы:

1. С текстом.
2. С тайлами.
3. С аудио.
4. С видео.

Ползунок. Например, тест «Угадайте, сколько стоит отдых в российских отелях этим летом».

Механики подсчета результатов

Подсчет баллов:

1. Сумма правильных ответов. Каждый вопрос содержит верные и неверные ответы. Если пользователь выбрал верный ответ, то счетчик увеличивается на единицу или любое другое количество баллов. Если неверный — счетчик не меняется. Результат зависит от количества правильных ответов. Примеры: «Кто вы в мире госзакупок?» и «Угадайте, сколько стоят эти вещи из СССР».
2. Сумма набранных баллов. Каждому ответу присваивается стоимость, результат теста зависит от набранной суммы. Примеры: «Поборы в школе: сдать или затаиться?», «Сколько стоят похороны вашей мечты?» и «Сколько вы зарабатывали в прошлой жизни?».

Частотность ответов. Каждый ответ в вопросе принадлежит одной из групп. После прохождения теста отображается результат, у которого группа была выбрана наибольшее количество раз: если больше А, то один результат, если больше Б — другой. Баллы могут быть в виде букв или цифр.

Пример: «В какой европейской стране вам будет комфортно жить?».

Квест. Каждый следующий вопрос зависит от выбранного ответа. Результат выдается в зависимости от последовательности вариантов ответов.

Пример: «Имущественный вычет: сколько вам вернут при покупке квартиры?».

В результатах могут быть:

1. Счет — потраченного, заработанного, штрафов. Например, тест «Сможете ли вы разбогатеть на акциях?».
2. Видео. Например, тест «Собери их все: смогли бы вы работать в налоговой?».
3. Перечисление особенностей. Например, тест «Какое ваше финансовое тотемное животное?».

Рубрики

1. «Психология» — тесты в формате «Какой вы?..» про людей и их предпочтения.
2. «Безумие» — развлекательные тесты, гороскопы, странное.
3. «ЕГЭ» — тесты на знания и финансовую грамотность.
4. «Микротесты» — тесты из одного вопроса.
5. «Финансовое чутье» — тесты на тему чужих зарплат и стоимости чего бы то ни было.
6. «Форумы и новости» — тесты на тему фольклора, россиян и того, как они живут.
7. «Другое» — все, что не подходит под вышеперечисленное.

Подборки

1. Тесты для тех, кто хочет узнать себя.
2. Тесты для тех, кому нечем заняться.
3. Тесты для эрудированных.
4. Тесты из одного вопроса.
5. Тесты на финансовое чутье.
6. Беспощадные тесты о жизни в России.
7. Тесты для тех, кто ищет место для жизни.
8. Тесты для тех, кто хочет сохранить деньги.

Шаблоны

Если вы хотите сделать тест, приходите с идеями. У вас должен быть черновой заголовок и описание на абзац, в чем ваша идея и как вы хотите ее реализовать: в каком формате, на каких источниках, что будет в результатах.

Если тест готов и вы хотите показать его редактору, то самый беспроигрышный способ оформления — шрифт Arial, 11-й кегль. Обратите внимание на обязательные пункты, которые вам нужно учесть. Например, заголовки и подзаголовки для шеров результата теста в соцсетях. Вот примеры, как все может быть оформлено:

• шаблон теста с вариантами ответов;
• шаблон теста с ползунком.

В этой статье речь пойдёт о разработке образовательных тестов — заданий по проверке предметных знаний и навыков. Но в целом описанные правила универсальны: тесты для оценки психологических качеств или софт-скиллов разрабатываются аналогично.

Вы узнаете:

• можно ли с помощью теста, где учащийся выбирает из вариантов ответов, проверить, как он умеет рассуждать;
• можно ли измерить тестом не просто знание фактов, а понимание учебного материала;
• чем трудные задания отличаются от сложных и почему трудным тест может быть, а вот сложным его лучше не делать;
• с каких заданий лучше начинать — простых или трудных;
• какое количество вариантов ответа оптимально;
• как проверить, работает ли тест.

Психометрики называют тестом любой инструмент измерения — и ролевую игру, и эссе, и оценку портфолио. Мы подробно разберём инструмент, за которым в русском языке закрепилось слово «тест» в узком значении, — вопросы с выбором ответа из предложенных вариантов.

У стандартизированных тестов в образовании не лучшая репутация. Но психометрики по-прежнему отстаивают такой способ измерения: тесты с выбором ответа масштабируемы, справедливы и объективны. Это значит, что по одному и тому же тесту можно проверить сколько угодно учащихся, причём все будут в равных условиях, а на результат не повлияет ничьё постороннее мнение.

Но в то же время любой психометрик скажет вам, что тесты с выбором ответа — не универсальный инструмент. Способ проверки знаний выбирают с учётом того, какой именно конструкт необходимо измерить. Конструктом в психометрике называют свойство психики или способность, которые нельзя наблюдать напрямую, но можно измерить по внешним поведенческим признакам.

Для каких конструктов подходят тесты с выбором ответа? Это практически идеальный инструмент для оценки знания фактов и сугубо технических навыков. Например, для проверки знания о том, как отделить команды друг от друга при программировании на определённом языке.

А вот проверить, как учащийся умеет рассуждать, взаимодействовать с коллегами или находить практическое решение в сложной ситуации, тест с выбором ответов не поможет. Чем сложнее природа конструкта, тем более гибким должен быть инструмент измерения.

Такие тесты способны выявить не любые знания. В любой дисциплине есть простые факты, и по ним легко написать вопросы с несколькими вариантами ответа. Например, спросить, в каком году Колумб открыл Америку.

А есть элементы знания, для которых простого запоминания недостаточно. Например, если мы хотим спросить, какие события и явления стали предпосылками для открытия Америки, вопрос с выбором ответа из нескольких уже не так хорош.

Каждый преподаватель хочет, чтобы студенты не только помнили факты, но и понимали материал. Но, увы, понимание как таковое пока невозможно измерить. Может быть, нейронауки в отдалённом будущем дадут возможность следить за всем, что происходит внутри черепной коробки каждого ученика. Но сейчас психометрика работает с тем, что можно наблюдать, с поведенческими проявлениями. У понимания таких универсальных проявлений нет.

Потому в педагогических измерениях, когда нужно оценить более глубокие, не фактологические знания, измеряют не само по себе понимание, а умение интерпретировать или анализировать. И более практичны, чем тесты с выбором из нескольких вариантов, тут задания с открытым ответом или компьютерные симуляции и игры. В таких инструментах среда тестирования будет более гибкой, чем стандартизированные тесты.

Если ваша задача — проверить усвоение фактологических знаний или отдельных навыков, тест с выбором ответов вполне подойдёт. Чтобы составить и распространить такой тест, не нужны сложные цифровые сервисы. Для базовых задач вполне достаточно форм Google или «Яндекса».

В этом разделе статьи разберёмся с основными вопросами о том, как составить хороший тест. А если нужно узнать по этой теме больше, советую книгу: Haladyna T. M., Rodriguez M. C. Developing and validating test items (Routledge, 2013) — и другие работы её авторов. Правда, на русском языке она, к сожалению, не выходила.

К концу теста любой учащийся устаёт. Поэтому последние задания зачастую уже не дают никакой информации о знаниях тестируемого. Получается, делать тест слишком длинным нельзя.

Но и коротким он быть не может — у небольших тестов ниже надёжность. На какой-то вопрос учащийся даст неверный ответ по невнимательности, а где-то, наоборот, случайно угадает правильный вариант. Если тест будет достаточно объёмным, больше шансов, что такого рода ошибки уравновесят друг друга и итоговый результат будет достоверен.

Так как определить, какой длины должен быть тест? Нужно отталкиваться от времени на решение одного задания. Оно зависит от трудности и может составлять от нескольких десятков секунд до пяти минут. Также стоит учитывать возраст учащихся:

• Детям до подросткового возраста нельзя давать задание дольше, чем на 20 минут, — или нужно предусмотреть возможность перерыва в тесте.
• Для старших подростков и студентов, а также взрослых лучше исходить из продолжительности привычного занятия. Например, для старшеклассника нормально посвятить тесту урок в 45 минут (или два урока с переменой между ними). А для студентов уже можно написать тест и на 80 минут.
• В дополнительном образовании взрослых следует учитывать, что взрослый человек уже не считает себя обязанным участвовать ни в каких тестах. Ему нужна дополнительная мотивация. Например, можно пообещать индивидуальную обратную связь по результатам теста (и потом обязательно её предоставить!).

Золотое правило таково: чем больше часов на тему отведено в курсе, тем больше вопросов в финальном тесте. Потому что изначально, когда курс составлялся, большее число часов было запланировано на более важную тему.

Если темы не слишком дробные, хорошо бы поставить минимум три вопроса на каждую. Опять же, потому, что случайные ошибки уравновесят друг друга. Но обратную связь потом лучше давать не только по каждому отдельному заданию, но и по теме в целом.

Небольшое отступление: в психометрике задание может быть трудным, но не сложным. Трудность в этой науке понимают так же, как обычно в русском языке. Чтобы справиться с трудным заданием, нужно обладать высоким уровнем знаний по теме. Скорее всего, немногие ученики решат трудное задание.

А сложность — отдельное психометрическое понятие. Оно характеризует, сколько действий и когнитивных операций нужно выполнить в процессе решения. Возьмём математический пример. Задание разделить 0,219 на 0,365 трудное, но не сложное: оно состоит всего из одного действия.

И начинать тест следует с более лёгких заданий, то есть с нетрудных. В начале теста уровень стресса всегда выше, что искажает результаты. Если вопросы в тесте распределены по тематическим блокам, можно в каждом из них располагать задания от лёгких к трудным.

Кстати, вопрос о распределении по тематическим блокам сам по себе непростой. С одной стороны, правильнее, чтобы тестируемый концентрировался в каждый момент теста на одной теме. С другой стороны, иногда важно проверить, может ли он быстро переключаться с одной проблемы на другую.

Как именно поступить, решают в зависимости от дисциплины и задач теста. Но важно ставить всех тестируемых в одинаковые условия, чтобы результаты были сопоставимы.

В целом делить на блоки тест правильно: так тестируемый увидит, что тест не бесконечен. В ситуации компьютерного тестирования, когда нельзя пролистать задания и понять, сколько ещё осталось, это важно. И, конечно, нужно предупредить, если время на ответы ограничено.

Наиболее привычны сегодня тесты как в ЕГЭ — с четырьмя вариантами ответа. Иногда можно услышать, что это связано с объёмом рабочей памяти: якобы четыре варианта появились, потому что именно такое количество элементов средний человек способен одновременно удерживать в уме.

Психологи-когнитивисты такое обоснование считают ненаучным. Скорее всего, к четырём вариантам ответа практики пришли случайно, и ничего биологически или психологически заданного в этой цифре нет. Вариантов может быть и меньше — например, три.

А вот придумать больше неверных ответов обычно затруднительно.

Создание неправильных вариантов ответа — на самом деле сложное психометрическое мастерство. Не зря их называют дистракторами, то есть отвлекающими внимание от верного варианта.

Суть в том, что неправильные ответы должны быть похожи на правильный и привлекательны. Очевидно неправильных ответов нужно избегать, как и ответов из другой области. Например, если в вопросе стоит формулировка «В каком году?», все ответы должны быть датами примерно из одного диапазона.

Но неверные варианты не должны содержать в себе правильный ответ или какую-то его часть — иначе нужно в вопросе объяснить, что тестируемый должен выбрать самый правильный ответ.

Высший пилотаж — неправильные варианты на основе типичных ошибок студентов. Это позволяет давать более глубокую обратную связь: не просто показывать, где учащийся ошибся, а анализировать, почему он выбрал именно такой неправильный вариант.

Кроме надёжности, у любого теста есть ещё одно важное качество — валидность. По классическому определению, валидность — свойство теста измерять то, на что он направлен. Более современное определение гласит, что результаты валидного теста можно интерпретировать в той логике, в которой он создан.

И иногда на валидность может повлиять просто то, что тестируемый иначе (но не неправильно!) смотрит на ситуацию в задании.

Возьмём пример из теста на критическое мышление, разработанного в ВШЭ. Это тест‑симуляция онлайн-среды, в ней нужно общаться с ботом. Одна из задач — получить недостающую информацию для рецепта торта.

По идее, тестируемый должен задать боту конкретный вопрос, например: «Сколько яиц нужно добавить?» Но человек может начать с приветствия, и не потому, что не понял задание. Сказать «Привет, как дела?» перед тем, как уточнять рецепт, вообще‑то нормально. Но если об этом не подумать при составлении теста, такой ответ будет оцениваться как ошибочный.

Одно из частых опасений по поводу тестов и причин, почему в них предлагают добавлять больше вариантов ответа, — «угадайка». Кажется, что в задании с двумя вариантами ответа вероятность угадать составляет 50%. Но это верно только в случае, когда весь тест состоит из одного вопроса с двумя вариантами ответа.

Если добавить второй вопрос, в котором не будет подсказок к первому и наоборот, вероятности просто перемножатся. И шанс случайно угадать правильные ответы составит уже 25%. В случае с тестом из десяти заданий вероятность ответить на всё правильно случайно пренебрежимо мала.

Но такой расчёт справедлив только для тестов с хорошо написанными неправильными ответами.

На магистерской программе Института образования психометриков учат проверять работоспособность тестов все два учебных года. Попробуем коротко разобрать, что именно они изучают.

Проверить тест можно качественным или количественным методом. Качественный метод представляет собой интервью. Разработчик теста выдаёт задания представителю целевой группы, наблюдает за ним и расспрашивает. Так можно выяснить, всё ли понятно в заданиях, что именно тестируемый делает для решения, какие вопросы ставят его в тупик, а какие кажутся слишком простыми.

Цель качественной проверки — убедиться, что решение теста задействует именно те когнитивные процессы, которые требовалось вовлечь (скажем, тестируемый действительно решает математическую задачу, а не навскидку выбирает из вариантов наиболее подходящий), что варианты-дистракторы не содержат элементов правильного ответа, что все инструкции к тесту понятны и так далее.

Оценка работоспособности теста количественными методами — как раз психометрика в узком смысле слова. Проводится она через статистический анализ, для которого нужно порядка 100 наблюдений.

Понятно, что для каждого курса такую проверку не проведёшь, обычно достаточно интервью. Но количественная оценка обязательна, если по результатам теста принимается какое-либо решение — о зачислении на курс, о сертификации.

В результате разработчик теста получит все те же данные, что и при качественной оценке. К тому же количественная оценка покажет, какие вопросы и утверждения не измеряют то, что должны, а какие вообще избыточны — тест работает и без них.