Как найти икс критическое

5.7. Критерий согласия Пирсона

Спасибо, Карл:  …Всем

понятно, почему величина  случайная? – По той причине, что в разных выборках мы будем получать

разные, заранее непредсказуемые эмпирические частоты.

При достаточно большом  (объёме выборки) распределение этой случайной

величины близкО к распределению хи-квадрат с количеством степеней свободы , где  – количество оцениваемых параметров закона .

Далее строится правосторонняя критическая область:

Критическое значение  можно найти с помощью соответствующей

таблицы или Макета (пункт 3б).

Наблюдаемое значение критерия рассчитывается по эмпирическим и найденным теоретическим

частотам:
Если , то на уровне значимости

 нет оснований

генеральная совокупность распределена по закону . То есть, различие между эмпирическими и теоретическими

частотами незначимо и, скорее всего, обусловлено случайными факторами (случайностью самой выборки, способом отбора,

группировки данных и т.д.)
Если , то нулевую гипотезу

отвергаем, иными словами эмпирические и теоретические частоты отличаются значимо, и это различие вряд ли

случайно.

И, наконец, коровы, которые нас уже заждались. Реалистичность фактических данных оставлю на совести автора методички

сельскохозяйственной академии:

Пример 36

По результатам выборочного исследования найдено распределение средних удоев молока в фермерском хозяйстве (литров) от

одной коровы за день:

На уровне значимости 0,05 проверить гипотезу о том, что генеральная совокупность (средний удой коров

всей фермы) распределена нормально. Построить эмпирическую гистограмму и теоретическую кривую.

…Если не любите молоко, то пусть это будет чай, сок, пиво или другой напиток, который вам нравится Чтобы было

интереснее исследовать эту волшебную ферму.

Решение: на уровне значимости  проверим гипотезу  о нормальном распределении генеральной совокупности против

конкурирующей гипотезы  о том,

что она так НЕ распределена. Используем критерий  согласия Пирсона .

Эмпирические частоты известны из предложенного интервального ряда, и

осталось найти теоретические. Для этого нужно вычислить выборочную среднюю  и выборочное стандартное отклонение . Выберем в качестве вариант  середины частичных интервалов (длина каждого интервала ) и заполним расчётную таблицу:

Вычислим выборочную среднюю:  литра.

Выборочную дисперсию вычислим по формуле:

И выборочное стандартное отклонение:  литра, по причине большого объёма выборки его исправлением можно пренебречь.
Теоретические частоты рассчитываются по формуле:
, где  – функция Гаусса, а .

Входные данные известны:   и

мы заполняем ещё одну расчётную таблицу:

вычисления удобно проводить в Экселе и на всякий случай я распишу 1-ю строчку:

 – здесь выгодно использовать

встроенную экселевскую функцию =НОРМРАСП(-2,23; 0; 1; 0), первый аргумент которой равен текущему значению . За неимением Экселя и калькулятора

пользуйтесь стандартной таблицей, которая есть в любом учебнике по теорверу.

И, наконец, теоретическая частота: , довольно часто её округляют до целого значения, но без округления

результат всё же точнее.

Построим эмпирическую гистограмму с высотой «ступенек»  и теоретическую кривую, которая проходит через точки :

Нормальная кривая построена на основе выборочных данных (выборочной средней и стандартного отклонения), и

наилучшим образом приближает гистограмму. Дальнейшая задача состоит в том, чтобы оценить, насколько ЗНАЧИМО отличаются

эмпирические частоты (ступеньки гистограммы) от соответствующих теоретических частот (уровень коричневых

точек).

Но перед тем как сравнивать теоретические и эмпирические частоты, следует объединить интервалы с малыми (меньше пяти)

частотами. В данном случае объединяем два первых и два последних интервала, для этого суммируем частоты, обведённые красным

цветом, и получаем оранжевые результаты:

Это нужно для того, чтобы сгладить неоправданно большое расхождением между малыми частотами по краям выборки. Действие не

обязательное, но крайне желательное, ибо студентов на моей памяти из-за этого заставляли переделывать задание.

Найдём критическое значение  критерия согласия Пирсона. Количество степеней свободы определяется

по формуле , где  – количество интервалов, а  – количество оцениваемых

параметров рассматриваемого закона распределения.

Так как мы объединяли интервалы, то теперь их не девять, а .
У нормального закона мы оцениваем  параметра.

Пояснение:  – это

итого два оцениваемых параметра.

Таким образом,  и для

уровня значимости :

Это значение можно найти по таблице критических значений распределения хи-квадрат или

с помощью Макета (Пункт 3б).

При  нулевая гипотеза

отвергается, а при  таких

оснований нет (заметьте, что формулировка не утверждает истинность гипотезы!):

Вычислим наблюдаемое значение критерия  (суть – сумму расхождений между частотами), для этого

заполним ещё одну расчётную табличку:

На всякий пожарный пример расчёта: .

В нижней строке таблицы у нас получилось готовое значение , поэтому на уровне значимости 0,05 гипотезу  о нормальном распределении генеральной

совокупности отвергаем.

Иными словами различие между эмпирическими и теоретическими частотами статистически значимо и вряд ли объяснимо

случайными факторами. При этом с вероятностью 5% мы совершили ошибку 1-го рода (то есть, ген.

совокупность на самом деле распределена нормально, но мы отвергли верную нулевую гипотезу).

Ответ: на уровне значимости 0,05 гипотезу о нормальном распределении генеральной совокупности

отвергаем

В чём может быть причина? Ведь по теореме Ляпунова, большинство коров не оказывают практически никакого влияния

на удой других коров, и поэтому распределение ген. совокупности должно быть близкО к нормальному.

Причины могут быть разными. Например, неоднородный состав совокупности (коровы разной породы), или на ферме есть

VIP-хлев, где коровы получают улучшенное питание А может быть, некоторые коровы больны и как раз оказывают существенное

влияние на остальных, в связи с чем нарушается условие теоремы Ляпунова.

Интересно отметить, что при уменьшении уровня значимости до 0,01 критическое значение , и гипотеза о нормальном распределении уже принимается.

Однако не нужно забывать, что здесь выросла -вероятность того, что мы приняли неправильную гипотезу (совершили ошибку 2-го рода). С оценкой этой вероятности можно ознакомиться в специализированной литературе

по статистике.

И, конечно, в случае сомнений имеет смысл увеличить объём выборки, чтобы провести повторное исследование.

Да, и видео по вычислениям! Хотя особой технической новизны

тут нет.

Рассмотренная задача может встретиться в более простой или более сложной формулировке. В версии-«лайт» вам предложат

готовые теоретические частоты, где остаётся только проверить гипотезу. Продвинутое же условие звучит примерно так:

На основании исследования выборки выдвинуть гипотезу о законе распределения генеральной совокупности

То есть, здесь не говорится о том, что предполагаемый закон нормальный (или какой-то другой) – этот

вопрос вам предлагается проанализировать самостоятельно.

Каким образом это можно сделать?

Во-первых, гипотезу можно выдвинуть априорно, даже не исследуя выборку. В частности, на основании упомянутой выше

теоремы Ляпунова: если каждый объект совокупности оказывается ничтожно малое влияние на всю совокупность, то её

распределение близкО к нормальному.

Это утверждение носит статус теоремы! То есть, строго доказано в теории.

Но по условию, требуют опираться на выборочные данные, и здесь есть сразу несколько признаков, чтобы «вычислить»

этот закон. Самый простой и наглядный способ – графический. Грубо говоря, чертим и смотрим. Интервальный вариационный ряд чаще

всего изображают гистограммой, возвращаемся к нашим коровам:

Построенная гистограмма по форме напоминает колоколообразный график плотности нормального распределения,

и это является веской причиной предположить, что генеральная совокупность распределена нормально. Да, здесь есть слишком

высокий средний столбик, но, возможно, это просто случайность выборки.

Если столбики примерно одинаковы по высоте, то предполагаем, что генеральная совокупность распределена равномерно. Для показательного распределениятоже будет

своя, характерная гистограмма.

 В случае дискретных распределений тоже никаких проблем – строим полигон и смотрим,

на что он похож.

Следующие признаки аналитические, приведу их для нормального распределения:

1) У нормального распределения математическое ожидание совпадает с модой и

медианой. В нашем случае соответствующие выборочные показатели весьма близкИ друг к другу (матожидание оценивается выборочной средней):

  (литры)

Желающие могут рассчитать моду и медиану

самостоятельно. Впрочем, желающими часто становятся поневоле, поскольку задача, которую мы рассматриваем, нередко идёт в

комплексе со всеми этими заданиями.

2) Выполнение правила «трёх» сигм. Практически все значения нормальной случайной величины находятся в

интервале . Найдём этот интервал

для нашей выборки. Матожидание «а» оценивается выборочной средней , а стандартное отклонение «сигма» – выборочным стандартным

отклонением .Таким образом, наш

эмпирический интервал:

 – и в него действительно

попадают все коровы!

3) Кроме того, есть ещё коэффициенты

асимметрии и эксцесса нормального распределения, которые не вошли в этот курс

На практике в исследование желательно включить все пункты за исключением, возможно, третьего (т.к. асимметрию и

эксцесс рассчитывают далеко не всегда).

Следует отметить, что перечисленные выше предпосылки ещё не означают, что соответствующая гипотеза будет принята, в чём

мы недавно убедились. А если гипотеза и окажется принятой, то это всё равно на 100% не гарантирует нормальность распределения

(так как существует -вероятность принять неверную гипотезу (ошибка 2-го рода)).

И, конечно, задача для самостоятельного решения, передаю привет студентам Университета путей сообщения:

Пример 37

В результате проверки 500 контейнеров со стеклянными изделиями установлено, что число повреждённых изделий  имеет следующее эмпирическое распределение:

( – количество

повреждённых изделий в контейнере,  – количество контейнеров) …Здесь тоже представьте изделия по своему

интересу

С помощью критерия согласия Пирсона на уровне значимости 0,05 проверить гипотезу о том, что случайная величина  – число повреждённых

изделий распределена по закону

Пуассона.

Перелистываем страницу и читаем инструкцию по решению.

Все числа забиты в Эксель, придерживайтесь следующего алгоритма:

1) Находим выборочную среднюю . Это значение будет точечной

оценкой параметра «лямбда» теоретического распределения .
2) Находим значения  для . Вычисления можно проводить на

обычном калькуляторе, но удобнее использовать экселевскую функцию =ПУАССОН(i; «икс выборочное»; 0).

3) Находим теоретические частоты

4) Находим критическое значение  критерия согласия Пирсона, где . В данной задаче мы объединяем две последние варианты

ввиду их малых частот, следовательно, . Оценивается один параметр («лямбда»), поэтому .

5) Рассчитываем наблюдаемое значение критерия .

6) Делаем вывод.

Примерный образец чистового оформления задачи в конце книги.

5.8. Итоги по главе

5.6. Гипотеза о законе распределения генеральной совокупности

| Оглавление |



Pearson’s chi-squared test () is a statistical test applied to sets of categorical data to evaluate how likely it is that any observed difference between the sets arose by chance. It is the most widely used of many chi-squared tests (e.g., Yates, likelihood ratio, portmanteau test in time series, etc.) – statistical procedures whose results are evaluated by reference to the chi-squared distribution. Its properties were first investigated by Karl Pearson in 1900.^[1] In contexts where it is important to improve a distinction between the test statistic and its distribution, names similar to Pearson χ-squared test or statistic are used.

It tests a null hypothesis stating that the frequency distribution of certain events observed in a sample is consistent with a particular theoretical distribution. The events considered must be mutually exclusive and have total probability 1. A common case for this is where the events each cover an outcome of a categorical variable.
A simple example is the hypothesis that an ordinary six-sided die is «fair» (i. e., all six outcomes are equally likely to occur.)

Definition[edit]

Pearson’s chi-squared test is used to assess three types of comparison: goodness of fit, homogeneity, and independence.

• A test of goodness of fit establishes whether an observed frequency distribution differs from a theoretical distribution.
• A test of homogeneity compares the distribution of counts for two or more groups using the same categorical variable (e.g. choice of activity—college, military, employment, travel—of graduates of a high school reported a year after graduation, sorted by graduation year, to see if number of graduates choosing a given activity has changed from class to class, or from decade to decade).^[2]
• A test of independence assesses whether observations consisting of measures on two variables, expressed in a contingency table, are independent of each other (e.g. polling responses from people of different nationalities to see if one’s nationality is related to the response).

For all three tests, the computational procedure includes the following steps:

1. Calculate the chi-squared test statistic, , which resembles a normalized sum of squared deviations between observed and theoretical frequencies (see below).
2. Determine the degrees of freedom, df, of that statistic.
   1. For a test of goodness-of-fit, df = Cats − Parms, where Cats is the number of observation categories recognized by the model, and Parms is the number of parameters in the model adjusted to make the model best fit the observations: The number of categories reduced by the number of fitted parameters in the distribution.
   2. For a test of homogeneity, df = (Rows − 1)×(Cols − 1), where Rows corresponds to the number of categories (i.e. rows in the associated contingency table), and Cols corresponds to the number of independent groups (i.e. columns in the associated contingency table).^[2]
   3. For a test of independence, df = (Rows − 1)×(Cols − 1), where in this case, Rows corresponds to the number of categories in one variable, and Cols corresponds to the number of categories in the second variable.^[2]
3. Select a desired level of confidence (significance level, p-value, or the corresponding alpha level) for the result of the test.
4. Compare to the critical value from the chi-squared distribution with df degrees of freedom and the selected confidence level (one-sided, since the test is only in one direction, i.e. is the test value greater than the critical value?), which in many cases gives a good approximation of the distribution of .
5. Sustain or reject the null hypothesis that the observed frequency distribution is the same as the theoretical distribution based on whether the test statistic exceeds the critical value of . If the test statistic exceeds the critical value of , the null hypothesis ( = there is no difference between the distributions) can be rejected, and the alternative hypothesis ( = there is a difference between the distributions) can be accepted, both with the selected level of confidence. If the test statistic falls below the threshold value, then no clear conclusion can be reached, and the null hypothesis is sustained (we fail to reject the null hypothesis), though not necessarily accepted.

Test for fit of a distribution[edit]

Discrete uniform distribution[edit]

In this case observations are divided among cells. A simple application is to test the hypothesis that, in the general population, values would occur in each cell with equal frequency. The «theoretical frequency» for any cell (under the null hypothesis of a discrete uniform distribution) is thus calculated as

and the reduction in the degrees of freedom is , notionally because the observed frequencies are constrained to sum to .

One specific example of its application would be its application for log-rank test.

Other distributions[edit]

When testing whether observations are random variables whose distribution belongs to a given family of distributions, the «theoretical frequencies» are calculated using a distribution from that family fitted in some standard way. The reduction in the degrees of freedom is calculated as , where is the number of parameters used in fitting the distribution. For instance, when checking a three-parameter Generalized gamma distribution, , and when checking a normal distribution (where the parameters are mean and standard deviation), , and when checking a Poisson distribution (where the parameter is the expected value), . Thus, there will be degrees of freedom, where is the number of categories.

The degrees of freedom are not based on the number of observations as with a Student’s t or F-distribution. For example, if testing for a fair, six-sided die, there would be five degrees of freedom because there are six categories or parameters (each number); the number of times the die is rolled does not influence the number of degrees of freedom.

Calculating the test-statistic[edit]

The value of the test-statistic is

where

The chi-squared statistic can then be used to calculate a p-value by comparing the value of the statistic to a chi-squared distribution. The number of degrees of freedom is equal to the number of cells , minus the reduction in degrees of freedom, .

The chi-squared statistic can be also calculated as

This result is the consequence of the Pythagorean theorem.

The result about the numbers of degrees of freedom is valid when the original data are multinomial and hence the estimated parameters are efficient for minimizing the chi-squared statistic. More generally however, when maximum likelihood estimation does not coincide with minimum chi-squared estimation, the distribution will lie somewhere between a chi-squared distribution with and degrees of freedom (See for instance Chernoff and Lehmann, 1954).

Bayesian method[edit]

In Bayesian statistics, one would instead use a Dirichlet distribution as conjugate prior. If one took a uniform prior, then the maximum likelihood estimate for the population probability is the observed probability, and one may compute a credible region around this or another estimate.

Testing for statistical independence[edit]

In this case, an «observation» consists of the values of two outcomes and the null hypothesis is that the occurrence of these outcomes is statistically independent. Each observation is allocated to one cell of a two-dimensional array of cells (called a contingency table) according to the values of the two outcomes. If there are r rows and c columns in the table, the «theoretical frequency» for a cell, given the hypothesis of independence, is

where is the total sample size (the sum of all cells in the table), and

is the fraction of observations of type i ignoring the column attribute (fraction of row totals), and

is the fraction of observations of type j ignoring the row attribute (fraction of column totals). The term «frequencies» refers to absolute numbers rather than already normalized values.

The value of the test-statistic is

Note that is 0 if and only if , i.e. only if the expected and true number of observations are equal in all cells.

Fitting the model of «independence» reduces the number of degrees of freedom by p = r + c − 1. The number of degrees of freedom is equal to the number of cells rc, minus the reduction in degrees of freedom, p, which reduces to (r − 1)(c − 1).

For the test of independence, also known as the test of homogeneity, a chi-squared probability of less than or equal to 0.05 (or the chi-squared statistic being at or larger than the 0.05 critical point) is commonly interpreted by applied workers as justification for rejecting the null hypothesis that the row variable is independent of the column variable.^[4]
The alternative hypothesis corresponds to the variables having an association or relationship where the structure of this relationship is not specified.

Assumptions[edit]

The chi-squared test, when used with the standard approximation that a chi-squared distribution is applicable, has the following assumptions:^[5]

Simple random sample

The sample data is a random sampling from a fixed distribution or population where every collection of members of the population of the given sample size has an equal probability of selection. Variants of the test have been developed for complex samples, such as where the data is weighted. Other forms can be used such as purposive sampling.^[6]

Sample size (whole table)

A sample with a sufficiently large size is assumed. If a chi squared test is conducted on a sample with a smaller size, then the chi squared test will yield an inaccurate inference. The researcher, by using chi squared test on small samples, might end up committing a Type II error. For small sample sizes the Cash test is preferred.^[7][8]

Expected cell count

Adequate expected cell counts. Some require 5 or more, and others require 10 or more. A common rule is 5 or more in all cells of a 2-by-2 table, and 5 or more in 80% of cells in larger tables, but no cells with zero expected count. When this assumption is not met, Yates’s correction is applied.

Independence

The observations are always assumed to be independent of each other. This means chi-squared cannot be used to test correlated data (like matched pairs or panel data). In those cases, McNemar’s test may be more appropriate.

A test that relies on different assumptions is Fisher’s exact test; if its assumption of fixed marginal distributions is met it is substantially more accurate in obtaining a significance level, especially with few observations. In the vast majority of applications this assumption will not be met, and Fisher’s exact test will be over conservative and not have correct coverage.^[9]

Derivation[edit]

Examples[edit]

Fairness of dice[edit]

A 6-sided die is thrown 60 times. The number of times it lands with 1, 2, 3, 4, 5 and 6 face up is 5, 8, 9, 8, 10 and 20, respectively. Is the die biased, according to the Pearson’s chi-squared test at a significance level of 95% and/or 99%?

The null hypothesis is that the die is unbiased, hence each number is expected to occur the same number of times, in this case, 60/n = 10. The outcomes can be tabulated as follows:

1	5	10	−5	25
2	8	10	−2	4
3	9	10	−1	1
4	8	10	−2	4
5	10	10	0	0
6	20	10	10	100
Sum	134

We then consult an Upper-tail critical values of chi-square distribution table, the tabular value refers to the sum of the squared variables each divided by the expected outcomes. For the present example, this means

This is the experimental result whose unlikeliness (with a fair die) we wish to estimate.

The experimental sum of 13.4 is between the critical values of 97.5% and 99% significance or confidence (p-value). Specifically, getting 20 rolls of 6, when the expectation is only 10 such values, is unlikely with a fair die.

Chi-Squared Goodness of Fit Test

In this context, the frequencies of both theoretical and empirical distributions are unnormalised counts, and for a chi-squared test the total sample sizes of both these distributions (sums of all cells of the corresponding contingency tables) have to be the same.

For example, to test the hypothesis that a random sample of 100 people has been drawn from a population in which men and women are equal in frequency, the observed number of men and women would be compared to the theoretical frequencies of 50 men and 50 women. If there were 44 men in the sample and 56 women, then

If the null hypothesis is true (i.e., men and women are chosen with equal probability), the test statistic will be drawn from a chi-squared distribution with one degree of freedom (because if the male frequency is known, then the female frequency is determined).

Consultation of the chi-squared distribution for 1 degree of freedom shows that the probability of observing this difference (or a more extreme difference than this) if men and women are equally numerous in the population is approximately 0.23. This probability is higher than conventional criteria for statistical significance (0.01 or 0.05), so normally we would not reject the null hypothesis that the number of men in the population is the same as the number of women (i.e., we would consider our sample within the range of what we would expect for a 50/50 male/female ratio.)

Problems[edit]

The approximation to the chi-squared distribution breaks down if expected frequencies are too low. It will normally be acceptable so long as no more than 20% of the events have expected frequencies below 5. Where there is only 1 degree of freedom, the approximation is not reliable if expected frequencies are below 10. In this case, a better approximation can be obtained by reducing the absolute value of each difference between observed and expected frequencies by 0.5 before squaring; this is called Yates’s correction for continuity.

In cases where the expected value, E, is found to be small (indicating a small underlying population probability, and/or a small number of observations), the normal approximation of the multinomial distribution can fail, and in such cases it is found to be more appropriate to use the G-test, a likelihood ratio-based test statistic. When the total sample size is small, it is necessary to use an appropriate exact test, typically either the binomial test or, for contingency tables, Fisher’s exact test. This test uses the conditional distribution of the test statistic given the marginal totals, and thus assumes that the margins were determined before the study; alternatives such as Boschloo’s test which do not make this assumption are uniformly more powerful.

It can be shown that the test is a low order approximation of the test.^[12] The above reasons for the above issues become apparent when the higher order terms are investigated.

See also[edit]

• Chi-squared nomogram
• Cramér’s V – a measure of correlation for the chi-squared test
• Degrees of freedom (statistics)
• Deviance (statistics), another measure of the quality of fit
• Fisher’s exact test
• G-test, test to which chi-squared test is an approximation
• Lexis ratio, earlier statistic, replaced by chi-squared
• Mann–Whitney U test
• Median test
• Minimum chi-square estimation

Notes[edit]

References[edit]