Сходимость по вероятности или распределению

Statistical convergence or distribution convergence

В чем разница между двумя?

Изображение от автора.

Во время изучения статистики вы сталкивались с концепциями сходимости по вероятности и сходимости по распределению? Когда-нибудь задумывались, почему эти концепции были введены в первую очередь? Если да, то эта история поможет вам ответить на некоторые из этих вопросов.

Сходимость по вероятности

Давайте начнем с погружения в концепцию сходимости по вероятности, так как она более прямолинейная. Представьте, что у нас есть последовательность случайных переменных: X1, X2, …, Xn, и когда мы позволяем n стремиться к бесконечности, если вероятность того, что Xn очень близко к x, стремится к 1, то мы можем заключить, что Xn сходится к x по вероятности.

Почему она определена именно так? Основанием для этого определения является тот факт, что, независимо от того, насколько большим становится n, Xn никогда не будет точно равно x (константе). Максимум, что мы можем установить, это указать, насколько близко Xn должно быть к x в терминах вероятности того, что Xn попадает в определенный интервал вокруг x.

Таким образом, наше определение утверждает, что по мере приближения n к бесконечности вероятность того, что Xn отклоняется от x на величину большую, чем ε, стремится к бесконечно малому уровню, в конечном итоге стремится к нулю. Более того, ε может быть произвольно малым.

Иллюстративным примером сходимости по вероятности является понятие выборочного среднего. Рассмотрим ситуацию, когда мы многократно выбираем n выборок из нормального распределения с математическим ожиданием 0 и стандартным отклонением 0.1. Если мы вычисляем выборочное среднее этих n выборок, то полученное выборочное среднее становится случайной переменной, обозначенной как Xn, и обладает своим собственным распределением.

Тогда возникает вопрос: Какова природа этого распределения? Когда n=1, выборочное среднее просто эквивалентно самой выборке, и его распределение отражает распределение в популяции, точнее нормальное распределение с математическим ожиданием 0 и стандартным отклонением 0.1.

Но что, если n=1000? Интуитивно, в таких случаях мы ожидаем, что вычисленное выборочное среднее будет очень близким к среднему значению в популяции, которое равно 0. Разумно предположить, что при многократном выборе 1000 выборок и вычислении выборочного среднего, …