Статистика on мои наблюдения

решение задачи на проверку несмещенности оценки

Wed, 19 Feb 2025 20:48:10 +0300

Пусть есть независимые одинаково распределенные случайные величины \(X_1, \ldots, X_n\) c математическим ожиданием \(\mu = \mathbb{E}X_1\) и дисперсией \(\sigma^2=\mathbb{D}X_1\). Необходимо проверить, является ли оценка \(\overline{X}^2\) для \(\mu^2\) несмещённой.

Для того, чтобы проверить, является ли оценка несмещённой, нужно найти её математическое ожидание, и проверить, равно ли оно \(\mu^2\).

Для начала запишем выражение для \(\overline{X}^2\):

\[\overline{X}^2 = \bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg)^2=\frac{1}{n^2}\bigg(\sum_{i=1}^n X_i\bigg)^2\]

Для поиска математического ожидания нужно раскрыть скобки:

\[\frac{1}{n^2}\bigg(\sum_{i=1}^n X_i\bigg)^2 = \sum_{i=1}^n X_i^2 + \sum_{i=1}^n\sum_{\substack{j=1\\i\ne j}}^n X_iX_j \]

Таким образом \(\overline{X}^2\) будет равно:

Дивергенция Кульбака-Лейблера

Sat, 07 Dec 2019 18:52:34 +0300

Разбираемся, что такое информация и энтропия на простых примерах.

Информация и энтропия

Sat, 07 Dec 2019 18:43:01 +0300

Разбираемся, что такое информация и энтропия на простых примерах.

Ковариация

Tue, 09 Apr 2019 17:58:52 +0300

Разбираемся с тем, что такое ковариация на простом примере.

Дисперсия

Mon, 08 Apr 2019 17:34:48 +0300

Разбираемся с тем, что такое дисперсия на простом примере.

Softmax

Mon, 11 Mar 2019 16:56:12 +0300

Разбираемся с тем, что такое softmax и как эта функция работает на простом примере.

и снова Байес

Sat, 02 Feb 2019 16:49:39 +0300

В статье разбираемся, как использовать теорему Байеса для оценки истинной вероятности заболевания после положительного теста, учитывая чувствительность и специфичность теста.

Отношение правдоподобий

Thu, 31 Jan 2019 16:42:08 +0300

Статья объясняет, как отношение правдоподобий помогает сравнивать гипотезы о параметре распределения, оценивая, насколько одна гипотеза более вероятна другой на основе имеющихся данных.

Правдоподобие и размер выборки

Wed, 30 Jan 2019 14:34:51 +0300

Разбираемся с тем, как влияет размер выборки на правдоподобие.

Комбинирование правдоподобий

Tue, 29 Jan 2019 14:29:09 +0300

Как можно комбинировать правдоподобия, умножая их, и объясняет, что объединение двух независимых выборок даёт такой же результат, как если бы данные поступили от одного источника с суммарным числом наблюдений.

Вероятность и правдоподобие

Tue, 29 Jan 2019 14:27:43 +0300

В чем разница между вероятностью и правдоподобием?

Функция правдоподобия и оценка максимального правдоподобия

Fri, 07 Dec 2018 11:03:35 +0300

Как функция правдоподобия помогает оценить вероятность неизвестного параметра, и почему метод максимального правдоподобия даёт наиболее вероятную оценку.

биномиальное распределение

Wed, 28 Nov 2018 10:54:55 +0300

Как биномиальное распределение помогает оценить вероятность определённого числа успехов в серии экспериментов с двумя исходами.

геометрический алгоритм Монте-Карло интегрирования

Sat, 27 Oct 2018 09:51:37 +0300

Геометрический метод Монте-Карло приближённо вычисляет интегралы, используя случайные точки внутри ограничивающей области.

MSE

Sat, 16 Jun 2018 09:47:04 +0300

Как среднеквадратичная ошибка (MSE) оценивает качество модели и как её использовать для сравнения предсказаний.

Правило Стёрджеса

Tue, 12 Jun 2018 08:55:14 +0300

Как правило Стёрджеса помогает определить количество интервалов в гистограмме, почему оно подходит для небольших выборок и какие альтернативные методы используются для больших данных.

Adam

Wed, 14 Mar 2018 12:43:41 +0300

Adam — оптимизационный алгоритм, который сочетает идеи градиентного спуска с моментом и RMSprop, автоматически адаптируя скорость обучения и корректируя смещение градиента.

Rmsprop

Mon, 12 Mar 2018 12:36:29 +0300

Как алгоритм RMSprop улучшает градиентный спуск, используя усредненный квадрат градиента для адаптивного выбора шага и ускорения сходимости.

Gradiend Descent With Momentum

Mon, 12 Mar 2018 12:11:53 +0300

Как ускорить градиентный спуск и уменьшить колебания с помощью метода Momentum, используя экспоненциально взвешенные средние градиентов.

Доверительный интервал

Mon, 12 Mar 2018 10:32:10 +0300

Как с помощью доверительного интервала оценить истинное значение параметра в генеральной совокупности, даже если доступны только выборочные данные.

Математическое ожидание

Sun, 25 Feb 2018 00:08:19 +0300

Как вычислить математическое ожидание для дискретных и непрерывных случайных величин и почему оно является средним значением при бесконечном числе наблюдений.

Градиентный спуск

Sat, 24 Feb 2018 23:01:17 +0300

Как градиентный спуск использует производные и шаг обучения для нахождения минимума функции и оптимизации параметров модели.

L2 Regularization

Sat, 24 Feb 2018 22:44:48 +0300

Как L2-регуляризация помогает бороться с переобучением, добавляя штраф за большие веса модели и улучшая её обобщающую способность.

Logistic Regression Cost Function

Sat, 24 Feb 2018 22:30:49 +0300

Как функция потерь и функция стоимости помогают обучать логистическую регрессию, минимизируя ошибку предсказания и обеспечивая выпуклость оптимизационной задачи.

R-квадрат

Sat, 24 Feb 2018 21:52:49 +0300

Как коэффициент детерминации помогает оценить качество линейной модели, почему его значение варьируется от 0 до 1 и что означает отрицательное значение.

Плотность распределения вероятностей

Sat, 24 Feb 2018 21:43:28 +0300

Плотность распределения вероятностей показывает, как распределена вероятность значений непрерывной случайной величины, и позволяет вычислять вероятность попадания в заданный интервал.

Интерквартильный размах

Sat, 24 Feb 2018 21:22:58 +0300

Как найти интерквартильный размах выборки, определить границы выбросов и почему он полезен для анализа разброса данных.

логистическая регрессия

Wed, 21 Feb 2018 20:45:33 +0300

Как логистическая регрессия использует сигмоиду для вероятностного предсказания и решения задач бинарной классификации.

Теорема Байеса

Wed, 21 Feb 2018 20:32:18 +0300

Как применить теорему Байеса на примере автобусов, чтобы вычислить вероятность того, что случайно выбранный новый автобус следует по определенному маршруту.

ЦПТ и распределение выборочных средних

Sat, 17 Feb 2018 20:26:02 +0300

Статья объясняет центральную предельную теорему (ЦПТ) и показывает, как распределение выборочных средних приближается к нормальному по мере увеличения размера подвыборки.

экспоненциальное распределение

Fri, 16 Feb 2018 20:10:46 +0300

Как экспоненциальное распределение моделирует время до наступления событий и как его применять для оценки вероятности отказов серверов или поступления критических инцидентов.

Bias Correction in Exponentially Weighted Averages

Fri, 16 Feb 2018 19:57:08 +0300

Как параметр β в экспоненциально взвешенных средних определяет количество усредняемых дней и почему его можно выразить через параметр ε.

Bias Correction in Exponentially Weighted Averages

Fri, 16 Feb 2018 18:09:35 +0300

В статье объясняется, как скорректировать начальное смещение (bias) в экспоненциально взвешенных средних, чтобы улучшить точность сглаживания временных рядов.

Exponentially Weighted Averages

Fri, 16 Feb 2018 16:54:27 +0300

Как экспоненциально взвешенные средние помогают сглаживать временные ряды, управляя балансом между быстрым откликом на изменения и устранением шума.