Posts on мои наблюдения

Гибель Ян-ди

Sun, 09 Nov 2025 21:00:00 +0300

Суй Ян-ди, второй император династии Суй, чьё правление ознаменовалось масштабными строительными проектами и военными кампаниями, которые в конечном итоге привели к падению династии.

Танский Тай-цзун

Sat, 08 Nov 2025 10:00:00 +0300

Ли Шиминь, второй император династии Тан, известный как император Тай-цзун, прославившийся своими военными и административными достижениями.

заряд

Mon, 12 May 2025 15:48:28 +0300

Обзор понятия заряда как обобщения меры: его формальное определение, ключевые свойства, примеры (включая корректные и некорректные), а также отличия между конечным, счётно конечным зарядом и мерой.

Пурпурный цвет в истории Китая

Thu, 01 May 2025 10:00:00 +0300

Пурпурный цвет в Китае проделал огромный путь от вторичного и презираемого цвета до символа знатности и богатства.

В древнем Китае с большой серьёзностью относились к тканям и их окраске, поэтому при каждой династии существовали должности, ответственные за контроль этой сферы.

Практически все аспекты жизни древнего Китая регулировались учением о пяти элементах: дерево, огонь, земля, металл и вода. Каждый элемент ассоциировался с определённым цветом: дерево — синий (青 «цин»), огонь — красный, земля — желтый, металл — белый, вода — чёрный. Следует уточнить, что цвет 青 «цин», связанный с деревом, лишь условно переводится на русский язык как «синий», потому что этим словом обозначали широкий диапазон оттенков от зеленого до синего.

решение задачи на проверку несмещенности оценки

Wed, 19 Feb 2025 20:48:10 +0300

Пусть есть независимые одинаково распределенные случайные величины \(X_1, \ldots, X_n\) c математическим ожиданием \(\mu = \mathbb{E}X_1\) и дисперсией \(\sigma^2=\mathbb{D}X_1\). Необходимо проверить, является ли оценка \(\overline{X}^2\) для \(\mu^2\) несмещённой.

Для того, чтобы проверить, является ли оценка несмещённой, нужно найти её математическое ожидание, и проверить, равно ли оно \(\mu^2\).

Для начала запишем выражение для \(\overline{X}^2\):

\[\overline{X}^2 = \bigg(\frac{1}{n}\sum_{i=1}^n X_i\bigg)^2=\frac{1}{n^2}\bigg(\sum_{i=1}^n X_i\bigg)^2\]

Для поиска математического ожидания нужно раскрыть скобки:

\[\frac{1}{n^2}\bigg(\sum_{i=1}^n X_i\bigg)^2 = \sum_{i=1}^n X_i^2 + \sum_{i=1}^n\sum_{\substack{j=1\\i\ne j}}^n X_iX_j \]

Таким образом \(\overline{X}^2\) будет равно:

вероятность объединения событий: от определения к практичной формуле

Tue, 10 Dec 2024 20:32:00 +0300

В статье разбираемся, как прийти от определения объединения событий к общеизвестной формуле.

алгебра множеств

Mon, 09 Dec 2024 14:16:28 +0300

В статье рассматривается пример построения алгебры множеств.

пример сходимости по вероятности

Sat, 07 Dec 2024 13:50:03 +0300

В статье рассматривается пример, иллюстрирующий понятие сходимости случайной величины по вероятности.

сходимость по вероятности и матожидание

Sat, 07 Dec 2024 13:47:03 +0300

В статье рассматривается пример, иллюстрирующий утверждение, что сходимость случайной величины по вероятности не означает сходимости ее матожидания.

условная вероятность

Fri, 15 Sep 2023 21:22:56 +0300

Условная вероятность на простом примере.

выпуклое множество

Thu, 23 Mar 2023 21:02:02 +0300

Разбираемся с тем, что такое выпуклое множество и чем оно отличается от аффинного

аффинная оболочка

Tue, 21 Mar 2023 20:40:49 +0300

В статье рассматривается понятие аффинной оболочки.

аффинная комбинация точек

Tue, 21 Mar 2023 12:36:11 +0300

В статье рассматривается, что такое аффинная комбинация точек.

теорема об аффинном множестве

Mon, 20 Mar 2023 22:07:06 +0300

В статье рассматривается важное свойство аффинного множества: если из него вычесть любую точку, то получится одно и то же линейное подпространство.

аффинное множество

Mon, 20 Mar 2023 21:56:02 +0300

В статье рассматривается, что такое аффинное множество

Сумма факториальных моментов

Wed, 01 Mar 2023 20:55:10 +0300

Разбираемся с тем, как решить задачу про подсчет суммы факториальных моментов случайной величины.

количество σ-алгебр

Tue, 28 Feb 2023 19:26:14 +0300

Разбираемся с тем, как решить задачу про подсчет количества σ-алгебр.

Геометрическая интерпретация нормы Фробениуса

Wed, 21 Apr 2021 18:56:43 +0300

Разбираемся с тем, какую геометрическую интерпретацию имеет норма Фробениуса.

Дивергенция Кульбака-Лейблера

Sat, 07 Dec 2019 18:52:34 +0300

Разбираемся, что такое информация и энтропия на простых примерах.

Информация и энтропия

Sat, 07 Dec 2019 18:43:01 +0300

Разбираемся, что такое информация и энтропия на простых примерах.

LeakyReLU

Sat, 05 Oct 2019 18:26:07 +0300

Разбираемся, что представляет из себя функция LeakyReLU и чем она отличается от обычной ReLU.

Ковариация

Tue, 09 Apr 2019 17:58:52 +0300

Разбираемся с тем, что такое ковариация на простом примере.

Дисперсия

Mon, 08 Apr 2019 17:34:48 +0300

Разбираемся с тем, что такое дисперсия на простом примере.

Softmax

Mon, 11 Mar 2019 16:56:12 +0300

Разбираемся с тем, что такое softmax и как эта функция работает на простом примере.

и снова Байес

Sat, 02 Feb 2019 16:49:39 +0300

В статье разбираемся, как использовать теорему Байеса для оценки истинной вероятности заболевания после положительного теста, учитывая чувствительность и специфичность теста.

Отношение правдоподобий

Thu, 31 Jan 2019 16:42:08 +0300

Статья объясняет, как отношение правдоподобий помогает сравнивать гипотезы о параметре распределения, оценивая, насколько одна гипотеза более вероятна другой на основе имеющихся данных.

Правдоподобие и размер выборки

Wed, 30 Jan 2019 14:34:51 +0300

Разбираемся с тем, как влияет размер выборки на правдоподобие.

Комбинирование правдоподобий

Tue, 29 Jan 2019 14:29:09 +0300

Как можно комбинировать правдоподобия, умножая их, и объясняет, что объединение двух независимых выборок даёт такой же результат, как если бы данные поступили от одного источника с суммарным числом наблюдений.

Вероятность и правдоподобие

Tue, 29 Jan 2019 14:27:43 +0300

В чем разница между вероятностью и правдоподобием?

k-armed бандит и 𝜺-greedy алгоритм. Оптимистичная инициализация переменной.

Thu, 27 Dec 2018 14:22:44 +0300

Оптимистичная инициализация оценочного вознаграждения Q заставляет даже жадный алгоритм исследовать альтернативные действия, что в долгосрочной перспективе приводит к лучшим результатам по сравнению с ε-жадным методом.

k-armed бандит и 𝜺-greedy алгоритм. Нестационарная проблема.

Thu, 27 Dec 2018 13:53:21 +0300

В нестационарной задаче многорукого бандита эффективность ε-жадного алгоритма снижается, но её можно восстановить, увеличив количество шагов и заменив изменяющийся коэффициент обновления на постоянный.

k-armed бандит и 𝜺-greedy алгоритм

Wed, 26 Dec 2018 13:05:57 +0300

ε-жадный алгоритм балансирует между исследованием и использованием знаний для решения проблемы многорукого бандита, помогая находить оптимальную стратегию вознаграждения.

Функция правдоподобия и оценка максимального правдоподобия

Fri, 07 Dec 2018 11:03:35 +0300

Как функция правдоподобия помогает оценить вероятность неизвестного параметра, и почему метод максимального правдоподобия даёт наиболее вероятную оценку.

биномиальное распределение

Wed, 28 Nov 2018 10:54:55 +0300

Как биномиальное распределение помогает оценить вероятность определённого числа успехов в серии экспериментов с двумя исходами.

геометрический алгоритм Монте-Карло интегрирования

Sat, 27 Oct 2018 09:51:37 +0300

Геометрический метод Монте-Карло приближённо вычисляет интегралы, используя случайные точки внутри ограничивающей области.

MSE

Sat, 16 Jun 2018 09:47:04 +0300

Как среднеквадратичная ошибка (MSE) оценивает качество модели и как её использовать для сравнения предсказаний.

Правило Стёрджеса

Tue, 12 Jun 2018 08:55:14 +0300

Как правило Стёрджеса помогает определить количество интервалов в гистограмме, почему оно подходит для небольших выборок и какие альтернативные методы используются для больших данных.

PReLU

Fri, 18 May 2018 08:35:54 +0300

Как PReLU улучшает ReLU, добавляя обучаемые параметры для отрицательных значений, и как это влияет на обучение нейросетей.

вымывание и взрыв градиента

Thu, 17 May 2018 08:21:48 +0300

Почему в глубоких нейросетях возникают проблемы вымывания градиента и градиентного взрыва, как они связаны с последовательным умножением весов и почему это мешает обучению.

elimination и permutation матрицы

Tue, 01 May 2018 08:11:12 +0300

Как elimination и permutation матрицы используются для приведения матрицы к треугольному виду, упрощая вычисления в линейной алгебре.

ReLU

Thu, 19 Apr 2018 20:57:41 +0300

Почему ReLU стала стандартной активационной функцией в нейросетях, как она ускоряет обучение по сравнению с tanh, и какие преимущества даёт в глубоких моделях.

Пример простой CNN

Wed, 11 Apr 2018 10:09:20 +0300

Пошаговый разбор свёрточной нейросети: как изображение проходит через несколько сверточных слоев, изменяя размерность, и как финальный слой формирует предсказание.

Слой CNN

Tue, 10 Apr 2018 13:20:47 +0300

Как сверточный слой CNN преобразует входное изображение, применяя фильтры, добавляя смещения и используя нелинейные функции активации для формирования многоканального представления.

Свёртка и слои

Mon, 09 Apr 2018 13:14:57 +0300

Как свёртка применяется к цветным изображениям, как фильтры обрабатывают отдельные цветовые каналы и как формируется многослойное представление в нейросетях.

Stride

Mon, 09 Apr 2018 13:05:38 +0300

Как шаг свертки (stride) влияет на размер выходного изображения, ускоряет обработку и уменьшает вычислительную сложность в сверточных нейросетях.

Padding

Sat, 07 Apr 2018 13:00:56 +0300

Как padding помогает сохранить размер изображения при свертке, предотвращает потерю краевой информации и влияет на тип свертки (valid или same).

Adam

Wed, 14 Mar 2018 12:43:41 +0300

Adam — оптимизационный алгоритм, который сочетает идеи градиентного спуска с моментом и RMSprop, автоматически адаптируя скорость обучения и корректируя смещение градиента.

Rmsprop

Mon, 12 Mar 2018 12:36:29 +0300

Как алгоритм RMSprop улучшает градиентный спуск, используя усредненный квадрат градиента для адаптивного выбора шага и ускорения сходимости.

Gradiend Descent With Momentum

Mon, 12 Mar 2018 12:11:53 +0300

Как ускорить градиентный спуск и уменьшить колебания с помощью метода Momentum, используя экспоненциально взвешенные средние градиентов.

Доверительный интервал

Mon, 12 Mar 2018 10:32:10 +0300

Как с помощью доверительного интервала оценить истинное значение параметра в генеральной совокупности, даже если доступны только выборочные данные.

Математическое ожидание

Sun, 25 Feb 2018 00:08:19 +0300

Как вычислить математическое ожидание для дискретных и непрерывных случайных величин и почему оно является средним значением при бесконечном числе наблюдений.

Градиентный спуск

Sat, 24 Feb 2018 23:01:17 +0300

Как градиентный спуск использует производные и шаг обучения для нахождения минимума функции и оптимизации параметров модели.

L2 Regularization

Sat, 24 Feb 2018 22:44:48 +0300

Как L2-регуляризация помогает бороться с переобучением, добавляя штраф за большие веса модели и улучшая её обобщающую способность.

Logistic Regression Cost Function

Sat, 24 Feb 2018 22:30:49 +0300

Как функция потерь и функция стоимости помогают обучать логистическую регрессию, минимизируя ошибку предсказания и обеспечивая выпуклость оптимизационной задачи.

R-квадрат

Sat, 24 Feb 2018 21:52:49 +0300

Как коэффициент детерминации помогает оценить качество линейной модели, почему его значение варьируется от 0 до 1 и что означает отрицательное значение.

Плотность распределения вероятностей

Sat, 24 Feb 2018 21:43:28 +0300

Плотность распределения вероятностей показывает, как распределена вероятность значений непрерывной случайной величины, и позволяет вычислять вероятность попадания в заданный интервал.

Интерквартильный размах

Sat, 24 Feb 2018 21:22:58 +0300

Как найти интерквартильный размах выборки, определить границы выбросов и почему он полезен для анализа разброса данных.

логистическая регрессия

Wed, 21 Feb 2018 20:45:33 +0300

Как логистическая регрессия использует сигмоиду для вероятностного предсказания и решения задач бинарной классификации.

Теорема Байеса

Wed, 21 Feb 2018 20:32:18 +0300

Как применить теорему Байеса на примере автобусов, чтобы вычислить вероятность того, что случайно выбранный новый автобус следует по определенному маршруту.

ЦПТ и распределение выборочных средних

Sat, 17 Feb 2018 20:26:02 +0300

Статья объясняет центральную предельную теорему (ЦПТ) и показывает, как распределение выборочных средних приближается к нормальному по мере увеличения размера подвыборки.

экспоненциальное распределение

Fri, 16 Feb 2018 20:10:46 +0300

Как экспоненциальное распределение моделирует время до наступления событий и как его применять для оценки вероятности отказов серверов или поступления критических инцидентов.

Bias Correction in Exponentially Weighted Averages

Fri, 16 Feb 2018 19:57:08 +0300

Как параметр β в экспоненциально взвешенных средних определяет количество усредняемых дней и почему его можно выразить через параметр ε.

Bias Correction in Exponentially Weighted Averages

Fri, 16 Feb 2018 18:09:35 +0300

В статье объясняется, как скорректировать начальное смещение (bias) в экспоненциально взвешенных средних, чтобы улучшить точность сглаживания временных рядов.

Exponentially Weighted Averages

Fri, 16 Feb 2018 16:54:27 +0300

Как экспоненциально взвешенные средние помогают сглаживать временные ряды, управляя балансом между быстрым откликом на изменения и устранением шума.