1. Введение
Пусть в области задана случайная величина T. Вероятность реализации случайного события, для которого выполняется условие T<t, определяется интегральной функцией распределения [3], [5]
[LATEX_FORMULA]F(t) =P(T<t). [/LATEX_FORMULA]
Во многих случаях функция F(t) представляется несобственным интегралом от дифференциальной функции распределения случайной величины f(t)
[LATEX_FORMULA]F(z)=\int_{-∞}^zf(t)dt,[/LATEX_FORMULA]
где f(t) также может определяться несобственным интегралом.
Интегральная функция распределения непрерывна на отрезке её определения [-∞,b], в том числе для случая b=+∞, и при значении t, изменяющимся в области её определения, возрастает от 0 до 1. В ряде задач требуется найти дифференциальную функцию распределения случайной величины T, которая является суммой двух независимых случайных величин T=X1+Х2 с известными плотностями распределения f1(x1) и f2(x1). Известно, что дифференциальная функция f(t) для распределения T является свёрткой двух функций f1(x), f2(x) [3], [8]
[LATEX_FORMULA]f(t)=\int_{-∞}^{+∞}f_1 (x)f_2 (t-x) dx. [/LATEX_FORMULA]
Формула (3) легко обобщается на случай нахождения суммы трёх и более независимых случайных величин. В качестве примера найдём дифференциальную функцию f(t) для случайной величины T, являющейся суммой трёх случайных величин U=X1+Х2+Х3 с известными плотностями распределения f1(x), f2(x), f3(x). Поскольку плотность распределения суммы двух случайных величин X1+Х2 определяется формулой (3), то искомая плотность для трёх случайных величин равна
[LATEX_FORMULA]f(u)=∫_{-∞}^{+∞}[∫_{-∞}^{+∞}f_1 (x)f_2 (t-x)dх]f_3 (u-t) dt. [/LATEX_FORMULA]
Несобственные интегралы (2)-(4) зачастую невозможно взять в явном виде, поэтому их значения рассчитываются численными методами, которые требуют использования значительных временных ресурсов. Поэтому исследование подобных ситуаций и разработка соответствующих оптимальных вычислительных методов имеет практический интерес. Настоящая работа посвящена рассмотрению алгоритмов численных методов, обеспечивающих расчёт интегралов типа (2)-(4) в задачах теории вероятности и математической статистики.
2. Методы и принципы исследования
Цель исследования – разработка алгоритма расчёта несобственных интегралов в теории вероятностей при вычислении функций распределения случайной величины. Для достижения цели необходимо провести анализ численных методов, используемых при вычислении интегралов, и рассмотреть решение следующих задач:
- выбрать алгоритм расчёта несобственных интегралов типа (2)-(4);
- определить погрешности выбранных алгоритмов при вычислении функций распределения случайной величины, зависящей от суммы случайных величин с известными плотностями распределения.
3. Основные результаты
3.1. Выбор алгоритма расчёта несобственных интегралов
Первый шаг при вычислении несобственных интегралов (2)-(4) связан с заменой бесконечных пределов интегрирования конечными значениями a и b, что позволяет перейти к вычислению определённого интеграла на отрезке [a, b]. Величины a и b зависят от функций распределения случайной величины и заданной погрешности вычислений ξ. Например, условие обеспечения точности определения дифференциальной функции (3) имеет вид
[LATEX_FORMULA]|∫_a^b f_1 (x)f_2 (t-x) dx-∫_{-∞}^{+∞} f_1 (x)f_2 (t-x) dx|<\zeta ,x∈[a,b],t∈[tmax_{min}][/LATEX_FORMULA]
Потребуем, чтобы замена бесконечного предела при вычислении интеграла (2) обеспечивала расчётную погрешность не более ξ
[LATEX_FORMULA]\left|\int_{z_{\min }}^z f(t) d t-\int_{-\infty}^z f(t) d t\right|<\xi, t \in\left[t_{\min }, t_{\max }\right], z \in\left[z_{\min }, z_{\max }\right][/LATEX_FORMULA]
Величина первого интеграла [LATEX_FORMULA]∫_{z_{min}}^zf(t)dt[/LATEX_FORMULA] в условии (6) определяется точным значением интегральной суммы S [10]
[LATEX_FORMULA]\int_{\min }^z f(t) d t=S=\sum_{i=1}^n f\left(t_i^*\right) h_i, t \in\left[t_{\min }, t_{\max }\right], z \in\left[z_{\min }, z_{\max }\right].[/LATEX_FORMULA]
где – значение подынтегральной функции в точке принадлежащей i-му интервалу hi, ∑hi=tmax-tmin..
При вычислении интегральной суммы S значения нижнего и верхнего предела zmin, zmax выбираются таким образом, чтобы обеспечить необходимую точность расчёта ξ:
[LATEX_FORMULA]\left|\int_{-\infty}^z f(t) d t-S\right|<\xi, t \in\left[t_{\min }, t_{\max }\right], z \in\left[z_{\min }, z_{\max }\right][/LATEX_FORMULA]
Поскольку значение F(z) принадлежит отрезку [0,1], то величина интегральной суммы при zmax должна удовлетворять условию:
[LATEX_FORMULA]|1-S|<\zeta.[/LATEX_FORMULA]
Исходя из сказанного видно, что решение поставленной задачи сводится к вычислению интегральной суммы S. К настоящему времени разработаны эффективные методы её расчёта с достаточно высокой точностью. Один из них основан на использовании квадратурных формул Ньютона – Котеса [7], в котором для вычисления частичной суммы на каждом интервале hi подыитегральная функция представляется в виде интерполяционного многочлена Лагранжа. Наиболее простые квадратурные формулы реализованы в методах трапеции [11], левых, правых и средних прямоугольников [6] и парабол [11]. Они широко используются в учебном процессе и во многих прикладных задачах. В случае метода средних прямоугольников с постоянным шагом hi=h интегральная сумма S в формуле (8) представляется в приближённом виде
[LATEX_FORMULA]S \approx S^*=h \sum_{i=1}^{i-n} f\left(t_i+h / 2\right),[/LATEX_FORMULA]
с обеспечением погрешности не более, чем величина
[LATEX_FORMULA]\xi=n\left|f^*\left(t^*\right)\right| h^3 / 24,[/LATEX_FORMULA]
где n – число интервалов, zmin- zmax = nh, – максимальное значение второй производной функции в точке
В работе [4] показано, что погрешность вычисления определённых интегралов для абсолютного значения второй производной при числе интервалов n=1000 составляет около 10-8. Подобная точность вполне приемлема при определении несобственных интегралов типа (2), (3), для которых подынтегральная функция достаточно точно выражается алгебраическим многочленом малой степени, обеспечивающим небольшую величину второй производной в формуле (11). Если вторая производная велика или определяется плотностью распределения суммы нескольких случайных величин, то можно воспользоваться тем же методом средних прямоугольников с переменным шагом hi. В этом случае интегральная функция (10) представляется в виде суммы
[LATEX_FORMULA]S^*=\sum_{i=1}^{\infty} h_1 f\left(t_i+h_i / 2\right),[/LATEX_FORMULA]
которая вычисляется для известной дифференциальной функции распределения на отрезке
Существует несколько способов формирования изменяющейся длины интервала, отслеживающей скорость изменения подынтегральной функции. Воспользуемся простой формулой
[LATEX_FORMULA]h_{i+1}=h_i\left|f^{\prime}\left(t_i\right) / f^{\prime}\left(t_{t+1}\right)\right|,[/LATEX_FORMULA]
которая устанавливает размер последующего i+1-го интервала в зависимости от длины hi пропорционально уменьшению или увеличению первой производной в точке ti+1 по сравнению с её значением в начале этого интервала в точке ti.
В первом приближении значения производных можно вычислять по формулам
[LATEX_FORMULA]f^{\prime}\left(t_t\right)=\left(t_i+\delta_i\right) / \delta_i, f^{\prime}\left(t_{t+1}\right)=\left(t_{t+1}+\delta_{i+1}\right) / \delta_{i+1},[/LATEX_FORMULA]
где значения δi, δi+1 – достаточно малые приращения, равные размеру интервала hi или меньше его.
Алгоритм определения интегральной функции распределения случайной величины, заданной несобственным интегралом (2), реализуется в следующем порядке:
А. Определение величины интервала разбиения области интегрирования. На первом этапе необходимо установить конечные области изменения параметров t и z в формуле (2), обеспечивающие возможность представления интегральной функции распределения для суммы двух случайных величин в виде
[LATEX_FORMULA]F(z)=\int_{\min }^z f(t) d t, t \in\left[t_{\min}, t_{\text {max}}\right], z \in\left[z_{\text {min}}, z_{\text {max}}\right].[/LATEX_FORMULA]
с погрешностью не более ξ.
В случае интегральной функции распределения для суммы трёх случайных величин области изменения параметров u, t и z в формуле (4) соответствуют условиям
[LATEX_FORMULA]u \in\left[u_{\min }, u_{\text {max}}\right], t \in\left[t_{\min}, t_{\operatorname{max}}\right], z \in\left[z_{\min }, z_{\text {max }}\right],[/LATEX_FORMULA]
Пример. Пусть требуется найти интегральную функцию для случайной величины T, являющейся суммой двух случайных величин X1 и X2 с известными плотностями распределения f1(x) и f2(x). Предположим, что область изменения функции f1(x) удовлетворяет условию а область изменения функции f2(x) - условию Тогда областью изменения интегральной функции является .
Б. Выбор численного метода интегрирования. На втором этапе следует выбрать численный метод расчёта интегралов. Во многих случаях самый простой метод средних прямоугольников может оказаться вполне приемлемым.
Если вторая производная подынтегральной функции велика или определяется плотностью распределения суммы нескольких случайных величин, то потребуются более точные решения. Среди них отметим использование переменного интервала в сочетании с методом Симпсона, что позволит снизить погрешность на четыре и более порядков [4].
В. Тестирование выбранного алгоритма. Оценка выбранного алгоритма предполагает обязательное тестирование путём сравнения полученных результатов с известными точными решениями.
3.2. Тестирование разработанного алгоритма и примеры определения функции распределения случайной величины, являющейся суммой нескольких случайных величин
Проверка предлагаемого алгоритма проводилась на двух различных функциях распределения с известными решениями:
- вычисление интегральной функции распределения случайной величины в соответствие с нормальным законом,
- определение дифференциальной и интегральной функции распределения для суммы двух случайных величин, подчиняющихся различным законам распределения.
Интегральная функция в случае нормального распределения случайной величины с математическим ожиданием a, равным 0, и среднеквадратическим отклонением, равным σ=1, имеет вид [5]
[LATEX_FORMULA]F(z)=\frac{1}{\sqrt{2 \pi}} \int_{-\infty}^z e^{-\frac{t^2}{2}} d t .[/LATEX_FORMULA]
Заменим несобственный интеграл (17) его приближённым значением
[LATEX_FORMULA]F^*(z)=\frac{1}{\sqrt{2 \pi}} \int_{t_{min}}^z e^{-\frac{t^2}{2}} d t[/LATEX_FORMULA]
Подынтегральная функция в формуле (18) быстро снижается с увеличением |t| и при асимптотически стремится к нулю. Можно показать, что замена интеграла (17) его приближённым значением (18) на отрезке [-5, +5] обеспечивает погрешность не более ξ=0.00006 [3]. С целью повышения точности проведены вычисления в интервале .
Результаты, полученные методом средних прямоугольников, представлены в таблице 1 для числа интервалов от 5 до 20.
Значения интегральной функции для нормального распределения с математическим ожиданием a=0 и σ=1 для различных z с использованием метода средних прямоугольников в зависимости от числа одинаковых интервалов n
| z | =5 | =8 | =10 | =14 | =20 |
| -10 | 0,00000 | 0,00000 | 0,00000 | 0,00000 | 0,00000 |
| -3 | 0,00060 | 0,00098 | 0,00110 | 0,00122 | 0,00128 |
| 0 | 0,49281 | 0,50000 | 0,50000 | 0,50000 | 0,50000 |
| 3 | 0,93862 | 0,99890 | 0,99934 | 0,99906 | 0,99887 |
| 4 | 1,14536 | 1,00070 | 0,99994 | 0,99998 | 0,99998 |
| 10 | 1,59684 | 0,91501 | 0,98562 | 0,99987 | 1,00000 |
Сравнение значений интегральной функции распределения случайной величины, представленных в таблице 1, с данными таблицы II в работе [5], где приведены значения вероятности в интервале с удержанием первых четырёх цифр после запятой, совпадают для вариантов вычислений в случае 14 и 20 интервалов с точностью до 10-4.
Определение погрешности реализованного алгоритма вычисления интегральной функции (17) путём замены её определённым интегралом (18) в интервале с использованием критерия точности (9) проводилось для числа интервалов n от 101 до 105. Результаты приведены в таблице 2.
Погрешность вычисления интегральной функции для нормального распределения с математическим ожиданием a=0 и σ=1 методом средних прямоугольников для различного числа одинаковых интервалов n при z=10
| n | 1 | 2 | 3 | 4 | 5 |
| Погрешность | -2 | -11 | -13 | -15 | -15 |
Проведённые расчёты показывают, что метод средних прямоугольников с постоянным интервалом обеспечивает высокую точность вычислений. Например, согласно таблицы 2, погрешность определения функции распределения случайной величины для 104 и 105 интервалов составляет не более10-15. Затраты машинного времени для числа разбиений n=105 не превышали одной секунды.
Обеспечение высокой точности расчётов в сочетании с малыми затратами машинных ресурсов связано с достаточно гладкой подынтегральной функцией в формуле (17), которая равна
Максимальная величина второй производной нормального распределения (17) достигается при z=0 и равна . Следовательно, максимальная погрешность ζ достигается в нескольких интервалах, расположенных в окрестности точки z=0. В соответствие с формулой (11) величина погрешности εmax для одного такого интервала при n=104 составляет около 1,3·10-10. Абсолютное значение второй производной быстро падает по мере увеличения |z|.
Поскольку число интервалов с максимальным значением второй производной во много раз меньше по сравнению с количеством остальных интервалов, то общая погрешность расчёта интеграла будет на несколько порядков меньше εmax.
Данные таблицы 2 показывают, что погрешность ζ на 5 порядков ниже по сравнению с максимальным его значением ζmax для интервалов в окрестности z=0.
Проведём тестирование обсуждаемого метода на примере интегральной функции распределения для суммы двух случайных величин, подчиняющихся двум известным различным законам распределения. Пусть заданы две дифференциальные функции распределения случайной величины
[LATEX_FORMULA]f_1(x)=\begin{cases}{l} 0, x<0 \\ 0 \leq x \leq 1 \\ 0, x>1 \end{cases}[/LATEX_FORMULA]
[LATEX_FORMULA] f_2(x)=\begin{cases}{l} 0, x<0 \\ e^{-x}, 0 \leq x<\infty, \end{cases} [/LATEX_FORMULA]
для которых можно найти дифференциальную (3) и интегральную (2) функции распределения в аналитической форме.
После подстановки (19), (20) в выражение (3) получим следующие формулы, определяющие дифференциальную функцию f(t) для двух случайных величин:
Cумма двух случайных величин t, определяемая дифференциальными функциями (19), (20) для x<0, не может быть равной отрицательному числу. Поэтому вероятность события f(t), при котором t<0, равна нулю:
[LATEX_FORMULA]f(t)=0 \text{ при } t<0.[/LATEX_FORMULA]
Дифференциальная функция (19) равна 1 на отрезке [0,1] и равна нулю вне этого отрезка. Следовательно, её величина отлична от нуля на отрезке [0,1] и определяется только плотностью второй случайной величины.
Значение x не может быть больше суммы двух случайных величин, равной t на отрезке [0,1]. Поэтому, исходя из вышесказанного, формула (3) преобразуется к виду
[LATEX_FORMULA]f(t)=\int_0^t \mathrm{e}^{x-t} d x=1-\mathrm{e}^{-t} .[/LATEX_FORMULA]
При t>1, формула (3) имеет вид
[LATEX_FORMULA]f(t)=\int_0^1 \mathrm{e}^{x-\mathrm{t}} d x=\mathrm{e}^{-\mathrm{t}}(\mathrm{e}-1)[/LATEX_FORMULA]
Функция распределения (3) для суммы двух случайных величин рассчитывалась двумя способами:
- с помощью численного метода средних прямоугольников с использованием интегральной суммы (10),
- с использованием точного аналитического решения (21)- (23).
Значения f(t), вычисленные двумя методами, представлены в таблице 3 для числа интервалов от 10 до 104.
Максимальная точность достигалась при n=104 с погрешностью в шестом знаке после запятой. Повышение количества интервалов до 105-106 не приводило к снижению погрешности.
Значения дифференциальной функции распределения суммы двух случайных величин, найденных по точным формулам (21) - (23), и вычисленные методом средних прямоугольников для постоянной величины интервалов на отрезке [0,15] в зависимости от числа интервалов n
| t | 10 | 2 | 3 | 4 | Точное решение |
| 0,0 | 0,00000 | 0,00000 | 0,00000 | 0,00000 | 0,00000 |
| 0,5 | 0,39437 | 0,39355 | 0,39347 | 0,39347 | 0,39347 |
| 1,0 | 0,63788 | 0,63264 | 0,63217 | 0,63212 | 0,63212 |
| 1,5 | 0,40808 | 0,38579 | 0,38363 | 0,38342 | 0,38340 |
| 2,0 | 0,22164 | 0,23156 | 0,23244 | 0,23253 | 0,23254 |
| 3,0 | 0,10547 | 0,08747 | 0,08574 | 0,08556 | 0,08555 |
Тестирование используемого алгоритма свидетельствуют о достаточно высокой точности численных данных, полученных методом средних прямоугольников при определении дифференциальной функции распределения случайной величины. Согласно полученным данным погрешность расчётов находится на уровне 10-2 при n=10. По мере увеличения числа разбиений погрешность снижается до10-4 при n=1000 и до 10-5 при n=10 000.
Подстановка формул (21)-(23) в (2) позволяет найти аналитическое выражение для интегральной функции распределения суммы двух случайных величин
[LATEX_FORMULA]F(z)=\left\{\begin{array}{l} 0, z<0 \\ z=\int_0^z\left(1-e^{-z}\right) d z=t+e^{-z}-1,0 \leq z \leq 1 \\ e^{-1}+\int_1^z e^{-z}(e-1) d z=e^{-1}+(e-1)\left(e^{-1}-e^{-z}\right), 1 \leq z<\infty . \end{array}\right.[/LATEX_FORMULA]
Результаты вычислений по точным формулам (24) и с использованием численного метода средних прямоугольников для постоянной величины интервала h на отрезке [0,15] представлены в таблице 4.
Значения интегральной функции, найденные по формуле (24) и вычисленные методом средних прямоугольников при n=100
| z | 0,0 | 0,5 | 1,0 | 2,0 | 4,0 | 6,0 |
| , формула (23) | 0,000 | 0,106 | 0.367 | 0,767 | 0,968 | 0,996 |
| , численный метод | 0,000 | 0,106 | 0,366 | 0,766 | 0,968 | 0,996 |
Согласно данным в табл. 4 погрешность численного метода для интегральной функции распределения при n=100 составляет около 10-3, что на несколько порядков хуже по сравнению с нормальным распределением (таблица 2). Точность вычисления зависит от выбранного расчётного метода, количества интервалов и установленных пределов интегрирования С целью оптимального выбора исходных параметров рекомендуется провести предварительные вычисления с использованием дифференциальной функции распределения f(t). В качестве примера в таблице 5 приведены рассчитанные значения f(t) в зависимости от n и tmax.
Вычисленные значения дифференциальной функции распределения f(t) (3) в зависимости от числа интервалов n при величине t, равного верхнему пределу tmax в области [tmin, tmax]
| max | 5 | 10 | 15 | 20 |
| 2 | 0,0115776340013 | 0,0000780094843 | 0,0000005256238 | -15 |
| 3 | 0,0115776861008 | 0,0000780098353 | 0,0000005256261 | -15 |
| 4 | 0,0115776913108 | 0,0000780098704 | 0,0000005256264 | -15 |
Из таблицы 5 видно, что достаточно хорошие результаты достигаются при tmax≥5 и количестве разбиений n ≥102, обеспечивающих погрешность менее 10-8. Однако полученная точность меньше по сравнению с нормальным распределением (таблица 2), когда при n=102 погрешность составляет около 1011.
Зависимость дифференциальной f(t) и интегральной F(t) функций распределения суммы двух случайных величин
На рисунке 1 приведена зависимость дифференциальной f(t) и интегральной F(z) функций распределения суммы двух случайных величин, определяемых формулами (2) и (3).Из рисунка 1 видно, что функция f(t) по сравнению с нормальным распределением изменяется быстрее. Поэтому погрешность расчётов в данном случае оказывается более высокой.
4. Заключение
Проведён анализ численных методов расчёта несобственных интегралов, используемых в теории вероятности и математической статистике. Разработан алгоритма расчёта несобственных интегралов с параметром при вычислении дифференциальной и интегральной функций распределения случайной величины, являющихся суммой нескольких случайных величин с известными плотностями распределения.
Результаты тестирования предлагаемых методов при относительно малых значениях второй производной подынтегрального выражения показали высокую эффективность использования метода средних прямоугольников с постоянной величиной интервала разбиения. Погрешность вычислений интегральной функции при числе интервалов n=100÷1000 в этом случае составляет около 10-4. Повышение n до 104÷105 снижает погрешность до 10-5÷10-15 без существенных затрат времени выполнения кода программы.
Если вторая производная подынтегральной функции велика или определяется плотностью распределения для суммы более чем двух случайных величин, то потребуются более точные решения. Среди них отметим возможность использования переменного интервала в сочетании, например, с методами Симпсона или Гаусса, обеспечивающих более высокую точность.