Если у вас возникли сложности с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой - мы готовы помочь.
Предоплата всего
Подписываем
Лабораторная работа №3
Цель работы:
Теоретические сведения
Наиболее часто применяемыми числовыми характеристиками случайной величины являются начальные и центральные моменты различного порядка. Для дискретной случайной величины моменты порядка определяются следующими формулами:
, ,
для непрерывной случайной величины :
, .
Чаще всего используется первый начальный момент , называемый математическим ожиданием случайной величины , и второй центральный момент , называемый дисперсией. Матожидание – это среднее значение случайной величины, его называют еще центром распределения, дисперсия характеризует разброс случайной величины относительно центра распределения. Часто вместо дисперсии используют среднее квадратичное отклонение
Если закон распределения случайной величины неизвестен, то мы не сможем вычислить числовые характеристики. В этом случае их заменяют оценками, полученными как функции выборки . Всякую функцию от выборки называют статистикой. Подходящую статистику используют в качестве оценки числовой характеристики. Чаще всего оценками начальных и центральных моментов служат соответствующие выборочные начальные и центральные моменты
, .
Таким образом, оценкой математического ожидания служит выборочное среднее , но в качестве оценки можно взять и, например, величину и другие величины.
Чтобы иметь практическую ценность, оценка некоторого параметра должна удовлетворять следующим требованиям:
Например, среднее выборочное является состоятельной оценкой математического ожидания, а – несостоятельной. Второй выборочный центральный момент
является состоятельной оценкой дисперсии, но эта оценка смещенная. Несмещенными являются оценки
и .
Если случайная величина распределена по нормальному закону, то оценка является и эффективной.
Пусть закон распределения известен, но зависит от одного или нескольких неизвестных параметров. Например, – известная плотность распределения, а – неизвестный параметр. Требуется по выборке оценить параметр .
Существует несколько методов оценки параметра . Мы рассмотрим два из них – метод моментов и метод функции правдоподобия.
Метод моментов заключается в том, что теоретический момент -го порядка приравнивают к соответствующему выборочному моменту . Из полученного уравнения находят неизвестный параметр . Например, случайная величина (время безотказной работы радиоаппаратуры) распределена по экспоненциальному закону
, ,
где – неизвестный параметр. Оценим его по методу моментов. Для этого найдем первый начальный момент
.
Так как первый выборочный момент равен , то из равенства получим . Таким образом, оценкой неизвестного параметра , найденной по методу моментов, является среднее выборочное .
Пусть – плотность распределения выборочного вектора , – неизвестный параметр. – функция двух аргументов, неслучайного и случайного , называется функцией правдоподобия. Так как – плотность распределения, то оценка параметра , доставляющая максимум функции правдоподобия, является наиболее вероятной. Отсюда
или
есть необходимые условия существования максимума. Оценка, полученная из условий , называется оценкой наибольшего правдоподобия.
Пусть – случайная выборка из генеральной совокупности, распределенной по нормальному закону
,
где – неизвестный параметр. Запишем функцию правдоподобия. Так как – независимые случайные величины, распределенные по тому же закону, а плотность распределения вектора равна произведению плотностей составляющих вектора, то функция правдоподобия будет следующей:
.
Пусть – дискретная случайная величина, закон распределения которой зависит от неизвестного параметра . Будем рассматривать выборку как реализацию того, что случайная величина приняла последовательно значения . Вероятность этого равна произведению вероятностей. Следовательно, функция правдоподобия будет
.
Например, для дискретной случайной величины, распределенной по закону Пуассона
,
функция правдоподобия согласно может быть записана в виде
.
Здесь – целые неотрицательные числа. Однако при больших вычисления по формуле могут приводить к переполнениям разрядной сетки.
Получение оценок параметров иллюстрируется примерами 3.1-3.4.
В данных примерах создается выборка случайных чисел с нормальным законом распределения при заданных параметрах и .
По полученной выборке вычисляются первый начальный момент и второй центральный момент, которые могут служить состоятельными несмещенными оценками математического ожидания и дисперсии случайной величины.
Следующий раздел примеров показывает, как оценки этих параметров могут быть получены по методу максимального правдоподобия. Для этого вводятся функции правдоподобия и определяются их экстремумы. В примере приводятся графики функций правдоподобия.
В примере также иллюстрируется использования метода наибольшего правдоподобия к оценке параметров дискретной случайной величины, распределенной по закону Пуассона. Находятся оценки параметра по методу моментов и по методу максимального правдоподобия.
n=50; mu=-1; sigma=2; x=normrnd(mu,sigma,1,n);
m1=1/n*sum(x)
m2=1/(n-1)*sum((x-m1).^2), s=sqrt(m2)
f=inline(...
'exp(-(x-mu).^2/2/sigma^2)/sqrt(2*pi*sigma^2)',...
'x','mu','sigma');
L=inline('-prod(feval(f,x,theta(1),theta(2)))',...
'theta','f','x');
m=fminsearch(L,[0,1],[],f,x)
mu1=m(1)-1:0.1:m(1)+1; sigma1=m(2)-1:0.1:m(2)+1;
for i=1:length(mu1), for j=1:length(sigma1)
L1(i,j)=L([mu1(i),sigma1(j)],f,x);
end, end
L1=L1/L(m,f,x); surfl(mu1,sigma1,L1), pause
n=20; mu=5; x=poissrnd(mu,1,n);
m1=1/n*sum(x)
p=inline('exp(-mu)*mu.^x/factorial(x(1))',...
'x','mu');
L=inline('-prod(feval(p,x,theta))',...
'theta','p','x');
m=fminsearch(L,[1],[],p,x)
mu2=m-2:0.1:m+2;
for i=1:length(mu2), L2(i)=L(mu2(i),p,x); end
L2=L2/L(m,p,x); plot(mu2,L2)
Изучив теоретическое введение и примеры, разработать собственный документ, решающий следующие задачи:
Расчитать по двум документам для объемов выборок 10, 50 и 100.
Сравнить полученные результаты с теоретическими и сделать выводы о правильности проделанной работы.
Записать функцию правдоподобия для закона Коши:
.
Можно ли оценить параметр по методу наибольшего правдоподобия?