- •ОГЛАВЛЕНИЕ
- •ПРЕДИСЛОВИЕ
- •ГЛАВА 1. СТАТИСТИЧЕСКИЙ АНАЛИЗ ЭКСПЕРИМЕНТАЛЬНЫХ ДАННЫХ
- •1.1. Основные понятия
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •1.2. Точечное оценивание параметров распределения
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •1.3. Выборочные распределения
- •1.4. Интервальное оценивание параметров распределения
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •1.5. Проверка статистических гипотез
- •1.6. Критерии значимости
- •1.6.1. Проверка гипотезы о равенстве математического ожидания заданному значению
- •1.6.3. Сравнение двух дисперсий нормально распределенных признаков
- •1.6.4. Сравнение нескольких дисперсий нормально распределенных признаков
- •1.6.5. Сравнение двух средних в случае независимых нормально распределенных признаков
- •1.6.6. Сравнение двух средних в случае зависимых нормально распределенных признаков
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •ГЛАВА 2. ЭЛЕМЕНТЫ РЕГРЕССИОННОГО АНАЛИЗА
- •Пример решения задачи
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •2.4. Криволинейная регрессия
- •Пример решения задачи
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •2.5. Множественная регрессия
- •Пример решения задачи
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •ГЛАВА 3. ПЛАНИРОВАНИЕ ЭКСПЕРИМЕНТА
- •3.1. Цель и этапы эксперимента
- •3.2. Выбор факторов
- •3.3. Выбор основного уровня и интервалов варьирования
- •3.4. Пример решения задачи (матрица эксперимента)
- •3.5.1. Матрица полного факторного эксперимента в общем виде
- •3.5.3. Проведение эксперимента
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •3.6. Модели со взаимодействиями
- •Пример решения задачи
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •3.7. Расчет дисперсии воспроизводимости
- •Пример решения задачи
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •3.8. Проверка адекватности эмпирического уравнения регрессии
- •Примеры решения задач
- •Задачи для самостоятельного решения
- •Ответы к задачам
- •Список использованной литературы
- •Список рекомендованной литературы
Получаем, b0 0,071 b1 0,0071. |
Тогда линейное уравнение регрессии |
||
имеет вид Y 0,071 0,0071X , а |
искомая зависимость запишется как |
||
V |
t |
|
|
|
(рис. 11). |
|
|
0,071 0,0071t |
|
Рис. 11
Задачи для самостоятельного решения
Задача 35. Установить вид зависимости по данным:
|
t |
2 |
|
4 |
12 |
25 |
30 |
|
60 |
80 |
|
V |
3 |
|
7 |
12 |
16 |
17 |
|
20 |
22 |
Задача 36. Установить вид зависимости по данным: |
|
|||||||||
|
t |
|
|
|
|
|
|
25 |
|
|
|
0 |
|
5 |
10 |
15 |
20 |
|
30 |
||
|
Y |
42 |
|
54 |
74 |
100 |
136 |
|
182 |
254 |
Задача 37. Установить вид зависимости по данным: |
|
|||||||||
|
t |
|
|
|
|
|
|
2 |
|
|
|
1 |
|
1,2 |
1,4 |
1,7 |
1,9 |
|
2,3 |
||
|
Z |
2,0 |
|
3,6 |
5,7 |
10,5 |
14,8 |
|
17,3 |
26,7 |
|
|
|
Ответы к задачам |
|
|
|||||
35. V 5ln(t) ; 36. |
Y 40,8e0,06t ; 37. |
Z 2,02x3,1 . |
|
|
2.5. Множественная регрессия
Во многих случаях необходимо исследовать зависимость величины у от нескольких переменных X1, X2 , ..., Xn . Эти переменные X1, X2 , ..., Xn назы-
ваются факторами, а зависимая переменная |
y — откликом (параметром |
||||
оптимизации). |
Зависимость |
отклика |
от |
изучаемых |
факторов |
y f (X1, X2 , ..., Xn ) называется функцией отклика. |
|
|
42
Поскольку вид функции отклика, как правило, неизвестен, ее представляют в виде полинома (многочлена) и, находя по экспериментальным данным оценки коэффициентов полинома, получают эмпирическое уравнение регрессии в виде
|
l |
l |
l |
|
|
yˆ |
b0 bj X j bj, t X j Xt bj, j X 2j |
... |
(21) |
||
|
j 1 |
j t |
j 1 |
|
|
Коэффициент b0 называется оценкой свободного члена уравнения регрессии, коэффициенты bj — оценками линейных эффектов, bj, t — оценками эффектов взаимодействия, bj, j — оценками квадратичных эффектов.
На практике обычно ограничиваются рассмотрением задачи определения коэффициентов линейного
|
l |
|
|
|
|
|
yˆ b0 bj |
X j b2 X2 ... b1X2 |
... |
bl Xl |
(22) |
||
|
j 1 |
|
|
|
|
|
или квадратичного |
|
|
|
|
|
|
|
l |
|
bj, t X j Xt |
l |
|
|
yˆ |
b0 bj X j |
bj, j X 2j |
(23) |
|||
|
j 1 |
|
j t |
j 1 |
|
|
уравнения регрессии. В некоторых случаях получают уравнение вида |
|
|||||
|
|
l |
|
|
|
|
|
yˆ b0 bj X j bj, t X j Xt , |
|
(24) |
|||
|
|
j 1 |
j t |
|
|
|
которое называется неполным квадратичным или уравнением с парными взаимодействиями.
Постановка задачи. Пусть выбран вид функции регрессии и по результатам N наблюдений (опытов) над откликом y и факторами X1, X2, ..., Xn.
Требуется оценить коэффициенты эмпирического уравнения регрессии (21). Поскольку уравнение (21) линейно относительно параметров bj , bj,t , bj, j , ..., то для оценки коэффициентов можно использовать МНК.
Идея обобщения метода наименьших квадратов на случай регрессионной модели вида (21) заключается в том, что любое произведение факторов или их степень можно рассматривать в качестве нового фактора.
Упростим систему обозначений — заменим члены второго и более высоких порядков линейными:
X1 1 X1X2, |
X1 2 X1X3, ... |
(25) |
Кроме того, введем фиктивную переменнуюX0 1, которая всегда при-
нимает значение 1.
Тогда уравнение (21) будет записываться как однородное линейное уравнение:
yˆ b0 X0 b1X1 b2 X2 ... bk Xk . |
(26) |
43
Аналогично случаю одного фактора, коэффициенты b0 ,b1,b2 , ...,bk |
|
опре- |
|||||
деляются из системы нормальных уравнений: |
|
|
|
|
|||
|
N |
N |
N |
N |
N |
|
|
b0 X02 i b1 X0 i X 2 i b2 |
X0 i X 2 i ... |
bk X0 i X k , i X0 i yi |
, |
||||
|
i 1 |
i 1 |
i 1 |
i 1 |
i 1 |
|
|
|
N |
N |
N |
N |
N |
|
|
|
b0 X0 i X1 i b1 X12i bk |
X1 i X 2 i ... |
bk X1 i X k, i X1 i yi |
, |
(27) |
||
|
i 1 |
i 1 |
i 1 |
i 1 |
i 1 |
|
|
|
|
|
... |
|
|
|
|
N |
N |
N |
N |
N |
|
|
|
|
|
|
|||||
b0 X0 |
i X k, i b1 X1 i X k , i b2 X 2 i X k, i |
... bk X k2, i X k , i yi. |
|||||
|
i 1 |
i 1 |
i 1 |
i 1 |
i 1 |
|
|
Здесь X j, |
i означает значение фактора X j |
в i-м опыте. Заметим, что в си- |
стеме нормальных уравнений количество уравнений всегда равно количеству неизвестных. В данном случае неизвестными являются b0 ,b1,b2 , ..., bk , следо-
вательно, система имеет k 1 уравнение.
Запомнить систему нормальных уравнений можно следующим образом. Запишем уравнение (26) N раз, подставив в него результаты каждого из N опытов. Если каждое из полученных соотношений умножить на соответствующее значение фактора X0 , а потом просуммировать все эти соотноше-
ния, то получим первое уравнение системы. Если умножать на значения фактораX1 , то получим второе уравнение системы и т. д. При умножении на
значения фактора X k получим последнее уравнение системы.
Итак, МНК можно использовать для определения коэффициентов уравнения регрессии не только в случае линейной зависимости параметра у от факторов. Для применения МНК важно, чтобы коэффициенты b0 ,b1, ,b2 , ..., bk
входили в уравнение регрессии линейно и чтобы число оцениваемых коэффициентов было не больше числа различных опытов. При вычислении коэффициентов нелинейного уравнения регрессии вводят замену переменных: обозначают через X0 , X1, X2 , ..., Xk те факторы или функции от исходных
факторов, при которых стоят неизвестные искомые коэффициенты b0 ,b1, ,b2 , ..., bk , При этом необходимо, чтобы новые переменные были линей-
но независимы (т. е. их значения не могут быть пропорциональными, линейно выражаться друг через друга).
Пример решения задачи
Задача 38. По имеющимся результатам эксперимента (табл. 10) получить (если это возможно):
1)линейное уравнение регрессии;
2)уравнение вида yˆ b0 b12 X1X 2 b22 X 22 ;
3)квадратичное уравнение регрессии;
4)уравнение yˆ b0 b1X1 b2 X 2 b11X12.
44
|
|
|
Таблица 10 |
|
|
|
yi |
Номер опыта |
X1i |
X2 i |
|
1 |
1 |
0 |
6 |
|
|
|
|
2 |
0 |
2 |
1 |
3 |
1 |
–1 |
8 |
|
|
|
|
4 |
0 |
1 |
2 |
|
|
|
|
Решение. 1. Линейное уравнение регрессии в случае двух факторов имеет
вид yˆ b0 b1X1 b2 X2.
Для нахождения его коэффициентов составим систему нормальных уравнений по формуле (27). Запишем систему в общем виде, учитывая, что X0 i 1 для всех опытов, а число опытов N 4:
|
|
|
|
|
N |
N |
N |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
4b0 b1 X1 i b2 X2 i yi , |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
i 1 |
i 1 |
i 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
N |
|
|
N |
N |
|
|
|
|
N |
|
|
|
|
|
|
|
|
|
|||
|
b0 |
X1 i |
b1 |
X12i b2 |
X1 i |
X2 i |
X1 i yi , |
|
|
|
|
|
|
|||||||||||
|
|
|
i 1 |
|
|
i 1 |
i 1 |
|
|
|
i 1 |
|
|
|
|
|
|
|
|
|
||||
|
|
|
N |
|
|
N |
N |
|
|
|
|
N |
|
|
|
|
|
|
|
|
|
|||
|
b0 |
X2 i b1 X1 i X2 i |
b2 X22 i X2 i yi. |
|
|
|
|
|
|
|||||||||||||||
|
|
|
i 1 |
|
|
i 1 |
i 1 |
|
|
i 1 |
|
|
|
|
|
|
|
|
|
|||||
Для вычисления нужных сумм составим таблицу (табл. 11). |
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Таблица 11 |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Номер опыта |
X |
1 i |
|
X |
2 i |
y |
|
X 2 |
|
X |
1 i |
X |
2 i |
|
X |
1 i |
y |
X 2 |
|
X |
2 i |
y |
||
|
|
|
|
i |
|
1 i |
|
|
|
|
|
i |
2 i |
|
|
i |
||||||||
1 |
1 |
|
|
0 |
6 |
|
1 |
|
|
0 |
|
|
|
6 |
|
0 |
|
|
0 |
|
|
|||
2 |
0 |
|
|
2 |
1 |
|
0 |
|
|
0 |
|
|
|
0 |
|
4 |
|
|
2 |
|
|
|||
3 |
1 |
|
|
–1 |
8 |
|
1 |
|
|
–1 |
|
|
|
8 |
|
1 |
|
–8 |
|
|
||||
4 |
0 |
|
|
1 |
2 |
|
0 |
|
|
0 |
|
|
|
0 |
|
1 |
|
|
2 |
|
|
|||
|
2 |
|
|
2 |
17 |
|
2 |
|
|
–1 |
|
|
14 |
6 |
|
–4 |
|
|
Запишем систему нормальных уравнений:
4b |
2b |
2b 17, |
|
|
0 |
1 |
2 |
|
2b0 2b0 b2 14, |
||
|
2b |
b 6b 4. |
|
|
0 |
1 |
2 |
Для ее решения выразим b2 из второго уравнения и подставим в первое и третье:
4b |
2b |
2(2b |
|
2b 14) 17, |
8b |
6b 45, |
||
|
0 |
1 |
0 |
|
1 |
|
0 |
1 |
b2 |
2b0 2b1 14, |
|
b2 |
2b0 2b1 14, |
||||
|
|
b1 6(2b0 2b1 14) 4. |
|
|
|
|||
2b0 |
14b0 11b1 80. |
45
Выразим из первого уравнения b |
45 8b0 |
и подставим в третье: |
1 |
6 |
|
|
|
14b0 1145 8b0 80; 6
6 14b0 11(45 8b0 ) 6 80;4b0 15;
b0 3,75.
Следовательно
b1 45 8 3,75 2,5; b2 2 3,75 2 2,5 14 1,5. 6
Таким образом, искомая линейная зависимость имеет вид yˆ 3,75 2,5X1 1,5X2.
2. Поскольку указанное уравнение имеет три неизвестных коэффициента, система нормальных уравнений будет содержать три уравнения. Запишем систему в общем виде с помощью формулы (27):
|
|
|
|
N |
|
|
|
N |
|
|
N |
|
|
|
|
|
|
|
||
|
4b0 b1, 2 X1 i X2 i b2, 2 X22 i yi , |
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
i 1 |
|
|
|
i 1 |
i 1 |
|
|
|
|
|
|
|
||||
|
|
|
N |
|
|
N |
|
|
|
N |
|
N |
|
|
|
|
|
|||
|
b0 |
X1 i X2 i b1,2 X12i X22 i b2, 2 X1 i X |
23i X1 i |
X2 i yi , |
||||||||||||||||
|
|
i 1 |
|
i 1 |
|
|
|
i 1 |
|
i 1 |
|
|
|
|
|
|||||
|
|
|
N |
|
N |
|
|
|
|
N |
|
|
N |
|
|
|
|
|
|
|
|
b0 |
X22 i b1, 2 X1 i X23 i b2, 2 X |
24 i X22 i yi. |
|
|
|
|
|
||||||||||||
|
|
i 1 |
|
i 1 |
|
|
|
|
i 1 |
|
|
i 1 |
|
|
|
|
|
|||
Для вычисления нужных сумм составим таблицу (табл. 12). |
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Таблица 12 |
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Номер |
X1 i |
|
X2 i |
yi |
X1 i X2 i |
|
X 2 |
|
X12i X 22 i |
|
|
X1 i X 23 i |
|
X1 i X2 i yi |
|
X24 i |
|
X22 i yi |
||
опыта |
|
|
|
|
|
|
|
2 i |
|
|
|
|
|
|
|
|
|
|
|
|
1 |
1 |
|
0 |
6 |
0 |
|
|
0 |
|
0 |
|
|
0 |
|
0 |
|
0 |
|
0 |
|
2 |
0 |
|
2 |
1 |
0 |
|
|
4 |
|
0 |
|
|
0 |
|
0 |
|
16 |
|
4 |
|
3 |
1 |
|
–1 |
8 |
–1 |
|
|
1 |
|
1 |
|
|
–1 |
|
–8 |
|
1 |
|
8 |
|
4 |
0 |
|
1 |
2 |
0 |
|
|
1 |
|
0 |
|
|
0 |
|
0 |
|
1 |
|
2 |
|
|
2 |
|
2 |
17 |
–1 |
|
|
6 |
|
1 |
|
|
–1 |
|
–8 |
|
18 |
|
14 |
|
Запишем систему нормальных уравнений: |
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
4b0 |
b1, 2 6b2, |
2 17, |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
b0 b1, 2 b2, 2 8, |
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
6b |
b |
18b |
|
|
14. |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
0 |
1, 2 |
2, 2 |
|
|
|
|
|
|
|
|
46