- •Общие методы анализа
- •14. Статистическая обработка результатов эксперимента
- •14.1. Статистическая обработка результатов химического эксперимента (офс 42-0111-09)
- •1. Основные статистические характеристики однородной выборки и их вычисление
- •2. Доверительные интервалы и оценка их величины
- •3. Метрологическая характеристика метода анализа. Сравнение двух методов анализа по воспроизводимости
- •Метрологические характеристики метода анализа
- •4. Метрологическая характеристика среднего результата. Сравнение средних результатов двух выборок
- •Метрологические характеристики среднего результата
- •5. Интерпретация результатов анализа
- •6. Расчет и статистическая оценка параметров линейной зависимости (линейной регрессии)
- •Результаты статистической обработки экспериментальных данных,
6. Расчет и статистическая оценка параметров линейной зависимости (линейной регрессии)
При использовании ряда химических и физико-химических методов количественного анализа непосредственному измерению подвергается некоторая величина у, которая рассматривается как линейная функция искомой концентрации (количества) х определяемого вещества или элемента. Иными словами, в основе таких методов анализа лежит экспериментально подтвержденная линейная зависимость:
y = bx + a, (6.1)
где: у – измеряемая величина;
х – концентрация (количество) определяемого вещества или элемента;
b – угловой коэффициент линейной зависимости;
а – свободный член линейной зависимости.
(Здесь b и а рассматриваются как коэффициенты (параметры) линейной регрессии y на x).
Для использования зависимости 6.1 в аналитических целях, т. е. для определения конкретной величины х по измеренному значению у, необходимо заранее найти числовые значения констант b и а, иными словами провести калибровку. Если константы зависимости (6.1) рассматриваются с учетом их физического смысла, то, при необходимости, их значения могут оцениваться с учетом доверительных интервалов.
Если калибровка проведена, и значения констант а и b определены, величину Xi, находят по измеренному значению yi;
Xi = . (6.2)
При калибровке величину х рассматривают как аргумент, а величину у – как функцию.
Наличие линейной зависимости между х и у целесообразно подтверждать расчетным путем. Для этого по экспериментальным данным, полученным при калибровке, оценивают достоверность линейной связи между х и у с использованием корреляционного анализа, и, лишь затем, рассчитывают значения констант а и b зависимости (6.1) и их доверительные интервалы. В первом приближении судить о достоверности линейной связи между переменными х и у можно по эмпирической величине коэффициента корреляции r, который вычисляют по уравнению:
(6.3)
исходя из экспериментальных данных, представленных в табл. 14.1.6.1. Чем ближе значение к единице, тем менее наблюдаемая линейная зависимость между переменными х и у может рассматриваться как случайная. В аналитической химии в большинстве случаев используют линейные зависимости, отвечающие условию 0,99 и только при анализе следовых количеств рассматривают линейные зависимости, для которых 0,9. При столь близких к 1 значениях величины формальное подтверждение наличия линейной связи между переменными x и y проводить не следует.
Коэффициенты а и b и метрологические характеристики зависимости 6.1 рассчитывают с использованием регрессионного анализа, т. е. методом наименьших квадратов по экспериментально измеренным значениям переменной у для заданных значений аргумента х. Пусть в результате эксперимента найдены представленные в табл. 14.1.6.1 пары значений аргумента х и функции у.
Таблица 14.1.6.1
i |
xi |
yi |
1 |
x1 |
y1 |
2 |
x2 |
y2 |
… |
… |
… |
m |
xm |
ym |
Тогда:
(6.4)
; (6.5)
f = m – 2. (6.6)
Если полученные значения коэффициентов а и b использовать для вычисления значений у по заданным в табл. 14.1.6.1 значениям аргумента х согласно зависимости 6.1, то вычисленные значения у обозначают через Y1, Y2, ... , Yi, ... Yn. Разброс значений Yi, относительно значений уi, характеризуется величиной дисперсии s , которую вычисляют по уравнению:
. (6.7)
В свою очередь дисперсии констант b и а находят по уравнениям:
s = ; (6.8)
. (6.9)
Стандартные отклонения sb и sa и величины и , необходимые для оценки доверительных интервалов констант уравнения регрессии, рассчитывают по уравнениям:
; (6.10)
; (6.11)
∆b = t(P,f)∙sb; (6.12)
∆a = t(P,f)∙sa. (6.13)
Уравнению 6.1 с константами а и b обязательно удовлетворяет точка с координатами и , называемая центром калибровочного графика:
; (6.14)
. (6.15)
Наименьшие отклонения значений yi от значений Yi, наблюдаются в окрестностях центра графика. Стандартные отклонения sy и sx величин Y и X, рассчитанных соответственно по уравнениям 6.1 и 6.2 исходя соответственно из известных значений х и у, определяются с учетом удаления последних от центра графика:
; (6.16)
, (6.17)
где – среднее значение для nj вариант y, по которым вычислено искомое значение X.
При x = и :
; (6.16а)
. (6.17а)
С учетом значений sy и sx могут быть найдены значения величин ∆Y и ∆X:
∆Y = sy∙t(P,f); (6.18)
∆X = sx∙t(P,f). (6.19)
Значения sx и ∆X, найденные при nj = 1, являются характеристиками воспроизводимости аналитического метода, если х – концентрация (количество), а у есть функция х.
Обычно результаты статистической обработки по методу наименьших квадратов сводят в таблицу (табл. 14.1.6.2).
Таблица 14.1.6.2