Статистическая обработка результатов определения специфической фармакологической активности лекарственных средств биологическими методами ОФС.1.1.0014.15
Государственная фармакопея 13 издание (ГФ XIII)
ОБЩАЯ ФАРМАКОПЕЙНАЯ СТАТЬЯ
ОФС.1.1.0014.15 Статистическая обработка результатов определения специфической фармакологической активности лекарственных средств биологическими методами
Взамен ст. ГФ XI, вып.1
В данной общей фармакопейной статье изложены основные методы планирования и статистической обработки результатов определения специфической фармакологической активности лекарственных средств биологическими методами.
В данной статье используются следующие основные условные обозначения:
a — свободный член линейной регрессии;
b — угловой коэффициент линейной регрессии [тангенс угла наклона линии зависимости величины ответа тест-объекта от логарифма дозы (дозозависимости)] ;
d, ∆ — разность некоторых величин;
e — основание натурального логарифма;
f — число степеней свободы;
k — число препаратов в испытании (включая стандартный образец), умноженное на количество доз в испытании;
n — число ответов в группе;
p — уровень значимости;
s — дисперсия;
s — среднее квадратическое отклонение;
s1, s2 и s3 — малая, средняя и большая доза стандартного образца S;
t — критерий Стьюдента (приложение, табл. II);
и1, и2 и и3 — малая, средняя и большая доза испытуемого препарата U;
x, y — ответ тест-объекта;
y̅s и y̅u — средний ответ на стандартный образец и испытуемый препарат;
χ 2 — значение критерия Пирсона;
AU — ожидаемая активность испытуемого препарата;
B — сумма ответов за 2 дня для каждого животного (двойной перекрест);
С — статистика, применяемая для вычисления доверительного интервала, а также сумма столбцов в методе случайных блоков и латинском квадрате;
DI и DII — сумма ответов в первый и второй день двойного перекреста;
E — сумма квадратов показателя «Регрессия»;
F — значение критерия Фишера (отношение большей дисперсии к меньшей, см. приложение, табл. III);
I — десятичный логарифм соотношения доз;
К — поправочный коэффициент для дисперсионного анализа;
L — разность логарифмов верхней и нижней доверительной границы биологической активности;
LS и LU — линейные контрасты стандартного образца и испытуемого препарата;
МU — десятичный логарифм биологической активности испытуемого препарата;
M’U — величина, на которую найденная биологическая активность испытуемого препарата отличается от его ожидаемой биологической активности (в логарифмическом виде);
N — общее число ответов в опыте;
P — доверительная вероятность3);
Q1, Qn — контрольные критерии выявления грубых ошибок;
QS и QU — квадратический контраст для стандартного образца и испытуемого препарата в дисперсионном анализе;
R — сумма блоков в методе случайных блоков или сумма строк в методе латинского квадрата;
RU — биологическая активность испытуемого препарата (10Мu);
S — стандартный образец;
S — суммарный ответ на стандартный образец;
S1, S2 и S3 — суммарные ответы на малую, среднюю и большую дозу стандартного образца S;
U — испытуемый препарат;
U — суммарный ответ на испытуемый препарат;
U1, U2 и U3 — суммарные ответы на малую, среднюю и большую дозу испытуемого препарата U;
W — весовой коэффициент для пробит-метода (приложение, табл. VI), а также весовой коэффициент для объединения независимых биологических испытаний (раздел 5).
1. ОПРЕДЕЛЕНИЕ АКТИВНОСТИ ПРЕПАРАТА БИОЛОГИЧЕСКИМИ МЕТОДАМИ
Во многих случаях физических и химических анализов достаточно для полной характеристики свойств лекарственных средств. Однако физические и химические показатели не всегда в полной мере отражают терапевтическое действие лекарственного средства. В подобных случаях необходимо определение его биологической активности при помощи непосредственного биологического исследования.
Часто показатель, характеризующий биологическую активность лекарственного средства, учитывают в количественной форме: например концентрация глюкозы в крови при определении биологической активности инсулина, время свертывания крови при действии гепарина и т. д. В этом случае конечным результатом испытания следует считать среднее значение y (ответа тест-объекта), а точнее — его доверительный интервал.
Пример 1. При внутрибрюшинном введении 7 мышам раствора гексенала в дозе 100 мг/кг получены следующие величины продолжительности наркоза yi (в минутах): 35; 83; 53; 60; 71; 62; 39.
Расчет проводят по следующим формулам при P = 95 %:
Одной из важнейших задач биологических испытаний биологически активных веществ является сравнение испытуемого лекарственного средства со стандартным образцом, для чего испытание проводят одновременно на двух или более группах животных или других тест-объектах. При составлении этих групп следует обеспечивать однородность тест-объектов (по полу, возрасту, массе тела, условиям содержания и т. д.) внутри групп, а также распределение тест-объектов по группам при помощи методов рандомизации. Кроме того, следует стремиться к тому, чтобы число тест- объектов во всех группах было одинаково. Это является условием применимости ряда процедур статистического анализа и всегда упрощает вычисление.
Если по какой-либо причине (ошибка в эксперименте, гибель животного, не связанная с испытанием) в некоторых из групп выпал один или несколько результатов, можно уравнять численность групп одним из следующих способов:
- исключить из больших групп по одному результату, но обязательно с применением рандомизации;
- прибавить к каждой из меньших групп один результат, равный среднему из оставшихся в этой группе результатов, но в дальнейших расчетах число степеней свободы, относящихся к данной группе, должно считаться на единицу меньшим.
Выбор способа выравнивания численности в группах зависит, главным образом, от числа групп, в которых образовались пробелы.
Эти процедуры можно применять и при различии в численности групп на 2 — 3 или большее число единиц, но это всегда менее желательно, так как снижает точность и надежность окончательных выводов по результатам испытания. Сравнение стандартного образца и испытуемого препарата (ИП), то есть проверка того, одинаковы ли их биологические активности, производится при помощи критерия Стьюдента:
при f = п1 + п2 — 2 = 16 и P = 95 %.
Пример 2. Опыт, описанный в примере 1, был повторен на другой группе из 7 мышей, но за 15 мин до введения гексенала вводили (также внутрибрюшинно) акрихин в дозе 150 мг/кг. Длительность наркоза yi оказалась (в минутах): 75; 78; 114; 110; 93; 100; 87. Требуется выяснить, влияет ли предварительное введение акрихина на действие гексенала.
Расчет по вышеуказанным формулам дает: y1 = 93,9 мин; s21 = 226,48; s1 = 15,05; f1 = 6, fобщ = 12; tнабл = 4.23; tкритич (0,05;12) = 2,18. Из этого можно заключить, что вероятность того, что акрихин влияет на действие гексенала, превышает 95 %.
Примечание. Если s21 s22 превышает критическое значение критерия Фишера (приложение, табл. III), то для вычисления наблюдаемого значения критерия Стьюдента следует применять формулу:
Вычисленное значение tнабл. сравнивают с tкритич., как указано выше (число степеней свободы f округляют до целого числа). Критическое значение критерия Стьюдента можно также найти в приложении (табл. II).
При сравнении биологических активностей вероятность различия 95 % может считаться приемлемой. Но, если, например, решается вопрос об отсутствии вредных побочных действий, то требования к вероятности значительно возрастают. При подозрении особо опасного побочного действия «степень риска» (1 — P) = p (эту величину называют уровнем значимости) следует снижать до значений 10-4 или даже меньших; соответствующие критические значения t (p, f) можно найти в специальных математико-статистических таблицах или с помощью компьютерных программ. Если выбран определенный уровень значимости p, то при t > t (p) или t > t (P) различие считается значимым. В этом случае вычисляют доверительный интервал разности сравниваемых показателей.
Чувствительность указанного метода сравнения двух ИП значительно возрастает, если можно организовать испытание их на ряде достаточно однородных (сопряженных) пар тест-объектов. Сопряженную пару могут составить, например, животные из одного помета, одинакового пола и близкой массы тела или, если это допускается методикой испытания, 2 повторных определения на одном животном с достаточным разрывом во времени, обеспечивающим восстановление исходного состояния после первого опыта.
При использовании п сопряженных пар у1, у1‘, у2, у2‘, … yn, yn’ составляют ряд разностей d1 = у 1 — у 1‘, d2 =у2 — у2′, … dn=yn — yn’ и вычисляют величину:
Полученную величину t сравнивают с табличным значением t (p, f) для принятого уровня значимости p и числа степеней свободы f = n — 1.
Пример 3. Пусть тест-объекты № 1, 2, … 7 из примера 1 были сопряжены с тест- объектами № 3, 1, 5, 2, 6, 4, 7 из примера 2 (в каждой паре были мыши из одного помета примерно с одинаковой массой тела). Тогда получается: d̅ = 254/7 = 36,3 , sd = 27,27, t = 3,52, в то время как t (P = 95 %, f= 6) = 2,45 и t (P = 99 %, f= 6) = 3,71; t (P = 99,9 %, f= 6) = 5,96.
- ОБЩИЕ ПРИНЦИПЫ РАСЧЕТОВ
В подавляющем большинстве случаев в интервале обычно применяемых доз фармакологический эффект (когда он выражается количественно), связан линейно с логарифмом дозы. Эту связь отражает уравнение линейной регрессии:
y = a + bx
где a — свободный член линейной регрессии;
b — угловой коэффициент линейной регрессии;
x — логарифм дозы.
Определение биологической активности проводят путем сравнения линий дозозависимости стандартного образца и испытуемого препарата.
В процессе статистической обработки результатов биологического испытания для того, чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ, с помощью которого определяют следующие компоненты или источники дисперсии (показатели):
- линейность (при использовании не менее трех доз стандартного образца и испытуемого препарата)5;
- параллельность;
- дозозависимость;
- блоки или строки (при необходимости);
- столбцы (при необходимости);
- дни ˟ параллельность (при необходимости);
- другие вспомогательные показатели.
Затем вычисляют биологическую активность испытуемого препарата относительно стандартного образца (ее среднее значение и доверительные границы).
Объединение результатов двух и более биологических испытаний одного и того же препарата проводят согласно разделу 5 «Объединение результатов независимых определений биологической активности».
Ниже, в качестве примеров, приведены рекомендуемые алгоритмы вычисления биологической активности испытуемых препаратов в зависимости от типа ответа тест-объектов и наиболее распространенных видов постановок. Для расчетов можно использовать электронные таблицы. Возможно применение специального валидированного статистического (в т. ч. биометрического) программного обеспечения, в котором могут быть реализованы общие методы анализа, а также другие методы определения специфической фармакологической активности, например,
четырехпараметрический метод анализа S-образных кривых для иммунологических лекарственных средств (3.9).
- БИОЛОГИЧЕСКИЕ ИСПЫТАНИЯ, ОСНОВАННЫЕ НА КОЛИЧЕСТВЕННОМ ОТВЕТЕ
- Обработка результатов двухдозовой рандомизированной постановки (на примере биологической активности гонадотропина хорионического)
Если в качестве тест-объекта используют крыс-самок, то в качестве ответа животного принимают отношение массы матки в мг к массе тела в г. В случае использования самцов, ответ животного представляет собой отношение массы добавочных половых желез в мг к массе тела в г. Схема расчетов при этом абсолютно одинакова. В табл. 1 даны ответы крыс-самок на введение двух доз стандартного образца и двух доз испытуемого препарата.
Таблица 1 — Ответы у
Группа 1 | Группа 2 | Группа 3 | Группа 4 |
s1 | s2 | u1 | u2 |
0,398 | 2,233 | 0,533 | 3,447 |
0,443 | 2,129 | 0,663 | 3,123 |
0,483 | 2,872 | 0,434 | 3,354 |
0,623 | 2,732 | 0,710 | 1,769 |
0,462 | 3,043 | 0,637 | 4,382 |
0,619 | 2,717 | 0,470 | 3,525 |
0,436 | 2,939 | 0,650 | 3,331 |
0,495 | 1,785 | 0,600 | 3,995 |
0,568 | 3,474 | 0,820 | 2,977 |
0,593 | 3,120 | 0,512 | 2,556 |
Таблица 2 — Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | |
Малая доза | S1 = 5,12 | U1 = 6,03 | |
Большая доза | S2 = 27,04 | U2 = 32,46 | |
Сумма | S = 32,16 | U = 38,49 | Σу = 70.65 |
Линейный контраст | LS = S2 — S1 = 21,92 | LU = U2 — U1 = 26,43 | ΣL = 48,35 |
Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 6 источников дисперсии (см. табл. 3).
Для этого на основании данных, представленных в табл. 1 и 2, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.
Поправочный коэффициент:
Препараты:
Регрессия:
Параллельность:
Обработки:
Итог:
Σ (y2) – K = 192,03 – 124,8 = 67,23;
Отклонение = итог — обработки = 67,23 — 59,94 = 7,29
n = 10 (число ответов в группе);
N = 40 (общее число ответов в опыте);
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей «Регрессия» и «Параллельность». Эти требования заключаются в том, что для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для «Параллельности» — меньше критического (P = 95 %).
Для того чтобы найти Fнабл. средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложение, табл. III). Число степеней свободы f1 = 1, а f2 = 36.
Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия») и параллельность 2 линий регрессии («Параллельность»).
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 2, следовательно I = lg 2,0 = 0,3010; t = 2,03 при f = 36 и P = 95 %;
Биологическая активность RU = 103,039 = 1093,96 ЕД/фл.;
C = E/ (E — s2t2 ) = 58,44/ (58,44 — 0,20 • 2,032) = 1,014.
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
Логарифмические доверительные границы биологической активности испытуемого препарата составляют 0,0036 и 0,0755. Нижняя и верхняя доверительная граница составляет и , т. е. 1008,3 и 1189,9 ЕД/фл. соответственно.
-
- Обработка результатов трехдозовой рандомизированной
постановки (на примере биологической активности
гонадотропина хорионического)
- Обработка результатов трехдозовой рандомизированной
Если в качестве тест-объекта используют крыс-самок, то в качестве ответа животного принимают отношение массы матки в мг к массе тела в г. В случае использования самцов, ответ животного представляет собой
отношение массы добавочных половых желез в мг к массе тела в г. Схема расчетов при этом абсолютно одинакова. В табл. 4 даны ответы крыс-самок на введение трех доз стандартного образца и трех доз испытуемого препарата.
Таблица 4 — Ответы у
Группа 1 | Группа 2 | Группа 3 | Группа 4 | Группа 5 | Группа 6 |
s1 | s2 | s3 | u1 | u2 | u3 |
0,398 | 1,583 | 2,233 | 0,533 | 1,655 | 3,447 |
0,443 | 0,780 | 2,129 | 0,663 | 0,935 | 3,123 |
0,483 | 2,380 | 2,872 | 0,434 | 1,973 | 3,354 |
0,623 | 0,984 | 2,732 | 0,71 | 2,199 | 1,769 |
0,462 | 1,265 | 3,043 | 0,637 | 0,886 | 4,382 |
0,619 | 1,568 | 2,717 | 0,47 | 1,097 | 3,525 |
0,436 | 1,167 | 2,939 | 0,65 | 2,447 | 3,331 |
0,495 | 1,743 | 1,785 | 0,600 | 1,941 | 3,995 |
0,568 | 1,375 | 3,474 | 0,820 | 1,151 | 2,977 |
0,593 | 1,375 | 3,120 | 0,512 | 2,804 | 2,556 |
Таблица 5 — Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | |
Малая доза | S1 = 5,12 | U1 = 6,03 | |
Средняя доза | S2 = 14,22 | U2 = 17,09 | |
Большая доза | S3 = 27,04 | U3 = 32,46 | |
Сумма | S = 46,38 | U = 55,58 | Σ У = 101,96 |
Линейный контраст | Ls = S3 — S 1 = 21,92 | Lu = U3 — U1 = 26,43 | Σ L = 48,35 |
Квадратический контраст | Qs = S 1 — 2 S 2 + S 3 = 3,72 | Qu = U1 — 2U 2 + U 3 = 4,31 | Σ Q = 8,03 |
Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 8 источников дисперсии (см. сводную табл. 6).
Для этого на основании данных, представленных в табл. 4 и 5, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.
Поправочный коэффициент:
Препараты:
Регрессия:
Параллельность:
Квадратичность:
Разность квадратичностей = = квадратичность =
Обработки:
+14,222 + 27,042 + 6,032 +17,092 + 32,462 ;
Итог = Σ (y2) — K = 247,3 -173,26 = 74,04;
Отклонение = итог — обработки = 74,04 — 60,9 = 13,14
n = 10 (число ответов в группе);
N = 60 (общее число ответов в опыте);
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия
Фишера. Обязательным является выполнение требований для показателей «Регрессия», «Параллельность», «Квадратичность» и «Разность квадратичностей». Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для остальных показателей — меньше критического (P = 95 %).
Для того чтобы найти Fнабл. средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложение, табл. III). Число степеней свободы f1 = 1, а f2 = 54.
Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия»), параллельность и линейность двух линий регрессии («Параллельность», «Квадратичность» и «Разность квадратичностей»).
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 2, следовательно I = lg 2,0 = 0,3010 ;
t = 1,958788 + 2,429953/f + 2,189891/f 2 + 4,630189/f 3 + 1,398179/f 9 = 2,00 , при f = 54 и P = 95 %;
Ожидаемая активность AU = 1000 ЕД/фл.;
MU = MU + lg AU = 3,075;
Биологическая активность RU = 103,075 = 1188,50 ЕД/фл.;
C = E(E — s2t2) = 58,44/(58,44 — 0,24 • 2,002) = 1,017.
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
Логарифмические доверительные границы биологической активности испытуемого препарата составляют 0,0114 и 0,1411. Нижняя и верхняя доверительная граница составляет , т. е. 1026,6 и 1383,9 ЕД/фл. соответственно.
-
- Обработка результатов двухдозовой постановки методом
случайных блоков (на примере биологической активности окситоцина на
петушке)
- Обработка результатов двухдозовой постановки методом
При использовании петушка в качестве тест-объекта ответом является величина падения артериального давления (мм) после введения двух доз стандартного образца окситоцина и двух доз испытуемого препарата. Порядок введения доз приведен в табл. 10.
Таблица 7 — Ответы у
s1 | s 2 | u 1 | u 2 | Блоки (R) |
12 | 20 | 14 | 20 | 66 |
15 | 23 | 16 | 22 | 76 |
15 | 20 | 14 | 23 | 72 |
15 | 20 | 14 | 24 | 73 |
Таблица 8- Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | |
Малая доза | S1 = 57 | U1 = 58 | |
Большая доза | S2 = 83 | U2 = 89 | |
Сумма | S =140 | U = 147 | Σ У = 287 |
Линейный контраст | Ls = 26 | Lu = 31 | Σ L = 57 |
Для того чтобы проверить правильность проведенного опыта и
вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 7 источников дисперсии (см. сводную табл. 9).
Для этого на основании данных, представленных в табл. 7 и 8, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.
Поправочный коэффициент
Препараты
Регрессия
Параллельность
Обработки
Блоки
Итог
Отклонение = итог — обработки — блоки = 232,94 — 207,69 -13,19 = 12,06
n = 4 (число ответов на дозу);
N = 16 (общее число ответов в опыте);
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия
Фишера. Обязательным является выполнение требований для показателей «Регрессия», «Параллельность» и «Блоки». Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для «Параллельности» и «Блоков» — меньше критического (P = 95 % и P = 99 % соответственно). Для того чтобы найти Fнабл., средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложение, табл. III). Число степеней свободы f1 = 1 или 3, а f2 = 9.
Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия»), параллельность двух линий регрессии («Параллельность») и отсутствие статистически значимых различий между блоками («Блоки»).
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 2, следовательно I = lg 2,0 = 0,3010 ;
t = 1,958788 + 2,429953/f + 2,189891/f 2 + 4,630189/f 3 + 1,398179/f 9 = 2,262,
при f = 9 и P = 95 %;
Ожидаемая активность AU — 5 ЕД/мл;
Mu = M’u + lg Au = 0,736;
Биологическая активность RU = 100,736 = 5,45 ЕД/мл;
C = E/(E — s2t2) = 203,06/(203,06 — 1,34 • 2,2622) = 1,035.
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
Логарифмические доверительные границы биологической активности испытуемого препарата составляют — 0,0185 и 0,0950. Нижняя и верхняя доверительная граница составляет , т. е. 4,79 и 6,22 ЕД/мл соответственно.
-
- Обработка результатов двухдозовой постановки методом
латинского квадрата (на примере биологической активности
окситоцина на изолированном органе)
- Обработка результатов двухдозовой постановки методом
При использовании в качестве тест-объекта изолированного рога матки крысы, ответом является величина его изотонического сокращения в ответ на введение двух доз стандартного образца окситоцина и двух доз испытуемого препарата. Эти сокращения регистрируют в виде амплитуды перемещения писчика механического рычага или пера электронного самописца (см или мм). Порядок введения доз приведен в табл. 10.
Таблица 10 — Схема двухдозового латинского квадрата
1. | s1 | s2 | u1 | u2 |
2. | и2 | s1 | s2 | u1 |
3. | u1 | u2 | s1 | s2 |
4. | s2 | u1 | u 2 | s1 |
Таблица 1 | 1 — Ответы у (см) | |||||
Строка | Столбцы | Сумма строк, R | R2 | |||
1. | 6,50 | 12,45 | 9,75 | 12,5 | R1 = 41,20 | 1697,44 |
2. | 12,20 | 5,35 | 12,70 | 6,10 | R 2 = 36,35 | 1321,32 |
3. | 6,40 | 12,30 | 5,25 | 12,85 | R 3 = 36,80 | 1354,24 |
4. | 12,80 | 5,70 | 11,55 | 4,30 | R 4 = 34,35 | 1179,92 |
Сумма столбцов (С) | 37,90 | 35,80 | 39,25 | 35,75 | Σ R2 = 5552,925 | |
C2 | 1436,41 | 1281,64 | 1540,56 | 1278,063 | Σ C2 =5536,675 |
Таблица 12 — Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | |
Малая доза | S1 = 21,40 | U1 = 27,95 | |
Большая доза | S2 = 50,80 | U2 = 48,55 | |
Сумма | S =72,20 | U = 76,5 | Σ y = 148,70 |
Линейный контраст | Ls = 29,40 | Lu = 20,6 | Σ L = 50,00 |
Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 8 источников дисперсии (см. сводную табл. 13).
Для этого на основании данных, представленных в табл. 11 и 12, а также поправочного коэффициента вычисляют суммы квадратов источников дисперсии.
Поправочный коэффициент
Препараты
Регрессия
Параллельность
Обработки
Строки
Столбцы
Итог
Σ (y2) – K = 1557,685 – 1381,98 = 175,705;
Отклонение = итог — обработки — строки — столбцы =
= 175,705 — 162,246 — 6,25 — 2,19 = 5,02
n = 4 (число ответов на дозу);
N = 16 (общее число ответов в опыте);
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей «Регрессия», «Параллельность», «Строки» и «Столбцы». Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для показателей «Параллельность» (P = 95 %), «Строки» (P = 99 %) «Столбцы» (P = 99 %) — меньше критического. Показатель «Регрессия» характеризует дозозависимость, «Параллельность» — параллельность двух линий регрессии, а «Строки» и «Столбцы» — сбалансированность ответов изолированного органа на протяжении всего опыта.
Для того чтобы найти Fнабл. средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложения, табл. III). Число степеней свободы f1 = 1 или 3, а f2 = 6.
Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия»), параллельность двух линий регрессии («Параллельность») и отсутствие статистически значимых различий между строками и столбцами (см. «Одноименные показатели»).
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 2, следовательно I = lg 2,0 = 0,3010 ;
t = 1,958788 + 2,429953/f + 2,189891/f 2 + 4,630189/f 3 + 1,398179/f 9 = 2,446,
при f = 6 и P = 95 %;
Ожидаемая активность AU = 5 ЕД/мл;
Mu = M’U + lg AU = 0,725;
Биологическая активность RU = 100,725 = 5,31 ЕД/мл;
C = E/(E — s2t2) = 156,25/(156,25 — 0,837 • x2,4462) = 1,033.
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
Логарифмические доверительные границы биологической активности испытуемого препарата составляют — 0,0281 и 0,0816. Нижняя и верхняя доверительная граница составляет , т. е. 4,69 и 6,03 ЕД/мл соответственно.
-
- Обработка результатов трехдозовой постановки методом
латинского квадрата (на примере биологической активности
антибиотиков методом диффузии в агар в чашках Петри)
- Обработка результатов трехдозовой постановки методом
Биологическую активность антибиотиков определяют по зонам угнетения роста микроорганизмов. В каждую чашку Петри вносят по 3 раствора стандартного образца и 3 раствора испытуемого препарата. В качестве ответа принимают диаметр зоны угнетения в мм. Последовательность внесения растворов в лунки или цилиндры приведена в табл. 14.
Таблица 14 — Схема трехдозового латинского квадрата
№ чашки | Доза | |||||
1 | s1 | s2 | s3 | u1 | u2 | u3 |
2 | и3 | s1 | s2 | s3 | u1 | u2 |
3 | u2 | u3 | s1 | s2 | s3 | u1 |
4 | u1 | u2 | u3 | s1 | s2 | s3 |
5 | s3 | u1 | u2 | u3 | s1 | s2 |
6 | s2 | s3 | u1 | u2 | u3 | s1 |
Таблица 15 — Ответы у
Строка | Столбцы | Сумма строк (R) | R2 | |||||
1 | 16,4 | 17,6 | 18,2 | 16,2 | 17,2 | 18,4 | R1 = 104,0 | 10816,00 |
2 | 17,8 | 16,4 | 17,4 | 18,2 | 16,0 | 17,2 | R 2 = 103,0 | 10609,00 |
3 | 17,0 | 18,4 | 16,6 | 17,2 | 18,8 | 15,4 | R 3 = 103,4 | 10691,56 |
4 | 16,4 | 16,6 | 18,0 | 16,0 | 17,6 | 18,0 | R 4 = 102,6 | 10526,76 |
5 | 18,2 | 16,0 | 17,4 | 18,6 | 16,2 | 17,4 | R 5 = 103,8 | 10774,44 |
6 | 17,4 | 18,4 | 16,2 | 17,4 | 18,0 | 16,0 | R 6 = 103,4 | 10691,56 |
Сумма столбцов (С) | 103,2 | 103,4 | 103,8 | 103,6 | 103,8 | 102,4 | Σ R 2 = 64109,32 | |
C2 | 10650,24 | 10691,56 | 10774,44 | 10732,96 | 10774,44 | 10485,76 | Σ C 2 = 64109.40 |
Таблица 16 — Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | ||||
Малая доза | S1 = | 97,6 | U1 = | 96,2 | ||
Средняя доза | S2 = | 104,6 | U2 = | 102,8 | ||
Большая доза | S3 = | 109,8 | U3 = | 109,2 | ||
Сумма | S = | 312,0 | U= | 308,2 | Σ У = S + U= | 620,2 |
Линейный контраст | L S = | 12,2 | LU = | 13,0 | Ls + LU = | 25,2 |
Квадратический контраст | Qs = | -1,8 | QU = | —0,2 | Qs + QU = | -2,0 |
Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 10 источников дисперсии (см. сводную табл. 17).
Для этого на основании данных, представленных в табл. 15 и 16, а также поправочного коэффициента, вычисляют суммы квадратов источников дисперсии.
Поправочный коэффициент
Препараты
Регрессия
Параллельность
Квадратичность
Разность квадратичностей
Обработки
Строки
Столбцы
Итог
Отклонение
итог – обработки – строки – столбцы = 29,2922 – 26,9789 – 0,2189 – 0,2322 = 1,8622.
n = 6 (число ответов на дозу);
N = 36 (общее число ответов в опыте);
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия
Фишера. Обязательным является выполнение требований для показателей
«Регрессия», «Параллельность», «Квадратичность», «Разность
квадратичностей», «Строки» и «Столбцы». Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для показателей «Параллельность» (P = 95 %), «Строки» (P = 99 %) и «Столбцы»
(P = 99 %) — меньше критического. Показатель «Регрессия» характеризует дозозависимость, «Параллельность» — параллельность двух линий регрессии, «Квадратичность» и «Разность квадратичностей» — линейность дозозависимости, а «Строки» и «Столбцы» — сбалансированность ответов на
протяжении всего опыта.
Для того чтобы найти Fнабл. средние квадраты показателей делят на средний квадрат показателя «Отклонение». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложение, табл. III). Число степеней свободы f1 = 1 или 5, а f2 = 20.
Дисперсионный анализ показал правильность результатов опыта: статистическую значимость дозозависимости («Регрессия»), параллельность двух линий регрессии («Параллельность»), линейность дозозависимости («Квадратичность» и «Разность квадратичностей») и отсутствие статистически значимых различий между строками и столбцами (см. одноименные показатели).
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 1,5, следовательно I — lg1,5 — 0,1761;
t — 2,5638 + 5,49059// + 2,72654//2 + 31,2446/f3 + 21,6745/f10 — 2,849, при f = 20 и P = 99 %;
b — Ls + Lu — 25,2 —
5,9625;
(3 -1)I • 2n 2 • 0,1761 • 12
ys
312,0
18
-17,333;
Уи — U —17,122,
3 n
M’ — yU — ys — -0,03540; U b
Ожидаемая активность AU — 1000 МЕ/мг;
MU — MU + lg AU — 2,9646;
Биологическая активность RU — 10MU — 102,9646 — 921,722 МЕ/мг;
C — E(E — s212)- 26,46/(26,46 — 0,09311 • 2,8492) — 1,0294.
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
CMU ±J(C— 1)(cMU2 + I2)-
( 8 8 ,
1,0294 •(- 0,03540) +
0,0294-I 1,0294 • 0,035402 +-• 0,17612
I 3
Логарифмические доверительные границы биологической активности испытуемого препарата составляют — 0,08610 и 0,01325. Нижняя и верхняя
25доверительная граница составляет 10lgАи+( 8 и 10lgАи+0,01325 , т. е. 820,09 и 1030,97 МЕ/мг соответственно.
(на примере биологической активности инсулина методом А и В)
Биологическую активность инсулина определяют по его гипогликемическому действию.
Таблица 18 — Схема двойного перекреста
ГРУППА 1 | ГРУППА 2 | ГРУППА 3 | ГРУППА 4 | |
I ПОСТАНОВКА (день 1) | 51 | 5 2 | U1 | U 2 |
II ПОСТАНОВКА (день 2) | U 2 | и 1 | 5 2 | 51 |
В качестве ответа животного (y) принимают:
- для кролика — сумму двух концентраций глюкозы в крови через 1 ч и 2,5 ч после инъекции инсулина или среднюю величину, на которую снижается концентрация глюкозы в крови через 1 и 2,5 ч после введения инсулина, выраженную в процентах по отношению к исходной (так называемый средний процент снижения);
- для мыши — концентрацию глюкозы в крови через 40 мин после инъекции.
В обоих случаях схема расчетов одинакова.
В данном подразделе приведен пример обработки результатов двойного перекреста на мышах.
Таблица 19 — Ответы y (концентрация глюкозы (мг%) в крови животных через 40 мин после инъекции инсулина)
Группа 1 | Группа 2 | Группа 3 | Группа 4 | ||||||||
У | Сумма за 2
дня (в) |
У | Сумма за 2
дня (в) |
У | Сумма за 2
дня (в) |
У | Сумма за 2 дня (в) | ||||
51 | U 2 | 5 2 | и 1 | и 1 | 5 2 | U 2 | 51 | ||||
125 | 84 | 209 | 81 | 78 | 159 | 120 | 82 | 202 | 89 | 84 | 173 |
76 | 61 | 137 | 87 | 90 | 177 | 89 | 72 | 161 | 78 | 106 | 184 |
91 | 65 | 156 | 78 | 113 | 191 | 104 | 87 | 191 | 72 | 74 | 146 |
76 | 81 | 157 | 74 | 105 | 179 | 129 | 61 | 190 | 66 | 132 | 198 |
90 | 71 | 161 | 80 | 85 | 165 | 87 | 76 | 163 | 54 | 87 | 141 |
112 | 60 | 172 | 72 | 69 | 141 | 102 | 73 | 175 | 60 | 88 | 148 |
102 | 74 | 176 | 71 | 121 | 192 | 80 | 53 | 133 | 87 | 99 | 186 |
64 | 48 | 112 | 79 | 128 | 207 | 123 | 86 | 209 | 67 | 100 | 167 |
120 | 67 | 187 | 73 | 101 | 174 | 126 | 80 | 206 | 73 | 95 | 168 |
26
Группа 1 | Группа 2 | Группа 3 | Группа 4 | ||||||||
У | Сумма за 2
дня (в) |
У | Сумма за 2
дня (в) |
У | Сумма за 2
дня (в) |
У | Сумма за 2 дня (в) | ||||
s 1 | U 2 | S 2 | U1 | U1 | S 2 | U 2 | s 1 | ||||
82 | 57 | 139 | 98 | 78 | 176 | 91 | 42 | 133 | 72 | 97 | 169 |
68 | 40 | 108 | 86 | 71 | 157 | 90 | 73 | 163 | 79 | 119 | 198 |
83 | 75 | 158 | 65 | 57 | 122 | 107 | 86 | 193 | 74 | 113 | 187 |
Таблица 20 — Суммы ответов и контрасты
Стандартный образец S | Испытуемый препарат U | Сумма | |
День 1 | |||
Малая доза | S11 =1089 | Ui I = 1248 | |
Большая доза | S21 = 944 | U21 = 871 | |
Сумма | Si = 2033 | Ui = 2119 | Di = 4152 |
День 2 | |||
Малая доза | S1 ii = 1194 | U1 ii = 1096 | |
Большая доза | S2 ii = 871 | U2 ii = 783 | |
Сумма | Sii = 2065 | Uii = 1879 | Dii = 3944 |
Сумма ответов за 2 дня | S = 4098 | U = 3998 | ЕУ =8096 |
Линейные контрасты | |||
День 1 | Lsi = —145 | Lui = -377 | Li = -522 |
День 2 | Lsii = —323 | Luii = -313 | Lii = -636 |
Сумма | Ls= -468 | Lu=-690 | Е L = -1158 |
Для того чтобы проверить правильность проведенного опыта и вычислить его дисперсию, проводят дисперсионный анализ полученных данных. При этом рассчитывают значения дисперсий для 11 показателей (см. сводную табл. 21).
Для этого на основании данных, представленных в табл. 19 и 20, а также поправочного коэффициента, вычисляют суммы квадратов источников
дисперсии.
Поправочный коэффициент K =
(Е У )2 = 80962
N 96
= 682762,67;
Итог = Е(У)2 — K = 721262,00 — 682762,67 = 38499,33;
Блоки =— К =
2
2092 +1372 +… +1872
— 682762,67 = 14967,33;
s S2 + U2 40982 + 39982 „ ЛГХЛЛГ
Препараты = K = 682762,67 = 104,16;
2 n 48
27
— 2 + — 2 41522 + 39442
Дни = —I IL — k = 682762,67 = 450,66;
2 n 48
Регрессия = S + ^U ) = (^158L = 13968,38 = E;
N 96
„ L 2S + LU 4 4682 + 6902 __
Параллельность = —S2—— — E = 48 13968,38 = 513,37;
L 2 + L2 5222 + 6362
Дни x регрессию = — — -E = 13968,38 = 135,37;
2 n 48
t 2 + t 2 + t 2 + t L
T-r Si Я + Si SII + UIUI + UIUII
E — параллельность —
13968,38 — 513,37 -135,37 = 610,05;
Дни x параллельность = — SI UI —
n
1 1 1452 + 3232 + 3772 + 3132
- (дни x регрессию) = 24
S 2 + S 2 + и 2 + и 2
SI + SII + UI + UII
— K — дни — препараты =
Дни x препараты — I —
n
20332 +20652 +21192 +18792
— 682762,67 — 450,66 -104,16 = 770,68;
24
Отклонение(1) = блоки — параллельность — (дни x препараты) — (дни x регрессию) = = 13547,91;
Отклонение(2) = итог — блоки — препараты — регрессия — дни —
- (дни x параллельность) = 8398,75.
Таблица 21 — Сводная таблица дисперсионного анализа (двойной перекрест)
Источник дисперсии (показатель) | Число степеней свободы f | Сумма квадратов | Средний квадрат | сумма квадратов | 1 f ) | Наблюда емое значение критерия Фишера Fнабл. | Критическое значение критерия Фишера
F к критич. |
Параллельность | 1 | 513,37 | 513,37 | 1,67 | <4,06 (Р=95 %) |
Дни х препараты | 1 | 770,68 | 770,68 | 2,50 | <4,06 (Р=95 %) |
Дни х регрессию | 1 | 135,37 | 135,37 | 0,44 | <4,06 (Р=95 %) |
Отклонение (1) | N
4 — m = 44 2 |
13547,91 | 307,91 | ||
Блоки | 2n — 1 = 47 | 14967,33 | 318,45 | ||
Препараты | 1 | 104,16 | 104,16 | 0,55 | <4,06 (Р=95 %) |
Регрессия | 1 | 13968,38 | 13968,38 | 73,18 | >7,24 (Р=99 %) |
Дни | 1 | 450,66 | 450,66 | 2,36 | <4,06 (Р=95 %) |
Дни х параллельность | 1 | 610,05 | 610,05 | 3,20 | <4,06 (Р=95 %) |
Отклонение (2) (дисперсия опыта) | N . ..
4 — m = 44 2 |
8398,75 | 190,88 | ||
Итог | N — 1 — m = 95 | 38499,33 |
N = 96 (общее число ответов в опыте); n = 24 (число ответов в группе);
28
m = 0 (число утраченных и замененных значений).
Значимость различий дисперсий проверяют с помощью критерия Фишера. Обязательным является выполнение требований для показателей «Регрессия» и «Дни х параллельность». «Регрессия» характеризует дозозависимость, а «Дни х параллельность» — показатель групповой устойчивости, характеризующий согласованность углов наклона линий дозозависимости в первый и второй день. Для «Регрессии» наблюдаемое значение критерия Фишера должно быть больше критического (P = 99 %), а для показателя «Дни х параллельность» — меньше критического (P = 95 %).
Для того чтобы найти Fнабл., средние квадраты показателей «Параллельность», «Дни х препараты» и «Дни х регрессию» делят на средний квадрат показателя «Отклонение (1)», а все остальные — на средний квадрат «Отклонения (2)». Полученные результаты сравнивают с табличными критическими значениями критерия Фишера (приложение, табл. III). Число степеней свободы f1 = 1, а f2 = 44.
Вычисление биологической активности и ее доверительных границ
Соотношение доз равно 2,667, следовательно I = lg 2,667 = 0,4260 ;
t = 1,958788 +2,429953/f + 2,189891/f2 +4,630189/f3 +1,398179/f9 = 2,02 (f = 44 и
P = 95 %); | 2(LS+Ly) 2(-468-690)
b = = = — 56,63 ; IN 0,4260 • 96 S 4098 _ _ 2n = 48 = 85,38 ; u yu= _= 83,29 ; ‘ Уи ~ Ус Ми = Ju b Js = 0,0369; Au =100 ЕД/мл; MU = MU + lg AU = 2,0369; |
Биологическая активность RU = 102,0369 = 108,87 ЕД/мл;
C = E(E — s212) = 13968,38/(13968,38 -190,88 • 2,022) = 1,0591.
29
Логарифмические доверительные границы биологической активности испытуемого препарата вычисляют по формуле:
CMU ±J(C — 1)(cMU2 +12) + 1gAU =
= 1,0591 • 0,0369 + J0,0591 • (1,0591 • 0,03692 + 0,42602) + 2,000 .
Логарифмические доверительные границы биологической активности испытуемого препарата составляют 1,9351 и 2,1431.
Таким образом, биологическая активность испытуемого препарата равна 108,9 ЕД/мл. Ее доверительные границы составляют 101,9351 — 102,1431, т. е. 86,1 — 139,0 ЕД/мл.
При определении содержания гистамина в лекарственных препаратах в качестве тест-объекта применяют изолированную подвздошную кишку морской свинки, а в качестве ответа — величину ее изотонического сокращения в ответ на введение стандартного образца и испытуемого препарата. Эти сокращения регистрируют в виде амплитуды перемещения писчика механического рычага или пера электронного самописца (см или мм).
Таблица 22 — Учет результатов | (первичные данные) | ||
Стандартный образец | Испытуемый | ||
(гистамина дигидрохлорид) | препарат | ||
Разведение 3 | Разведение 1 | (ИП) или его | |
Концентрация гистамина дигидрохлорида, г/мл | 5,00 • 10-6 | 1,25 • 10-6 | разведение |
Логарифм концентрации гистамина дигидрохлорида | -5,301 | -5,903 | |
Высота пика, мм | 25,5 | 14,0 | 17,5 |
30,0 | 11,0 | 19,5 | |
27,5 | 10,0 | 19,0 | |
28,5 | 11,5 | 12,0 | |
24,5 | 8,5 | 16,0 | |
Среднее значение, см | 27,2 | 11,0 | 16,8 (у) |
- Для каждого разведения стандартного образца и ИП получают не менее 4 пиков, измеряют их высоту (см.табл. 22).
30
- Вычисляют параметры уравнения линейной регрессии (систематическую погрешность и коэффициент регрессии) для зависимости ответа изолированного органа (высоты пика) от логарифма концентрации стандартного образца:
a = 169,8381,
b = 26,9076,
где а — свободный член линейной регрессии (отрезок между началом координат и точкой пересечения линии регрессии с осью ординат);
b — угловой коэффициент линейной регрессии (тангенс угла наклона линии регрессии).
- Вычисляют, какой концентрации гистамина в пересчете на стандартный образец соответствует средний ответ на введение ИП:
y = a + bx
16,8 = 169,8381 + 26,9076 x
y — a 16,8-169,8381 _ оо , _ „
x = ь = — 26 90^6— = -5,688 (логарифм концентрации гистамина в ИП в пересчете на стандартный образец).
10x = 10-5,688 = 2,05 • 10-6 (г/мл) гистамина в ИП в пересчете на стандартный образец.
- Коэффициент пересчета с гистамина дигидрохлорида на гистамин- основание равен 0,6038, следовательно:
0,6038 • 2,05 • 10-6 = 1,2378 • 10-6 (г/мл) гистамина-основания в ИП.
ИП считают прошедшим испытание, если содержание гистамина- основания в неразведенном ИП не превышает максимально допустимое нормативным документом.
-
- Обработка результатов испытания на пролонгированное
(удлиненное) действие лекарственных препаратов инсулина
и его аналогов
- Обработка результатов испытания на пролонгированное
Пролонгированное действие препаратов инсулина определяют путем сравнения их гипогликемического действия с действием раствора
31стандартного образца инсулина после подкожной инъекции. В качестве тест- объекта используют кроликов, а в качестве ответа — концентрацию глюкозы в крови через 1,0; 1,5; 3,5 и 6,0 ч после введения в % от исходного уровня.
32
Таблица 23 — Ответы (концентрация глюкозы в крови кроликов в мг%)
Стандартный образец S | ||||||
№ п/п | Время, ч | |||||
0 | 1,5 | 3 | 4,5 | 6 | ||
1 | 119 | 30 | 33 | 66 | 115 | |
2 | 84 | 19 | 43 | 75 | 90 | |
3 | 85 | 32 | 37 | 55 | 87 | |
4 | 73 | 43 | 40 | 49 | 81 | |
5 | 91 | 24 | 71 | 83 | 95 | |
6 | 82 | 48 | 48 | 57 | 75 | |
7 | 91 | 21 | 36 | 48 | 92 | |
8 | 95 | 44 | 47 | 65 | 111 | |
9 | 93 | 25 | 20 | 65 | 95 | |
Сумма | ||||||
Среднее, мг% | 90,33 | 31,78 | 41,67 | 62,56 | 93.44 | 319,78 |
Среднее, % | 100,00 | 35,18 | 46,13 | 69,26 | 103.44 | n = 9 |
Среднее снижение, % | 64,82 | 53,87 | 30,74 | -3,44 |
Испытуемый препарат U
№ п/п | Время, ч | |||||
0 | 1,5 | 3 | 4,5 | 6 | ||
1. | 89 | 41 | 48 | 54 | 74 | |
2. | 102 | 36 | 41 | 43 | 68 | |
3. | 83 | 36 | 45 | 57 | 72 | |
4. | 82 | 47 | 20 | 34 | 61 | |
5. | 94 | 62 | 56 | 93 | 34 | |
6. | 79 | 40 | 41 | 52 | 48 | |
7. | 97 | 19 | 34 | 42 | 79 | |
8. | 110 | 47 | 44 | 89 | 73 | |
9. | 62 | 35 | 36 | 40 | 44 | |
Сумма | ||||||
Среднее, мг% | 88,67 | 40,33 | 40,56 | 56,00 | 61.44 | 287,00 |
Среднее, % | 100,00 | 45,48 | 45,74 | 63,16 | 69.29 | n = 9 |
Среднее снижение, % | 54,52 | 54,26 | 36,84 | 30,71 |
Для каждого кролика в каждой временной точке рассчитывают индивидуальную относительную концентрацию глюкозы в крови в процентах от исходного уровня данного животного.
33
Таблица 24 — Концентрация глюкозы в крови животных (%) от исходного
уровня
Стандартный образец £ | |||||
Время, ч | |||||
№ п/п | 0 | 1,5 | 3 | 4,5 | 6 |
1 | 100,00 | 25,21 | 27,73 | 55,46 | 96,64 |
2 | 100,00 | 22,62 | 51,19 | 89,29 | 107,14 |
3 | 100,00 | 37,65 | 43,53 | 64,71 | 102,35 |
4 | 100,00 | 58,9 | 54,79 | 67,12 | 110,96 |
5 | 100,00 | 26,37 | 78,02 | 91,21 | 104,4 |
6 | 100,00 | 58,54 | 58,54 | 69,51 | 91,46 |
7 | 100,00 | 23,08 | 39,56 | 52,75 | 101,1 |
8 | 100,00 | 46,32 | 49,47 | 68,42 | 116,84 |
9 | 100,00 | 26,88 | 21,51 | 69,89 | 102,15 |
Среднее | 100,00 | 36,17 | 47,15 | 69,82 | 103,67 |
n | 9 | 9 | 9 | 9 | |
f | 8 | 8 | 8 | 8 | |
s | 14,915 | 16,838 | 13,085 | 7,486 | |
t | 2,306 | 2,306 | 2,306 | 2,306 | |
Nx, P = 95 % | 11,46 | 12,94 | 10,06 | 5,75 | |
Испытуемый препарат U | |||||
Время, ч | |||||
№ п/п | 0 | 1,5 | 3 | 4,5 | 6 |
1 | 100,00 | 46,07 | 53,93 | 60,67 | 83,15 |
2 | 100,00 | 35,29 | 40,2 | 42,16 | 66,67 |
3 | 100,00 | 43,37 | 54,22 | 68,67 | 86,75 |
4 | 100,00 | 57,32 | 24,39 | 41,46 | 74,39 |
5 | 100,00 | 65,96 | 59,57 | 98,94 | 36,17 |
6 | 100,00 | 50,63 | 51,9 | 65,82 | 60,76 |
7 | 100,00 | 19,59 | 35,05 | 43,3 | 81,44 |
8 | 100,00 | 42,73 | 40 | 80,91 | 66,36 |
9 | 100,00 | 56,45 | 58,06 | 64,52 | 70,97 |
Среднее | 100,00 | 46,38 | 46,37 | 62,94 | 69,63 |
n | 9 | 9 | 9 | 9 | |
f | 8 | 8 | 8 | 8 | |
s | 13,628 | 11,99 | 19,192 | 15,238 | |
t | 2,306 | 2,306 | 2,306 | 2,306 | |
Nx, P = 95 % | 10,48 | 9,22 | 14,75 | 11,71 |
Так как в течение 6 ч средняя относительная концентрация глюкозы в крови кроликов, получивших раствор стандартного образца, достигла 103,7 %, то в качестве контрольной точки принимают время, когда она достигла 100 % (между 4,5 и 6 ч).
- Расчет контрольной временной точки:
- У группы кроликов, получивших стандартный образец, вычисляют изменение средней относительной концентрации глюкозы в крови на
34завершающем этапе опыта. Для этого вычисляют разность между средними значениями относительной концентрации глюкозы в крови группы животных, получивших раствор стандартного образца, через 6и 4,5 ч после введения:
103,67 — 69,82 = 33,85 (%).
-
- Разность между средним исходным уровнем и средней концентрацией глюкозы через 4,5 ч после введения:
100,00 — 69,82 = 30,18 (%)
-
- Составляют следующую пропорцию:
1,50 ч ^ 33,85 %
30,18-1,50
33,85
= 1,34 (ч) прошло от 4,5 ч до контрольной точки.
-
- Контрольная временная точка равна: 4,50 +1,34 = 5,84 (ч).
- Для каждого животного рассчитывают относительную концентрацию глюкозы в крови в контрольной временной точке. Например, для кролика № 1 в первой группе:
- 96,64 — 55,46 = 41,18 (%) за 1,5 ч с 4,5 до 6 ч.
Следовательно, за время, прошедшее от 4,5 до 5,84 ч концентрация глюкозы в крови данного животного возросла на:
1,34 — 41,18 = 36,79 (%)
1,50
-
- Поэтому, концентрация глюкозы в крови кролика № 1 в контрольной временной точке составила 55,46 + 36,79 = 92,25 (%).
Такие же расчеты проводят и для остальных животных. Полученные результаты переносят в следующую табл. 25.
Таблица 25 — Результаты определения пролонгированного действия
Стандартный образец (S) | Испытуемый препарат (U) | ||||||
0 | 4,5 ч | 6 ч | Контрольная точка 5,84 ч | 0 | 4,5 | 6 ч | Контрольная точка 5,84 ч |
100,00 | 55,46 | 96,64 | 92,25 | 100,00 | 60,67 | 83,15 | 80,75 |
100,00 | 89,29 | 107,14 | 105,24 | 100,00 | 42,16 | 66,67 | 64,06 |
100,00 | 64,71 | 102,35 | 98,34 | 100,00 | 68,67 | 86,75 | 84,82 |
100,00 | 67,12 | 110,96 | 106,28 | 100,00 | 41,46 | 74,39 | 70,88 |
100,00 | 91,21 | 104,4 | 102,99 | 100,00 | 98,94 | 36,17 | 42,87 |
35
100,00 | 69,51 | 91,46 | 89,12 | 100,00 | 65,82 | 60,76 | 61,3 |
100,00 | 52,75 | 101,1 | 95,94 | 100,00 | 43,3 | 81,44 | 77,37 |
100,00 | 68,42 | 116,84 | 111,68 | 100,00 | 80,91 | 66,36 | 67,91 |
100,00 | 69,89 | 102,15 | 98,71 | 100,00 | 64,52 | 70,97 | 70,28 |
100,00 | 69,82 | 103,67 | 100,06*100,00 | 100,00 | 62,94 | 69,63 | 68,92 |
52 = 51,446 | 52 = 153,895 |
Для того чтобы проверить равенство дисперсий в двух группах, делят
большую дисперсию на меньшую: 512/52 = 153,895/51,446 « 2,99, что меньше критического значения критерия Фишера для f_ = f2 =8 и Р = 95%, равного 3,44 (приложение, табл. III). Это значит, что различие двух дисперсий статистически недостоверно. Поэтому проводят сравнение двух средних значений относительной концентрации глюкозы в крови двух групп животных с помощью критерия Стьюдента по формуле:
Iх1 — х 2I
п п„ — 2 = 6,519, где f = пг —1; п1 + п 2
Ч f. + f2
tкритич. = 1,958788 + 2,429953/f + 2,189891/f2 +4,630189/f3 +1,398179/f9 ^ 2,120, при f = n 1 + n 2 — 2 = 16 и P = 95 %.
t к
набл.
Это говорит о том, что в контрольное время (5,84 ч) средняя относительная концентрация глюкозы в крови кроликов, получивших испытуемый препарат, была достоверно ниже, чем таковая в крови животных, получивших раствор стандартного образца, что свидетельствует о наличии пролонгированного действия испытуемого препарата.
Результаты опыта в графическом виде приведены на рисунке.
36
Рисунок — Гипогликемические кривые кроликов в % от исходного уровня
(определение пролонгированного действия).
Примечание. Если 5 2/52 превышает критическое значение критерия Фишера, то для вычисления наблюдаемого значения критерия Стьюдента следует применять формулу:
Iх 1 — x 2|
(2 , 2 S + 5,
0’5+Тч7
……. 51 + 5 2
Вычисленное значение tнабл. сравнивают с tкритич., как указано выше (число степеней свободы f округляют до целого числа). Критическое значение критерия Стьюдента можно также найти в приложениях (табл. II).
-
- Четырехпараметрический метод анализа
S-образных кривых дозозависимости
Данный метод применяют для определения биологической активности иммунобиологических препаратов.
Кривая дозозозависимости как стандартного образца, так и испытуемого препарата характеризуется 4 параметрами:
- верхнее плато (а);
- нижнее плато (8);
- коэффициент наклона (в);
- расстояние между кривыми по оси x (у).
Зависимость ответа u от натурального логарифма дозы x выражают следующей формулой:
и = 8+ a~J; .
1 + е-₽(х-у)
Кривые стандартного образца и испытуемого препарата можно сравнивать при одинаковом наклоне, а также одинаковом уровне верхнего и нижнего плато. Таким образом, кривые должны различаться только по параметру у, который является показателем активности испытуемого препарата. Равенство трех остальных параметров доказывают при валидации методики для рутинных испытаний. Повторная проверка равенства данных параметров необходима только при изменении условий испытания.
37
Четырехпараметрический метод реализован в специальном биометрическом программном обеспечении (например, CombiStats, PLA).
В случае отсутствия такого программного обеспечения, можно выбрать линейные участки кривых и сравнить их с помощью метода трехдозовой рандомизированной постановки (3.2).
- БИОЛОГИЧЕСКИЕ ИСПЫТАНИЯ, ОСНОВАННЫЕ
НА АЛЬТЕРНАТИВНОМ ОТВЕТЕ- Оценка и сравнение пороговых доз
при их прямом определении
- Оценка и сравнение пороговых доз
При испытаниях некоторых лекарственных средств результат их действия учитывают не в количественной, а в альтернативной форме (наличие или отсутствие эффекта — гибели, судорог и т. д., иногда это называют реакцией «все или ничего»). В ряде случаев может быть получена величина эффективной (пороговой) дозы ED для каждого отдельного испытуемого препарата: фиксируют ту дозу, при которой получается ожидаемый эффект. Тогда оценкой эффективной дозы для данного испытуемого препарата может служить среднее значение по достаточно большой группе животных. При расчетах найденные индивидуальные эффективные дозы ED заменяют их логарифмами x=lgED, ибо распределение этих логарифмов обычно ближе к нормальному, чем распределение самих доз. После того как вычислены значения:
x = Z xln;
Z(x —
n (n —1)
находят доверительные границы для эффективной дозы:
EDH,B = 10′V|l‘l!.
Величину t (P, f. ищут для числа степеней свободы f = n — 1.
Вычисление эквивалентной эффективной дозы и ее доверительных границ производят по формулам:
M = x — x0 •
Э
38
M н,в = M ± t (P, f)s^10n;
x0 =^x01 n0— x = ^x^n ;
_ |x(x0 —x)2 +E(x—x)2
n n0 + n — 2
a t (P, f) ищут для числа степеней свободы f = n0 + n — 2. Доверительные границы для отношения эквивалентных эффективных доз равны:
(ED0/ED)hb= 102±мн,в
Если рассматриваемый эффект не является необратимым, то лучше использовать одну группу тест-объектов, применяя к каждому из них сначала 1 испытуемый препарат, а затем после интервала, необходимого для полного восстановления начального состояния, другой. Получив для каждого тест- объекта разность логарифмов пороговых доз А = x — x0, вычисляют:
M =А = ^А/n,
M н,в = M ± tp^ Е(А-А)7П (П — 1 ,
причем t(P, f) ищут для числа степеней f = n —1. Такая постановка испытания позволяет уменьшить влияние изменчивости исходных состояний и параметров тест-объектов и приводит к сужению доверительных интервалов. При этом целесообразно разбить группу тест-объектов на 2 примерно равные подгруппы с тем, чтобы одна из них получала сначала стандартный образец, а затем испытуемый препарат, а другая подгруппа — наоборот. Этим обеспечивается лучшая рандомизация.
-
-
- Обработка результатов оценки активности испытуемого
препарата по сравнению со стандартным образцом на кошках
- Обработка результатов оценки активности испытуемого
-
Из полученных в опыте данных вычисляют величину смертельной дозы испытуемого препарата для каждого животного в миллилитрах на 1 кг массы тела (Y). Находят величину средней смертельной дозы для стандартного образца и испытуемого препарата (Ys и Yu соответственно), а также их стандартные отклонения ss и su , вычисленные по следующим формулам:
39
2 .
;
s2
, где f = n —
1;
s = ss
s
- —~T
nn
Результаты опытов удовлетворяют требованиям метода, если отношение стандартного отклонения среднего результата смертельной дозе Y не превышает 5,7 %. В противном случае необходимо увеличить число опытов.
SY к средней
Испытуемый препарат считают прошедшим испытание, если отношение средних смертельных доз стандартного образца и испытуемого препарата составляет 90 — 110 %, а их разность не превышает величины Sd • t.
Стандартное отклонение разности рассчитывают по формуле:
У|: — YS)2 -^IY — Yu )2 nS + nL,
nS + nU — 2 nsnU
Критическое значение критерия Стьюдента t для числа степеней свободы f = nS + nU -2 при P = 95 % вычисляют как в предыдущих разделах или находят в табл. II приложения.
YYU — YU)2 -13,72;
— 0,48(мл/кг);
— 0,68 (мл/кг).
40
№ | Стандартный образец | Испытуемый препарат | ||||
п/п | Ys, мл/кг | YS — YS | (Ys — YS )2 | YU , мл/кг | Yu — Yu | Yu — Yu )2 |
1 | 15,0 | 3,5 | 4,00 | 16,0 | 2,5 | 6,25 |
2 | 16,3 | 2,2 | 0,49 | 17,1 | 1,4 | 1,96 |
3 | 18,2 | 0,3 | 1,44 | 20,0 | 1,5 | 2,25 |
4 | 17,8 | 0,7 | 0,64 | 19,5 | 1,0 | 1,00 |
5 | 17,0 | 1,5 | 0,00 | 20,0 | 1,5 | 2,25 |
6 | 17,7 | 0,8 | 0,49 | 18,4 | 0,1 | 0,01 |
Таблица 26 — Определение биологической активности сердечных гликозидов на кошках по сравнению со стандартным образцом (пример 5)
YS — 17,0 (мл/кг)
YU — 18,5(мл/кг)
V|; — YS)’- — 7,06;
Отношение стандартного отклонения среднего результата к средней смертельной дозе для стандартного образца и испытуемого препарата соответственно:
SYS * 100 0,48 -100%
= — — X2,8 /О ;
YS 17
SY • 100
YU
Yu
0,68 -100%
18,5
— ±3,68%.
Из полученных данных видно, что значения этих отношений меньше 5,7 %. Следовательно, число проведенных опытов достаточно.
Активность испытуемого препарата составляет:
17,0 -100%
18,5
— 91%.
Среднее отклонение разности равно:
7,06 +13,72 12
sd — J — 0,8 (мл/кг).
d \ 12 — 2 36
Величина t приf = 12-2 = 10 и P = 95 % равна 2,23. Следовательно:
sd ■ t — 0,8 — 2,23 — 1,78 мл/кг.
Так как разность средних смертельных доз составляет 1,5 мл/кг и меньше величины Sd • t , равной 1,78, а активность испытуемого препарата составляет 91 %, испытуемый препарат следует считать удовлетворяющим по своей активности предъявляемым требованиям.
4.2. Оценка биологической активности
испытуемого препарата при косвенном определении
эффективных доз (оценка ED50)
Чаще всего прямое определение эффективной (пороговой) дозы для отдельного животного невозможно, и тогда количественной характеристикой активности испытуемого препарата в каждом опыте служит доля (процент) тест-объектов, давших положительный ответ. Зависимость этой доли от дозы имеет всегда вид S-образной несимметричной кривой, которая при замене доз их логарифмами обычно становится более или менее симметричной. В качестве показателя, характеризующего биологическую активность испытуемого препарата в целом, чаще всего принимается та доза, которая вызывает эффект у 50 % тест-объектов; ее называют 50 %-й эффективной дозой и обозначают ED50 (в частности, для токсинов употребляется 50процентная летальная доза LD50).
Для нахождения ED50 следует поставить опыты с несколькими (не менее 3) группами тест-объектов (как правило, не менее 6 в каждой группе)
41
при разных дозах. Интервал используемых доз должен обеспечивать достаточно широкий диапазон положительных ответов (примерно от 20 до 80 %). После получения процентов рi, положительных ответов для каждой из доз Di, они заменяются так называемыми пробитами yi согласно табл. V приложения. Смысл этой замены состоит в том, что зависимость между пробитами у, и логарифмами доз х i = lgD i обычно близка к линейной. Эта близость соблюдается тем лучше, чем ближе значение р i к 50 %, поэтому для каждой из групп вводится весовой коэффициент wi зависящий от рi; значения Wi приведены в табл. VI приложения.
-
-
- Определение средней смертельной дозы (LD50)
-
LD50 — доза, при которой погибает половина животных. В опыт взяли 4 группы белых мышей по 6 животных в каждой.
Таблица 27 — Учет результатов опыта (яд гюрзы)
Доза, мг/кг (D) | Число погибших животных в группе | Число животных в группе | % погибших животных в группе | Пробит (P) | Весовой коэффициент (W) |
2,50 | 0 | 6 | 0 | 3,27 | 1,54 |
3,75 | 3 | 6 | 50 | 5,00 | 5,00 |
5,00 | 5 | 6 | 83,3 | 5,962 | 3,576 |
6,25 | 6 | 6 | 100 | 6,73 | 1,54 |
Z | 11,656 |
Пробиты и соответствующие им весовые коэффициенты см. табл. V, VI и VII в приложении.
Таблица 28
DW | PW | D2 W | PWD | |
3,850 | 5,036 | 9,625 | 12,590 | |
18,750 | 25,000 | 70,313 | 93,750 | |
17,880 | 21,320 | 89,400 | 106,601 | |
9,625 | 10,364 | 60,156 | 64,776 | |
Z | 50,105 | 61,720 | 229,494 | 277,717 |
Вычисляют LD50:
r_
A,= £ PWD
к
£ DW x£ PW |
£ W I
50,105 * 61,720I/f229 494 — 50,1052
277,717 —
= 0,879;
11,656 J/ к , 11,656
£ PW-£ DW • A1 61,720 — 50,105 • 0,879
A 0 = ^=i = = 1,517.
0 £ W 11,656
n =12 (общее число животных в группах, в которых наблюдался эффект от 6,66 до 93,33 %). В данном случае, в этот
теоретический интервал попадают группы, получившие 3,75 и 5,00 мг/кг.
Число степеней свободы f = n -1 = 11;
t = 1,958788 + 2,429953/f + 2,189891/f2 + 4,630189/f3 +1,398179/f9 « 2,201, (P = 95 %; f = 11); ’
5— До
LD50 = 0 = 3,962 (мг/кг);
Д1
6 —
LD84 = u = 5,100 (мг/кг);
Л1
4 —
LD16 = u = 2,825 (мг/кг);
Д1
3.72 -До
LD10 = » = 2,506 (мг/кг);
Д1
LD84- LD16 5,100-2,825 плгл
s= =— = =— = 0,464;
V2n <24
Нижняя доверительная граница (P = 95 %) = LD50 — st = 3,962 — 0,464 • 2,201 = 2,941;
Верхняя доверительная граница (P = 95 %) = LD50 + st = 3,962 — 0,464 • 2,201 = 4,983.
4.3. Сравнение ЛД50 двух испытуемых препаратов
Испытуемый препарат 1
LD50 = 3,962 (мг/кг)
Доверительные границы
2,941 — 4,983 мг/кг
n = 12, f = 11, P = 95%
s = 0,464
Испытуемый препарат 2
LD50 = 2,632 (мг/кг)
Доверительные границы
2,034 — 3,230 мг/кг
n = 24, f = 23, P = 95%
s = 0,289
43
f = n1 + n2 — 2 = 12 + 24 — 2 = 34
^набл.
|LD50(l) LD50(2)|
751 + S2
|3,962 — 2,632|
70,4642 + 0,2892
= 2,433
tкрити, = 2,0346 (f = 34, P = 95 %)
Разность d= |LD5o2 — LD501I = 1,330 (мг/кг);
Стандартное отклонение этой разности sd = J0,4642 +0,2892 = 0,547;
t = 2,0346 при f = n1+n 2— 2 = 34 и р = 95 %, следовательно, нижняя доверительная граница разности равна d — tsd = 1,330 — 2,0346 • 0,547 = 0,217, а верхняя доверительная граница равна d + tsd = 2,443 (мг/кг).
Из того, что tнабл. > tкритич. и доверительные границы d являются положительными величинами, следует, что LD50 испытуемого препарата 1 и испытуемого препарата 2 статистически значимо различаются (P = 95 %).
4.4. Качественное сравнение испытуемых препаратов
Когда какой-либо испытуемый препарат изучают (например, по зависимости доза-эффект) при наличии другого испытуемого препарата с аналогичным действием, может возникнуть необходимость сравнения их эффективности при сопоставимых дозах (обычно при ED50 для каждого). Может потребоваться доказательство эффективности испытуемого препарата по сравнению с плацебо.
Составляют следующую таблицу:
Таблица 32 — Схема качественного сравнения двух препаратов
Препарат | — | + | Сумма |
Испытуемый препарат 1 | a | b | a + b |
Испытуемый препарат 2 | c | d | c + d |
Сумма | a + c | b + d | n |
44
«+» и «-» — тест-объекты, давшие соответственно положительный и отрицательный ответ при действии испытуемого препарата, а a, b, c и d — их число.
Число степеней свободы f равно 1, поэтому критические значения
„ _2 z^ z. _ Л,х _2 z^ ZXZX Л,х -.2
критерия Пирсона 2критич.= 3,84 (P = 95 %); Ариши. 6,63 (P = 99 %); 2критич.=
10,83 (P = 99,9 %) являются константами. Наблюдаемое значение критерия вычисляют по следующей формуле:
2 (ad — bc\ — n/2)2
^» (a + b )(c + d)(a + c )(b + d)
Пример 6. Для проверки эффективности вакцины против туберкулеза телятам сначала делали либо предохранительную прививку, либо прививку контрольных средств, а затем заражали микобактериями туберкулеза. С вакцинацией заболели 6 из 20 животных, а без вакцинации — 16 из 19.
Таблица 33 — Проверка эффективности вакцины против туберкулеза
— | + | Сумма | |
С вакцинацией | 14 | 6 | 20 |
Без вакцинации | 3 | 16 | 19 |
Сумма | 17 | 22 | 39 |
( (114 • 16 — 6 • 3 — 39/2)
Z2 _ ^ ! — • 39 _ 9,54.
20-19-17•22
Это значение превышает критическое значение х2 = 6,63 (P = 95 %; f = 1), поэтому вакцину следует признать эффективной.
Если значение a, b, c или d меньше 3, применение критерия Пирсона не рекомендуется. В таких случаях используют формулу Фишера:
р _ (a + b)(c + d)!(a + c)!(b + d)!
n! a!b!c! d! .
При р < 0,01 нулевая гипотеза отвергается, а при P ^ 0,05 — принимается.
5. ОБЪЕДИНЕНИЕ РЕЗУЛЬТАТОВ НЕЗАВИСИМЫХ ОПРЕДЕЛЕНИЙ
БИОЛОГИЧЕСКОЙ АКТИВНОСТИ
45
При необходимости объединения результатов n определений биологической активности одного и того же испытуемого препарата, применяют следующие способы.
Взвешенное среднее
Если при всех объединяемых биологических испытаниях исходят из одинакового значения ожидаемой активности испытуемого препарата, для каждого опыта рассчитывают весовой коэффициент:
где L — разность логарифмов верхней и нижней доверительной границы биологической активности.
Средневзвешенная логарифмическая биологическая активность равна:
_ X WMu
M =-^
X W
n
Среднее значение объединенной биологической активности = 10M .
Стандартное отклонение средней биологической активности sM обратно пропорционально сумме весовых коэффициентов объединяемых биологических испытаний:
sM
Доверительные границы объединенной активности составляют 10M+tхsM,
где t = t(P, f), и при этом число степеней свободы f для данного значения критерия Стьюдента равно сумме степеней свободы показателей «Отклонение» объединяемых биологических испытаний (P = 95 %).
Однородность полученных результатов проверяют с помощью критерия Пирсона (P = 95 %):
Z X W(Mu — M)2
n
Z,™ = 0,1726 + 0,9569f + 2,7115/f, где f = n-1, 1 < f < 30 и P = 95 %.
Критические значения критерия Пирсона можно также найти в приложении (табл. IV).
46
Наблюдаемое значение критерия Пирсона должно быть меньше критического.
Невзвешенное среднее
В случаях, когда расчет взвешенного среднего невозможен, например, при различном значении ожидаемой активности AU в объединяемых опытах, используют невзвешенное среднее с доверительными границами, основанными на дисперсии между опытами .
Е Mu n
n
n
n
n —1
Доверительные границы равны M ±tsM при f = n — 1 и P = 95 %.
ПРИЛОЖЕНИЕ
Таблица I
Критические значения контрольного критерия Q (Р, n)
n | Q | ||
P = 90 % | P = 95 % | P = 99 % | |
3 | 0,89 | 0,94 | 0,99 |
4 | 0,68 | 0,77 | 0,89 |
5 | 0,56 | 0,64 | 0,76 |
6 | 0,48 | 0,56 | 0,70 |
7 | 0,43 | 0,51 | 0,64 |
8 | 040 | 0,48 | 0,58 |
9 | 0,38 | 0,46 | 0,55 |
Таблица II
Критические значения критерия Стьюдента
f | Доверительная вероятность | f | Доверительная вероятность | ||||
P = 95 % | P = 99 % | P = 99,9 % | P = 95 % | P = 99 % | P = 99,9 % | ||
1 | 12,71 | 63,60 | 21 | 2,08 | 2,83 | 3,82 | |
2 | 4,30 | 9,93 | 31,60 | 22 | 2,07 | 2,82 | 3,79 |
3 | 3,18 | 5,84 | 12,94 | 23 | 2,07 | 2,81 | 3,77 |
4 | 2,78 | 4,60 | 8,61 | 24 | 2,06 | 2,80 | 3,75 |
5 | 2,57 | 4,03 | 6,86 | 25 | 2,06 | 2,79 | 3,73 |
6 | 2,45 | 3,71 | 5,96 | 26 | 2,06 | 2,78 | 3,71 |
7 | 2,37 | 3,50 | 5,41 | 27 | 2,05 | 2,77 | 3,69 |
8 | 2,31 | 3,36 | 5,04 | 28 | 2,05 | 2,76 | 3,67 |
9 | 2,26 | 3,25 | 4,78 | 29 | 2,04 | 2,76 | 3,66 |
10 | 2,23 | 3,17 | 4,59 | 30 | 2,04 | 2,75 | 3,65 |
11 | 2,20 | 3,11 | 4,44 | 40 | 2,02 | 2,70 | 3,55 |
12 | 2,18 | 3,06 | 4,32 | 50 | 2,01 | 2,68 | 3,50 |
13 | 2,16 | 3,01 | 4,22 | 60 | 2,00 | 2,66 | 3,46 |
14 | 2,15 | 2,98 | 4,14 | 80 | 1,99 | 2,64 | 3,42 |
15 | 2,13 | 2,95 | 4,07 | 10 | 1,98 | 2,63 | 3,39 |
16 | 2,12 | 2,92 | 4,02 | 12 | 1,98 | 2,62 | 3,37 |
17 | 2,11 | 2,90 | 3,97 | 20 | 1,97 | 2,60 | 3,34 |
18 | 2,10 | 2,88 | 3,92 | 50 | 1,96 | 2,59 | 3,31 |
19 | 2,09 | 2,86 | 3,88 | от | 1,96 | 2,58 | 3,29 |
20 | 2,09 | 2,85 | 3,85 | ||||
f | p = 0,05 | p = 0,01 | p = 0,001 | f | p = 0,05 | p = 0,01 | p = 0,001 |
Уровень значимости | Уровень значимости |
t = 1,958788 + 2,429953/f + 2,189891/f2 +4,630189/f3 +1,398179/f9 при P = 95 %;
t = 2,5638 + 5,49059/f + 2,72654/f2 + 31,2446/f3 + 21,6745/f10 при P = 99 %.
48
Таблица III
Критические значения критерия Фишера
f2 — число степеней — свободы для меньшей дисперсии | 1 | 2 | f1 — число степеней свободы для большей дисперсии | 20 | от | |||||
3 | 4 | 5 | 6 | 7 | 8 | |||||
3 | 10,13 | 9,55 | 9,28 | 9,12 | 9,01 | 8,94 | 8,88 | 8,84 | 8,66 | 8,53 |
34,12 | 30,81 | 29,46 | 28,71 | 28,24 | 27,91 | 27,67 | 27,49 | 26,69 | 26,12 | |
6 | 5,99 | 5,14 | 4,76 | 4,53 | 4,39 | 4,28 | 4,21 | 4,15 | 3,87 | 3,67 |
13,74 | 10,92 | 9,78 | 9,15 | 8,75 | 8,47 | 8,26 | 8,10 | 7,39 | 6,88 | |
9 | 5,12 | 4,26 | 3,86 | 3,63 | 3,48 | 3,87 | 3,29 | 3,23 | 2,93 | 2,71 |
10,56 | 8,02 | 6,99 | 6,42 | 6,06 | 5,80 | 5,62 | 5,47 | 4,80 | 4,31 | |
12 | 4,75 | 3,89 | 3,49 | 3,26 | 3,11 | 3,00 | 2,91 | 2,85 | 2,54 | 2,30 |
9,33 | 6,93 | 5,95 | 5,41 | 5,06 | 4,82 | 4,64 | 4,50 | 3,86 | 3,36 | |
15 | 4,54 | 3,68 | 3,29 | 3,06 | 2,90 | 2,79 | 2,71 | 2,64 | 2,33 | 2,07 |
8,68 | 6,36 | 5,42 | 4,89 | 4,56 | 4,32 | 4,14 | 4,00 | 3,37 | 2,87 | |
20 | 4,35 | 3,49 | 3,10 | 2,87 | 2,71 | 2,60 | 2,51 | 2,45 | 2,12 | 1,84 |
8,10 | 5,85 | 4,94 | 4,43 | 4,10 | 3,87 | 3,70 | 3,56 | 2,94 | 2,42 | |
30 | 4,17 | 3,32 | 2,92 | 2,69 | 2,53 | 2,42 | 2,33 | 2,27 | 1,93 | 1,62 |
7,56 | 5,39 | 4,51 | 4,02 | 3,70 | 3,47 | 3,30 | 3,17 | 2,55 | 2,01 | |
60 | 4,00 | 3,15 | 2,76 | 2,53 | 2,37 | 2,25 | 2,17 | 2,10 | 1,75 | 1,39 |
7,08 | 4,98 | 4,13 | 3,65 | 3,34 | 3,12 | 2,95 | 2,82 | 2,20 | 1,60 | |
от | 3,84 | 3,00 | 2,60 | 2,37 | 2,21 | 2,10 | 2,01 | 1,94 | 1,57 | 1,00 |
6,63 | 4,61 | 3,78 | 3,32 | 3,02 | 2,80 | 2,64 | 2,51 | 1,88 | 1,00 |
F для P = 95 % напечатаны жирным шрифтом, а F для P = 99 % — обычным.
49
Таблица IV
Критические значения критерия Пирсона (х2)
/ | P = 95 % | P = 99 % | / | P = 95 % | P = 99 % | / | P = 95 % | P = 99 % |
1 | 3,84 | 6,63 | 18 | 28,9 | 34,8 | 35 | 49,8 | 57,3 |
2 | 5,99 | 9,21 | 19 | 30,1 | 36,2 | 36 | 51,0 | 58,6 |
3 | 7,81 | 11,3 | 20 | 31,4 | 37,6 | 37 | 52,2 | 59,9 |
4 | 9,49 | 13,3 | 21 | 32,7 | 38,9 | 38 | 53,4 | 61,2 |
5 | 11,1 | 15,1 | 22 | 33,9 | 40,3 | 39 | 54,6 | 62,4 |
0 | 12,6 | 16,8 | 23 | 35,2 | 41,6 | 40 | 55,8 | 63,7 |
7 | 14,1 | 18,5 | 24 | 36,4 | 43,0 | 41 | 56,9 | 65,0 |
8 | 15,5 | 20,1 | 25 | 37,7 | 44,3 | 42 | 58,1 | 66,2 |
9 | 16,9 | 21,7 | 26 | 38,9 | 45,6 | 43 | 59,3 | 67,5 |
10 | 18,3 | 23,2 | 27 | 40,1 | 47,0 | 44 | 60,5 | 68,7 |
11 | 19,7 | 24,7 | 28 | 41,3 | 48,3 | 45 | 61,7 | 70,0 |
12 | 21,0 | 26,2 | 29 | 42,6 | 49,6 | 46 | 62,8 | 71,2 |
13 | 22,4 | 27,7 | 30 | 43,8 | 50,9 | 47 | 64,0 | 72,4 |
14 | 23,7 | 29,1 | 31 | 45,0 | 52,2 | 48 | 65,2 | 73,7 |
15 | 25,0 | 30,6 | 32 | 46,2 | 53,5 | 49 | 66,3 | 74,9 |
16 | 26,3 | 32,0 | 33 | 47,4 | 54,8 | 50 | 67,5 | 76,2 |
17 | 27,6 | 33,4 | 34 | 48,6 | 56,1 |
X2 = 0,1726 + 0,9569/ + 2,7115.// при 1 <f < 30 и р = 95 %;
X2 = 1,9759 + 0,9521/ + 3,7070.// при 1 < f < 30 и р = 99 %.
Для f >30 справедливы следующие приближения: %2 = 2 Q2f —1 + 1,96)2 при P = 95 %;
X2 = 2Q2f —1 + 2,58)2 при P = 99 %.
50
Таблица V
Перевод процентов в пробиты
0 | 1 | 2 | 3 | 4 | 5 | 6 | 7 | 8 | 9 | |
0 | — | 2,67 | 2,95 | 3,12 | 3,25 | 3,36 | 3,45 | 3,52 | 3,59 | 3,66 |
10 | 3,72 | 3,77 | 3,82 | 3,87 | 3,92 | 3,96 | 4,01 | 4,05 | 4,08 | 4,12 |
20 | 4,16 | 4,19 | 4,23 | 4,26 | 4,29 | 4,33 | 4,36 | 4,39 | 4,42 | 4,45 |
30 | 4,48 | 4,50 | 4,53 | 4,56 | 4,59 | 4,61 | 4,64 | 4,67 | 4,69 | 4,72 |
40 | 4,75 | 4,77 | 4,80 | 4,82 | 4,85 | 4,87 | 4,90 | 4,92 | 4,95 | 4,97 |
50 | 5,00 | 5,03 | 5,05 | 5,08 | 5,10 | 5,13 | 5,15 | 5,18 | 5,20 | 5,23 |
60 | 5,25 | 5,28 | 5,31 | 5,33 | 5,36 | 5,39 | 5,41 | 5,44 | 5,47 | 5,50 |
70 | 5,52 | 5,55 | 5,58 | 5,61 | 5,64 | 5,67 | 5,71 | 5,74 | 5,77 | 5,81 |
80 | 5,84 | 5,88 | 5,92 | 5,95 | 5,99 | 6,04 | 6,08 | 6,13 | 6,18 | 6,23 |
90 | 6,28 | 6,34 | 6,41 | 6,48 | 6,55 | 6,64 | 6,75 | 6,88 | 7,05 | 7,33 |
0,0 | 0,1 | 0,2 | 0,3 | 0,4 | 0,5 | 0,6 | 0,7 | 0,8 | 0,9 | |
99 | 7,33 | 7,37 | 7,41 | 7,46 | 7,51 | 7,58 | 7,65 | 7,75 | 7,88 | 8,09 |
Таблица VI
Перевод пробитов в весовые коэффициенты
Пробиты | 0 | 0,1 | 0,2 | 0,3 | 0,4 | 0,5 | 0,6 | 0,7 | 0,8 | 0,9 |
3 | 1,0 | 1,2 | 1,4 | 1,6 | 1,8 | 2,0 | 2,3 | 2,6 | 2,9 | 3,2 |
4 | 3,5 | 3,7 | 3,9 | 4,1 | 4,3 | 4,5 | 4,6 | 4,7 | 4,8 | 4,9 |
5 | 5,0 | 4,9 | 4,8 | 4,7 | 4,6 | 4,5 | 4,3 | 4,1 | 3,9 | 3,7 |
6 | 3,5 | 3,2 | 2,9 | 2,6 | 2,3 | 2,0 | 1,8 | 1,6 | 1,4 | 1,2 |
51
Таблица VII
«Рабочие» пробиты для эффектов, равных 0 и 100 %
Число животных в группе (n ) | 0 % | 100 % |
2 | 3,85 | 6,15 |
3 | 3,62 | 6,38 |
4 | 3,47 | 6,53 |
5 | 3,36 | 6,64 |
6 | 3,27 | 6,73 |
7 | 3,20 | 6,80 |
8 | 3,13 | 6,87 |
9 | 3,09 | 6,91 |
10 | 3,04 | 6,96 |
11 | 3,00 | 7,00 |
12 | 2,97 | 7,03 |
13 | 2,93 | 7,07 |
14 | 2,90 | 7,10 |
15 | 2,87 | 7,13 |
16 | 2,85 | 7,15 |
17 | 2,82 | 7,18 |
18 | 2,80 | 7,20 |
19 | 2,78 | 7,22 |
20 | 2,76 | 7,24 |