kalibrace a limity jejÍ pŘesnostiabsolutní člen je nevýznamný, znamená to, že kalibrační...

21
UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, 532 10 Pardubice 15. licenční studium INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT Semestrální práce KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015 Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Prosinec 2015 Autor práce: Mgr. Veronika Pilařová

Upload: others

Post on 12-Dec-2020

4 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

UNIVERZITA PARDUBICE Fakulta chemicko-technologická

Katedra analytické chemie Nám. Čs. Legií 565, 532 10 Pardubice

15. licenční studium

INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT

Semestrální práce

KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Prosinec 2015 Autor práce: Mgr. Veronika Pilařová

Page 2: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

OBSAH ÚLOHA 1: LINEÁRNÍ KALIBRACE ............................................................................................................. 3

Zadání .................................................................................................................................................. 3

Data ..................................................................................................................................................... 3

Program ............................................................................................................................................... 3

Řešení .................................................................................................................................................. 3

Závěr .................................................................................................................................................... 9

ÚLOHA 2: NELINEÁRNÍ KALIBRACE ....................................................................................................... 10

Zadání ................................................................................................................................................ 10

Data ................................................................................................................................................... 10

Program ............................................................................................................................................. 10

Řešení ................................................................................................................................................ 10

Závěr .................................................................................................................................................. 16

ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ ....................................................... 17

Zadání ................................................................................................................................................ 17

Data ................................................................................................................................................... 17

Program ............................................................................................................................................. 17

Řešení ................................................................................................................................................ 17

Závěr .................................................................................................................................................. 21

Page 3: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

ÚLOHA 1: LINEÁRNÍ KALIBRACE

Zadání U pacientů s podezřením na nízkou hladinu vitaminu E, velmi důležitého antioxidantu, jehož nedostatek může zvýšit riziko nádorových onemocnění či aterosklerózy, byla změřena hladina nejvíce biologicky aktivního isomeru tohoto vitamínu v séru (α-tokoferolu) metodou SFC-MS. Pro kvantitativní stanovení bylo nutné změřit řadu kalibračních roztoků o různé koncentraci. Koncentrace α-tokoferolu je vyjádřena v µg/ml lidského séra. U pěti vzorků pacientů určete koncentraci α-tokoferolu v séru (odezva – plocha píku):

Data

Vzorek č. Koncentrace α-tokoferolu [µg/ml] Plocha píku

K1 0.001 1645

K2 0.005 15194 K3 0.01 26819 K4 0.05 116251

K5 0.1 267778 K6 0.5 1375631 K7 1 2689384 K8 5 13353438 K9 10 25757948

Pacient č. 1 ? 1008702 Pacient č. 2 ? 87904 Pacient č. 3 ? 345290 Pacient č. 4 ? 29563

Pacient č. 5 ? 46534

Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace

Řešení

Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci α-tokoferolu a y ploše píku zmíněného isomeru. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05.

Odhady parametrů

Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez

β 0 50281,06918 61165,99743 Nevýznamný 0,4381522965 -94353,53171 194915,6701 β 1 2589197,071 16330,29041 Významný 1,048050535E-013 2550582,07 2627812,071

Page 4: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.

Testování vlivných bodů pomocí diagnostických grafů: Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že bod 8 je považován ze vlivný bod (pod červenou linkou) a bod 9 za velmi vlivný bod (na červené lince). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje bod 8 za vlivný (v oblasti křivek zobrazujících sílu vlivu) a bod 9 za silně vlivný (na linii nad hyperbolickými křivkami).

Regresní křivka - Sheet1y - plocha píku

x - koncentrace

0 1 2 3 4 5 6 7 8 9 10-1.0E07

0.0E07

1.0E07

2.0E07

3.0E07

8 8

9

9

Page 5: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Grafická analýza ukazuje, že body 8 a 9 jsou odlehlé a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy:

Fisher-Snedecorův test významnosti

Hodnota kritéria F: 25138,67584

Kvantil F (1-alfa, m-1, n-m): 5,591447851

Pravděpodobnost: 1,047612396E-013

Závěr: Model je významný

Scottovo kritérium multikolinearity

Hodnota kritéria SC: 0,3333213863

Závěr: Model vykazuje multikolinearitu!

Cook-Weisbergův test heteroskedasticity

Hodnota kritéria CW: 3,432982418

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,06390659693

Závěr: Rezidua vykazují homoskedasticitu.

Jarque-Berrův test normality

Hodnota kritéria JB: 5,029772765

Kvantil Chi^2(1-alfa,2): 5,991464547

Pravděpodobnost: 0,08087210018

Závěr: Rezidua mají normální rozdělení.

Waldův test autokorelace

Hodnota kritéria WA: 0,3101413713

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,5775934472

Závěr: Autokorelace je nevýznamná

Durbin-Watsonův test autokorelace

Hodnota kritéria DW: -1

Kritické hodnoty DW 0 2

Závěr: Negativní autokorelace reziduí není

prokázána.

Znaménkový test reziduí

Hodnota kritéria Sg: 1,224744871

Kvantil N(1-alfa/2): 1,959963999

Pravděpodobnost: 0,2206713619

Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9998608014

Koeficient determinace R2 (optimálně co nejblíže 1): 0,9997216221

Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9964333811

Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 1,268748521E+011

Akaikeho informační kritérium (optimálně co nejnižší číslo): 217,3749475

8

8

9

9

Page 6: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Vysoká hodnota vícenásobného korelačního koeficientu ukazuje, že navržený lineární regresní model je statisticky významný. Koeficient determinace ukazuje, že model vystihuje data v 99, 97 %. Střední kvadratická chyba predikce MEP a Akaikeho informační kritérium AIC slouží pro optimalizaci modelu (optimálním modelem se jeví ten model, který dosahuje co nejnižších hodnot pro MEP i AIC). Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).

Odhady parametrů

Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez

β 0 -1432,276925 6828,247592 Nevýznamný 0,8421359199 -18984,84615 16120,2923 β 1 2702717,85 16077,58877 Významný 1,413318351E-010 2661389,093 2744046,608

Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti

vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,

hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je

vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než

zadaná hladina významnosti 0,05.

Page 7: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Statistické testy:

Fisher-Snedecorův test významnosti

Hodnota kritéria F: 28259,18207

Kvantil F (1-alfa, m-1, n-m): 6,607890974

Pravděpodobnost: 1,413319162E-010

Závěr: Model je významný

Scottovo kritérium multikolinearity

Hodnota kritéria SC: 0,3333326414

Závěr: Model vykazuje multikolinearitu!

Cook-Weisbergův test heteroskedasticity

Hodnota kritéria CW: 0,5624755472

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,4532645231

Závěr: Rezidua vykazují homoskedasticitu.

Jarque-Berrův test normality

Hodnota kritéria JB: 0,5850492127

Kvantil Chi^2(1-alfa,2): 5,991464547

Pravděpodobnost: 0,7463768792

Závěr: Rezidua mají normální rozdělení.

Waldův test autokorelace

Hodnota kritéria WA: 0,4527001917

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,5010554578

Závěr: Autokorelace je nevýznamná

Durbin-Watsonův test autokorelace

Hodnota kritéria DW: -1

Kritické hodnoty DW 0 2

Závěr: Negativní autokorelace reziduí není

prokázána.

Znaménkový test reziduí

Hodnota kritéria Sg: 0,06063390626

Kvantil N(1-alfa/2): 1,959963999

Pravděpodobnost: 0,9516507699

Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9999115449

Koeficient determinace R2 (optimálně co nejblíže 1): 0,9998230977

Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9982212724

Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 804322056,1

Akaikeho informační kritérium (optimálně co nejnižší číslo): 136,2310976

Závěr testů předpokladů MNČ:

Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu,

vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít.

Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito

7 bodů, byla provedena lineární kalibrace na hladině významnosti 0,05.

Parametry kalibračního modelu

Parametr Odhad Směr.Odch. Spodní mez Horní mez

β 0 -1432,276925 6828,247592 -18984,84615 16120,2923 β 1 2702717,85 16077,58877 2661389,093 2744046,608

Významnost absolutního členu β 0

Hodnota Spodní mez Horní mez Závěr

-1432,276925 -18984,84615 16120,2923 Nevýznamný

Page 8: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Absolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen z modelu, došlo by k deformaci intervalu spolehlivosti predikce pro x=0 a nebyly by spočítány kalibrační meze.

Korelační koeficient: 0,9999115449

Kalibrační meze:

Metoda Yc Yd Yq Xc Xd Xq

Metoda podle ISO 11843-2 18053,58183 23425,69 37539,44 0,00721 0,009197 0,014419 Přímá metoda analytu 21227,99251 43404,36 65352,96 0,008384 0,016589 0,02471

Přímá metoda signálu, IUPAC 21227,99251 43640,64 65814,53 0,008384 0,016677 0,024881 Kombinovaná metoda Ebel,Kamm 20982,9984 43398,29 65346,96 0,008294 0,016587 0,024708

Metoda K*Sigma z regrese 21227,99251 43888,26 66548,53 0,008384 0,016769 0,025153 Metoda K*Sigma, ACS 27894,04128 57220,36 86546,68 0,010851 0,021701 0,032552

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou

Kalibrační závislost - Sheet1y - plocha píku

x - koncentrace

0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70 0.80 0.90 1.00-1.0E06

0.0E06

1.0E06

2.0E06

3.0E06

Validace směrnice

Hodnota Spodní mez Horní mez Směrnice = 1

2702717,85 2661389,093 2744046,608 Ne

Page 9: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α

Určení vzorků:

Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad

Spodní mez Horní mez

1 1008702 0,187138949 -3,234997517 3,607238 2 87904 0,016792458 -0,287910493 0,316118 3 345290 0,064408786 -1,110949113 1,233082 4 29563 0,005999804 -0,101919804 0,111641 5 46534 0,009139606 -0,155963013 0,170885

Závěr

Závislost je lineární. Stanovení má dostatečnou citlivost. Byly vypočteny bodové a intervalové odhady koncentrace isomeru vitaminu E v lidském séru. Výsledky jsou uvedeny v tabulce.

Page 10: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

ÚLOHA 2: NELINEÁRNÍ KALIBRACE

Zadání

Pro stanovení hydralazinu (vazodilatans)bylo připraveno 9 kalibračních vzorků. Lidská plasma byla obohacena standardem hydralazinu a upravena mikroextrakční metodou společně s reálnými vzorky. Vzorky byly následně změřeny pomocí LC-MS metody. Vyčíslete bodový a intervalový odhad pro neznámé koncentrace.

Data

Koncentrace hydralazinu [ng/ml] Plocha píku

50,00 294,33

75,00 732,67

100,00 1077,00

250,00 3595,33

500,00 8203,33

750,00 9936,00

1000,00 10550,67

2500,00 27697,33

5000,00 72715,67

? 5098,39

? 51385,09

? 962,10

Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace

Řešení

Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci hydralazinu a y ploše píku. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05.

Odhady parametrů

Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez

β 0 -1005,753228 1278,67393 Nevýznamný 0,4573368256 -4029,336614 2017,830157 β 1 14,06886152 0,6663222847 Významný 1,344928287E-007 12,49325969 15,64446336

Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,

Page 11: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.

Testování vlivných bodů pomocí diagnostických grafů a grafů reziduí: Z Q-Q grafu je patrné, že data mají normální rozdělení. Graf heteroskedasticity ukazuje, že v datech heteroskedasticita není přítomná, a je přítomný jeden podezřelý bod (vzdálený od ostatních) – bod 9.

Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že oba body jsou považovány za vlivné (pod červenou linkou). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje

Regresní křivka - Sheet1plocha - y

koncentrace - x

0 1000 2000 3000 4000 5000-1.0E04

0.0E04

1.0E04

2.0E04

3.0E04

4.0E04

5.0E04

6.0E04

7.0E04

8.0E04

Page 12: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje body 8 a 9 za vlivné body (v oblasti křivek zobrazujících sílu vlivu).

Grafická analýza ukazuje, že body 8 a 9 jsou velmi vlivné a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy:

Fisher-Snedecorův test významnosti

Hodnota kritéria F: 445,8094124

Kvantil F (1-alfa, m-1, n-m): 5,591447851

Pravděpodobnost: 1,344928287E-007

Závěr: Model je významný

Scottovo kritérium multikolinearity

Hodnota kritéria SC: 0,3327168368

Závěr: Model vykazuje multikolinearitu!

Cook-Weisbergův test heteroskedasticity

Hodnota kritéria CW: 2,286324758

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,1305186571

Závěr: Rezidua vykazují homoskedasticitu.

Jarque-Berrův test normality

Hodnota kritéria JB: 2,814684574

Kvantil Chi^2(1-alfa,2): 5,991464547

Pravděpodobnost: 0,2447930089

Závěr: Rezidua mají normální rozdělení.

Waldův test autokorelace

Hodnota kritéria WA: 0,004806063336

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,9447303081

Závěr: Autokorelace je nevýznamná

Durbin-Watsonův test autokorelace

Hodnota kritéria DW: -1

Kritické hodnoty DW 0 2

Závěr: Pozitivní autokorelace reziduí není

prokázána.

Znaménkový test reziduí

Hodnota kritéria Sg: 0,6744532734

Kvantil N(1-alfa/2): 1,959963999

Pravděpodobnost: 0,5000231832

10

9

8

8 8

8

9

9

9

Page 13: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9922403728

Koeficient determinace R2 (optimálně co nejblíže 1): 0,9845409574

Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,831349916

Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 42419012,29

Akaikeho informační kritérium (optimálně co nejnižší číslo): 146,3936087

Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).

Odhady parametrů

Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez

β 0 332,3483416 715,1100141 Nevýznamný 0,6616455822 -1505,900471 332,3483416 β 1 11,76619876 1,375093517 Významný 0,0003591219358 8,231408339 11,76619876

Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti

vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,

hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je

vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než

zadaná hladina významnosti 0,05.

Regresní křivka - Sheet1plocha - y

koncentrace - x

0 100 200 300 400 500 600 700 800 900 1000

-0.20E04

0.00E04

0.20E04

0.40E04

0.60E04

0.80E04

1.00E04

1.20E04

1.40E04

1.60E04

Page 14: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Statistické testy:

Fisher-Snedecorův test významnosti

Hodnota kritéria F: 73,21631916

Kvantil F (1-alfa, m-1, n-m): 6,607890974

Pravděpodobnost: 0,0003591219358

Závěr: Model je významný

Scottovo kritérium multikolinearity

Hodnota kritéria SC: 0,3320234759

Závěr: Model vykazuje multikolinearitu!

Cook-Weisbergův test heteroskedasticity

Hodnota kritéria CW: 0,8256739155

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,3635264518

Závěr: Rezidua vykazují homoskedasticitu.

Jarque-Berrův test normality

Hodnota kritéria JB: 0,3751960798

Kvantil Chi^2(1-alfa,2): 0,8289478442

Pravděpodobnost: 0,508869263

Závěr: Rezidua mají normální rozdělení.

Waldův test autokorelace

Hodnota kritéria WA: 0,1467499732

Kvantil Chi^2(1-alfa,1): 3,841458829

Pravděpodobnost: 0,7016607514

Závěr: Autokorelace je nevýznamná

Durbin-Watsonův test autokorelace

Hodnota kritéria DW: -1

Kritické hodnoty DW 0 2

Závěr: Pozitivní autokorelace reziduí není

prokázána.

Znaménkový test reziduí

Hodnota kritéria Sg: 0,7882407814

Kvantil N(1-alfa/2): 1,959963999

Pravděpodobnost: 0,430555879

Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9675095459

Koeficient determinace R2 (optimálně co nejblíže 1): 0,9360747213

Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,6640764584

Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 3254921,339

Akaikeho informační kritérium (optimálně co nejnižší číslo): 101,5278166

Závěr testů předpokladů MNČ:

Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu,

vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít.

Z regresní přímky je patrné, že se nejedná o lineární závislost. Odebráním vlivných bodů došlo

ke zhoršení hodnot základních statistických parametrů.

Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito

7 bodů, byla provedena nelineární kalibrace (kvadratická) na hladině významnosti 0,05.

Parametry kalibračního modelu

Parametr Odhad Směr.Odch. Spodní mez Horní mez

Abs. -1093,126639 275,5733972 -1858,241049 -328,012229 X 23,93668974 1,641361656 19,3795392 28,49384027 X2 -0,01224761337 0,001604539245 -0,0167025285 -0,007792698236

Page 15: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Korelační koeficient: 0,9979445338

Křivka grafu reziduí (zakřivenost) svědčí o nelinearitě kalibrační závislosti:

Kalibrační závislost - Sheet1plocha - y

koncentrace - x

0 100 200 300 400 500 600 700 800 900 1000

-0.20E04

0.00E04

0.20E04

0.40E04

0.60E04

0.80E04

1.00E04

1.20E04

Významnost absolutního členu β 0

Hodnota Spodní mez Horní mez Závěr

-1093,126639 -1858,241049 -328,012229 Významný

Validace směrnice

Hodnota Spodní mez Horní mez Směrnice = 1

23,93668974 19,3795392 28,49384027 Ne

Page 16: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Kalibrační meze:

Metoda Yc Yd Yq Xc Xd Xq

Metoda podle ISO 11843-2 -804,4011364 -719,6898172 -515,675634 12,07440422 15,72758632 24,14880845 Přímá metoda analytu -66,13798184 664,4877803 1324,574784 43,89001379 76,41541589 106,8451302

Přímá metoda signálu, IUPAC -66,13798184 771,637396 1488,962476 43,89001379 81,28469325 114,5902666 Kombinovaná metoda, Ebel,Kamm -228,1547318 636,8178847 1299,09785 36,8298648 75,16226309 105,6509429

Metoda K*Sigma z regrese -66,13798184 960,8506751 1987,839332 43,89001379 89,94850656 138,532673 Metoda K*Sigma, ACS -396,3534248 300,4197893 997,1930033 29,55597425 60,06393838 91,62227469

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α

Určení vzorků:

Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad

Spodní mez Horní mez

1 5098,39 166,3436164 -1551,841328 -649899,3303 2 51385,09 977,1945 -7025,015699 -649899,3303 3 962,1 68,20723021 -388,1169671 742,9004506

Závěr

Kalibrační závislost vystihuje kalibrační nelineární křivka: y = ax2 + bx +c.

Page 17: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ

Zadání Pro stanovení léčivé látky metaraminol v lidské plasmě (látka stahující cévy, zvyšující krevní tlak a nosní dekongescens) byla vyvinuta LC-MS metoda. Vzorky pacientů měřeny touto metodou jsou kvantifikovány pomocí matricové kalibrační křivky v uvedeném rozmezí. Určete koncentrace léčivé látky u pacientů, kterým byly odebrány vzorky.

Data

Koncentrace metaraminolu [ng/ml] Plocha píku

50,00 737,00 75,00 1239,00

100,00 1594,00 250,00 3659,33

500,00 7814,00 750,00 9969,00

1000,00 13020,00

2500,00 33274,00 5000,00 56647,33 7500,00 79317,67

? 5098,39 ? 43071,71 ? 13031,05

Program QC.Expert 3.3 - Kalibrace

Řešení

Byla provedena lineární a kvadratická kalibrace a výsledky obou kalibrací porovnány.

Lineární kalibrace Lineární kalibrace byla provedena s 10 body na hladině významnosti 0,05. Lineární model dle výsledků nevyhovuje (viz příloha).

Parametry kalibračního modelu

Parametr Odhad Směr.Odch. Spodní mez Horní mez

Abs. 1786,30075 867,0955353 -213,2251395 3785,82664 X 10,68594203 0,2900112801 10,01717482 11,35470924

Významnost absolutního členu β 0

Hodnota Spodní mez Horní mez Závěr

1786,30075 -213,2251395 3785,82664 Nevýznamný

Page 18: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Citlivost metody: 10,68594203 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 2208,194764 Z lineární kalibrační závislosti je patrné, že křivka (přímka) nekopíruje body, korelační koeficient se blíží jedné. Graf reziduí je velmi zakřivený, ukazuje nevhodnost lineární kalibrace.

Korelační koeficient: 0,9970667436

Kalibrační závislost - Sheet1plocha - y

koncentrace - x

0 1000 2000 3000 4000 5000 6000 7000 8000-1.0E04

0.0E04

1.0E04

2.0E04

3.0E04

4.0E04

5.0E04

6.0E04

7.0E04

8.0E04

9.0E04

Validace směrnice

Hodnota Spodní mez Horní mez Směrnice = 1

10,68594203 10,01717482 11,35470924 Ne

Page 19: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Kalibrační meze:

Metoda Yc Yd Yq Xc Xd Xq

Metoda podle ISO 11843-2 3086,810355 3399,107062 4387,319959 121,7028504 150,9278552 243,4057007 Přímá metoda analytu 4452,33527 6890,13458 9241,365501 249,4898917 477,6213285 697,6516183

Přímá metoda signálu, IUPAC 4452,33527 6992,808284 9426,561714 249,4898917 487,2296254 714,9824453 Kombinovaná metoda, Ebel,Kamm 4332,148924 6877,997196 9229,625832 238,2427461 476,4855013 696,5530096

Metoda K*Sigma z regrese 4452,33527 7118,36979 9784,40431 249,4898917 498,9797834 748,4696751 Metoda K*Sigma, ACS 6114,28299 10442,26523 14770,24747 405,0164437 810,0328875 1215,049331

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α

Určení vzorků:

Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad

Spodní mez Horní mez

1 5098,39 71,43911574 -4798,359583 4671,759848 2 43071,71 1848,274508 -37661,00896 41371,32701 3 13031,05 442,7054008 -11648,99899 12297,52255

Kvadratická kalibrace Kvadratická kalibrace byla provedena s 10 body na hladině významnosti 0,05. Kvadratický model dle výsledků vyhovuje (viz příloha).

Parametry kalibračního modelu

Parametr Odhad Směr.Odch. Spodní mez Horní mez

Abs. 336,8783551 402,661228 -615,2641499 1289,02086 X 13,61536442 0,450931006 12,54908203 14,68164681

X2 -0,000418709916 6,237103814E-005 -0,0005661939853 -0,0002712258466

Významnost absolutního členu β 0

Hodnota Spodní mez Horní mez Závěr

336,8783551 -615,2641499 1289,02086 Nevýznamný

Validace směrnice

Hodnota Spodní mez Horní mez Směrnice = 1

13,61536442 12,54908203 14,68164681 Ne

Page 20: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Citlivost v nule: 13,61536442 Citlivost v počátku: 13,57349343 Citlivost ve středu: 10,49597554 Citlivost na konci: 7,334715678 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 865,5661629 Z kvadratické kalibrační závislosti je patrné, že křivka prokládá body těsněji, než přímka v lineární kalibrační závislosti, korelační koeficient se blíží jedné a je vyšší hodnoty, než korelační koeficient u kalibrace lineární. Znamená to, že křivka prokládá body přesněji (větší počet kalibračních bodů leží na křivce). Graf reziduí je velmi zakřivený, ukazuje vhodné použití kvadratické kalibrace.

Korelační koeficient: 0,999606149

Kalibrační závislost - Sheet1plocha - y

koncentrace - x

0 1000 2000 3000 4000 5000 6000 7000 8000-1.0E04

0.0E04

1.0E04

2.0E04

3.0E04

4.0E04

5.0E04

6.0E04

7.0E04

8.0E04

9.0E04

Graf reziduí - Sheet1Reziduum

koncentrace - x

0 1000 2000 3000 4000 5000 6000 7000 8000-2000

-1000

0

1000

2000

Page 21: KALIBRACE A LIMITY JEJÍ PŘESNOSTIAbsolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen

Kalibrační meze:

Metoda Yc Yd Yq Xc Xd Xq

Metoda podle ISO 11843-2 857,1646513 985,3543435 1377,450947 38,21552495 47,69821679 76,4310499 Přímá metoda analytu 1675,626499 2856,584596 3982,245288 98,62541187 186,1288414 269,9807677

Přímá metoda signálu, IUPAC 1675,626499 2925,051991 4102,360105 98,62541187 191,2165677 278,9542568 Kombinovaná metoda, Ebel,Kamm 1591,559363 2846,241409 3972,343495 92,41449112 185,3603922 269,2412532

Metoda K*Sigma z regrese 1675,626499 3014,374643 4353,122787 98,62541187 197,8564447 297,7043941 Metoda K*Sigma, ACS 2033,356873 3729,835391 5426,313908 125,08144 251,1402234 378,1996243

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α

Určení vzorků:

Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad

Spodní mez Horní mez

1 5098,39 163,3440199 -3457,592622 4235,634635 2 43071,71 1639,75014 -21854,44266 -45512571,18 3 13031,05 460,4291794 -8066,133521 -45512571,18

Závěr Po porovnání lineární a kvadratické kalibrace byla zvolena jako správná kalibrační metoda

metoda kvadratická. Kvadratická kalibrační závislost lépe prokládá kalibrační body, má vyšší

hodnotu korelačního koeficientu, tudíž i výsledky z analýzy vzorků odebraných pacientům

budou přesněji vyhodnoceny kvadratickou kalibrací. Kalibrační křivka má tedy obecný tvar: y

= ax2 + bx +c.