robustness of an s-estimator in the one-way random effects model

7
Robustness of an S-Estimator in the One-Way Random Effects Model Ju È rgen Wellmann University of Mu Ènster Institute of Epidemiology and Social Medicine Mu Ènster Germany Summary An S-estimator is defined for the one-way random effects model, analogous to an S-estimator in the model of i.i.d. random vectors. The estimator resembles the multivariate S-estimator with re- spect to existence and weak continuity. The proof of existence of the estimator yields in addition an upper bound for the breakdown point of the S-estimator of one of the variance components which is rather low. An improvement of the estimator is proposed which overcomes this defi- ciency. Nevertheless this estimator is an example that new problems of robustness arise in more structured models. Key words: Existence; Breakdown point; Outlier; Weak continuity; Consistency. 1. Introduction When analysing data in structured situations there are several possibilities for out- liers. An example for this is given in figure 1) which displays the results from an interlaboratory test, described in Kreienbrock et al. 1999). The rectangles on the graph represent measurements of indoor radon gas concentrations, given in Bq/m 3 . The measurements were taken at the same time and in the same room of a specif- ic dwelling. Each measurement is supplied by a single dosimeter. There are five different types of dosimeters which were supplied and analysed afterwards by different laboratories. It was claimed that the measurements should be comparable. Therefore, the one-way random effects model with equal variances within each laboratory should be reasonable: Y ij m U i E ij ; i 1; ... ; l; j 1; ... ; m ; U i N0; s 2 U ; s 2 U 0 ; E ij N0; s 2 E ; s 2 E > 0 ; 1 U i ; E ij independent . It is common practice to use random effects models for interlaboratory tests. But indeed, Figure 1 reveals some departures from this model. The results from the Biometrical Journal 42 2000) 2, 215±221

Upload: juergen-wellmann

Post on 06-Jun-2016

213 views

Category:

Documents


1 download

TRANSCRIPT

Page 1: Robustness of an S-Estimator in the One-Way Random Effects Model

���������� � � �� ��������� ��� ������ ����� ���� �����

������� �����

��������� � � ������������ �� � ��������� ��� ����� ��������� ������������

�������

�� ���������� �� ������� �� ��� ����� ����� ������� ����� ����� � � �� ���������� ����� ���� � ������ ����� ������� �� �������� �����!��� ��� � ���������� ���������� ���� �������� � �"������� ��� ���# ����� ��� �� ��� � �"������� � ��� �������� ����� �� ��������� ���� ! �� �� ��� !���#��� ���� � ��� ���������� � �� � ��� �������� ������������� �� ������ ��� �� ���������� � ��� �������� �� ������ ����� ������� ���� ����������� $����������� ���� �������� �� �� �"����� ���� ��� ��!���� � �! ������ ����� �� ������ �� ��� ������

��� ��� �"�������% &���#��� ����% ' �����% (��# ����� ��% )���������

*� ����� ����

(��� �������� ���� �� ��� �� ��� ��� ����� ����� ��� ������� ����!������� �� �������� �� �"����� �� ���� �� ����� �� ��� �� +*, ����� ������� ��� ��� ��� ��� ���������!���� ����� ������!�� �� -����� ���� �� ��� +*...,� �� ���������� � �������� ��������� ���� ������� � ���� ���� ��� ������������� ����� �� &/0�1� �� ���� ������� ���� ��#�� �� ��� ���� ���� ��� �� ��� ���� �� � � ��������� ��������� ���� ���� ������ �� � ������ ! � ������ ��������� ���� ��� ������������� ���� � ��������� ����� ���� � ������ ��� ������� ���������� !��������� ��!�������� �� ��� ������� ���� ��� ���� ������� �� �� !� ������!��� �������� ��� ����� ����� ������� ���� ���� �/ �� ��������� ������ ������!���� �� �� !� ������!��2

��� � �� �� � ��� � � � *� � � � � �� � � *� � � � � � �

�� � ��3� �4��� �4� � 3 � ��� � ��3� �4��� �4� � 3 � �*���� ��� ����������� �

�� �� ���� �������� � �� ����� ������� ����� �� �������!���� ������ & �������� 5�� �� * ������� ��� ������ ��� ��� ���� ����� �� ��� ��� ��� ���

&��������� 6 ���� �� +4333, 4� 4*7844*

Page 2: Robustness of an S-Estimator in the One-Way Random Effects Model

��!������� ������ ���� ������� � ������ ��� ������ ��� ������ ��� ��!������������� ������ �� �� '�� ����!�� ������� �� ���� ��� ���� �� � �� �! �� �������/ �� � �������� ��� ���������� � ��� �������� ���� +*, ������� ��� !�� ������� �������� +*, �������

)� ����� ���� ��4� � �4� �� � � �� � � ���4� �� � � �� � �� �� �� � � *� � � � � �� �� � � *� � � � �� �3� �� � �� � �

��� �� ���� ���� ��� �������� � ���� !�������� �/ ��� �4� � �4� �������� ��� ������������ �������� �� �4� ��� �4��

4� �� ���������� �� ��� ����� ����� ������� ����

�� ��������� ��� �� �� � ��� !��������� !����� ��������� ����� �� ��� � ����������� ��� ������ �� ������ � � � ���*� � � � � ����� ��� ����������� ��� ������� ������! ���� � � � ����� ��� ����

� � ��� � � � � ��� � +4,

� � �4��� � �4��� � � � *� � � � � � � +1,

��� ���� ����� +*.9*� �� 1:;,� <��� �� ������ ��� � � �����" � ��� ��� ����� � � ������� �����"� �� ����� ����� ������� ���� ��� �������� !����� �� � � ���������� ���� ���� ���������� ��������� ������ ��� �������� ���������� � � ���������� �! �� ��������� � ���� +*,� ���� ��� &��! �� ���������� +����� ��� ����� *..4,� ����������� ��� ����������� +������*..;,������������ ���� ����� ��� ! =�������� ��� ����� +*.:;, �� ���

�������# � � ������ ��������� ��� ���� ���� � ���� �� �! ������

4*> �� ������ =! ������ � �����������

5��� *� �������!���� ���� ����� ���� ���� �������

Page 3: Robustness of an S-Estimator in the One-Way Random Effects Model

���������� ?����� +*.:9, ������������ �"�������� ���������� �������� �������� ��� !���#��� ���� � � ���������� ������������ @������� +*.:.,������ � ������������ !������ � ���������� ����������� ��� ������������ <������ ���� �� ���� ��������� ��� ������������ �� ��� ���� ����� � ��������� ��������� ���� ��������!� ������ !���#��� ����� ���� ���� � �������������'�� �� ������ �� ���������� �� ��� ����� ����� ������� ����� �� ����

�� � ��� � ���������� ���������� �� ��� �� ��� � ��� ��!��� � ������A���� ��� � !B��� �

*

����*

��������������������������������������������� ��� �*��� ��

�� �� � �

����� �� ������ � ������� � !���������� � � *� � � � � �� ��� ��� � ����� � ������ ������� � ���� � !� ����� ������������ ��� !���� &��� �� � ��� ���������� � � ��� � +��� +4, ��� +1,, �� ���� ����

��� ��� � ��4� � ��4�� ��4���* � �;�

�4� � ��� ��� �*��� �� �

����*

���� ����4

�4�� ����� ��4

�4� � ��4�� �7�

����� ��� � *

����*���� � � *� � � � � �� +���� ������ *.9*� �� ;*:,� �� �������!��

�������� �� ��� !� ��������A�� ! ��������� ��� ���

�����������������������������������*

���� ����4��

! ��!��

���� ��������� � ������ ��� ������ �� ��� ��� � ��� !�����������*� � � � � ���� �� � � � � �� �� ������ ��������� ���� � !� ������ ��� ����� �/ ��������� ��� ��� ����� ��������� � �� !� ������ ��������� ��� ����� �/ ��������� ������ !� ���� !��� ���� �� �� �������� � �� ��������������� ���������� �������������� �� ��� ����� ���������� �� � ����� � � �3� � � �3� � ���������

� �� ������������ ���� ����� �� ��3� � 3 ��� � �� ����� � �� 3� +>,

���� �"���� � ������ ������� � � 3 � �� ���� � �� ������� � ��� �� +9,

C � � � ���� � ���� � � �� 3 � � � � �

��� ���� ?����� +*.:9,� @������� +*.:.,�

��������� �� @�� ��� � �� � � *� � � � � �� � � *� � � � � �� ��� ��� � � �3� �� �3� � ������ +>, ��� +9,� @�� �� ��� �� !� ������ ��� ����� ��������� ���*� � � � � ���� � � * � � � � �� ��� ��� ���������� � ��� ������ ��������� � ��� ����� �������� �������� �4� ��� �4� � ��� !������� ����� ����� �������

���� +*, �� ������� �� ��� �� ��� � � ���� �4�� �4�� � ��� ��!��� � ������A���

&��������� 6 ���� �� +4333, 4 4*9

Page 4: Robustness of an S-Estimator in the One-Way Random Effects Model

��� � ���� �����* � !B��� �

*

����*

�������������������������������������4���

� ���� ��4�� � ���

�� � � � �:�

���� ��� � � �� �� � 3� �� � 3� ?���� ���� ������A���� ��!��� ! ����� �� ��������� ��� !� �"������ � ��� �!������� ���� ! �������� � � ���

� �!�� �� � !��������� �� ��� �������� � !�������� ������� ��������� � �!��� ���� ����� �� ��� ���������� �� ��� ��� � � *� � � � � �� ��� ��������

��� � ���� �����* �����*

��� � ����� ������*� �������� � ��� ��� � ��� ������

������ � ��� ��������� �����" � ��� !����������5������ �������� +*.:., � ��� ������� ���� �� ��� ��������� ������! ���

� ����� � ��� !� ������� ����� � � ��� ��������� � ��� ����������� �������� � ������ � ������� � ��� ����� � ������� �� ���� ������ �/ �������� ���������� � ��������� ������������ ����� ��� ����� �/ ���������

��������� �� @�� � !� �� ������������ ����� ����� ���� ������! ��� � ������ �� ��� � 2 �3� � � �3� � ������ +>, ��� +9,� ��� ��� � ��� � !� ��������������� ��� ����� � ��������� ��� ��� ��� ������� �� ��� ���������� �� �4� ����4� � ��� !������� ����� ����� ������� ���� +*, �� ������� �� ��� �� ������� � ������ �4����� �4����� � ��� ��!��� � ������A��� ��� � ���� �����*� !B��� �

��

����������������������������������������������������4��

� ������ ��4�� � ���

�� � ����� � � �.�

���� ��� � � �� �� � 3� �� � 3� ?���� ���� ������A���� ��!��� ! ����� �� ���������� �� �������� ! ���� ������ ��� ��� ������� �� ��� ���������

������! ��� � ����� ��� ����� �� �� ������� �� � �� �� ��� � ���������� !���������� ��� � � *� � � � � �� �� ������� � �� ����� �� ��� �"������ ��� � � ��� ���� ���� ���� � +.,

���� ���� +*, ��� �������� ������� � ��� � ����� �� �� ���������� � ������ �� ����� !

���� ��4

>* * �4

�4

� �1� �

�� ��� � � �

�4

>�������� �

��������� �*3�

����� �� #��� �� #�D� !������� � ������ (��� ���� ��� �������!�� ��������� +7, ���� ��� ���� � ������� +�������, ��� �������� � ������� +���������

4*: �� ������ =! ������ � �����������

Page 5: Robustness of an S-Estimator in the One-Way Random Effects Model

��������,� ��� ������� � ��� !� ���� ����� ��

� � ��4��� 4� �4��4 ���� 4� �4��� ;� �4��4�4����� 4� ��� ;� �4��� >� �4��>�; � ��4�>� �* �4��� �4��

����� �4��� �� ������ ��� � � ������ ������! ��� �� � �4 �����!�� � � �������� ������� ��� ���� )�� �� �������� � ��� �������� +*..:,� �� ��� ���������� � ������ � ���� ������� � �� ����� � ���� ��� � 3�;� ��� �������� +*.:.,�

1� �"������� ��� !���#��� !����� �

�"������� � �� ���� � �� �� ��� ��� �� ����� �� �� � � �� ���� ������������ ��� ����� ���� ��� �������� ������ ��� ����� ������ �� �"������� ��� �� ������������ � �� ��!������� ������ ��� �� ��� ����� �� ��� �������2 ���� �"���� �� � � 3 � �� ���� �� ��� ��������� ����� ����� �� ����� ��

������! ��� �������� � ��

C ���4��� � �� � * ��� � �**� ������ �� @�� � ������ +>, ��� +9,� ��� 3 � � � � � ���� ��� ��� � ������

+**,� ��� ���� ��� �� ����� �� �� ���� �� ��� ����� ��� ����� � ?����� +*.:9, ��� @������� +*.:., ��� �� �����

�� (���� +*..;,� �� ������� ������ ���� � �� ��� � ���� � �� !� ��������� �� � ������ � !��� � �1� ���������� ��� � ������� �� �4� � �� !� �������� �/ �� � ���4 ���� � ��� +**,� ��� � ��� !� ����� ��!������� ������ ! ��������� ������� ��� ������ �!�� ��� ��� ���� ���� ��� �� ����� �� �� ��� ����� C����� � 3� � * ���� ��� ������! ���� ���� ���� ������ ���� !� � ���������� ��������� ���������� & � �� ��� ����"� � ������ !���#��� ����� � ���

���������� ����� ��� �� � � ��� �������� ����� ���� ! ��� �� ��� �������� �4���� � ��������� �� ������� ����!�� � ��� � ���� ��� ��������� �* �����/ ������� ��� ��������� ������! ��� � ��� ���� (��� ���� ��� � 3�; ���� ����� ���� �� ��� �������� � ��� �� �! � >3E � ��� �� �� ���� � ��#� �4� ��!������� ������ ��� �� ��������� ��� �� ����! �� ���������� ��� ����� � ������ ����� ��� �� ������� ��������� � !���� �"������ ������

;� '���� ��������� � ��� �����������

����� +*..;, ��� �������� � ��� � F����G��/ ����� �� ����������� ���������������!�� ��� ����� ��� ��� ���� � ����� �� ��������� �������� � ���� �� ����� ���������� ��� �������� � ��� �������� ������ ��� ����� ��� ������������ ���� �� ����������� ���������2 � ���� ������ ����� ����A�� ��� �������� ��� ����������� � �� !� �������� �� � ������ ���� �� ���� �� ��� ��� ���� �"������� � ��� ��������� ��� �� ���������� � ��� $���������� ������������ ���� +'D$��� *.:7,� ����� ���� �� �� ����������� ����������� ����� ��� ���

&��������� 6 ���� �� +4333, 4 4*.

Page 6: Robustness of an S-Estimator in the One-Way Random Effects Model

��������� � ��� ���������� ���� � !� ������ ! ���������������� ��� ��� ��� ������ � �������5 �������� ����� +*..;, ����� ���� ��� ��� ������� �� ���#� ����� �

� �� �3� �������� ���3� �� ��/ �� �3 ��������� ��� ���# ��������� ��� ���� � ��� ����� �� �� ��� ����� ����� ����� � ?����� +*.:9, ��� @�������� +*.:.,� $�� ���� ���# ����� �� � � � ������� �� ������� � / ����������! ������ +<�����D� ������� ��� �� ��� *.:*, ��� ������� ����� ��������� ���� ����������� ����������� ��� ������� �� ���� ������� �� ������� ����� � ������������ ����� !��

�� ��� ��� ����� +*3,� �� ����� ��� ������ �*� ��� ����� ��� �������� ����������� ��� ������ ������ �4� ������� ��� ������ �!�� �� ��������� +��?,��� ��� �� ��� ��� � � * � � � � �� �� �������� ��������� ��� ���� ����� ���� ����������

�����

�� ��� ��� ��?� ��� � �������� ! �������� ������ ����� ��� !

)���� ��� ��������� +*..4,��"������� ��� ������ ��� ���� ���� ���� +*, ����� �� ������� �����������

���� �!����� ��������� �� � ! � !����� ��������� �� ��� �������� ��������� �� ��������� ��� �� � ��� ��� ����� ����� ���� ������ ! �������� ���������������/ �� �� � ������ � � ��� � � !���� �������� ������ ���� ��#� ��� ���������� ����"������ �!���������������� � ��� + �!�����, ��������� � ��� ���� ���� �� 5�� �� * ����

����� ����������� �� ��� ��� ��� �� ��� �������� ��������� ������� ���� ��� �������!� ������ ����! �� F�$'H�����������G� ��� ����� +*.9*,�

7� ?��� ����

�� � ���������� ����������� ����� ��� �� �! ������ ��������� �� ��� ����� ������ ����� ������� ��� ����������� � ��� ����� ����� ������� �����<��� �� ������� ������������ ��������� !���#��� !������ ����� � � ����� F��! ����������G �� �������� ��� ����������� �� ������� � ��� ��������� ��� �� �!�� ������ 5�� ��� � ���������� ���� � ���� ��� !��������� ��� ��� � ��������� �� ����� ��� ����������� ��� ��� ����� � ���������� ���� ���� � � *� � � � � �� ����� �"����� �!�� ��� ����� >3E � ����� ���� ����� � � !���#��� � ����������� � �4�� ����� �� � ������ ���� ����������� & � � ��� ���� ���� �� ��!� ��� ���������� �� ��� ����� ����� ������� ���� � ������� ��� ���������� � �!��� ��� �� ���� � ��������� 5�� ���� ���� � ���� � ������� � >3E��!��������� �� � �������� �� !���#���� ���� ����! �� ���������� �� ��� ����� � *� � � � � �� � � *� � � � � �� ��� ����� ���� �� � ������ �� !���#��� �����

443 �� ������ =! ������ � �����������

�������� �� � �4� �4�

�$'H� *>.�*4 .:>�1. >:.�>4���������� �* *7:�33 *3*�7: ;71�37���������� �4 *79�;> 4.4�91 1:7�7>

Page 7: Robustness of an S-Estimator in the One-Way Random Effects Model

<������ ����� ��!���� ��� !� ���� ������� ! ���� ���������� ���������� ����� ��� �� ���������� ������� �� ���� ����� ��� �������� !� ����������� �� � ������� ����� ��� �� ��� ����� ���� ������ ��� ����� � ��� ������ �� ���� � !� ����������� � � *� � � � � �� ��� �� �� !� ��� ���� �! �� ����������� �� ���������� ����� �"����� �!�� ����� ��� ������� ��� ��?� ��� � � ��� !� ������� !��� ��������� �! �� ����������� �� ��� ����� ���� ����� ���������� ��� ��!���� �� ��! �� ��� ��������� �� ����� �� ������� ��� ��� � ���������� ������������

��#�����������

�� � ��� ����#� �� ������ ��� @� ?����� �� ����� ������ � ��� ��# ����� ����� ��� �������� ��� ����� ��� ����� ��� � ��� ��� �������� ����������� ��� ?��������� � ����������� ��������� � ?��� ��� ������� ��� ��� � ������� ! ?5� ������ ?� 4190*�4 ��� �� 11:04�4�

����������

)�� �� � !�� �������� � �� "�� ��� ���������� "� ��� *.::2 '� ��� ���� ����� � ��! �� ���������� � � ��������� �����"� ���������� �� �������� �!� 4>:7�4>.7�

#����� #� ��� ���������� "� ��� $%%&� ������������� ��������� �� �� ����� �! �� ��������� ������� ��2 I� ?��� ��� 6� (�����#�� +����,2 �!�������� ����������� H� �� *� C������H������<�����!���� ;**�;4:�

'������ "� ��� $%()2 �������� !����� � � ����������� � � ���������� ������ ���������� ������������ ��������� "�� #����� � ���������� �"� *4>.�*4.4�

�� ��� "� ��� *.:*2 ����� ����������$ 6�� (��� J ���� $�� I�#�*����� ����� ��� "�++�,�� !�� -������� .�� /��0��� .�� *���� !�� ��� '�� 1� 2� #�� $%%%� ������

��������� � ������� ������������� ���� ����� �������� �� ������������� �� ����� %�����&������ !#� 77:�7>1�

�������� � �� "�� *.:.2 '� ��� ������� !������ ����������� ��� ����������� � � ���������� ��������� ���������� "�� #����� � ���������� �!� *>>4�*>:1�

34 ��� ��� *.:72 5 ����� ������A��� ���� � ������" ����� ��� ��2 C� ��������� ��� �� ?� <��� +���,2#!!���� ���������� #�'������$ ����� <��� @������� )���������� 9.�:9�

���������� "� �� ��� ������ 5�� *.:;2 =! �� ��������� ! ����� � ������������ ����� ��� ��(������ "��� ������ #�������) ������� ���� �� ���������� �#� ��������� $�� I�#� 47>�494�

2����� 2� ��� $%)$� ������ ������ 6�� (��� J ���� $�� I�#�2����� �� !� ��� ����� !�� $%%&� ����� ��������� � *������� ��!�����$ �������� ������

� < K ������ ����A������������� ��� *..;2 ������ ������������ +�������� ��� #�����,��������������� ���� ����� ��� ���(

����������������� ��� -���.���'�� ��������� C��?� ������� ?��������� � ����������� ��������� �?��� ���

6������ ����� =�������� ����� *...������ �� � ��������� ��� ����� �������� ��������� $���!�� *...��������� � � ������?���#����L� 1?�;:*4. � ������������

&��������� 6 ���� �� +4333, 4 44*