실험단위의 반응에 영향을 주는 요인들로 고정요인과 확률요인이 포함되어 있을 때 실험자료를 분석하기 위한 모형으로 혼합효과의 선형모형을 가정하게 된다. 혼합모형의 가정에서 행해지는 분석은 고정효과의 분석과 확률효과의 분석으로 이루어진다. 혼합모형의 분석에 관한 연구는 Milliken과 Johnson (1984) 그리고 Searle (1971) 등의 많은 문헌에서 다루어지고 있다. 혼합모형의 분석방법으로 적률법, 최대우도법, MINQUE 방법 등을 이용할 수 있다.

실험자료의 분석모형으로 혼합모형을 가정할 수 있을 때 실험단위의 반응벡터를 -라 두면 의 벡터공간에서 사영에 의한 분석이 가능하다. Choi (2011, 2012)는 자료분석을 위한 다양한 모형의 가정하에 벡터공간에서 정의되는 사영의 관점에서 분석하는 방법을 논의하고 있다. 사영에 의한 혼합모형의 분석을 위해 기존의 자료분석 방법 중 적률법이 이용될 때 적률법에 의한 분석과정에서 사영이 어떻게 활용될 수 있는가를 논의하고 그 결과가 동일함을 입증해 보이고자 한다. 이는 사영에 의한 분석이 자료분석의 다양한 선형모형하에서 효율적으로 이용될 수 있음을 보여주며 자료분석의 또 다른 측면에서 접근할 수 있는 방법을 제공하게 된다.

혼합모형의 가정하에 적률법으로 자료분석을 하는 경우에 확률성분의 추론을 위해 일반적으로 상수적합법(fitting constants method) 또는 Henderson (1953) 방법 III(Henderson’s Method III)에 의해서 변동요인들의 제곱합을 구하게 된다. 그러나 고정효과 부분의 추론에는 다양한 모형비교방식을 이용할 수 있게 된다. 분산성분의 추정을 위한 제곱합의 계산에 이용되는 상수적합법은 제곱합에서의 감소(reduction in sum of squares)로 주어지고 R(·|·)로 표시된다. 사영에 의한 제곱합의 계산도 동일하게 구해짐을 다루게 된다. 혼합효과의 고정효과 부분에 대한 분석에도 사영이 어떻게 활용되는가를 논의하게 된다.

본 논문은 혼합모형을 이루는 두 유형의 효과를 추론하기 위한 분석과정에 벡터공간에서 정의되는 사영을 자료분석에 활용하는 방법을 제시하고 사영과 관련된 성질들을 이용한 자료분석의 효율성을 논의하는 데 초점을 두고 있다. 사영과 관련된 자세한 논의는 Johnson과 Wichern (1988) 그리고 Graybill (1983) 등에서 볼 수 있다.

실험자료의 분석을 위한 일반적인 혼합모형의 행렬표현식은 다음과 같다.

단, y는 n×1인 관측벡터이고 X₁은 원소가 0 또는 1로 구성되며 크기가 n×p인 고정효과벡터의 계 수행렬로 계수(rank)가 q (< p)이다. β₁은 p×1 인 모수벡터이다. X_i, i = 2, 3, …, k는 확률효과벡 터 δ_i의 계수행렬로 0 또는 1로 구성되며 크기가 n×ci인 완전계수행렬(full rank matrix)이다. δ_i는 N(0,σi2Ici)인 분포를 따르며 δ_i, i = 2, 3, …, k는 상호 독립이라고 가정한다. ϵ은 n×1인 오차벡터 이며N(0,σε2In)인 분포를 따른다고 가정한다. 오차벡터와 확률효과벡터들은 서로 독립으로 가정한다. 식 (2.1)은 X₁β₁으로 주어지는 고정효과부분과 X₂δ₂ + …+ X_kδ_k + ϵ인 확률효과부분의 두 성분으 로 구성되므로 분석도 고정성분과 확률성분의 두 부분으로 나누어 행해진다. 혼합모형의 전체적 분석은 확률성분의 분석후에 고정효과의 분석이 가능하므로 확률성분의 분석을 위해

인 고정효과모형으로 표현한다. 단, ϵ₁ = X₂δ₂+ … +X_kδ_k + ϵ이다. Var(ϵ₁) = Σ라 두면Σ는

이다. 고정효과모형으로 변환된 식 (2.2)을 최소제곱법을 이용하여 자료에 적합시켜 잔차를 구한다. 잔차를 r₁이라 두자. Moore-Penrose의 일반화된 역행렬을 이용한 정규방정식의 해벡터 β^1은 β^1=X1−y 로 구해지므로

이다. 식 (2.4)의 잔차모형은 혼합모형의 고정효과부분인 X₁β₁에 종속되지 않는 확률모형이다. 상수적합법으로 불리우는 Henderson 방법 III은 잔차의 확률모형에서 분산성분을 구하는 방법을 제공하나 본 논문에서는 사영을 이용하여 분산성분을 구하는 방법을 살펴보기로 한다. 분산성분에 관련된 논의는 Searle 등 (1992)에서 보여진다.

잔차모형에 대해 사영을 정의해 보기로 한다. 식 (2.4)의 잔차확률모형으로부터 잔차벡터 r₁은 (n — q)차원의 벡터부분공간에 속하는 n개 성분의 열벡터이다. 잔차벡터가 k개 성분벡터들의 합으로 구성되므로 r₁의 벡터공간을 k개 분산성분별 벡터공간으로 분할하는 방법을 이용한다. 분할하는 방법으로 모형의 적합방식 중 제1종 제곱합을 구하는 단계별 방법(stepwise procedure)을 가정한다. 단계별 방법에 의한 δ₂의 계수행렬 (I−X1X1−)X2 로의 사영을 구하기 위한 모형은

이다. 확률벡터 δ₂의 추정을 위한 계수행렬 (I−X1X1−)X2 로의 사영은 [(I−X1X1−)X2][(I−X1X1−)X2]−r1이다. r₁에서 (I−X1X1−)X2 로의 사영을 뺀 잔차를 r₂라 두면

로 표현된다. 단, X2p=(I−X1X1−)X2이다. 식 (3.2)에서(I−X1X1−−X2pX2p−)는 X₁과 X₂와의 곱이 영행렬이므로 δ₃에 대한 모형은

이다. δ₃를 추정하기 위한 공간으로의 사영은[(I−X1X1−−X2pX2p−)X3][(I−X1X1−−X2pX2p−)X3]−r2이다. X_3p를 [(I−X1X1−−X2pX2p−)X3] 라 두면 X_3p로의 사영행렬은 X3pX3p− 이다. 잔차벡터를 r₃라 두면

이다. δ₄에 대한 모형은

이다. δ₄를 추정하기 위한 공간으로의 사영은 [(I−X1X1−−X2pX2p−−X3pX3p−)X4][(I−X1X1−−X2pX2p−−X3pX3p−)X4]−r3 이다. X_4p를 [(I−X1X1−−X2pX2p−−X3pX3p−)X4] 라 두면 X_4p로의 사영행렬은 X4pX4p− 이다. δ_k를 추정하기 위한 사영행렬은 단계별 방법에 의한 잔차벡터 r_k–1의 모형으로부터 구해진다. 모형은

이다. X_kp를 δ_k의 추정과 관련된 계수행렬이라 두자.Xkp=(I−X1X1−−X2pX2p−−X3pX3p−−⋯−X(k−1)pX(k−1)p−)Xk 로 주어지고 X_kp로의 사영행렬은 XkpXkp− 로 표시된다. 확률벡터의 분산성분 추정에 필요한 제곱합은 단계별 방법으로 주어지는 부분공간으로의 사영을 아용할 수 있다. 단계별 방법에 의한 부분공간으로의 사영을 나타내는 사영행렬들은 직교한다. 따라서 고정효과부분이 제외된 확률효과와 관련된 이차형식의 제곱합은

로 분할된다. 식 (3.7)은 상호직교하는 부분공간으로의 사영과 관련된 사영행렬의 이차형식을 나타내고 있다. 이는 Henderson의 방법 III라 불리우는 상수적합법의 적용에서 제곱합에서의 감소를 나타내는 R( )대신에 단계별 방법의 적용으로부터 사영행렬을 이용하여 분산성분과 관련된 제곱합을 구하는 방법을 제공하고 있다. 식 (3.7)에서y'XipXip−y, i=2,3,…,k의 기댓값은

이다. 식 (3.8)에서

이다. 분산성분들의 벡터를σδ2라 두면σδ2=(σ22,σ32,…,σk2,σε2)'이다. y의 이차형식들로 구성되는 벡터를 w로 두면 w=(y'X2pX2p−y,y'X3pX3p−y,…,y'XkpXkp−y,y'(I−XX−)y)'이다. 단, X = (X₁,X₂,…,X_k)이다. 각 이차형식의 기댓값을 나타내는 방정식으로부터 구해지는 σδ2의 계수행렬을 A라 두면 다음의 선형방정식계

로 부터 분산성분의 추정치인 해를 얻게 된다.

다음은 어떤 부품의 제조에 이용되는 기계의 교체를 위한 실험자료이다. 자료는 세 종류의 기계 1, 2, 3 중 하나를 선정하기 위한 실험으로부터의 생산성점수를 나타낸다. 실험은 회사의 자체직원 중 임의로 선정된 6명이 각 기계를 세번 작동하여 평가한 점수로 주어진 Milliken과 Johnson (1984)의 자료이다.

혼합모형의 사례연구(case study)로 제공된 실험자료를 나타내는 Table 4.1의 분석모형을 생각해 보자. 효능의 비교에 이용되는 기계는 세종류의 1, 2, 3으로 고정되어 있으므로 1, 2, 3은 고정요인의 세 수준을나타낸다. 이들 효과를 각기 β_i, i = 1,2,3이라 두면 β_i, i = 1,2,3은 고정효과이다. 실험에 참여하는 직원은 회사직원 중 임의로 선정되므로 확률요인이고 이들이 기계의 생산성에 미치는 효과는 확률효과로 간주된다. 확률효과를 δ_j, j = 1,2,…,6으로 두면 δ_j는N(0,σδ2)를 따르는 서로 독립인 확률변수로 가정된다. 고정효과와 확률효과의 교호작용은 확률효과이므로 교호작용을 γ_k, k = 1,2,…,18로 두면 γ_k는N(0,σγ2)을 따르는 서로 독립인 확률변수로 가정된다. 모형의 행렬표현식은 식 (2.1)로부터

Table 4.1

Productivity sores data for Machine-Person

Machine	Person	Score
		1	2	3
1	1	52.0	52.8	53.1
1	2	51.8	52.8	53.1
1	3	60.0	60.2	58.4
1	4	51.1	52.3	50.3
1	5	50.9	51.8	51.4
1	6	46.4	44.8	49.2
2	1	62.1	62.6	64.0
2	2	59.7	60.0	59.0
2	3	68.6	65.8	69.7
2	4	63.2	62.8	62.2
2	5	64.8	65.0	65.4
2	6	43.7	44.2	43.0
3	1	67.5	67.2	66.9
3	2	61.5	61.7	62.3
3	3	70.8	70.6	71.0
3	4	64.1	66.2	64.0
2	5	72.1	72.0	71.1
2	6	62.0	61.4	60.5

로 표현된다. 단, j 모든 원소가 1인 54×1인 열벡터이고 μ는 전체평균을 나타낸다. X₁은 고정효과벡터 β의 계수행렬로 크기가 54×3인 불완전계수의 행렬이다. β는 크기가 3×1인 열벡터이다. X₂는 확률벡터 δ의 계수행렬로 크기가 54×6이다. δ는 크기가 6×1인 열벡터이며N(0,σδ2I6)인 분포를 따른다고 가정한다. X₃는 확률벡터 γ의 계수행렬로 크기가 54×18이다. γ는 크기가 18× 1인 열벡터이며N(0,σγ2I18)인 분포를 따른다고 가정한다. ϵ에 대한 가정은 E(ϵ) = 0이고 var(ε)=σ2I54인 정규분포를 따른다고 가정한다. 확률성분을 추정하기 위해 식 (4.1)의 고정효과부분을 적합시킨 잔차벡터를 r₁으로 두고 r₁을 구한다. 즉,

의 적합으로부터 r₁을 구한다. (j,X₁)으로의 사영을 (j,X₁)(j,X₁)^-로 두면

로 구해진다. 잔차벡터 r₁에 단계별 방법을 적용하여 δ의 추정을 위한 모형으로

를 가정한다. 여기서r1=I−jj−−X1X1−로 구해진다. 식 (4.4)로부터 X₂로의 사영행렬을X2pX2p−로 나타내면X2p=(I−jj−−X1X1−)X2이다. y'X2pX2p−y=1241.89이다. r2=(I−jj−−X1X1−−X2pX2p−)r1으로 주어진다. 잔차벡터 r₂를 이용하여 γ 의 추정을 위한 모형으로

를 가정한다. 모형으로부터 X₃로의 사영을 얻기위한 사영행렬은X3pX3p−로 표시되고X3p=(I−jj−−X1X1−−X2pX2p−)X3이다. y'X3pX3p−y=426.53이다. 분산성분σε2과 관련된 제곱합의 계산은 X = (j,X₁,X₂,X₃)라 둘 때 y를 X로의 사영으로부터 구한다. X로의 사영을 나타내는 사영행렬은 XX^-이므로 사영까지의 거리제곱합은 y’XX^-y이다. 따라서 y’(I^-XX^-)y가σε2을 추정하기 위한 잔차제곱합이다. 자료로부터 계산된 y(I^-XX^-)y = 33.29이다. 분산성분들을 구하기 위한 선형방정식을 구성하기 위해 각 제곱합의 기댓값을 구한다.

를 얻게 된다.

를 얻게 된다.

를 얻게 된다. 제곱합의 기댓값을 나타내는 식으로부터 분산성분을 얻기 위한 다음의 선형방정식계를 구성한다.

식 (4.9)로부터 해 벡터ζ^=(22.858,13.909,0.925)'를 구할 수 있다. 제한가능도함수(REML)를 이용한 분산성분들의 추정벡터는 (23.168,17.891,0.925)’로 구해진다. 이는 추정방법에 따라 분산성분의 추정에 있어 다소의 차이가 있으나 상당히 유사한 결과를 보여주고 있음을 나타낸다.σ^δ2에 대한 추정으로 식 (4.6)과 (4.7)을 이용할 때σ^δ2=(2/90)y'(X2pX2p−y)−(1/90)y'(X3pX3p−y)이다. Satterthwaite (1946)의 근사과정을 이용하여 χ² 분포의 자유도 r을 구하면

으로 구해진다. 95% 신뢰구간을 구하기 위한 자유도 3.38에 해당하는 χ²값은 각기 χ²(0.025,3.43) = 0.307과 χ²(0.975,3.43) = 10.046으로 주어진다. 따라서,σδ2에 대한 95% 신뢰구간은

으로 구해진다.σγ2에 대한 구간추정도 동일한 방법으로 구해진다. 식 (4.7)과 (4.8)로부터 σ^γ2=(36/10)y'X3pX3p−y−y'(I−XX−)y이다. Satterthwaite의 근사과정을 이용하여 χ² 분포의 자유도 r′을 구하면

로 구해진다. 95% 신뢰구간을 구하기 위한 자유도 1.13에 해당하는 χ²값은 각기 χ²_(0.025,1.13) = 0.002

와 χ²_(0.975,1.13) = 5.370으로 주어진다. 따라서,σγ2에 대한 95% 신뢰구간은

로 구해진다. 고정효과벡터(μ,β)’ = (μ,β₁,β₂,β₃)’의 추정으로 가중최소제곱법을 이용하게 된다. 가중최소제곱법에 의한 추정벡터는 (44.74,7.62,15.58,21.53)으로 구해진다. 모수벡터의 추정량에 대한 분산공분산행렬을 cov(μ^,β^)'라 두면,

로 구해진다. μ+α₃는 추정가능함수이고 추정값은 60.32로 주어진다. Var(μ^+α^3)=6.1794로 구해진다. 혼합효과모형은

로도 표현될 수 있다. 단, μ_i = μ+β_i이다. 이때의 행렬표현식은

로 주어진다. 식 (4.15)의 평균벡터 μ 의 추정벡터를μ^이라 두면

로 구해진다. μ^ 고정효과에 대한 추론방법은 자료가 균형인가 또는 불균형인가에 따라 다르다. 대부분의 균형혼합모형에서 μ의 추정벡터는 μ^ = (52.35, 60.32, 66.27)’ 이다. 추정평균벡터의 분산공분산행렬을 cov(μ^)라 두면

로 구해진다.

본 논문은 혼합효과모형의 가정하에서 분산성분의 추정과 고정효과추론에 사영이 어떻게 이용되는가를 논의하고 있다. 분산성분의 추정방법인 고정상수적합법(fitting constans method)에서 제곱합의 감소를 이용하는 방식 대신에 벡터공간에서 정의되는 사영을 활용하는 방법을 제시하고 있다. 사영에 의한 제곱합의 계산에 고정효과에 영향받지 않는 확률효과들로 구성되는 잔차모형을 제시하고 있으며 잔차모형에 단계별 방법(stepwise procedure)을 적용하여 얻어지는 모형행렬로의 사영을 통하여 제곱합을 구하는 방식을 제공하고 있다. 이 방법은 잔차제곱합에서의 감소를 이용하는 방법보다 효율적이며 벡터공간에서의 사영과 관련된 여러 개념들을 구체화하는 이점들이 있다.

또 다른 한편으로는 혼합모형에 상수적합법을 적용하여 유도된 잔차모형으로부터 분산성분을 추정하기 위한 모형행렬로의 사영과 사영행렬을 구하기 위해 단계별 적합방식을 논의하고 있다. 각 부분공간에서 계산된 제곱합의 기댓값을 이용하여 분산성분의 계수를 구하고 선형방정식계를 구성하는 방법을 제공하고 있다. 또한, 혼합모형에서 고정효과는 가중최소제곱법으로 모수추정벡터를 얻게 된다. 분산성분의 신뢰구간추정에서 해당하는 자유도를 구하기 위한 Satterthwaite의 근사적 과정이 설명되고 있다.