실험계획법 DOE, 공정 최적화에 활용하는 방법과 예시

찌개 맛을 잡을 때 보통 소금을 조금 넣어 맛보고, 괜찮으면 그다음에 고춧가루를 조금 더해 다시 맛봅니다. 그런데 소금이 적당하다고 정해 둔 양이 고춧가루를 늘린 뒤에는 짜게 느껴질 수 있죠. 재료끼리 서로의 맛을 바꾸기 때문입니다.

반도체 공정의 조건을 잡는 일도 이와 같습니다. 파워, 압력, 가스 유량, 온도가 서로 영향을 주고받는데, 웨이퍼 한 장 한 장이 비싸서 무작정 많이 맛볼 수도 없죠. 이 글에서는 적은 실험으로 여러 인자의 효과와 상호작용을 함께 읽어 내는 실험계획법 DOE를 공정 최적화 예시로 풀어 봅니다.

하나씩 바꾸는 실험이 놓치는 것

가장 직관적인 실험 방식은 다른 조건을 고정하고 인자를 하나씩 바꾸는 것입니다. 이를 OFAT(One Factor At a Time) 방식이라고 부르죠. 이해하기 쉽고 결과도 바로 보이지만, 두 가지 큰 약점이 있습니다.

첫째, 상호작용을 볼 수 없습니다. 한 인자의 효과가 다른 인자의 수준에 따라 달라지는 경우, 하나씩 바꾸는 실험은 출발점에 따라 엉뚱한 결론에 도착할 수 있죠. 둘째, 같은 정보를 얻는 데 실험이 더 많이 필요하고, 각 효과를 소수의 실험으로만 판단하므로 잡음에 약합니다.

실험계획법 DOE의 기본 용어

실험계획법 DOE(Design of Experiments)는 여러 인자를 정해진 조합으로 동시에 바꾸고, 그 결과를 통계로 분석해 각 인자의 효과를 분리해 내는 방법입니다. 먼저 용어 몇 가지를 정리해 두죠.

결과로 측정하는 값을 반응(Response), 바꾸는 조건을 인자(Factor), 인자가 갖는 값의 단계를 수준(Level)이라고 합니다. 식각 공정이라면 식각률이나 균일도가 반응이고, RF 파워와 압력이 인자이며, 파워의 낮은 값과 높은 값이 두 수준이 되죠.

실험을 믿을 만하게 만드는 세 가지 원칙도 있습니다. 같은 조건을 여러 번 해서 잡음의 크기를 재는 반복(Replication), 실험 순서를 무작위로 섞어 시간에 따른 장비 변화가 특정 조건에 몰리지 않게 하는 랜덤화(Randomization), 날짜나 챔버처럼 피할 수 없는 차이를 묶어서 따로 떼어 내는 블록화(Blocking)입니다.

2² 요인 실험으로 효과 계산하기

두 인자를 각각 두 수준으로 놓고 모든 조합을 실험하는 것을 2² 완전요인 설계(Full Factorial Design)라고 합니다. 아래는 식각률을 최대로 높이는 것이 목표라고 가정한 가상의 예시입니다.

주효과(Main Effect)는 한 인자가 높은 수준일 때의 평균에서 낮은 수준일 때의 평균을 뺀 값입니다. 파워의 주효과는 (140 + 130) ÷ 2 − (100 + 110) ÷ 2 = 135 − 105 = 30이고, 압력의 주효과는 (110 + 130) ÷ 2 − (100 + 140) ÷ 2 = 120 − 120 = 0이죠.

압력은 아무 효과가 없는 인자일까요? 파워가 낮을 때 압력을 올리면 식각률이 100에서 110으로 10 오르지만, 파워가 높을 때는 140에서 130으로 10 떨어집니다. 효과가 서로 반대라서 평균하면 0이 된 것이죠.

이것이 상호작용 효과입니다. 크기는 파워가 높을 때의 압력 효과(−10)와 낮을 때의 압력 효과(+10)의 차이를 반으로 나눈 값, 즉 (−10 − 10) ÷ 2 = −10이죠. 수준을 −1과 +1로 표시하면 결과는 식각률 = 120 + 15 × 파워 + 0 × 압력 − 5 × 파워 × 압력이라는 모델로 정리되고, 네 실험값이 이 식에 정확히 맞습니다.

같은 상황에서 하나씩 바꾸는 실험을 했다면 어땠을까요? 실험 1에서 출발해 압력을 먼저 올리면 110으로 좋아지니 압력을 높게 고정하고, 다음에 파워를 올려 130을 얻습니다. 그러고는 파워와 압력이 모두 높을 때가 최적이라고 결론 내려, 실제로 더 좋은 조합인 140을 놓치게 되죠.

실제 실험에서는 같은 조건을 반복하거나 중심점 실험을 더해 잡음의 크기를 잽니다. 효과 30이 잡음보다 충분히 큰지를 분산분석으로 판단하고, 중심점의 값이 네 모서리 평균과 크게 다르면 반응이 곡선으로 휘어 있다는 신호로 읽죠.

인자가 많을 때, 부분요인 설계

완전요인 설계는 인자가 늘면 실험 수가 빠르게 불어납니다. 두 수준 인자가 3개면 2³ = 8번, 5개면 32번, 7개면 128번이 필요하죠. 웨이퍼와 장비 시간을 생각하면 현실적으로 부담스러운 숫자입니다.

이때 쓰는 것이 부분요인 설계(Fractional Factorial Design)입니다. 높은 차수의 상호작용은 대개 작다는 가정 아래, 전체 조합 가운데 균형이 맞는 일부만 골라 실험하죠. 예를 들어 인자 5개를 2⁵⁻¹ 설계로 하면 16번만으로, 세 인자 이상의 상호작용이 작다는 가정 아래 주효과와 두 인자 사이의 상호작용을 모두 추정할 수 있습니다.

대가는 교락(Aliasing)입니다. 실험을 줄인 만큼 어떤 효과들은 서로 구분되지 않고 한 숫자로 섞여 나오죠. 섞이는 정도를 해상도(Resolution)로 표시하는데, 해상도 III은 주효과가 두 인자 상호작용과 섞이고, 해상도 IV는 주효과는 깨끗하지만 두 인자 상호작용끼리 섞이며, 해상도 V는 두 인자 상호작용까지 깨끗하게 나옵니다.

그래서 현장에서는 보통 단계를 나눕니다. 처음에는 해상도가 낮은 설계로 많은 후보 인자 가운데 중요한 몇 개를 골라내는 스크리닝(Screening)을 하고, 살아남은 인자로 더 정밀한 실험을 이어 가죠.

최적점을 찾는 반응표면법과 다구치 방법

반응표면법

두 수준 실험은 직선 관계만 볼 수 있어서, 최적점이 실험 범위 안쪽에 봉우리처럼 있는 경우를 찾기 어렵습니다. 반응표면법(RSM, Response Surface Methodology)은 인자마다 세 수준 이상을 쓰는 설계로 곡면 형태의 2차 모델을 세워, 반응이 가장 좋아지는 지점을 찾는 방법이죠.

대표적인 설계로 두 수준 요인 실험에 중심점과 축점을 더한 중심합성설계(CCD, Central Composite Design)와, 실험 범위의 꼭짓점을 피하는 Box-Behnken 설계가 있습니다. 결과를 등고선 그래프로 그리면 식각률과 균일도를 함께 만족하는 공정 창(Process Window)을 눈으로 확인할 수 있죠.

다구치 방법

다구치 방법(Taguchi Method)은 평균을 목표에 맞추는 것보다 흔들림에 둔감한 조건을 찾는 데 초점을 둡니다. 직교배열표로 실험 수를 줄이고, 챔버 상태나 웨이퍼 위치처럼 통제하기 어려운 잡음 인자를 일부러 넣어 SN비(신호 대 잡음비)가 가장 큰 조건을 고르죠.

강건한 조건을 찾는다는 발상은 반도체 공정과 잘 맞지만, 상호작용을 다루는 방식과 SN비의 통계적 성질에 대해서는 비판도 있습니다. 그래서 요즘은 강건 설계의 발상은 살리되 분석은 반응표면법 같은 일반적인 통계 모델로 하는 경우가 많습니다.

반도체 공정에 적용하는 흐름

반도체 실험에는 고유한 함정도 있습니다. 챔버는 사용할수록 벽에 부산물이 쌓여 상태가 변하므로, 실험 순서를 랜덤화하지 않으면 시간에 따른 변화가 특정 인자의 효과처럼 보일 수 있죠. 챔버가 여러 대라면 챔버를 블록으로 묶어 장비 차이를 따로 떼어 내야 합니다.

또 하나는 확인 실험입니다. 모델이 예측한 최적점은 실험하지 않은 조합인 경우가 많아서, 실제로 돌려 보기 전에는 추정값일 뿐이죠. 실험계획법 DOE의 결론은 확인 실험과 일정 기간의 양산 데이터로 검증되었을 때 비로소 공정 조건이 됩니다.

실험 방식 비교 표

구분	하나씩 바꾸기	완전요인 설계	부분요인 설계	반응표면법	다구치 방법
주된 목적	직관적인 경향 확인	주효과와 상호작용 전체 파악	많은 인자 중 중요 인자 선별	최적점과 공정 창 탐색	잡음에 강한 조건 탐색
상호작용	볼 수 없음	모두 추정	해상도에 따라 일부 섞임	2차 모델에 포함	제한적으로 다룸
실험 수	많고 비효율적	인자 수에 따라 급증	적음	중간	적음
주로 쓰는 시점	초기 감 잡기	인자가 적을 때	초기 스크리닝	최종 최적화	산포 개선, 강건 설계

핵심 정리

실험계획법 DOE는 여러 인자를 계획된 조합으로 동시에 바꿔, 적은 실험으로 주효과와 상호작용을 함께 읽어 내는 방법입니다. 2² 예시처럼 평균만 보면 효과가 없어 보이는 인자도 다른 인자와 얽혀 결과를 바꿀 수 있고, 하나씩 바꾸는 실험은 이런 구조를 놓치기 쉽죠.

찌개 맛을 소금 따로 고춧가루 따로 잡으면 마지막에 간이 틀어지듯, 공정도 인자를 함께 움직여 봐야 진짜 최적점이 보입니다. 실무에서는 스크리닝, 반응표면법 최적화, 확인 실험의 순서를 지키고, 랜덤화와 블록화로 장비 변화가 결론을 오염시키지 않게 하는 것을 기본으로 삼으면 좋습니다.

면접 대비 질문