기댓값 최대화 알고리즘
기댓값 최대화 알고리즘은 관측되지 않는 잠재변수가 있는 확률 모델의 모수를 반복적으로 추정한다 통계적 추정·잠재변수 모델 분야에서 이 문제를 해결하기 위한 계산 모델을 제공하며, 실제 구현에서는 상태를 표현하는 방법과 단계별 조건을 정의해야 한다. 알고리즘의 목표, 최적성 또는 오차의...
| 분류 | 알고리즘 · 통계적 추정·잠재변수 모델 |
|---|---|
| 해결 문제 | 관측되지 않는 잠재변수가 있는 확률 모델의 모수를 반복적으로 추정한다 |
| 핵심 절차 | E 단계는 현재 모수에서 잠재변수의 조건부 분포 또는 기대 완전자료 로그 우도를 계산하고 M 단계는 해당 기대값을 최대화하여 새 모수를 선택한다 |
| 연산·성능 | 반복 횟수 × E/M 단계의 계산 비용에 의존, 일반적 수렴은 지역 정상점 수준 |
| 사용 전제 | 확률 모델·잠재변수와 E 단계·M 단계의 실행 가능성이 필요하다 |
| 참고 자료 | 관련 기술 문서 |
| 관련 기술 | 알고리즘, 계산 복잡도 |
기댓값 최대화 알고리즘은 관측되지 않는 잠재변수가 있는 확률 모델의 모수를 반복적으로 추정한다 통계적 추정·잠재변수 모델 분야에서 이 문제를 해결하기 위한 계산 모델을 제공하며, 실제 구현에서는 상태를 표현하는 방법과 단계별 조건을 정의해야 한다. 알고리즘의 목표, 최적성 또는 오차의 보장 여부는 사용하는 계산 모델에 따라 해석한다.[1]
동작 방식은 E 단계는 현재 모수에서 잠재변수의 조건부 분포 또는 기대 완전자료 로그 우도를 계산하고 M 단계는 해당 기대값을 최대화하여 새 모수를 선택한다. 각 처리 단계에서 상태·값·데이터 구조의 의미가 유지되도록 구현하고, 알고리즘의 종료 또는 수렴을 판정하는 조건을 함께 둔다.
복잡도 및 실행 조건은 반복 횟수 × E/M 단계의 계산 비용에 의존, 일반적 수렴은 지역 정상점 수준 올바른 활용에는 확률 모델·잠재변수와 E 단계·M 단계의 실행 가능성이 필요하다 입력의 크기, 데이터 분포와 처리 환경이 달라질 때 성능 또는 결과가 어떻게 달라지는지도 중요한 평가 대상이다.
구체적인 적용을 보면 가우시안 혼합 모델·결측 데이터 추정 등에 사용한다. 초기 모수와 지역 최적점, 수치 안정성을 고려한다. 다른 방법과 비교할 때 계산 비용, 결과의 정확성, 입력 전제 및 구현 복잡성에 따라 적절한 기법을 선택하게 된다. 원래 모델의 전제가 성립하는지를 확인하면 실용적인 코드 구현과 이론 분석을 연결할 수 있다.[2]