2010년 6월 11일 금요일

Exponential Family

어떤 확률밀도함수(pdf, pmf)들의 모임을 Exponential Family라고 부를때 이는 다음과 같이 표현된다.

 

f(x|\theta)=h(x)c(\theta)exp \left[ \sum_{i=1}^{k} w_{i}(\theta)t_{i}(x) \right],                   식(1)

여기서

  • h(x) \ge 0,~t_{1}(x),t_{2}(x), \cdots , t_{k}(x)t_{i}(x) 는 모수 \theta에 depend 되지 않은 실값을 갖는 함수
  • c(\theta) \ge 0,~w_{1}(\theta),w_{2}(\theta), \cdots , w_{k}(\theta), w_{i}(\theta)는 값 x에 depend  되지 않은 실값을 갖는 함수

이다.

위의 식은 책마다 표현하는 형태는 다양하지만 위의 두가지 조건을 갖는다. 일례로 위의 식에서 h(x)c(\theta)c(\theta)를 지수 안에 넣어서 다음과 같이 표현하는 책들도 많다.

 

f(x|\theta)=h(x)exp \left[ \sum_{i=1}^{k} w_{i}(\theta)t_{i}(x) - A(\theta) \right]

 

예제) 이항분포

f(x | p) & = & \binom{n}{x} p^{x}(1-p)^{n-x} \ & = & \binom{n}{x} (1-p)^{n} \left( \frac{p}{1-p} \right) ^ {x} \ & = & \binom{n}{x} (1-p)^{n} exp \left( log \left( \frac{p}{1-p} \right) x \right) \" class=

 

 

이 글은 스프링노트에서 작성되었습니다.

댓글 없음:

댓글 쓰기