Go!: Exponential Family

2010년 6월 11일 금요일

Exponential Family

어떤 확률밀도함수(pdf, pmf)들의 모임을 Exponential Family라고 부를때 이는 다음과 같이 표현된다.

$f(x|\theta)=h(x)c(\theta)exp \left[ \sum_{i=1}^{k} w_{i}(\theta)t_{i}(x) \right]$ , 식(1)

여기서

$h(x) \ge 0,~t_{1}(x),t_{2}(x), \cdots , t_{k}(x)$ , $t_{i}(x)$ 는 모수 $\theta$ 에 depend 되지 않은 실값을 갖는 함수
$c(\theta) \ge 0,~w_{1}(\theta),w_{2}(\theta), \cdots , w_{k}(\theta)$ , $w_{i}(\theta)$ 는 값 에 depend 되지 않은 실값을 갖는 함수

이다.

위의 식은 책마다 표현하는 형태는 다양하지만 위의 두가지 조건을 갖는다. 일례로 위의 식에서 $h(x)c(\theta)$ 의 $c(\theta)$ 를 지수 안에 넣어서 다음과 같이 표현하는 책들도 많다.

$f(x|\theta)=h(x)exp \left[ \sum_{i=1}^{k} w_{i}(\theta)t_{i}(x) - A(\theta) \right]$

예제) 이항분포

$f(x | p) & = & \binom{n}{x} p^{x}(1-p)^{n-x} \ & = & \binom{n}{x} (1-p)^{n} \left( \frac{p}{1-p} \right) ^ {x} \ & = & \binom{n}{x} (1-p)^{n} exp \left( log \left( \frac{p}{1-p} \right) x \right) \" class=$

이 글은 스프링노트에서 작성되었습니다.

Go!

2010년 6월 11일 금요일

Exponential Family

댓글 없음:

댓글 쓰기