10.7 Gibbs Sampling
Gibbs samplling 은 M-H 알고리즘의 special case 이다. M-H 알고리즘에서 특징적인 부분은 Proposal distribution 이 있었다는 점이다. Proposal distribution 에 대해서 우리가 어떠한 특징을 가지고 있느지 알수 없기 때문에 그래서 ratio를 만들어서 accept probability 를 정의하였다. 그러면 Probosal distribution을 어떻게 잡아볼까? 그런데 Gibbs가 왜 새로운 probosal distribution을 잡으려해? 기존의 잘 정의 된 p를 이용하면 되지않을까라는 아이디어를 제안하였다. 한번 sampling을 할때마다 개별 zk 에 대해서만 update만 *로 업데이트하고 나머지는 Keep 해보자. Gibbs가 제안한..
