AutoEncoder를 공부하기 전 필요한 내용 Basic 베이지안 통계 parameter: 두 변수 간을 연결짓는 매개변수 베이즈 규칙 어떤 사건에 대한 단순히 신뢰율을 사전 할당하는 것과 데이터에 기반하여 사건에 대한 신뢰율을 사후 할당하는 것의 관계 변수 = θ 사전 확률, prior (p(θ)): 관측된 데이터의 값에 대한 관계 없이 파라미터 값이 가지는 신뢰율 어떤 사람이 비만인지 아닌지에 대한 확률값을 구하고자 할 때, 어떤 사람에 대한 정보값(데이터)를 제외하고 비만일지 아닐지에 대한 믿음이 p(θ)를 결정 사후 확률, posterior (p(θ|D)): 데이터를 고려한 상태에서 파라미터 값이 가지는 신뢰율 어떤 사람에 대한 다양한 관측 데이터 값(키, 몸무게, 지방 등)의 정보를 고려한 상..
Study
[Paper] [Github] SinDiffusion: Learning a Diffusion Model from a Single Natural Image We present SinDiffusion, leveraging denoising diffusion models to capture internal distribution of patches from a single natural image. SinDiffusion significantly improves the quality and diversity of generated samples compared with existing GAN-based appr arxiv.org 1. Introduction SinGAN: Multiple models at pr..
Diffusion 꼭 알아야하는 방법론 Generic Framework 1. Denoising Diffusion Probabilistic Models (DDPMs) Forward process DDPM은 Gaussian noise를 통해 데이터를 망가뜨린다. $p(x_0)$ 가 data density라면 ($x_0$은 original data). 원본 $x_0$와 노이즈가 추가된 $x_1, x_2, ..., x_T$는 Markovian process를 거친다. $$ p(x_t|x_{t-1}) = \mathcal{N}({x_t};\sqrt{1-\beta_t}\cdot x_{t-1}, \beta_t \cdot \mathbf{I}) $$ $T$는 diffusion steps를 의미하며, $\beta_1, be..
[논문 리뷰] High-Resolution Image Synthesis with Latent Diffusion Models(Stable Diffusion) arXiv 2021. [Paper] [Github] Robin Rombach, Andreas Blattmann, Dominik Lorenz, Patrick Esser, Björn Ommer Ludwig Maximilian University of Munich & IWR, Heidelberg University, Germany | Runway ML 20 Dec 2021 1. Introduction 이미지 합성은 Computer vision에서 최근에 많은 발전을 이룬 분야이다. likelihood 기반의 모델들과 Autoregressive(AR) tra..
