Jensen-Shannon Divergence를 왜 사용하는가 오늘은 약간의 KL-divergence의 복습과 ‘Jensen-Shannon Divergence‘에 대해서 알아보도록 하겠다. KL-divergence? 아마 누군가는 이렇게 생각할 수도 있다. ‘이미 KL-divergence’가 존재하는데도 불구하고 왜 또다른 개념이 나왔을까? ...
[ML 머신러닝] GAN - 정복하기 (5) GAN의 종류 - 3
Preview 이전 시간에 이어 GAN의 종류에 대해서 조금 더 알아보겠다. 이전 GAN들과는 조금 다른 확장된 개념이 등장하니 집중하자. CycleGAN 두 개의 Unpaired 한 이미지가 있을 때, 해당 이미지를 가지고 새로운 이미지를 만드는 방식이다. Unpaired 이미지와 Paired 한 이미지가 무엇인가? 다음 그림을 보면 한방에...
[ML 머신러닝] GAN - 정복하기 (4) GAN의 종류 - 2
Preview 이번 포스트또한 지난시간에 이어서 GAN의 종류에 대해 알아보는 시간을 가진다. Semi-Supervised GAN(SGAN) 비교적 간단한 모델이다. Discriminator 에게 가짜 진짜 구분의 역할 뿐만아니라, Class를 구분하여 추가로 Fake라는 Class또한 구분하게 만든것을 SGAN이라 한다. 예를들어 G...
[ML 머신러닝] KL-divergence
Title 오늘은 KL-divergence 에 대해서 알아보겠다. 하지만 이 개념을 설명하기 앞서서, 미리 알아야할 내용들이 있기때문에 그 내용들을 먼저 설명하고 진행을 하겠다. Cross Entorpy 크로스 엔트로피를 한마디로 정의하자면, ‘예측과 달라서 생기는 정보량’ 이라 할 수 있다. 딥러닝을 조금이라도 공부한 사람이라면 모를리 없을...
[ML 머신러닝] 정보-엔트로피 (information-entropy)
정보 엔트로피 이번 시간에는 정보엔트로피에 관해 알아보겠다. 아마 처음 보는 사람은 정보에도 엔트로피가 존재하는가? 에 대해 의문을 가질 것이다. (나 또한 그랬으니까) 따라서 이번 시간에 자세히 알아보도록 하자! 정보(information) 정보에대해 알아보기 전에 우리가 알아볼 정보(information)는 단순히 통계학적 관점임을 알고...
[ML 머신러닝] GAN - 정복하기 (3) GAN 의 종류
Preview 이번 포스트에서는 GAN의 종류에 대해 알아보는 시간을 가지겠다. 보통의 딥러닝 Network들과 같이 GAN또한 많은 종류의 형태와 종류들이 있다. DCGAN(Deep Convolution GAN) DCGAN은 Deep Convolutional Generatice Adversarial Network의 약자로, GAN을 개선시...
[ML 머신러닝] GAN - 정복하기 (2)
GAN - 기본 수식 지난시간에 이어 수식에 대해 알아보겠다. 수식 수학에 익숙치 않거나, 이런 수식을 많이 접하지 안해본 사람들은 의아할 것이다. 도대체 저 $min, max$는 뭘까..? 결론부터 말하자면, 왼쪽에서 G는 V(D, G) 가 최소(min) 가 되려 하고, D는 V(D, G) 최대(max) 가 되려고 한다는 의미이다....
[ML 머신러닝] GAN - 정복하기 (1)
GAN (Generative Adversarial Network) 직역하자면 다음과 같다. 생산적 적대 신경망 이 무슨 말이란 말인가. 항상 느끼지만 한국어는 공부를 하는 입장에서 한문이 너무 많아서 괴롭다. 그 어느 누가 생산적 적대 신경망 이란 말을 보고 이해할 수 있을까. 따라서 저런 말은 집어치우고, 본인이 이해한 쉬운 그림을 보고 설...
[Graph 그래프] 그래프 전파모형
전파모형과 전파 최대화 목표 그래프를 통한 정보의 전파에 대해 나타낼 수 있음 수학적 모형화를 통한 전파 과정에 대해 설명 두가지 전파 모형이 존재 의사결정 기반 확률적 전파기반 의사결정 기반의 전파모형 언제 의사결정 기반의 전파모형을 사용할까? 라인 vs 카카오톡 의사...
[WEB 웹] Page-Rank
Page Rank 검색엔진에서의 그래프 사용에 관함 웹과 그래프 웹은 웹페이지와 하이퍼링크로 구성된 거대한 방항성 있는 그래프라고 볼 수 있다. 웹 페이지는 정점이다. 웹페이가 포함하는 하이퍼링크는 해당 웹페이지에서 나가는 간선에 해당한다. 단, 웹페이지는 추가적으로 키워드 정보를 포함하고 있다....