Code Monkey home page Code Monkey logo

ml-simple-works's Introduction

ml-simple-works

머신 러닝 관련 작은 주제들을 선정해서 jupyter notebook으로 실습을 겸하여 내용을 정리하고 있습니다.

한국어로 찾아보기 힘든 내용을 선택하여 가능한 자세하게 풀어적고 있으며

누구나 쉽게 읽을 수 있도록 작성하고 있습니다.

ipynb 파일은 github에서 직접 보면 수식이 깨지고 예쁘게 나오지 않기 때문에

nbviewer를 통해 보거나 구블로그 https://metamath1.github.io/, 신블로그 https://metamath1.github.io/blog 에서 확인하는 것을 추천합니다.

그리고 PC에서만 보시길 권해드립니다. 모바일에서는 수식이 보기 좋지 않아서......

지금까지 정리된 내용

  • 친절한 디퓨전 모델 2-2편: DDPM 실습 파이토치편

  • 친절한 디퓨전 모델 2-1편: DDPM 실습 텐서플로편

  • 천철한 디퓨전 모델 1편: DDPM 이론편

  • 친절한 영어-한국어 번역기 만들기A Gentle Introduction to Creating an English-to-Korean translator with Transformers

  • 친절한 그래디언트 부스팅A Gentle Introduction to Gradient Boosting

  • 진짜로(?) 주석 달린 트랜스포머 Really annotated transformers

  • PCA와 공분산 행렬의 고유벡터PCA and the Eigen Vectors of Covariance Matrix

  • 어텐션 쉽게 이해하기Attention is easy to understand.

  • PRML 부록 D 변분법 내용 정리 PRML/calculus-of-variations.ipynb

  • PRML 9장 EM 알고리즘 완전분석 Expectation-Maximization, EM/em_algorithm.ipynb

  • K 평균 군집화 K-means Clustering, EM/Kmeans.ipynb

  • 역전파 알고리즘 완전정복 A Step by Step Backpropagation, BP/bp.ipynb

  • 합성곱 신경망에서 컨벌루션과 트랜스포즈드 컨벌루션의 관계 Relationship between Convolution and Transposed Convolution in CNN, CNN/transconv_fullconv.ipynb

  • 서포트벡터머신을 위한 비선형 계획 문제의 쌍대정리Duality in Non-Linear Programming for Support Vector Machine, svm/duality.ipynb

  • 대칭행렬의 대각화와 특잇값 분해Symmetric matrix Diagonalization and Singular Value Decomposition, svd/svd.ipynb

  • 벡터, 행렬에 대한 미분Derivatives for vectors and matrices, fitting/matrix-derivative.ipynb

  • 다변수 가우시안 확률분포multi-variable normal에서 사전확률분포prior, 사후확률분포posterior, 조건부확률분포conditional와 주변확률분포marginal : Pattern Recognition and Machine Learning - Chap. 2-1 , PRML/prml-chap2.ipynb

  • 야코비안Jacobian과 치환적분, sampling/double-integral.ipynb

  • 베이즈정리와 정규분포의 곱, fitting/product-of-gaussian.ipynb

  • 150줄로 된 간단한 네트워크Simple network with 150 lines, simplenet.ipynb/simplenet.ipynb

  • Change of continuous random variable - PRML EX-1.4 보충, GAN/change_of_variable.ipynb

  • 나이브 베이즈Naive Bayse - 밑바닥부터 시작하는 데이터 과학Data Science from Scratch 보충 설명, naive/naive.ipynb

  • 퍼셉트론 테스트와 수렴정리Perceptron test and its convergence theorem, perceptron/perceptron.ipynb

  • GANs 기초 - 엔트로피, Keras로 구현한 1D GANs 그리고 Goodfellow 논문 겉핥기, GAN/GANs.ipynb

  • CNN 역전파를 이해하는 가장 쉬운 방법The easiest way to understand CNN backpropagation, https://metamath1.github.io/cnn/index.html

ml-simple-works's People

Contributors

metamath1 avatar

Stargazers

 avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar  avatar

Watchers

 avatar  avatar  avatar  avatar  avatar

ml-simple-works's Issues

쌍대 정리 관련한 글에서

오류를 발견한 듯 하여 남겨드립니다.

Hx(x∗,v∗)가 양정이므로 (x∗,v∗)에서 충분히 가까운 (x,v)에서의 헤시안 Hx(x,v)도 양정이다. 이 부분에 대해 엄밀한 증명을 위해서는 해석학이 필요하나 여기서는 함수 f(x)가 양수이면 x에서 아주 약간 떨어진 근방에서도 양수라는 정도로 이해하고 넘어가기로 한다. 예를 들어 f(x)=3x2−5의 2계 미분은 f′′(x)=6x인데 f(x)의 아래로 볼록한 점 x∗=5/3−−−√에서 f′′(x∗)>0임이 분명하다. 또한 x∗에서 약간 떨어진 어떤 임의의 x에 대해서도 f′′(x)>0가 됨을 알 수 있다. 하지만 x가 x∗에서 멀리 떨어져서 x<0인 영역으로 가게 되면 f′′(x)<0이 된다. 즉 f′′(x)가 x∗ 근처에서 국부적으로 양수인것이다.

에서 3x^2-5의 1계 미분이 6x이고 2계 미분이 6이므로 항상 양수입니다. 예를 들려면 3차 다항식을 쓰시는데.. 나을 듯 합니다...

Recommend Projects

  • React photo React

    A declarative, efficient, and flexible JavaScript library for building user interfaces.

  • Vue.js photo Vue.js

    🖖 Vue.js is a progressive, incrementally-adoptable JavaScript framework for building UI on the web.

  • Typescript photo Typescript

    TypeScript is a superset of JavaScript that compiles to clean JavaScript output.

  • TensorFlow photo TensorFlow

    An Open Source Machine Learning Framework for Everyone

  • Django photo Django

    The Web framework for perfectionists with deadlines.

  • D3 photo D3

    Bring data to life with SVG, Canvas and HTML. 📊📈🎉

Recommend Topics

  • javascript

    JavaScript (JS) is a lightweight interpreted programming language with first-class functions.

  • web

    Some thing interesting about web. New door for the world.

  • server

    A server is a program made to process requests and deliver data to clients.

  • Machine learning

    Machine learning is a way of modeling and interpreting data that allows a piece of software to respond intelligently.

  • Game

    Some thing interesting about game, make everyone happy.

Recommend Org

  • Facebook photo Facebook

    We are working to build community through open source technology. NB: members must have two-factor auth.

  • Microsoft photo Microsoft

    Open source projects and samples from Microsoft.

  • Google photo Google

    Google ❤️ Open Source for everyone.

  • D3 photo D3

    Data-Driven Documents codes.