sejongresearch / 2019.fall.patternrecognition Goto Github PK

• Please confirm attendance, and email me if there is a problem.
• Reference date: 10/15

참고용

• P1
• P2
• P3

Original Link

• https://machinelearningmastery.com/beginners-get-it-wrong/

머신러닝 초심자가 하는 실수들

데이터 분석의 중요성이 높아지면서, 그 근간이 되는 머신러닝(Machine learning, a.k.a 기계학습)에 대한 관심도도 덩달아 높아지고 있습니다. 알고리즘을 통해 다양한 ‘예측’을 해 내는 머신러닝은, 그 방법론 중 하나인 딥러닝의 발달로 더욱 진일보한 발전을 이뤘는데요. 머신러닝이 주목을 받으면서 이를 배우고자 하는 이들도 폭발적으로 증가했습니다. 그러나, 머신러닝에 대해서 지나치게 이론에만 매몰된다거나, 머신러닝이 모든 것을 해결해줄 것이라는 믿음으로 과하게 맹신하다 보면 함정에 빠져서 쉽게 벗어나오지 못하게 됩니다.

호주의 머신러닝 연구 커뮤니티인 Machine Learning Mastery를 이끄는 머신러닝 전문가 Jason Brownlee 박사는 흔히 머신러닝 초심자들이 저지르는 위와 같은 실수들을 5가지로 정리하고, 이에 대한 해결책을 제시합니다. 단순히 머신러닝에 관심이 있던 개발자 출신으로 머신러닝 전문가가 된 그가 이야기하는 ‘머신러닝 초심자가 하는 실수들’을 아래에 소개합니다.

• LectureNote is updated.

학습 목표

• OpenCV 사용법을 익힌다
• Pandas 사용법을 익힌다
• Matlablib 사용법을 익힌다

난이도

• Beginner

관련 동영상

• Youtube Playlist

• It is related to FL class
• please check how to use Pandas for classification
• please re-check how to submit to the Kaggle leaderboard

10월 10일 목요일 패턴인식 수업은 없습니다.
10일에 대한 보강날짜는 다음화 화요일에 협의하겠습니다.

시험 정보

• 개인 노트북을 사용하셔도 좋습니다. 즉, 개인 개발 환경 허가 합니다.
• 개인 키보드 마우스 준비하셔도 좋습니다.
• 이론 답 역시 온라인으로 작성합니다. 따라서 종이, 연필 준비물은 자유 입니다.
• 시험은 OpenBook입니다. 그러나 모든 라이브러리의 공식 메뉴얼만 허가합니다.

필수 준비물

• Kaggle 가입 후 시험장에 입실 바랍니다.
  • http://kaggle.com
• 가입 하지 않아 생기는 문제는 책임지지 않습니다.

Information

• Time
  • PM 7:00-8:15
• Location
  • B108
• Contents
  • Image Stitching using Local Invariant Feature
    • This lecture related to the project.
• Attendance
  • Up to you

• 다음과 같이 조교를 배정합니다.
  • 텀프로젝트를 진행하면서 도움이 필요한 부분은 조교를 통해 문의 바랍니다.
  • 조교는 방향을 가이드 해줄 뿐 정답을 주는 사람들이 아님을 주의하시기 바랍니다.
  • 더불어 조교 변경을 원하는 학생은 사유와 함께 이메일을 보내거나 면담 신청 바랍니다.

• 모두 중간고사 보느라 수고했습니다. 곧 다시 봅시다.

• 여러 분은 지난주까지 중간고사 문제4,5번에 대한 성능을 리더보드에 업로드 하였습니다.
• 이제 각자의 해결방법을 Discussion 으로, 코드를 Notebooks 로 작성하여 업로드 해주세요.
• 각 미션의 역할은 FL 을 시청하시면 알 수 있습니다.
• 더불어 다른 캐글 컴패티션을 작성법을 참고하셔서 과제를 히결하셔도 좋습니다.
• 캐글 뉴비들이여! 굿럭!

링크

• 4번
• 5번

• 9월 10일 수업은 휴강을 공지합니다.
• 보강 일자는 명절이 지난 첫 수업시간에 논의하겠습니다.

텀프로젝트 중간 정검

• TA와 텀프로젝트 중간정검을 실시합니다.
• 어려움점을 논의합니다.
• 도움이 필요하다면 도움을 받습니다.
• 좋은 결과를 도출하기 위해 팀원들끼리의 토론을 추천합니다.

• You can check your final grade in portal system.
• If you have any problems, please contact me via email until today.

발표자료 관련

• 발표자료는 내일 오전 11시까지 교수님 이메일로 발송을 부탁드립니다.
• 시간이 많지 않아 미리 준비하기 위함이니 양해 바랍니다.

시험방법

• Colab을 이용한 Clustering 퀴즈

시험시간

• 12시 05분~13시 05분까지

퀴즈 점수

• 100점 만점 (20점 추가점수 있음)
• 가산점은 앞으로 진행될 퀴즈에서 감점 사항을 보상받는 구조

시험중 인터넷으로 접근 가능한 곳

• https://scikit-learn.org
• https://docs.scipy.org/doc/numpy/reference/

Introduction

• Concept

Classification with RF

• DIGIT
• IRIS

Regression with RF

• Predict Salaries
• Predict Bike Sharing Demand

Implementation from scratch (do it yourself)

• DecisionTree
• RandomForest

중간고사 성적 발송

• 개인 메일을 통해 중간고사 채점 결과를 발송하였습니다.
• 점수와 관련된 이의제기는 10월 31일까지 이메일로 받습니다.

중간고사 성적분포 공개

• "점수 구간별 학생 수" 히스토그램입니다.
• 평균점수는 73.7 입니다.
  

문제별 평균 점수

관련 논문 내용

We follow the experimental setup of Grauman and Darrell [7] and J. Zhang et al. [25], namely, 
we train on 30 images per class and test on the rest. For efficiency, we limit
the number of test images to 50 per class.

학습과 테스트 구성 방법

• 별도의 학습과 테스트 셋을 정해드리지 않겠습니다.
• 다만, 학습에 각 클래스별 30장을 사용하고, 나머지를 테스트에 사용합니다.
• 이때 테스트에 사용되는 영상의 수는 50장을 넘어가지 않습니다.
• 랜덤성에 의한 성능 범위는 논문에 표기되어 있으니 걱정 마시고 편하게 split 하여 사용하세요

개발자 모임 소개

• 이노베이션센터(서울42)에서는 아래와 같이 개발자 모임 및 Meetup을 관리하고 있습니다.
  • https://github.com/innovationacademy-kr/community-meetups
• 관심있는 개발자 모임에 참여하셔도 좋을 것 같습니다.

발표 시간

• 내일 11시 50분 부터 시작합니다.
• 시간이 타이트 하니 시간 조절 잘 부탁드립니다.
• 앞쪽에 배치된 친구들은 절대 늦지 않도록 해주세요.
• 모든 사람 11시 50분 시작입니다. 늦지 마세요.

발표순서

• 가나다순으로 하겠습니다.

• https://www.kaggle.com/c/2019-ml-finalproject/overview
• 데이터셋 다운로드 및 리더보드 제출 가능

오늘 수업은 없습니다.
발표와 관련된 공지는 금일 안으로 하겠습니다.

과제

• 중간고사 4,5번 문제를 과제로 풀어 제출하세요.
• 마감시간은 10월 31일 오후 11시 59분입니다.
• 캐글 리더보드에 제출과 동시에 ipynb 를 제출하셔야 합니다.

링크

• 4번
• 5번

Goal of Lecture

• We can understand SVM.
• We can use SVM for classification.

Lecture Note

• Theory
• Labs

학습목표

• 동영상 시청과 실습을 통해 왜!! Github 를 사용해야 하는지 그리고 어떻게 내 코드를 Github 의 Repository에 공개하는지 알아본다.

관련 동영상

• Git 설치 및 사용법 익히기
• 오픈소스의 개용 및 오픈소스 활동을 하는 이유
• Git이 등장한 배경과 Git의 장점
• Git의 동작 원리
• 소스코드 수정하여 Git 저장소에 반영하기
• Git에서 커밋 내역 수정하기
• Git 브랜치의 개요 및 사용해보기
• Git 브랜치 충돌 처리하기
• Git 원격 저장소 관리하기
• GIt 로그 다루기
• Git 에서 소개글 파일 작성하기
• Git Archive 명령으로 소스코드만 압축하기
• Git Rebase 명령으로 특정한 커밋을 수정/삭제하기
• Git Config 환경 설정에 대해 알아보기
• Git Commit 의 날짜 변경 및 커미터 변경하기

텀프로젝트 중간 정검 III

• 지난주에 이어 텀프로젝트를 정검합니다.
• 진행하면서 어려움점을 논의합니다.
• 도움이 필요하다면 도움을 받습니다.
• 좋은 결과를 도출하기 위해 팀원들끼리의 토론을 추천합니다.

가벼운 마음으로 오세요.

텀프로젝트 중간 정검 II

• 지난주에 이어 텀프로젝트를 정검합니다.
• 진행하면서 어려움점을 논의합니다.
• 도움이 필요하다면 도움을 받습니다.
• 좋은 결과를 도출하기 위해 팀원들끼리의 토론을 추천합니다.

• https://woowacourse.github.io/curriculum.html
• 우아한 형제들에서 개발자과정 코스를 운영합니다.
• 선발과정을 거쳐 교육을 받게 되는군요.
• 좋은 기회로 보여집니다.

Goal of Lecture

• We can explain what pattern recognition is.
• We can understand how to recognize something.

컴퓨터비전 국제학술대회 양대 산맥 중 하나인 ICCV가 올해 한국에서 열립니다.
(컴퓨터비전 분야에서는 월드컵 유치와 비슷한 수준의 행사이지요.)
컴퓨터비전에 관심있는 학생들이라면 참가를 매우 권장합니다.

오늘 홈페이지에 들어가보니, 등록비를 면제해주고 경비를 일부 지원해주는
Travel Award를 뽑고 있네요.

http://iccv2019.thecvf.com/attend/travel_support
https://docs.google.com/forms/d/e/1FAIpQLSdAF48g7y7FbEoqSs36pa_sopuqZ0oejQD39hcnwWLyokKcOw/viewform

보통은 포텐셜이 높은 학생 혹은 자원봉사를 선발하여 주는 장학금인데..
이번에는 어떤식으로 운영 및 선발할지 모르겠습니다.

아무쪼록, 구글 독을통해 신청을 받고 있는거 같네요.
정성이 지극이면 하늘이 감동한다고 하니... 필요하신 학생은 지원해 보시죠! :)

Good Luck!!

시험 일

• 10/18 (금) 8시~

시험 범위

• Kmeans, SVM 이론 및 실습

제외 범위

• 보충수업시간에 다룬 SIFT 기반 영상처리
• Github 사용법

개인 깃 허브의 주소 혹은 정리된 디스커션 보드의 주소를 이메일로 제출하셔야 합니다.
내일 오전까지 들어오지 않으면, 이제출로 간주합니다.

• 2019학년도 1학기 인공지능 수업이수자들은 모두 Learn Python3를 이수하였으므로 제외됩니다.
• 미 이수자들은 주의사항을 확인하시고 모두 이수한 후 이수증을 제출 바랍니다.
• 데드라인 안에 미 이수시 F 입니다.

국내 참 많은 개발자 모임과 행사가 있습니다.
제가 뽑는 큰 행사 2개가 있다면, 파이콘 코리아와 데뷰가 있지요.

Deview는 최고의 기술과 경험을 공유하며 대한민국 개발자들이 함께 성장하는 자리를 자칭합니다.
참가를 희망하는 분은 등록기간에 등록신청을 하시면 됩니다.
참가비는 무료이지만, 등록이 선착순인 관계로 수강신청 빰치는 스피드가 필요합니다.

아무쪼록, 관심있는 학생들은 참가해보시면 좋은 경험이 되실꺼라 생각합니다.
그럼 참가신청에 모두가 성공하시길 바랍니다.

Good Luck!!

How to use Pandas

• Pandas의 기본 사용법 / Python 데이터 분석과 이미지 처리
  • 동영상, PDF, Code
• Pandas의 활용 / Python 데이터 분석과 이미지 처리
  • 동영상, PDF, Code
• Pandas의 연산과 함수 / Python 데이터 분석과 이미지 처리
  • 동영상, PDF, Code

발표

• 1인당 발표시간
  • 3분 발표 + 2분 Q/A
  • 3분 넘어가면 발표 강제 중단
• 발표 컨텐츠
  • 자신만의 알고리즘 개선법 PR
    • 성능에 맞는 방법론 간단 언급 (기존과 동일할 경우 길게 설명하지 말 것)
  • 자신만의 Github 관리법 PR
  • 자신만의 Discussion 보드 관리법 PR

최종제출관련

• 과정별 코드가 담겨있는 Github 주소
• 과정별 결과가 정리되어 있는 Github 주소
  • 베이스 코드 + 최고성능 코드 (과정별 코드 제출 가능)
• 본인의 Dissusion 내용 제출
• 최종발표자료는 수업시간에 지참

참고

• Gitub 정리시 참고
  • [김지원 조교 예시] https://github.com/socome/BOVW_2019

과제로 주어진 중간고사 5번문제에서 라벨이 시험지와 매칭되지 않습니다.

시험지에서는

blues (0),classical (6),country (1),disco(7),hiphop(5),jazz (3),metal (9),pop (8),reggae(4),rock(2)

로 나타나있지만 해당 클래스별로 분류하면 성능이 20퍼센트정도 나옵니다. 이를 다음과 같이 알파벳 순으로 변경하면 성능이 70퍼센트까지 오르는 것으로 보아 시험지 라벨표기가 잘못된 것 같습니다.

blues (0),classical (1),country (2),disco(3),hiphop(4),jazz (5),metal (6),pop (7),reggae(8),rock(9)

• No Lecture on 10/29(Tue) & 10/ 31(Thur)

PM 7:00-10:00

토크On세미나 - 캐글입문기 (캐글코리아 이유한)

• Kaggle(캐글) 데이터분석 입문 1강 - What is Kaggle(캐글)?
• Kaggle(캐글) 데이터분석 입문 2강 - Why do Kaggle?
• Kaggle(캐글) 데이터분석 입문 3강 - 캐글 컴피티션 참여 방법
• Kaggle(캐글) 데이터분석 입문 4강 - Kaggle(캐글) 사용법

오늘의 코드 - 캐글러 분석기 (박주은 개발자)

• 머신러닝과 데이터사이언스 경진대회 플랫폼인 캐글을 소개합니다.
• (1/4) 캐글러를 대상으로 데이터과학과 머신러닝에 대한 설문조사의 응답을 파이썬 데이터 시각화 툴로 분석해 봅니다.
• (2/4) 캐글 설문조사 - Pandas의 DataFrame사용하기, seaborn과 matplotlib으로, 캐글러의 데이터과학/머신러닝 공부방법을 분석해 봅니다.
• (3/4) 캐글설문조사 matplotlib의 subplots() 사용법, seaborn으로 count, box, distplot 그려보기
• (4/4) 캐글 설문조사 - 데이터 사이언스 머신러닝 분야의 커리어에 관련된 응답 분석

오늘의 코드, 캐글 입문하기

• 자전거 수요 예측[1/4] 캐글 머신러닝 탐색적 데이터 분석
• 자전거 수요 예측[2/4] 캐글 머신러닝 사이킷런 랜덤포레스트 RMSLE 소개
• 자전거 수요 예측[3/4] 캐글 머신러닝 랜덤포레스트만으로 경진대회에 참여하기
• 자전거 수요 예측[4/4] 캐글 머신러닝 선형회귀, 릿지, 라쏘, 랜덤포레스트, 그라디언트 부스팅 모델을 사용하여 상위 5% 점수얻기

Github 사용법에 관한 퀴즈에서 나온 내용들도 중간고사에 출제되는지 질문드립니다.

ex) 예를들면 중간고사 실습(?)내용을 깃허브에 업로드해서 제출해야하나요..? 만약 기존에 git 코드가 익숙지 않으면 웹을 통해서 제출도 가능한지 질문드리고자 합니다.

Goal of Lecture

• We can understand PCA.
• We can use PCA for face recognition.

Lecture Note

• Theory
• Labs #1
• Labs #2

시험방법

• 윈도우 컴퓨터에서 터미널을 이용한 Github 사용법 테스트

시험시간

• 12시 05분~13시 05분까지 (사전퇴실 가능)
• 별도의 이론 수업 없음

퀴즈 점수

• 80점 만점

시험중 인터넷 사용 여부

• 인터넷 사용 금지

유의사항

• github 원격 repository 제출 이후, 절대 수정 불가
• 수정 기록 확인 후 문제 발견 시 부정행위로 간주

비학위 SW 인재양성프로그램

• 관심있으신분들 참고하세요. 필요 시 4학년 졸업 이후 지원가능할 것 같네요.
  • 원 없이 자유롭게 공부 가능한 프로그램으로 보여지네요.
• https://42seoul.kr/news
• https://github.com/innovationacademy-kr/FAQ
• 온라인설명회

○ 사업목적

• 혁신성장 선도분야 최고급 국내외 인재를 대상으로 혁신적인 교육시스템을 통한 세계 최정상급 4차 산업혁명 인재 양성

○ 교육대상/기간

• 전공, 학력, 국적, 나이 등의 제한 없이 프로젝트 수행이 가능하며, 협업이 가능한 자 / 2년

○ 입학 전형

• 온라인 논리심사 및 프로젝트 수행능력, 인․적성 검사 등

○ 수업 방식

• 자기주도형 온・오프라인 교육, 창의주도형 프로젝트 수행 등

○ 학비 / 규모

• 없음 / 연 500명

Topic

• Image classification using Pattern Recognition

Goal

• Implementation research paper step by step
  • Beyond bags of features spatial pyramid matching for recognizing natural
    scene categories, CVPR 2006
  • Author Slide

Preliminary (Chapter)

Theory

• Clustering (Kmeans)
• Vocabulary Tree (Kmeans + Tree)
• PCA (Feature Selection)
• Fisher Vector (Feature Selection)
• SVM Classification/Kernel Trick (SVM)
• Random Forest (Ensemble + Tree )
• SIFT (+Sup Lecture)

Tools

• Colab + GPU (for large scale data)
  • Kemans clustering using GPU
  • Linear SVM using GPU
• Sklearn
• OpenCV

Requirement

• Project Repository in your Github
  • Make your repo. and submit your URL
• Kaggle Leaderboard & Discussion

• [Labs2] https://colab.research.google.com/drive/1WXqdYcMmJ0AZeAnqTiFuqU_SssgXpOCt

Information

• Time
  • PM 7:00-8:15
• Location
  • B108
• Attendance
  • Up to you