๋จธ์ ๋ฌ๋ ์ธ๋ค์ผํ ๋ฆฌ์คํธํ 4/7 ๋ชฉ ๋ชฉ์์ผ! ์ค๋๋ Multinomial Classification๋ฅผ ๋ํ์ ์ธ ์์ (MNIST)๋ฅผ ํตํด ๋ฐฐ์ด๋ค~ ์์ผ๋ก ์ด ์ซ์๋ค๋ก ์ด๋ฃจ์ด์ง ๋ํ ๋ฐ์ดํฐ๋ฒ ์ด์ค~ MNIST ์ด๋ฏธ์ง๋ ๊ทธ ์์ฒด๊ฐ 2์ฐจ์์ด๊ณ ๊ทธ๋ฐ ๊ฒ ์ฌ๋ฟ์ด๊ธฐ ๋๋ฌธ์ 3์ฐจ์. ์ด๋ฏธ์ง๋ฅผ 1์ฐจ์์ผ๋ก ravel() ํด์ผ ํจ https://www.kaggle.com/competitions/digit-recognizer/data?select=test.csv Digit Recognizer | Kaggle www.kaggle.com Tensorflow Ver. 1.15์ ๋ฐฐ์ด ์ด๋ก ์ ์ฝ๋๋ก ์ดํดํ๊ธฐ์๋ ์ข์ง๋ง ์ฝ๋๊ฐ ๋๋ฌด ์ด๋ ต๋ค. 1. Multinomial Classification by Tensorflow Ver. 1.15 - MNIST import nump.. ๋๋ณด๊ธฐ 4/6 ์ ์์์ผ! ์ค๋์ Multinomial Classification์ ๋ฐฐ์ด๋ค. Linear Regression(์ฐ์์ ์ธ ์ซ์ ๊ฐ ์์ธก)์ด ๋ฐ์ ํ ๊ฒ์ด Logistic Regression → Classification(๋ถ๋ฅ๋ฅผ ํ๋จํ๋ ์์ธก) - Binary Classification(์ดํญ๋ถ๋ฅ) - Multinomial Classification(๋คํญ๋ถ๋ฅ) Logistic Regression์ ์ด์ง ๋ถ๋ฅ์ ํนํ๋จ SKlearn์ด ์ ๊ณตํ๋ ๋ถ๋ฅ๊ธฐ์ธ Gradient Descent(๊ฒฝ์ฌํ๊ฐ๋ฒ)๊ฐ ๋ฐ์ ํ ํํ์ธ SGD Classifier(Stochastic Gradient Descent, ํ๋ฅ ์ ๊ฒฝ์ฌํ๊ฐ๋ฒ) 1. Binary Classification - ์์ค์ฝ์ ์ ๋ฐฉ์ ๋ฐ์ดํฐ by Gradient Descent Cl.. ๋๋ณด๊ธฐ 4/5 ํ ํ์์ผ! Logistic Regression์ ํ์ฉํด ๋จธ์ ๋ฌ๋ ์งํ ์ ์ฃผ์์ฌํญ์ ์์๋ณธ๋ค. ์์ผ๋ก ์ฐ๋ฆฌ๋ Classification(์ดํญ๋ถ๋ฅ)์ Metrics๋ก Accuracy๋ฅผ ์ฌ์ฉํ ์์ ์ด๋ค. ๋ชจ๋ธ ํ๊ฐ ์ ๊ณ ๋ คํด์ผ ํ๋ ๊ฒ๋ค 1. learning rate(ํ์ต๋ฅ ) : loss ๊ฐ์ ๋ณด๋ฉด์ ํ์ต๋ฅ ์ ์กฐ์ ํด์ผ ํจ. ๋ณดํต 1์ ๋ง์ด๋์ค 4์น์ผ๋ก ์ก์ ํ์ต๋ฅ ์ด ๋๋ฌด ํฌ๋ค๋ฉด global minima(W')๋ฅผ ์ฐพ์ ์ ์๊ฒ ๋จ → OverShooting ๋ฐ์ ํ์ต๋ฅ ์ด ์์ฃผ ์๋ค๋ฉด local minima ์ฐพ๊ฒ ๋จ 2. Normalization(์ ๊ทํ) : MinMax Scaling - 0 ~ 1. ์ด์์น์ ๋ฏผ๊ฐํจ Standardization - ํ์คํ, Z-Score. ์๋์ ์ผ๋ก ์ด์์น์ ๋๊ฐํจ, ๋ชจ๋ ์นผ๋ผ์.. ๋๋ณด๊ธฐ 7ํ ์ฐจ | 4/4 ์ 7ํ ์ฐจ! ๋ฒ์จ ์คํฐ๋ 4์ฃผ ์ฐจ๋ค~ ์ฒซ์งธ ์ฃผ๋ ํ์ดํ๋, ๋์งธ ์ฃผ๋ MovieLens EDA · ์๊ฐํ · ๊ธฐ์ ํต๊ณ, ์ ์งธ ์ฃผ๋ ์บ๊ธ ๋ฐ ๋ฐ์ด์ฝ์ ์์ ํน์ ๊ฐ์ ์์งํ ๋ฐ์ดํฐ์ ์ผ๋ก ์งํํ๋ ๋จธ์ ๋ฌ๋ ํ๋ก์ ํธ๊ฐ ์์๋ค. ์ด๋ฒ ์ฃผ๋ ์ง๋๋ฒ์ ์์ ํ ์ปค๋ฆฌํ๋ผ์ ๋ฐ๋ผ ๋ฉ์บ ์ฃผ๊ฐ ์์ ์์ ๋ฐฐ์ด ์ธ๊ณต์ ๊ฒฝ๋ง์ ๋ณต์ตํ๊ณ ํ๋ ์์ํฌ๋ฅผ ๊ณต๋ถํ๋ ๊ฒ์ผ๋ก ๊ฐ๋ฅ์ ์ก์์๋ค. ํ์ง๋ง ์์ง ์ฑ๋ฅํ๊ฐ(Metrics)๋ฅผ ๋ฐฐ์ฐ๊ณ ์์ด, ์์ง ๋ฅ๋ฌ๋์ผ๋ก ์ง๋๊ฐ ๋๊ฐ์ง ์์๋ค. ๋ด์ผ๊น์ง ์ ์ถํด์ผ ํ๋ ์ํํ๊ฐ๋ ์์ด, ์ด์ ๋ํ ๊ฐ์์ ์งํ ์ํฉ์ ๋ฆฌ๋ทฐํ๋ ๊ฒ์ผ๋ก ๋์ฒดํ๋ค. (๋ฐ์ดํฐ ๋ถ์, ๋ฐ๋ณต๋ฌธ, ๋ถ๋ฆฐ ์ธ๋ฑ์ฑ, ์ ์ฒ๋ฆฌ, ์ ๊ทํ, ๊ฒฐ์ธก์น · ์ด์์น ์ฒ๋ฆฌ ๋ฑ ์คํ์ผ์ด ๋ค ๋ค๋ฅด๋ค. ์ฐธ๊ณ ํด์ ์ต์ ์ ๋ฐฉ๋ฒ์ ์ตํ์) ์ด์์ง ํ์๋ฅผ ๊ฑฐ์ณ ์ ํ ์ปค.. ๋๋ณด๊ธฐ 4/4 ์ ์์์ผ! ์ค๋์ ๊ธ์์ผ์ ์ค์ต ์์ ๋ก ์ฃผ์ด์ก๋ admission(๋ํ์ ํฉ๊ฒฉ ์ฌ๋ถ) ๋ฐ์ดํฐ์ ์ Sklearn, Tensorflow๋ก ๊ตฌํํ๊ณ , ์ง๋์ฃผ์ ๋ฐฐ์ด Logistic Regression์ ํ์ฉํด ํ๊ฐ์งํ(Metrics)๋ฅผ ์์๋ณธ๋ค. 1. Logistic Regression by Sklearn import numpy as np import pandas as pd import tensorflow as tf from sklearn import linear_model from sklearn.preprocessing import MinMaxScaler from scipy import stats import matplotlib.pyplot as plt import warnings warnings.filter.. ๋๋ณด๊ธฐ 6ํ ์ฐจ | 4/1 ๊ธ 6ํ ์ฐจ! ์คํฐ๋ ์ถ์๋ถ ๋ณด๋ค ๋ณด๋, ๊ต์ก์ด ์ผ๋ง ๋จ์ง ์์ ๊ฑธ ์ค๊ฐํ๋ค. 6์ 28์ผ์ ๋๋๋ ๊ต์ก ๊ธฐ๊ฐ ์ค AI์ ์ต๋ณตํฉ ํ๋ก์ ํธ์ ๋ค์ด๊ฐ๋ ๊ธฐ๊ฐ์ ์ ์ธํ๋ฉด, ์์ ์ 16์ผ ๋จ์๋ค. (๋จธ์ ๋ฌ๋ ๊ต์ก 2์ผ + ๋ฅ๋ฌ๋ ๊ต์ก 14์ผ) ํ๋ก์ ํธ ์์ ์ ๋จ์ ์คํฐ๋ ํ์๋ 6๋ฒ.. ๊ธฐ๊ฐ์ด ์งง๊ณ ๋ฐฐ์ธ ์์ด ๋ง๊ณ ์ฌ๋ ์๋ ๋ด์ฉ์ด๋ค ๋ณด๋ ๋ฐฐ์ธ ๋ ์ ๋๋ก ์ฒด๋ดํ ํด์ผ ํ๋ค!! ๐ฑ๐ ์ค๋์ ์ง๋์ฃผ ๊ธ์์ผ์ ๊ฐ์ ์ ์ ํ ๋จธ์ ๋ฌ๋ ํ๋ก์ ํธ๋ฅผ ๋ฐํํ๋ค. ์คํฐ๋ ์ธ์ ๋๋ถ๋ถ์ด ๋ฐ์ด์ฝ ์์ ๋ก ํ๋ก์ ํธ๋ฅผ ์งํํ๊ณ ์ค์ ๋ก ์์ฑํ ์ฝ๋ ์ ์ถ๋ ํ์๋๋ผ! ๐ ๊ฒฐ์ธก์น๊ฐ ์๊ณ , feature ๋ณ๋ก ํํ๊ฐ ๋ค๋ฅด๊ฑฐ๋, ์ฐ๋ฆฌ๊ฐ ๋ฐฐ์ด ํ๊ท๋ง ์ฐ๋ ๊ฒ์ด ์๋ ๋ถ๋ฅ ๋ฑ ๋ค์ํ ๋ชจ๋ธ์ ํ์ตํ๋๋ฐ ์ฐ๋ ๋๋ฃ๋ค. ๋๋ ์๊ณ ์์คํ๊ณ ๊น๋ํ ๋ฐ์ดํฐ .. ๋๋ณด๊ธฐ 4/1 ๊ธ ๊ธ์์ผ! ๐ ์ด์ ์ ๊น ์๊ฐํ Logistic Regression์ ๋ฐฐ์ด๋ค~ Linear Regression(์ฐ์์ ์ธ ์ซ์ ๊ฐ ์์ธก)์ด ๋ฐ์ ํ ๊ฒ์ด Logistic Regression → Classification(๋ถ๋ฅ๋ฅผ ํ๋จํ๋ ์์ธก) - Binary Classification(์ดํญ๋ถ๋ฅ) - Multinomial Classification(๋คํญ๋ถ๋ฅ) ๊ทธ๋ํ๋ฅผ ๋ณผ ์ ์๋ ์ ํธ๋ฆฌํฐ ๋ชจ๋(mglearn)์ ์ถ๊ฐ์ ์ผ๋ก ์ค์นํ์ conda activate maching_TF15 pip install mglearn conda install์ ์ด๋ฏธ ์ค์น๋์ด ์๋ ๋ชจ๋, ํจํค์ง์ ๋ํ Dependency๋ฅผ ๊ณ ๋ คํด์ ์ต์ ์ธ ๋ฒ์ ์ ์ค์น, pip install์ ๊ทธ๋ฅ ๊น์๋ฒ๋ฆผ Logistic Regression : L.. ๋๋ณด๊ธฐ 3/31 ๋ชฉ ๋ชฉ์์ผ! ์ค๋์ ์ฐ๋ฆฌ๊ฐ ์ฃผ๋ ฅ์ผ๋ก ์ฌ์ฉํ Tensorflow๋ฅผ ๋ฐฐ์ด๋ค! ๐ฑ๐ ์ํํ๊ฐ ๋ ๋์๋น.. ๋ฐ์ดํฐ ํธ๋ค๋ง 2 + ๋จธ์ ๋ฌ๋(๋ค์ค์ ํํ๊ท) 1. 4/5 ํ์์ผ๊น์ง ์ ์ถ!! Ozone ๋ฐ์ดํฐ๋ก ๋ค์ค์ ํํ๊ท๋ฅผ 3๊ฐ์ง ๋ฐฉ๋ฒ(Python, Sklearn, Tensorflow)์ผ๋ก ๊ตฌํ, ์์ธก์น๊ฐ ๋น์ทํ๊ฒ ๋์์ผ ํ๋ค! ๋น์ฐํ ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ(๊ฒฐ์น๊ฐ, ์ด์์น, ์ ๊ทํ)๋~ ๊ฐ์ฅ ๋ง์ด ์ฐ์ด๋ ๋ฅ๋ฌ๋ ์คํ์์ค ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ Google์ Tensorflow์ Facebook์ PyTorch~ Sklearn์ ๋ฐ์ดํฐ ์๊ณผ ๋ณ์๊ฐ ๋ง์์ง๋ฉด ์๋๊ฐ ๊ต์ฅํ ๋๋ ค์ง๊ธฐ ๋๋ฌธ์, Tensorflow๋ฅผ ์ด์ฉํ๋ค. Tensorflow 2.0 ver.์ด ๋ฑ์ฅํ๋ฉด์ ์ด์ ๋ฒ์ ๊ณผ๋ ์์ ํ ๋ค๋ฅด๊ฒ ๋ฐ๋์๋ค. ๊ธฐ์กด์ ๋ง๋ค์๋ ๊ฐ์ํ๊ฒฝ(ma.. ๋๋ณด๊ธฐ ์ด์ 1 2 3 4 5 ๋ค์