๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

728x90

๋จธ์‹ ๋Ÿฌ๋‹

3/30 ์ˆ˜ ์ˆ˜์š”์ผ! ์–ด์ œ ์‚ฌ์šฉํ•œ Ozone data๋ฅผ Python๊ณผ Sklearn์œผ๋กœ Simple Linear Regression(๋‹จ์ˆœ ์„ ํ˜• ํšŒ๊ท€)์„ ๊ตฌํ˜„ํ–ˆ์„ ๋•Œ, ์™œ ๋ชจ์–‘์ด ๋‹ค๋ฅธ์ง€ ์•Œ์•„๋ณด์ž~ ์ด์œ  1. Missing Value(๊ฒฐ์น˜๊ฐ’) ์ฒ˜๋ฆฌ - ์‚ญ์ œ : ์ „์ฒด ๋ฐ์ดํ„ฐ๊ฐ€ 100๋งŒ ๊ฑด ์ด์ƒ์ด๋ฉฐ ๊ฒฐ์น˜๊ฐ’์ด 5% ์ด๋‚ด์ผ ๋•Œ - ๋Œ€์ฒด : ๋Œ€ํ‘œ๊ฐ’์œผ๋กœ ๋Œ€์ฒด(ํ‰๊ท , ์ค‘์œ„, ์ตœ๋Œ€, ์ตœ์†Œ, ์ตœ๋นˆ) ํ˜น์€ ๋จธ์‹ ๋Ÿฌ๋‹ ๊ธฐ๋ฒ•์„ ์‚ฌ์šฉ(๋” ์ข‹์€ ๋ฐฉ์‹! ๊ฒฐ์น˜๊ฐ’์ด ์ข…์†๋ณ€์ˆ˜์ผ ๋•Œ) ์ด์œ  2. ์ด์ƒ์น˜ ์ฒ˜๋ฆฌ ์ด์ƒ์น˜๋Š” ๊ฐ’์ด ์ผ๋ฐ˜์ ์ธ ๋‹ค๋ฅธ ๋ฐ์ดํ„ฐ์— ๋น„ํ•ด ํŽธ์ฐจ๊ฐ€ ํฐ ๋ฐ์ดํ„ฐ์ด๊ธฐ ๋•Œ๋ฌธ์— ํ‰๊ท , ๋ถ„์‚ฐ์— ํฐ ์˜ํ–ฅ์„ ๋ฏธ์นจ → ๋ฐ์ดํ„ฐ๋ฅผ ์ƒ๋‹นํžˆ ๋ถˆ์•ˆํ•˜๊ฒŒ ๋งŒ๋“œ๋Š” ์š”์†Œ - ์ง€๋Œ€๊ฐ’ : ๋…๋ฆฝ๋ณ€์ˆ˜(์›์ธ)์— ์žˆ๋Š” ์ด์ƒ์น˜ - Outlier : ์ข…์†๋ณ€์ˆ˜(๊ฒฐ๊ณผ)์— ์žˆ๋Š” ์ด์ƒ์น˜ 1. ์ด์ƒ์น˜.. ๋”๋ณด๊ธฐ
5ํšŒ ์ฐจ | 3/29 ํ™” 5ํšŒ ์ฐจ! ์ง€๋‚œ์ฃผ ๊ธˆ์š”์ผ์— ๊ฐ์ž ์„ ์ •ํ•œ ๋จธ์‹ ๋Ÿฌ๋‹ ํ”„๋กœ์ ํŠธ ์ฃผ์ œ์˜ ์ง„ํ–‰์ƒํ™ฉ(EDA, ๋ฐ์ดํ„ฐ ํ•ธ๋“ค๋ง, ์‹œ๊ฐํ™”, ๊ธฐ์ˆ ํ†ต๊ณ„, ๋ชจ๋ธ๋ง)์„ ๋ฆฌ๋ทฐํ–ˆ๋‹ค. ๊ธˆ์š”์ผ์€ ์ „์ฒด ๋ชจ์ž„์—์„œ 10๋ถ„์”ฉ ์ตœ์ข… ๋ฆฌ๋ทฐ! ๊ธฐ์กด์— ๊ณจ๋ž๋˜ ์ฃผ์‹ ์ข…๋ฃŒ ๊ฐ€๊ฒฉ ์˜ˆ์ธก์€ ๋Œ€ํšŒ๊ฐ€ ๋งˆ๊ฐ๋˜์–ด ์ด๊ณณ์ €๊ณณ ์ฝ”๋“œ ๋ฆฌ๋ทฐํ•œ ๊ณณ๋“ค์„ ๋’ค์ ธ๋„, ๋ชจ๋ธ๋ง์— ํ•„์š”ํ•œ ๋ฐ์ดํ„ฐ์…‹(stock_list.csv : ์ข…๋ชฉ ๋ฒˆํ˜ธ ๋ฐ์ดํ„ฐ, sample_submission.csv)์„ ๊ตฌํ•  ์ˆ˜๊ฐ€ ์—†๊ธฐ์— ๋ถ€๋“์ดํ•˜๊ฒŒ๋„ ๊ธฐ์กด์— ์บ๊ธ€ ์˜ˆ์ œ๋กœ ๊ณจ๋ž๋˜ ๋ณด์Šคํ„ด ์ง‘๊ฐ’ ์˜ˆ์ธก์œผ๋กœ ๋ณ€๊ฒฝํ–ˆ๋‹ค. ๋‚ด๊ฐ€ ์ผํ•˜๊ณ  ์‹ถ์€ ๋ถ„์•ผ๋„ ์ž์‚ฐ์šด์šฉ์˜ ๋กœ๋ณด์–ด๋“œ๋ฐ”์ด์ € ๋ถ€๋ฌธ์ด๊ธฐ ๋•Œ๋ฌธ์—, ๋‚˜์ค‘์— ๊ผญ ์ฃผ์‹ ๊ฐ€๊ฒฉ ์˜ˆ์ธก์„ ๊ตฌํ˜„ํ•ด ๋ณผ ์˜ˆ์ •์ด๋‹ค! https://dacon.io/competitions/official/235857/overview/descrip.. ๋”๋ณด๊ธฐ
3/29 ํ™” ํ™”์š”์ผ! ์˜ค๋Š˜์€ ์–ด์ œ ๋ฐฐ์šด Simple Linear Regression(๋‹จ์ˆœ ์„ ํ˜• ํšŒ๊ท€)์„ ์ฝ”๋“œ๋กœ ๊ตฌํ˜„ํ•œ๋‹ค. 1. Training Data Set ์ค€๋น„ : Data pre-processing(๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ). ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋Š” ํ˜•ํƒœ๋กœ ์ค€๋น„ 2. Linear Regression Model์„ ์ •์˜ : y = Wx+b(์˜ˆ์ธก ๋ชจ๋ธ). hypothesis(๊ฐ€์„ค) 3. ์ตœ์ ์˜ W(weight, ๊ฐ€์ค‘์น˜), b(bias, ํŽธ์ฐจ)๋ฅผ ๊ตฌํ•˜๋ ค๋ฉด loss function(์†์‹คํ•จ์ˆ˜)/cost function(๋น„์šฉํ•จ์ˆ˜) → MSE 4. Gradient Descent Algorithm(๊ฒฝ์‚ฌํ•˜๊ฐ•๋ฒ•) : loss function์„ ํŽธ๋ฏธ๋ถ„(W, b) × learning rate 5. ๋ฐ˜๋ณตํ•™์Šต ์ง„ํ–‰ 1. Training Dat.. ๋”๋ณด๊ธฐ
3/28 ์›” ์›”์š”์ผ! ๊ธˆ์š”์ผ์— ์ด์–ด ๋จธ์‹ ๋Ÿฌ๋‹ ๋“ค์–ด๊ฐ„๋‹ค~ Weak AI์˜ ๋จธ์‹ ๋Ÿฌ๋‹ ๊ธฐ๋ฒ•๋“ค : ์ง€๋„ ํ•™์Šต, ๋น„์ง€๋„ ํ•™์Šต, ๊ฐ•ํ™” ํ•™์Šต 1. Regression(ํšŒ๊ท€) : ๋ฐ์ดํ„ฐ์— ์˜ํ–ฅ์„ ์ฃผ๋Š” ์กฐ๊ฑด๋“ค์˜ ์˜ํ–ฅ๋ ฅ์„ ๊ณ ๋ คํ•ด์„œ, ๋ฐ์ดํ„ฐ์— ๋Œ€ํ•œ ์กฐ๊ฑด๋ถ€ ํ‰๊ท ์„ ๊ตฌํ•˜๋Š” ๊ธฐ๋ฒ• * ํ‰๊ท ์„ ๊ตฌํ•  ๋•Œ ์ฃผ์˜ํ•ด์•ผ ํ•  ์  : ํ‰๊ท ์„ ๊ตฌํ•˜๋Š” ๋ฐ์ดํ„ฐ์— ์ด์ƒ์น˜๊ฐ€ ์žˆ์„ ๊ฒฝ์šฐ ๋Œ€ํ‘œ๊ฐ’์œผ๋กœ ์‚ฌ์šฉํ•˜๊ธฐ ์–ด๋ ค์›€. ์ •๊ทœ๋ถ„ํฌ์—ฌ์•ผ ํ•จ! ๊ณ ์ „์  ์„ ํ˜• ํšŒ๊ท€ ๋ชจ๋ธ(Classical Linear Regression Model) ๋‹จ์ˆœ ์„ ํ˜• ํšŒ๊ท€(Simple Linear Regression) import numpy as np import pandas as pd import matplotlib.pyplot as plt df = pd.DataFrame({'๊ณต๋ถ€์‹œ๊ฐ„(x)': [1,2,3.. ๋”๋ณด๊ธฐ
4ํšŒ ์ฐจ | 3/25 ๊ธˆ 4ํšŒ ์ฐจ! ํ™”์š”์ผ์— ์ด์–ด ์กฐ๋ณ„๋กœ ๋จธ์‹ ๋Ÿฌ๋‹ ์ˆ˜ํ–‰ํ‰๊ฐ€ ๋ฆฌ๋ทฐ๋ฅผ ์ง„ํ–‰ํ–ˆ๋‹ค~ ์ธ์›์ด ๋‹จ์ถœํ•ด์„œ ์ง„ํ–‰ ์‹œ๊ฐ„์ด ์•Œ๋งž๊ณ  ์ž์„ธํ•œ ํ”ผ๋“œ๋ฐฑ์„ ๋ฐ›์„ ์ˆ˜ ์žˆ์ง€๋งŒ, ์ ์€ ์ธ์›๊ณผ ๊ฐ์ž ์‹ค๋ ฅ ํŽธ์ฐจ๊ฐ€ ํด ๊ฒฝ์šฐ ๋ฆฌ๋ทฐ๊ฐ€ ํŽธํ˜‘ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ์ด ๋‹จ์ .. ์ด๋ฒˆ ์ฃผ๋Š” ๋ฉ€ํ‹ฐ์บ ํผ์Šค ์ˆ˜ํ–‰ํ‰๊ฐ€์šฉ์œผ๋กœ ์ œ๊ณต๋œ MovieLens ๋ฐ์ดํ„ฐ ์„ธํŠธ์˜ ๋ฌธ์ œ๋ฅผ ํ’€๊ณ  ์•„๋ž˜์™€ ๊ฐ™์ด ๊ณต๋ถ€ํ–ˆ๋‹ค. 1. ์ˆ˜ํ–‰ํ‰๊ฐ€ ๋ฌธ์ œ๋“ค ๋ชจ๋‘ ํ•˜๋‚˜์”ฉ ๊ด€๋ จ๋œ ๋‚ด์šฉ์œผ๋กœ ์‹œ๊ฐํ™” ํ•˜๊ธฐ : scatter, histogram, heatmap, boxplot ๋งŒ๋“ค์—ˆ๋‹ค. → ๋„์ˆ˜๋ถ„ํฌํ‘œ(๊ณ„๊ธ‰, ๋„์ˆ˜ + ๊ณ„๊ธ‰๊ฐ’, ์ƒ๋Œ€๋„์ˆ˜, ๋ˆ„์  ์ƒ๋Œ€๋„์ˆ˜) ๋งŒ๋“ค์–ด๋ณด์ž! 2. 10๊ฐœ ์ด์ƒ์˜ ๋ฐ์ดํ„ฐ ํ•ธ๋“ค๋งํ•ด๋ณด๊ธฐ : ๋ฌธ์ œ๋งŒ ํ’€์—ˆ๋‹ค. → ์ƒ๊ด€๊ด€๊ณ„๊ฐ€ ์žˆ์„ ๋ฒ•ํ•˜๊ฑฐ๋‚˜ ๊ถ๊ธˆํ•œ ๊ฒƒ๋“ค์— ๋Œ€ํ•ด ๋” ํ•ธ๋“ค๋ง ํ•˜์ž! ex) ํ‰๊ท  ํ‰์ ์ด ๊ฐ€์žฅ ๋†’์€ ์˜ํ™” ์žฅ.. ๋”๋ณด๊ธฐ
3/24 ๋ชฉ ๋ชฉ์š”์ผ! ๊ธฐ์ˆ ํ†ต๊ณ„๋ฅผ ์ด์–ด์„œ ๋ฐฐ์šด๋‹ค. ๊ธฐ์ˆ ํ†ต๊ณ„๊ฐ€ ๋๋‚˜๋ฉด ์ถ”๋ฆฌํ†ต๊ณ„(ํ†ต๊ณ„๋ถ„์„. ์ถ”์ธก. ์ „์ˆ˜์กฐ์‚ฌ, ๋ชจ์ง‘๋‹จ)๊ฐ€ ์ˆ˜์ˆœ์ด์ง€๋งŒ ๋ฉ€์บ ์—์„œ ๋ฐฐ์šฐ์ง€๋Š” ์•Š๋Š”๋‹ค! 1์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ํŠน์ง• ํŒŒ์•… - ์ˆ˜์น˜์ง€ํ‘œ → ๋Œ€ํ‘œ๊ฐ’ : ํ‰๊ท , ์ค‘์œ„๊ฐ’, ์ตœ๋Œ€/์ตœ์†Œ๊ฐ’, ํŽธ์ฐจ, ๋ถ„์‚ฐ, ํ‘œ์ค€ํŽธ์ฐจ... - ์‹œ์ž‘์  ํ‘œํ˜„ → ๋„์ˆ˜๋ถ„ํฌํ‘œ, Histogram, Box plot 2์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ํŠน์ง• ํŒŒ์•… - ์ˆ˜์น˜์ง€ํ‘œ → ๊ณต๋ถ„์‚ฐ, ์ƒ๊ด€๊ณ„์ˆ˜ - ์‹œ์ž‘์  ํ‘œํ˜„ → Scatter 2์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ์ˆ˜์น˜์ง€ํ‘œ → ๊ณต๋ถ„์‚ฐ, ์ƒ๊ด€๊ณ„์ˆ˜ 1. ๊ณต๋ถ„์‚ฐ(covariance) : ๋‘ ํ™•๋ฅ ๋ณ€์ˆ˜ ์‚ฌ์ด์˜ ์ƒ๊ด€ ์ •๋„ import numpy as np import pandas as pd df = pd.read_csv('./data/student_scores_em.csv', index_col='stu.. ๋”๋ณด๊ธฐ
3/23 ์ˆ˜ ์ˆ˜์š”์ผ! ์˜ค๋Š˜์€ ๊ธฐ์ˆ ํ†ต๊ณ„๋ฅผ ๋ฐฐ์šด๋‹ค. 1์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ํŠน์ง• ํŒŒ์•… - ์ˆ˜์น˜์ง€ํ‘œ → ๋Œ€ํ‘œ๊ฐ’ : ํ‰๊ท , ์ค‘์œ„๊ฐ’, ์ตœ๋Œ€/์ตœ์†Œ๊ฐ’, ํŽธ์ฐจ, ๋ถ„์‚ฐ, ํ‘œ์ค€ํŽธ์ฐจ... - ์‹œ์ž‘์  ํ‘œํ˜„ → ๋„์ˆ˜๋ถ„ํฌํ‘œ, Histogram, Box plot * ์ตœ๋Œ€/์ตœ์†Œ๊ฐ’์€ ๋Œ€ํ‘œ๊ฐ’์œผ๋กœ ์‚ฌ์šฉํ•˜๊ธฐ์— ๋ฌด๋ฆฌ๊ฐ€ ์žˆ์Œ 2์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ํŠน์ง• ํŒŒ์•… - ์ˆ˜์น˜์ง€ํ‘œ → ๊ณต๋ถ„์‚ฐ, ์ƒ๊ด€๊ณ„์ˆ˜ - ์‹œ์ž‘์  ํ‘œํ˜„ → Scatter ์‚ฐํฌ๋„(dispersion) : ๋ฐ์ดํ„ฐ๊ฐ€ ์–ผ๋งˆ๋‚˜, ์–ด๋–ป๊ฒŒ ํผ์ ธ ์žˆ๋‚˜๊ฐ€ ๊ด€์  ๋ฐ์ดํ„ฐ๊ฐ€ ํฉ์–ด์ง„ ์ •๋„(๋ณ€์‚ฐ์„ฑ)๋ฅผ ์ˆ˜์น˜๋กœ ํ‘œํ˜„ํ•˜๊ณ  ์‹ถ๋‹ค๋ฉด → ๋ฒ”์œ„(range), ์‚ฌ๋ถ„์œ„ ๋ฒ”์œ„(IQR, Interquatile range), ํŽธ์ฐจ(deviation), ๋ถ„์‚ฐ(variance), ํ‘œ์ค€ํŽธ์ฐจ(standard deviation) 1์ฐจ์› ๋ฐ์ดํ„ฐ์˜ ์ˆ˜์น˜์ง€ํ‘œ → ํ‰๊ท , ์ค‘์œ„.. ๋”๋ณด๊ธฐ
3ํšŒ ์ฐจ | 3/22 ํ™” ๋ฒŒ์จ 3ํšŒ ์ฐจ~ ์ง€๋‚œ์ฃผ์— ์ง„ํ–‰ํ•œ ํƒ€์ดํƒ€๋‹‰ ์˜ˆ์ œ๊ฐ€ ๊ฐ€๋ฌผ๊ฐ€๋ฌผํ•˜๋‹ค.. ์˜ค๋Š˜์€ ์กฐ ํŽธ์„ฑ, ์กฐ์ •๋œ ์ปค๋ฆฌํ˜๋Ÿผ ์•ˆ๋‚ด, ๊ฐ ์กฐ๋ณ„ ์ฝ”ํ…Œ ๋ฆฌ๋ทฐ๋กœ ์ง„ํ–‰! ํŒŒ์ผ๋Ÿฟ ์ง„ํ–‰ ํ›„ ๋ ˆ๋ฒจ์— ๋”ฐ๋ผ ์ธ์›์„ ๋‚˜๋ˆ  3๊ฐœ์˜ ์กฐ๋กœ ์šด์˜ํ•˜๋ ค ํ–ˆ์œผ๋‚˜, ๊ฐ์ž์˜ ์‹ค๋ ฅ ํŽธ์ฐจ๊ฐ€ ํฌ๊ณ  ์Šคํ„ฐ๋””์˜ ํšจ์œจ์„ฑ์ด ๋–จ์–ด์ ธ ์šด์˜์ง„๊ณผ ์ƒ์˜ ํ›„ ์ปค๋ฆฌํ˜๋Ÿผ์„ ์•„๋ž˜์™€ ๊ฐ™์ด ์กฐ์ •ํ–ˆ๋‹ค. 11๋ช…์˜ ์ธ์›์ด ๋ชจ๋‘ ๋ฆฌ๋ทฐ๋ฅผ ์ง„ํ–‰ํ•˜๊ธฐ์—๋Š” ์‹œ๊ฐ„์ด ๋น ๋“ฏํ•ด์„œ ์‚ฌ๋‹ค๋ฆฌ ํƒ€๊ธฐ๋กœ ์ธ์›(4/4/3)์„ ๋‚˜๋ˆด๋‹ค. ๊ฐ ์กฐ์˜ ์กฐ์žฅ์€ ์ธํ›„๋‹˜, ์ฐฝํ˜„๋‹˜, ํฌ๊ฒฝ๋‹˜! ์ฃผ์— ํ•˜๋‚˜์”ฉ ์ง„ํ–‰ํ•˜๊ธฐ๋กœ ํ–ˆ๋˜ ์บ๊ธ€ ์˜ˆ์ œ ๋Œ€์‹  ๋ฉ€ํ‹ฐ์บ ํผ์Šค ์ˆ˜์—… ๋‚ด์šฉ๊ณผ ๋งž์ถ”์–ด, ์ˆ˜ํ–‰ํ‰๊ฐ€์šฉ์œผ๋กœ ์ œ๊ณต๋œ MovieLens์™€ ๊ธฐ์˜จ๋ถ„์„ ๋ฐ์ดํ„ฐ ์„ธํŠธ๋กœ ์•„๋ž˜์™€ ๊ฐ™์ด ๊ณต๋ถ€ํ•œ๋‹ค. 1. ์ˆ˜ํ–‰ํ‰๊ฐ€ ๋ฌธ์ œ๋“ค ๋ชจ๋‘ ํ•˜๋‚˜์”ฉ ๊ด€๋ จ๋œ ๋‚ด์šฉ์œผ๋กœ ์‹œ๊ฐํ™” ํ•˜๊ธฐ 2. 10๊ฐœ ์ด์ƒ์˜ ๋ฐ์ดํ„ฐ ํ•ธ๋“ค๋งํ•ด.. ๋”๋ณด๊ธฐ

728x90