'dropout' 태그의 글 목록

본문 바로가기

728x90

dropout

4/15 금 악 금요일!!!!!!!!!!!!!!!!!!!!!!! 😇🥳 오늘은 MNIST를 CNN, Tensorflow 2.x, Colab으로 구현한다. Params(weights) = ksize Height × ksize Width × filter 개수 + b(filter 개수) 1. MNIST by CNN, Tensorflow 2.x, Colab import numpy as np import pandas as pd import tensorflow as tf from tensorflow.keras.models import Sequential from tensorflow.keras.layers import Flatten, Dense from tensorflow.keras.layers import Conv2D, MaxP.. 더보기

4/12 화 화요일! 현재의 Deep Learning이 어느 정도 효율을 내기 시작한 이유에 대해 공부한다. Weight와 Bias를 랜덤 초기값으로 사용하던 것을 Xievier/He's Initialization으로 대체하고, Vanishing Gradient 현상을 Back-Propagation(행렬연산, 역의 방향으로 W, b를 Update)과 Activation 함수를 Sigmoid 대신 ReLU를 사용하고, 계산해야 하는 W, b를 Drop-out으로 연산에 사용되는 Node를 줄임으로써 해결함 1. Multinomial Classification by Tensorflow 1.15 ver. import numpy as np import pandas as pd import tensorflow as tf imp.. 더보기

이전 1 다음

728x90

티스토리툴바