유혹하는 개발하기

3가지 가중치 갱신 방법 가중치 갱신 방법으로 SGD, Batch, Mini Batch 3가지 등이 있다. SGD (Stochastic Gradient Descent) 확률론적 경사하강법 SGD는 학습할 때마다 가중치를 갱신한다. 전체 학습 데이터가 N개면 가중치를 N번 갱신한다. 학습할 때마다 신경망 성능이 들쑥날쑥 변하면서 정답에 가까워지기 때문에 ‘무작위적’으로 보여서 확률론적 경사하강법이라고 한다. 이전에 델타 규칙에서 학습...

단층 신경망 학습 규칙 학습 규칙은 가중치를 체계적으로 변경하는 방법을 말한다. 델타 규칙은 단층 신경망의 대표적인 학습 규칙이다. 델타 규칙 학습 데이터를 한 번 훈련해서 답을 구했다. 이를 정답과 비교해보니 ‘오차’가 있었다. 우리가 구한 답이 ‘정답’과 가까워지려면 오차를 줄여야 한다. 입력값이 정해져있으니 입력값에 영향을 주는 ‘가중치’를 갱신해야 한다. 그렇다면 이...

가중합 입력값과 가중치를 곱하고, 바이어스를 더한 값을 말한다. 가중치를 계산해 합한 값이라고 생각하면 쉬울 것 같다. 입력층 사진에서 입력값들은 1과 2다. 은닉층 입력층과 출력층 사이에는 은닉층이 존재한다. 은닉층 첫번째 노드는 입력 노드 1로부터 가중치 4, 입력 노드 2로부터 가중치 2를 갖는다. 그리고 1이라는 바이어스 값을 갖는다. 은닉층 두번째 노드는 입력...

전공 과제 PPT 워딩 ​ ​ 백준 알고리즘 1065번 : 한수 문제 1152번 : 단어의 개수

백준 알고리즘 1152번 영어 대소문자와 띄어쓰기만으로 이루어진 문자열이 주어진다. 이 문자열에는 몇 개의 단어가 있을까? 이를 구하는 프로그램을 작성하시오. 단, 한 단어가 여러 번 등장하면 등장한 횟수만큼 모두 세어야 한다. 입력 첫 줄에 영어 대소문자와 띄어쓰기로 이루어진 문자열이 주어진다. 이 문자열의 길이는 1,000,000을 넘지 않는다. 단어는 띄어쓰기 한 개로 구분되며,...