본문 바로가기

분류 전체보기63

acm-cicpc 수학정복 1.애드혹 수학문제(기초적인 수학 지식) * 수학적 시뮬레이션 : 특정 혀애의 루프를 사용해서 무식하게 풀리는 유형* 패턴이나 공식찾기 : 문제 설명을 주의 깊게 읽고 패턴이나 간략화 된 공식을 찾도록 요구하는 문제* 격자 : 복잡한 형태의 격자도 있긴하지만 문제를 푸는 사람이 창의적으로 패턴을 찾아내야 하는 문제.* 수 체계 및 수열 : 실존하는 수체계나 수열의 정의가 등장한다. 일정 범위의 속하는 수(수열) 을 만들어내기, n번째 수 구하기, 주어진 수(수열)이 정의에 부합하는지 검사해보기 등이있다. 보통은 문제 설명에 나온 정의를 주의 깊게 따라가는 것이 풀이의 핵심이나 어려운 문제는 공식을 먼저 단순화해야 하는 경우도 있다. 1) 피보나치수2) 팩토리얼3) 교란4) 카탈란 수5) 등차급수(산술급수.. 2017. 9. 15.
[강의]시즌1 딥러닝의기본 - Sigmoid 보다 ReLU가 더좋은 이유 어떤 값 이상이면 activate하는 Activation function 이 존재합니다. 그렇다면 3-level 은 어떻게 할까요? 이런경우에 맨 앞부분을 Input과 관련되었으므로 input layer 마지막은 Output layer 가운데는 Hidden layer 라고 합니다. 그러나 한개 한것보다 안좋은 성능이 나왔습니다. 왜 이런 문제가 발생할까요? 2단, 3단 을 풀 때는 잘 풀리던게 9단 10 단 부터는 문제가 발생한 것입니다.그 이유는 무엇일까요? 항상 sigmoid 함수를 통과하기 때문에 0과 1사이 값만 나오고chain 을 거칠 때마다 0.01 * 0.01 * 0.03 처럼 0에 점점 가까워집니다.따라서 처음의 입력이 level 이 높아질 수록 영향이 낮아지는것입니다. Vanishing .. 2017. 2. 21.
[강의]시즌1 딥러닝의기본 - XOR 문제 딥러닝으로 풀기 One logistic regression unit cannot separate XOR그러나 만약에 Multiple logistic regression units 이라면 풀 수가 있어집니다. Neural Network(NN) 에서 W와 b 는 학습이 불가능하다! 라는 문제가 발생했습니다.XOR using NN해보자. 겉미분 후 속미분 하면 된다. 아무리 복잡한 형태의 graph 라도 미분만 한다면 할 수 있다. 2017. 2. 21.
[강의]시즌1 딥러닝의기본 - 딥러닝의기본개념에 대해서 알아봅시다! 인류의 Ultimate dream : thinking machine 을 만드는 것.처음에 뇌가 굉장히 복잡하게 연결된 것을 보고 놀랐지만 그 단위인 뉴런이 생각보다 너무 단순하였습니다.어떤 input 이 있고 그 input 에 weight 를 곱한것들의 sum 이 일어난다. 어떤 bias 가 더해지고 그 값이 일정 값 이상이라면 활성화가 된다. 따라서 이것을 한번 구현해보았습니다. output 은 1 또는 0 입니다. 당시의 인공지능을 구현하고 많은 관심을 불러 일으켰습니다.But there are many Fasle Promisesit expects will be able to walk, talk, see, write, reproduce itself an be conscious of its existe.. 2017. 2. 20.