MATH & ML

jupyter notebook 단축키 아주아주 기본적인것들

Ctrl+Enter = cell 실행 & 그대로 그 cellShift+Enter = cell 실행 & 다음 cell로 넘어가기Alt+Enter = cell 실행 & 바로 밑에 cell 삽입A = 위에 cell 삽입B = 아래에 cell 삽입 당장 급하게 자주 필요한건 이 정도.
Python 2018. 2. 3. 00:29
논문요약 - Maximum Principle Based Algorithms for Deep Learning[17.10]

(Qianxiao Li, Long Chen, Cheng Tai, and Weinan E) 이 paper를 읽기 전에 먼저 dynamical system이 어떻게 machine learning에 쓰이는지 감을 잡기 위해 다음 논문을 참고하였다 [2017.03] A Proposal on Machine Learning via Dynamical Systems(Weinan E)여기서 대충 감을 잡고 원래의 paper를 읽었다.deep learning model을 효율적으로 training하는 방법으로는 stochastic gradient desecnt와 그 응용된 것들이 최근 많이 쓰인다. 하지만 크게 두 가지 문제가 있는데 첫째, 업데이트가 많고 오래 iteration이 돌아야 할 수가있고 둘째, back pr..
Paper Review 2018. 2. 2. 20:53
시프트 연산자, 비트 연산자

몇 가지 연산에 대해서 정리해보려 한다. 먼저 두 개의 시프트연산 1. a>>ba를 2진수로 나타내어 b개만큼 오른쪽(나누기)으로 밀어버린다 2. a
Algorithm 2018. 2. 1. 17:30
알고리즘 공부는 당분간은 C언어로

알고리즘 공부는 당분간은 C언어로 합니다배운대로 느낀대로 생각한대로 정리합니다
Algorithm 2018. 2. 1. 11:13
논문요약 - Identifying and attacking the saddle point problem in high-dimensional non-convex optimization[14.05]

(Dauphin, Y.N., Pascanu, R., Gulcehre, C., Cho, K., Ganguli, S., Bengio, Y) 사실 이 paper는 거의 동일한 저자분들이 2014년 5월에 내셨던 [2014.05] On the saddle point problem for non-convex optimization(Razvan Pascanu, Yann N. Dauphin, Surya Ganguli, Yoshua Bengio) 에서 몇 가지 실험결과가 더 추가되어 나온 업그레이드 된 paper이다. 이 논문을 간단히 요약하자면 1. 우리가 결국 관심있는 딥러닝 문제들은 고차원(차원이 높다는건 hidden layer가 많다는건가??) 문제들이고 따라서 우리는 고차원 문제들에서의 성질들이 궁금하다2. ..
Paper Review 2018. 2. 1. 11:11
Prev 1 ··· 5 6 7 8 Next