본문 바로가기

Review39

210202(화) 부스트캠프 일지 - 베이지안 통계, optimization 결과 시각화 수행내역 1. 피어세션 2pm~4pm ok 2. 피어세션 질문과제 답변 ok 3. 베이지안 통계 퀴즈 풀기 ok 4. optimization 강의 수강 및 과제 제출 ok 배운점 1. 베이지안 통계에 대해 여러 방법으로 생각하게 됐다. 1) precision, recall과 연관지어 보기 2) 사후확률 갱신과 연관지어 보기 2. pytorch로 optimizer마다 얼마나 성능 차이가 나는지 테스트해봤다. 그리고 해당 결과를 시각화하는 좋은 방법을 알게 됐는데 정리해뒀다가 유용하게 써먹어야겠다. 2021. 2. 2.
latex 추가 라텍스 변환기 www.codecogs.com/latex/eqneditor.php 2021. 2. 2.
210201(월) 부스트캠프 일지 - 통계학, pytorch, mlp pytorch 수행내역 1. 피어세션 참여 2pm~3:50pm 2. 베이즈 통계학 강의 수강 3. pytorch 기본 강의 및 MLP 강의 수강 4. MLP 과제 수행 및 제출 colab.research.google.com/drive/1GDiKmm_xZg5K0sDgH7vX0m7ifNyIdx0u#scrollTo=U4mWpPXouPCR 배운점 1. mlp pytorch 과제를 하면서 pytorch 실습과 md 작성법을 배웠다. -Dataset -Data Iterator -Define MLP model -Check -Train -Test 이러한 순서로 작성하면 좋은 것 같다. 2. 피어세션 때 통계학 개념들에 대해 정리했다. -MLE -MAP (아직 이해 못함) -전통적통계학 VS 머신러닝 -KL과 loss function.. 2021. 2. 1.
210129(금) 부스트캠프 일지 수행내역 1. day 10 강의 수강 ok 2. day 9 퀴즈 풀기&피드백 ok 3. day 10 퀴즈 문기&피드백 ok 4. 피어세션 참여 배운점 1. KL에 대해 정리했다. *distance가 되기 위한 조건 -identity of indiscernibles -symmetry -triangle inequality 이 세 가지 조건을 만족해야 distance가 된다. 하지만 KL의 경우 symmetry 하지 않으므로 distance 개념이 아니고, 따라서 KL(P || Q)의 값과 KL(Q || P)의 값은 다르다. 2. 무어펜로즈 역행렬에 대해 헷갈린 부분들에 대해 정리했다. n 2021. 1. 29.
210128(목) 부스트캠프 일지 수행내역1. pandas 강의 듣기 ok 2. 확률론 강의 듣기 ok 3. 딥러닝학습방법 quiz 풀기 ok 배운점/느낀점1. 딥러닝학습방법 quiz를 풀면서 활성함수, chain rule에 대해 정리하게 됐다. 퀴즈에 나온 부분들을 코드로 옮겨봤다. 근데 마지막 문제를 정답을 잘못 체크해서 틀렸다.. 정답 순서가 1, 2, 3이라고 생각하고 무의식 중에 번호를 안 보고 체크했는데, 번호가 뒤바뀌어 있었다.... 앞으로는 번호 잘 보고 체크하자!import numpy as np def tanh(x, diff=False): if diff: return (1+tanh(x))*(1-tanh(x)) else: return np.tanh(x)from sympy import Derivative, symbols k .. 2021. 1. 28.
210227(수) 부스트캠프 일지 #수행내역 1. day 8 강의 수강 2. 경사하강법 퀴즈 풀기 3. 피어세션 2pm~4pm & 피어세션 ppt 만들기 #배운점 1. pandas 부분은 이미 알고 있는 부분이어서 새롭게 배운 점은 없었지만 상기시킬 수 있어서 좋았다. 2. gradient vector에 대해 좀더 정리했다. GD SGD 정의 모든 데이터를 사용해서 gradient vector 계산 데이터 한 개 또는 일부 활용하여 gradient vector 계산 연산량 많음 적음 -> 빠름 메모리 문제 모든 데이터 업로드하면 메모리가 부족하여 out-of-memory 발생 미니배치로 쪼갠 데이터 이용하므로 메모리 효율적으로 활용 가능 극소값 수렴 여부 -convex 함수 수렴 가능 -non-convex 함수의 경우 수렴 보장x -co.. 2021. 1. 27.