본문 바로가기

전체 글109

210129(금) 부스트캠프 일지 수행내역 1. day 10 강의 수강 ok 2. day 9 퀴즈 풀기&피드백 ok 3. day 10 퀴즈 문기&피드백 ok 4. 피어세션 참여 배운점 1. KL에 대해 정리했다. *distance가 되기 위한 조건 -identity of indiscernibles -symmetry -triangle inequality 이 세 가지 조건을 만족해야 distance가 된다. 하지만 KL의 경우 symmetry 하지 않으므로 distance 개념이 아니고, 따라서 KL(P || Q)의 값과 KL(Q || P)의 값은 다르다. 2. 무어펜로즈 역행렬에 대해 헷갈린 부분들에 대해 정리했다. n 2021. 1. 29.
210128(목) 부스트캠프 일지 수행내역1. pandas 강의 듣기 ok 2. 확률론 강의 듣기 ok 3. 딥러닝학습방법 quiz 풀기 ok 배운점/느낀점1. 딥러닝학습방법 quiz를 풀면서 활성함수, chain rule에 대해 정리하게 됐다. 퀴즈에 나온 부분들을 코드로 옮겨봤다. 근데 마지막 문제를 정답을 잘못 체크해서 틀렸다.. 정답 순서가 1, 2, 3이라고 생각하고 무의식 중에 번호를 안 보고 체크했는데, 번호가 뒤바뀌어 있었다.... 앞으로는 번호 잘 보고 체크하자!import numpy as np def tanh(x, diff=False): if diff: return (1+tanh(x))*(1-tanh(x)) else: return np.tanh(x)from sympy import Derivative, symbols k .. 2021. 1. 28.
210227(수) 부스트캠프 일지 #수행내역 1. day 8 강의 수강 2. 경사하강법 퀴즈 풀기 3. 피어세션 2pm~4pm & 피어세션 ppt 만들기 #배운점 1. pandas 부분은 이미 알고 있는 부분이어서 새롭게 배운 점은 없었지만 상기시킬 수 있어서 좋았다. 2. gradient vector에 대해 좀더 정리했다. GD SGD 정의 모든 데이터를 사용해서 gradient vector 계산 데이터 한 개 또는 일부 활용하여 gradient vector 계산 연산량 많음 적음 -> 빠름 메모리 문제 모든 데이터 업로드하면 메모리가 부족하여 out-of-memory 발생 미니배치로 쪼갠 데이터 이용하므로 메모리 효율적으로 활용 가능 극소값 수렴 여부 -convex 함수 수렴 가능 -non-convex 함수의 경우 수렴 보장x -co.. 2021. 1. 27.
210126(화) 부스트캠프 일지 - GD, numpy #210126(화) 수행내역 1. GD 강의 수강 2. 피어세션 2pm~4pm 3. 헷갈리는 분석 개념 리뷰 배운점 1. optimizer 역사에 대해 다시 리뷰했다. 피어세션 때 이 주제에 대해 말하게 됐는데 완전히 머릿속에 정리됐다! 2021/01/13 - [Artificial Intelligence] - Optimizer 정리 Optimizer 정리 optimizer 정리 optimizer는 Gradient descent로 w를 update할 때 사용하는 알고리즘으로, w 변화량을 구해 어느 방향/스텝사이즈로 나아가야 하는지 알려주는 알고리즘. fine-tuning 단계에서 optimizer를 sgd, a.. sohyunwriter.tistory.com github.com/sohyunwriter/2.. 2021. 1. 26.
[Python] is 와 == 의 차이 *is / == 차이 == is for value equality. Use it when you would like to know if two objects have the same value. is is for reference equality. Use it when you would like to know if two references refer to the same object. 즉, is는 변수가 같은 Object(객체)를 가리키면 True ==는 변수가 같은 Value(값)을 가지면 True *is의 예시 - a와 b는 같은 리스트 객체를 가리킨다 - a와 b는 같은 객체이기 때문에 True - a와 c는 값은 같지만 다른 객체이기 때문에 False # 리스트 선언 a = [1, 2, 3] b.. 2021. 1. 26.
210125(월) 부스트캠프 일지 - numpy, 벡터, 행렬 수행내역 1. numpy 강의, 벡터 강의, 행렬 강의 수강 및 정리 2. 피어세션 참여 2pm~3:30pm 3. 벡터 퀴즈, 행렬 퀴즈 풀기 배운점 1. Moore-Penrose 역행렬 Moore-Penrose 역행렬에 대해 알게 됐다. np.linalg.pinv를 이용하면 구할 수 있다. 2. numpy 함수 정리 numpy에서 그동안 썼던 함수들에 대해 개념 정리를 완벽히 했다. -numpy 연산 지원 방식 -numpy array / python list 차이 -element-wise operation란? -broadcasting이란? -numpy dot / matmul 차이 -np.where 의미 -행렬 곱셈 / 행렬 내적 차이 3. L1, L2 노름 차이 및 기하학적 의미 L1, L2 노름에 대.. 2021. 1. 25.
728x90

티스토리툴바