이누의 개발성장기

이진트리 깊이별로 나누기 이진트리의 root노드를 파라미터로 주었을 때 그를 기반으로 깊이별 요소들을 각각 리스트로 저장해 가지는 이차원 리스트를 리턴해라 import queue class Node(): def __init__(self, val): self.val = val self.left = None self.right = None def printTree(node): all_lines = [] line = [] q = queue.Queue() q.put(node) q.put(Node(-1)) while q.qsize() > 0: node = q.get() if not node: continue else: if node.val == -1: # 새 리스트 생성 if q.qsize() > 0: all_l..

이진판단 문제의 신경망 처리 '예/아니요', '0/1', '사과인가 아닌가?','성공인가 실패인가?'와 같이 두개의 대답으로 분류가 가능한 문제를 말한다. 퍼셉트론의 선형연산은 이진판단 문제를 풀기엔 적합하지 않았다. 특정 임계치에 따라 출력치를 나눈다고해도 그런 식의 연산은 미분이 불가능하여 해당 값에 대한 학습을 어떻게 진행해야 할지, 손실함수를 어떻게 정의해야할지 어려웠다. 이에 따라 선형 연산에서는 일단 범위 제한이 없는 실숫값을 생산하고 이를 확률값의 성질에 맞게 변환해주는 비선형 함수를 찾아 이용했다. 값이 1에 가까우면 참으로 0에 가까우면 거짓을 선택하도록 한 것이다. 학습에 필요한 손실함수는 값이 0이상이고 추정이 정확해질수록 작아져야한다. 이는 교차 엔트로피를 사용한다. 이는 두 집단의..

Rasso 모델 Lasso(alpha, fit_intercept, normalize, precompute, copy_X, max_iter, tol, warm_start, positive, solver, random_state, selection) alpha : 값이 클수록 강력한 정규화(규제) 설정하여 분산을 줄임, 양수로 설정 fit_intercept : 모형에 상수항 (절편)이 있는가 없는가를 결정하는 인수 (default : True) normalize : 매개변수 무시 여부 precompute : 계산속도를 높이기 위해 미리 계산된 그램 매트릭스를 사용할 것인지 여부 copy_X : X의 복사 여부 max_iter : 계산에 사용할 작업 수 tol : 정밀도 warm_start : 이전 모델을 초..

Ridge 모델 Ridge(alpha, fit_intercept, normalize, copy_X, max_iter, tol, solver, random_state) alpha : 값이 클수록 강력한 정규화(규제) 설정하여 분산을 줄임, 양수로 설정 fit_intercept : 모형에 상수항 (절편)이 있는가 없는가를 결정하는 인수 (default : True) normalize : 매개변수 무시 여부 copy_X : X의 복사 여부 max_iter : 계산에 사용할 작업 수 tol : 정밀도 solver : 계산에 사용할 알고리즘 (auto, svd, cholesky, lsqr, sparse_cg, sag, saga) random_state : 난수 seed 설정 Ridge 예제 import numpy..

규제(Regularization) 선형모델 선형모델의 과적합을 방지하기 위해 고안된 방법이다. 과적합된 모델은 특성들이 너무 복잡하게 적용되어 있어 일어난다. 따라서 현재 특성을 줄이거나 특성들의 영향력을 최소화하는 방법이 필요하다. 그렇게 고안된 것이 규제 선형모델이다. 과적합된 모델은 보통 특성이 증가하면서 분산(Variance) 정도가 높고, 편향(Bias)은 낮다. (과소적합된 모델은 분산은 낮지만 편향이 높다.) 따라서 분산정도를 줄여주기 위해 특성치들을 규제하여 사용한다. 규제는 정규화라고도 불린다. 규제 선형모델에는 대표적으로 Ridge와 Lasso가 있다. L1 Norm과 L2 Norm norm : 벡터의 크기 또는 길이를 측정하는 방법. L1,L2,L무한대 등 다양한 방법이 존재한다. L..

Linear Regression from sklearn.linear_model import LinearRegression LinearRegression(fit_intercept, normalize, copy_X, n_jobs) fit_intercept : 모형에 상수항 (절편)이 있는가 없는가를 결정하는 인수 (default : True) normalize : 매개변수 무시 여부 copy_X : X의 복사 여부 n_jobs : 계산에 사용할 작업 수 사용예시1 from sklearn.linear_model import LinearRegression from sklearn.model_selection import train_test_split def make_wave(n_samples=100): rnd =..

스트리밍 데이터 평균값 구하기 정수 데이터가 한번에 하나씩 주어진다고 하자. 데이터는 최대 size개까지만 받을 수 있다. size를 초과해 값이 들어오면 오래된 값부터 삭제된다. size 범위로 MovingAvg 클래스를 초기화하고 nextVal함수로 새로운 값을 받고 현재까지의 평균을 리턴한다. 풀이 import queue class MovingAvg(): def __init__(self, size): self.size = size self.myQue = queue.Queue() self.sum = 0 def nextVal(self, num): self.myQue.put(num) self.sum += num if (self.myQue.qsize() == (self.size+1)): self.sum -..

https://inuplace.tistory.com/460?category=912534 단층 퍼셉트론 - 회귀분석 구현 데이터를 기반으로 전복의 고리수를 예측하는 단층 퍼셉트론을 구현해보자. 주어진 데이터는 'Sex', 'Length', 'Diameter', 'Height', 'Whole weight', 'Shucked weight', 'Viscera weight', 'Shell weight', 그리.. inuplace.tistory.com 위 구현의 확실한 이해를 위한 개인복습문서입니다. 다른 사람들의 가독성은 신경쓰지 않았습니다. 먼저 모듈은 당연히 불러와야한다. numpy 배열은 각 데이터 정보를 표현하는데 사용할 것이므로 필요하고, csv는 csv파일로부터 데이터를 불러올 것이므로 필요하다. ti..

https://www.kaggle.com/lakshmi25npathi/imdb-dataset-of-50k-movie-reviews IMDB Dataset of 50K Movie Reviews Large Movie Review Dataset www.kaggle.com 텍스트 데이터 전처리(설명) 주어진 데이터를 처리하기 쉽도록 처리한다. 초기형태 : [오늘 나는 밥을 먹었다. 어제 나는 햄버거를 먹었다.] 특수문자(stopword) 제거 : [오늘 나는 밥을 먹었다 어제 나는 햄버거를 먹었다] Tokenize : [오늘, 나는, 밥을, 먹었다, 어제, 나는, 햄버거를, 먹었다] 이를 Dictionary에 빈도수 정보까지 포함해서 저장 -> Bag of Words(BOW) 생성 {"오늘": 1, "나는": ..

나올때마다 헷갈려서 정리함 np.random.seed(숫자) # 랜덤 시드 숫자를 정해준다 np.random.rand(행,열) # 주어진 형태의 0.0~1.0 사이의 난수 numpy 배열 생성 # 아무것도 입력하지 않으면 하나의 float 생성 np.random.randn(행,열) # 기댓값이 0이고 표준편차가 1인 표준 정규 분포를 따르는 난수 numpy 배열 생성 # 아무것도 입력하지 않으면 하나의 float 생성 np.random.randint(최소,최대,size=()) # 주어진 [최소,최대) 범위 안에서 임의의 정수 numpy 배열 생성 # size를 안주면 하나의 int 생성