티스토리

이누의 개발성장기

검색하기

블로그 홈

이누의 개발성장기

inuplace.tistory.com/m

iOS 개발자의 꾸준한 성장기록

구독자: 75

방명록 방문하기

주요 글 목록

[scikit-learn 라이브러리] 특이값분해 (SVD) 특이값분해 (SVD) PCA의 경우 정방행렬(행과 열의 크기가 같은 행렬)만을 고유벡터로 분해할 수 있으나 SVD는 정방행렬뿐만 아니라 행과 열의 크기가 다른 행렬에 대해서도 적용할 수 있다. SVD는 m x n 크기의 행렬 A를 분해하여, U, ∑, V 행렬로 만든다. 행렬 U와 V에 속한 벡터는 특이 벡터(Singular Vector)라고 하며, 모든 특이 벡터는 서로 직교하는 성질을 가진다. ∑는 직사각 대각 행렬이며, 행렬의 대각에 위치한 값만 0이 아니고 나머지 위치의 값은 모두 0의 값을 가진다. m n인 경우 두번째와 같이 분해 ∑의 0이 아닌 대각 원소값을 특이값(Singular Value)라고 한다. TruncatedSVD # 2개의 주요 c.. 공감수 0 댓글수 2 2020. 9. 1.
[scikit-learn 라이브러리] 특성 자동 선택 특성 자동 선택 특성이 너무 많아지면 모델이 복잡해지고 과대적합 가능성이 올라간다. 따라서 유용한 특성만 선택하고 나머지는 무시해서 특성의 수는 줄이는 것이 좋다. 특성 선택 방법 : 일변량 통계, 모델 기반 선택, 반복적 선택 일변량 통계 특성과 타켓 사이에 중요한 통계적 관계가 있는지 계산하고 깊게 관련된 것만 선택한다. from sklearn.feature_selection import SelectPercentile # SelectPercentile을 사용하여 특성의 50%를 선택하는 모델 생성 select = SelectPercentile(percentile=50) # 특성 선택 select.fit(X_train, y_train) X_train_selected = select.transform(X.. 공감수 0 댓글수 0 2020. 9. 1.
[scikit-learn 라이브러리] 오차행렬 오차행렬 TN : 예측값을 Negative 값 0으로 예측했고 실제 값은 역시 Negative 값 0 FP : 예측값을 Positive 값 1로 예측 했는데 실제 값은 Negative 값 0 FN : 예측값을 Negative 값 0으로 예측했는데, 실제 값은 Positive 값 1 TP : 예측값을 Positive 값 1로 예측했는데 실제 값 역시 Positive 값 1 학습에 사용된 분류모델이 얼마나 혼란스러워하고 있는지 판단 할 수 있는 지표 confusion_matrix() confusion_matrix(y_true, y_pred) y_true : 정답 y_pred : 예측 결과 사용 예시 from sklearn.model_selection import train_test_split from skl.. 공감수 0 댓글수 0 2020. 9. 1.
[scikit-learn 라이브러리] 그리드서치 검증 데이터 세트 기존엔 단순히 학습 데이터 세트와 테스트 데이터 세트로 데이터를 나눴다. 만약 매개변수를 조정하기 위해 테스트 세트를 사용하면 추후 모델 평가에 테스트 세트를 더 이상 사용할 수 없다. 즉, 평가를 위해 모델을 만들 때 사용하지 않은 독립된 데이터셋이 필요하다. 데이터를 세 개의 세트로 나눠 이 문제를 해결 학습 데이터 세트 : 모델을 작성 검증 데이터 세트 : 모델의 매개변수 선택 테스트 데이터 세트 : 모델의 성능 평가 그리드서치 사용자가 관심있는 매개변수 전체를 대상으로 가능한 모든 조합을 시도해보는 것이다. # 매개변수 그리드 param_grid = {'C': [0.001, 0.01, 0.1, 1, 10, 100], 'gamma': [0.001, 0.01, 0.1, 1, 10, .. 공감수 0 댓글수 0 2020. 9. 1.
Pandas 데이터프레임 출력양 조절 set_option import pandas as pd pd.set_option('display.max_columns', 6) pd.set_option('display.width', 300) 가끔 pd로 데이터를 다루다가 출력양이 너무 많아 다음줄로 넘어가는 경우가 있다. (상당히 가시성이 떨어진다.) set_option에서 display.max_columns값과 display.width값을 조절해 출력양을 조절할 수 있다. max_columns : columns 개수 조절 width : 가로 너비 출력양 조절 공감수 0 댓글수 0 2020. 8. 24.
[scikit-learn 라이브러리] 교차 검증 교차 검증 (Cross Validation) 일반화 성능 향상을 위해 훈련 세트와 테스트 세트를 한 번만 나누는 것보다 더 안정적이고 뛰어난 평가 방법이다. 여러개의 세트로 구성된 학습 데이터와 테스트 데이터로 학습과 평가를 수행한다. k-겹 교차검증 : 데이터를 폴드(fold)라는 거의 비슷한 크기의 부분집합 k개로 분리하고 각 부분집합의 정확도를 측정한다. 교차 검증의 점수가 높을수록 데이터셋에 있는 모든 샘플에 대해 모델이 잘 일반화되게 된다. 하지만 연산비용이 늘어나게 된다는 단점이 있다. scikit-learn에서 교차 검증은 model_selection 모듈의 cross_val_score라는 함수로 구현되어 있다. cross_val_score() cross_val_score(estimator,.. 공감수 0 댓글수 0 2020. 8. 23.
[scikit-learn 라이브러리] SVC (SVM) SVM이란? SVM은 분류에 사용되는 지도학습 머신러닝 모델이다. SVM은 서포트 벡터(support vectors)를 사용해서 결정 경계(Decision Boundary)를 정의하고, 분류되지 않은 점을 해당 결정 경계와 비교해서 분류하게 된다. 기존의 퍼셉트론은 가장 단순하고 빠른 분류 모형이지만 결정경계가 유일하게 존재하지 않는다. 서포트 벡터 머신(SVM)은 퍼셉트론 기반의 모형에 가장 안정적인 결정 경계를 찾기 위해 제한 조건을 추가한 모형이라고 볼 수 있다. 서포트 벡터 : 클래스 사이 경계에 가깝게 위치한 데이터 포인트 (결정 경계와 이들 사이의 거리가 SVC 모델의 dual_coef_에 저장된다.) 커널 기법 데이터셋에 비선형 특성을 추가하면 선형 모델을 더 강력하게 만들 수 있음 하지만,.. 공감수 1 댓글수 0 2020. 8. 23.
오토 인코더 기초개념 오토인코더 개념 지금까지의 신경망의 주 목표는 입력에 대한 출력을 학습한 뒤 학습과정에서 보지 못했던 새로운 입력에 대해서도 알맞은 정답을 출력하는 것이 목표였다. 오토 신경망은 자기 자신을 재생성하는 신경망이다. 오토 신경망도 결국 입력에 대한 출력을 학습해야 하지만, 출력이 입력과 동일하다는 점이 특이하다. 오토 인코더의 구조 인코더 - 잠재변수(latent vector) - 디코더로 구성된다. 인코더에선 컨볼루션 레이어와 풀링 레이어를 통해 입력값에 대한 특징을 추출해서 일차원벡터로 만든다. 이러한 일차원 벡터가 '잠재변수((rating vector)'이다. 디코더는 압축된 일차원 벡터 잠재변수를 해석해 다시 입력 데이터와 같아지도록 만든다. 오토 인코더의 필요성 오토인코더는 잠재변수를 입력으로 디.. 공감수 0 댓글수 0 2020. 8. 23.
기초 추천시스템 - 사용자 기반 협업 필터링 협업 필터링은 다른 사용자들을 통해 현 사용자의 취향을 추측한다. 협업 필터링은 사용자 기반 필터링과 아이템 기반 필터링으로 나뉘어진다. 먼저 사용자 기반 협업 필터링을 사용해보겠다. 데이터 불러오고 처리하기 import pandas as pd import numpy as np ratings = pd.read_csv('../data/ratings.csv') movies = pd.read_csv('../data/movies.csv') pd.set_option('display.max_columns', 6) pd.set_option('display.width', 300) movie_ratings = pd.merge(ratings, movies, on='movieId') print(movie_ratings) h.. 공감수 0 댓글수 2 2020. 8. 23.
기초 추천시스템 - 컨텐츠기반 필터링 추천 시스템의 종류에는 크게 컨텐츠기반 필터링, 협업 필터링이 있다. 컨텐츠기반 필터링 : 컨텐츠끼리의 유사도 기반 추천, 장르 및 키워드 등의 정보를 벡터화하여 유사도를 측정한다. 코사인 유사도 : 코사인 값을 기반으로 결정하는 유사도. 두 벡터의 각도가 직각이면 0, 180도면 -1, 0도면 1의 값을 갖는다. kaggle에 존재하는 데이터로 추천시스템을 만들어 컨텐츠기반 필터링이 어떤 원리로 이루어지는지 알아보겠다. 추천시스템 : 데이터 불러오기 및 전처리 import pandas as pd import numpy as np from ast import literal_eval movies = pd.read_csv('../data/tmdb_5000_movies.csv') movies = movies... 공감수 0 댓글수 2 2020. 8. 21.
[scikit-learn 라이브러리] AdaBoostClassifier (Adaptive Boosting) AdaBoost (Adaptive Boosting) GradientBoosting 처럼 내부에 약한 성능의 분류기를 가지는 앙상블 모델이다. GradientBoosting이 이전 분류기가 만든 잔여 오차에 대해 새로운 분류기를 만들었다면, AdaBoost는 이전의 분류기가 잘못 분류한 샘플에 대해서 가중치를 높여서 다음 모델을 훈련시킨다. 반복마다 샘플에 대한 가중치를 수정하는 것이다. 훈련된 각 분류기는 성능에 따라 가중치가 부여되고, 예측에서 각 분류기가 예측한 레이블을 기준으로 가중치까지 적용해 가장 높은 값을 가진 레이블을 선택한다. 순차적 학습을 해야하는 만큼 병령수행은 불가능하다. AdaBoostClassifier() base_estimator : 앙상블에 포함될 기본 분류기종류, 기본값으로 .. 공감수 0 댓글수 0 2020. 8. 20.
[scikit-learn 라이브러리] GradientBoosting Boosting 하나의 앙상블에 포함된 여러 개의 분류기가 순차적으로 학습을 수행하되, 앞에서 학습한 분류기가 예측이 틀린 데이터에 대해서 올바르게 예측할 수 있도록 다음 분류기에게 가중치(weight)를 부여하면서 학습과 예측을 진행 주로 분류기에 약한 학습기를 사용 (약한 학습기 : 예측 성능이 상대적으로 떨어지는 학습 알고리즘, 대표적으로 결정트리) GradientBoosting 여러 개의 결정 트리를 묶어 부스팅하는 앙상블 기법 회귀와 분류 모두에 사용 가능 랜덤하게 트리를 생성한 랜덤 포레스트와는 달리 그래디언트 부스팅은 이전 트리의 오차를 보완하는 방식으로 순차적으로 트리를 만듬 (무작위성이 없음) 보통 다섯 개 이하 깊이의 트리를 사용하므로 메모리를 적게 사용하고 예측도 빠르다. 각각의 트리.. 공감수 0 댓글수 0 2020. 8. 19.
Attention 기초 (리뷰 요약하기 예제) Attention 기존 seq2seq(https://inuplace.tistory.com/580)에서%EC%97%90%EC%84%9C) 발생하던 정보 손실 문제를 대처하기 위한 기법이다. 단순히 인코더에서 상태값을 넘겨받고 그를 기반으로 연산을 진행하는 것으로는 정보가 부족하다. (쩡확한 연산진행이 어렵다.) 연산을 진행하면서 계속해서 인코더의 상태를 참조하면서 그를 활용한다. 인코더의 각 시점의 은닉상태값과 디코더의 은닉상태값을 dot_procut(혹은 다른연산)하고, 그를 softmax함수에 통과시켜 확률값을 얻어낸다. 그리고 그렇게 나온 확률값을 다시 인코더의 각 시점의 은닉상태값들에 곱해 최종적인 'Attention Value'를 얻어낸다. 그렇게 얻어진 Attention Value를 디코더의 은.. 공감수 0 댓글수 1 2020. 8. 18.
Seq2Seq 기초 (챗봇 데이터 활용 예제) Seq2Seq 문장을 입력받아 문장을 출력한다. 인코더와 디코더로 이루어져 있다. 인코더에서는 전체 입력정보를 순환적으로 처리하여(RNN, LSTM 사용) 히든 스테이트와 셀 스테이트, 즉 상태값으로 저장한다. 디코더에서는 해당 정보를 기반으로 OUTPUT을 하나씩 출력한다. 처음엔 인코더로부터 받은 상태값들을 기반으로 을 디코더 첫입력값으로 입력한다. (물론 가 아니어도 상관없다. 시작을 알리기에 보편적으로 사용할 수 있는, 일반적이지 않아 다른 문자열과 혼동될 문제가 없는 문자열이면 충분하다.) 그리고 디코더에서도 상태값들(히든 스테이트, 셀 스테이트)를 출력하게 된다. 와 인코더 상태값을 입력했을 때 출력된 출력값을 다시 입력으로 사용한다. 그리고 이전 상태의 상태값들을 기반으로 다시 신경망을 통과.. 공감수 0 댓글수 2 2020. 8. 14.
함수형 케라스와 모델 합성(앙상블) 함수형 케라스 inputs = Input(shape=(25,)) embed = Embedding(10000, 32)(inputs) drop = Dropout(0.3)(embed) 케라스 각 레이어를 함수처럼 선언하여 활용할 수도 있다. 각 아웃풋이 다음 레이어의 인풋이 되는 형태이다. 모델 합성 (앙상블) inputs = Input(shape=(25,)) concat_layers = [] conv = Conv1D(32, 1, padding='same', activation='relu')(drop) pool = GlobalMaxPooling1D()(conv) flat = Flatten()(pool) concat_layers.append(flat) conv = Conv1D(32, 2, padding='sam.. 공감수 0 댓글수 0 2020. 8. 14.
뉴스 헤드라인 기반 카테고리 분류하기 데이터 전처리 import pandas as pd # json 읽어오기 news_data = pd.read_json('../data/News_Category_Dataset_v2.json', lines=True) news_data = news_data.loc[:, ["category", "headline"]] # 카테고리 정수 인코딩 category_list = pd.factorize(news_data['category'])[1] news_data['category'] = pd.factorize(news_data['category'])[0] # 정규표현식 사용 news_data['headline'] = news_data['headline'].str.replace("[^\w]", " ") 뉴스 카테고리 데이.. 공감수 0 댓글수 0 2020. 8. 14.
텐서플로우 허브 딥러닝이 발전하면서 다양한 신경망이 개발되었다. 하지만 신경망이 복잡해짐에 따라 시스템에 요구되는 사양, 학습시간 등도 늘어났다. 훈련된 모델을 그대로 불러와 활용하는 방법이 보편화되었다. 그 중 텐서플로우에서 제공하는 서비스가 텐서플로우 허브이다. 텐서플로우 허브 https://tfhub.dev/ 검색창에 원하는 모델을 검색하거나, 왼쪽 사이드바에서 필요한 모델의 주제 등을 정해 카테고리별로 나눠 찾을 수 있다. 모델마다 조금씩 다른듯하지만 보편적으로 url / 직접다운, colab open을 제공한다. (위 파일엔 colab open이 제공되지 않았다.) mobile_net_url="https://tfhub.dev/google/tf2-preview/mobilenet_v2/classification/2.. 공감수 0 댓글수 0 2020. 8. 14.
이미지 보강 (ImageDataGenerator) 간혹 데이터의 보강을 위해 이미지를 변형시켜 추가사용하는 경우가 있다. 그럴 때 사용되는 것이 ImageDataGenerator이다. 다양한 데이터가 활용되어야 학습에 용이하기 때문에 자주 할용된다. from tensorflow.keras.preprocessing.image import ImageDataGenerator import numpy as np image_generator = ImageDataGenerator(rotation_range=10, zoom_range=0.10, shear_range=0.5, width_shift_range=0.10, height_shift_range=0.10, horizontal_flip=True, vertical_flip=False) rotation_range : .. 공감수 0 댓글수 0 2020. 8. 14.
합성곱 신경망(CNN) - 기본구조 구현 모델이 복잡해짐에 따라 텐서플로우를 사용함 본 문서는 개인적 학습을 위해 작성된 문서임 데이터셋 불러오기 import tensorflow as tf print(tf.__version__) fashion_mnist=tf.keras.datasets.fashion_mnist (train_X,train_Y),(test_X,test_Y)=fashion_mnist.load_data() # fashion_mnist-의류이미지/10개의범주/단일채널/28*28 print(len(train_X),len(test_X)) # 데이터의수확인하기(학습데이터수6만개/ 테스트데이터수1만개)60000 10000 구현에 사용될 데이터셋을 불러온다. 데이터 정규화 train_X = train_X/255.0 test_X = test_X/2.. 공감수 0 댓글수 0 2020. 8. 14.
[scikit-learn 라이브러리] BaggingClassifier (배깅분류기) 배깅 중복을 허용한 랜덤 샘플링으로 만든 훈련 세트(부트스트랩)를 사용하여 각 내부 모델을 다르게 학습시킴 분류기가 predict_proba() 메소드를 지원하는 경우 확률값을 평균하여 예측을 수행한다. (소프트보팅 차용) 없는 경우 가장 빈도가 높은 클래스 레이블이 예측 결과가 된다. (하드보팅 차용) 사용예제 from sklearn.model_selection import train_test_split from sklearn.datasets import load_breast_cancer # 데이터 로드 cancer = load_breast_cancer() X_train, X_test, y_train, y_test = train_test_split(cancer.data, cancer.target, ra.. 공감수 0 댓글수 0 2020. 8. 13.
[scikit-learn 라이브러리] RandomForestClassifier (랜덤 포레스트 분류) 랜덤 포레스트(Random Forest) 기본 결정트리는 해당 데이터에 대해 맞춰서 분류를 진행한 것이기 때문에 과적합 현상이 자주 나타났다. 그에 따라 이를 개선하기 위해 2001년 앙상블 기법으로 고안된 것이 랜덤 포레스트이다. 훈련 과정에서 구성한 다수의 결정 트리들을 랜덤하게 학습시켜 분류 또는 회귀의 결과도출에 사용된다. 즉, 특정 특성을 선택하는 트리를 여러개 생성하여 이들을 기반으로 작업을 수행하는 것이다. 각각의 트리가 독립적으로 학습하기 때문에 학습과정을 병렬화할 수 있다. 일반적인 의사결정트리는 Tree Correlation이라고 하는 특정 feature 하나가 정답에 많은 영향을 주게되면 대부분의 결과치가 유사하게 나타나는 문제점이 있었다. 하지만 랜덤 포레스트에서는 그러한 문제를 해.. 공감수 3 댓글수 1 2020. 8. 12.
[scikit-learn 라이브러리] VotingClassifier (보팅 분류기) 보팅의 유형 하드 보팅 : 최종 아웃풋 결과 중 각 모델들이 가장많이 선택한 아웃풋을 최종 아웃풋으로 설정한다. 소프트 보팅 : 최종 아웃풋 결과의 확률값을 기반으로 평균을 내어, 이중 가장 확률값이 높은 아웃풋을 최종 아웃풋으로 설정한다. 보팅 분류기 모듈 사용예제 import pandas as pd from sklearn.datasets import load_breast_cancer from sklearn.model_selection import train_test_split cancer = load_breast_cancer() data_df = pd.DataFrame(cancer.data, columns = cancer.feature_names) # 데이터를 훈련셋과 테스트셋으로 나누기 X_trai.. 공감수 2 댓글수 0 2020. 8. 12.
앙상블 학습 앙상블 학습(Ensemble Learning) 앙상블은 여러 머신러닝 모델을 묶어 더 강력한 모델을 만드는 기법들을 총칭한다. 대표적으로 랜덤포레스트와 그래디언트 부스팅이 있다. 두 앙상블 모델은 모두 결정트리를 기본요소로 갖는다. (결정트리를 묶어 만든 모델이다.) 다양한 분류 및 회귀 문제에서 효과적임이 입증되었다. 앙상블의 유형 앙상블 학습의 유형은 책마다 분류의 기준이 2가지~4가지로 나뉜다. 내가 수강한 수업을 기준으로 4가지로 분류해보겠다. 보팅(Voting) : 서로 다른 알고리즘의 모델들을 결합하고, 각각의 아웃풋에 대한 투표를 기반으로 최종값을 결정한다. 따라서 앙상블에 속한 모든 모델이 하나의 데이터 샘플을 사용한다. 배깅(Bagging) : 모두 같은 유형의 모델을 기반으로 한다. 각.. 공감수 0 댓글수 0 2020. 8. 12.
Pandas 데이터프레임 apply, replace apply df = pd.DataFrame(np.arange(5), columns=['Num'] def square(x): return x**2 df['Num'].apply(square) df['Square'] = df.Num.apply(lambda x : x ** 2) 데이터를 특정 함수에 적용한 뒤 그 결과값으로 대체해주는 메소드이다. apply로 각 데이터에 함수를 적용할 수 있다. 물론 람다 함수로 이용할 수 있다. replace df.Sex.replace({"Male": 0, "Female": 1}) 데이터를 특정값으로 대체하는 메소드이다. Sex 컬럼의 'Male'은 0으로 'Female'은 1로 대체된다. 특정 컬럼의 데이터를 이와 같이 간단한게 변경할 수 있다. 공감수 0 댓글수 0 2020. 8. 9.
과적합방지 - Drop out, 배치정규화 Drop out 딥러닝 모델 학습 시 몇 개의 노드를 제외하고 학습하는 방법이다. 랜덤하게 사용하지 않을 노드를 결정한다. 계산이 줄어드는 만큼 variance가 줄어들어 overfitting을 줄일 수 있게 된다. 사실 랜덤하게 사용하지 않을 노드를 결정하는 수식이 필요해 실질적인 '계산량'이 줄어드는 것은 아니다. 다만 학습에 사용되는 노드가 제외되면서 그만큼 학습 자체에서의 계산량이 줄어든다는 것이다. 즉, 지속적으로 학습과정에 교란을 줌으로서 모델이 과하게 학습 데이터에 맞춰지는 것을 방지할 수 있는 것이다. tf.keras.layers.Dropout(rate = 0.3) 텐서플로우에서 Dropout 레이어를 만들어 관리할 수 있다. rate는 제외될 비율이다. 배치정규화(Batch Normali.. 공감수 0 댓글수 0 2020. 8. 7.
로그 스케일로 분포 그리기 로그 스케일 데이터 작업을 하다보면 그 변화가 미세하거나, 다른 변화에 비해 수치가 작아 탐지하기 어려운 경우가 있다. import numpy as np import pandas as pd import os import mglearn import matplotlib.pyplot as plt %matplotlib inline ram_prices = pd.read_csv(os.path.join(mglearn.datasets.DATA_PATH, "ram_price.csv")) # 그냥 그린 램 가격 동향 plt.plot(ram_prices.date, ram_prices.price) plt.xlabel("year") # 년 plt.ylabel("price ($/Mbyte)") # 가격 램 가격 동향 데이터가 대.. 공감수 0 댓글수 0 2020. 8. 7.
TensorFlow 레이어 레이어 레이어 : 유용한 연산자 집합 머신러닝 모델은 단순한 레이어를 쌓고 조합하여 표현할 수 있다. 텐서플로우는 여러 표준 레이어를 제공하기 때문에 처음부터 고유의 프로그램에 최적화된 레이어를 작성하거나 기존 레이어를 조합해 쉽게 모델을 만들 수 있다. 텐서플로우는 케라스의 모든 API를 tf.keras에 포함하고 있다. 여기서 얻어낸 케라스 레이어로 모델을 구축하면 된다. 대부분의 레이어는 처음 파라미터로 출력차원의 크기 혹은 채널을 가진다. 입력 차원의 수는 따로 설정하지 않아도 유추하지만 그래도 모델이 복잡할 경우 입력해주는 것이 좋다. layer = tf.keras.layers.Dense(10, input_shape=(None, 5)) 위는 레이어의 한 종류인 완전 연결 레이어이다. layer... 공감수 0 댓글수 0 2020. 8. 7.
문자열 형태소 제거하기 mecab from mecab import MeCab m = MeCab() text = "안녕하세요 적당히 바람이 시원해 기분이 너무 좋아요" # 형태소 별로 나눠 출력 print(m.morphs(text)) # 명사만 출력 print(m.nouns(text))==결과== ['안녕', '하', '세요', '적당히', '바람', '이', '시원', '해', '기분', '이', '너무', '좋', '아요'] ['안녕', '바람', '기분'] 한글 라이브러리인 mecab 라이브러리를 .. 공감수 0 댓글수 0 2020. 8. 6.
문자열 특수문자 제거 특수문자 제거 보통 특수문자는 문장의 의미에 큰 역할을 하지 않는다. 따라서 전처리 과정으로 특수문자를 제거할 수 있다. from string import punctuation for p in punctuation : print(p) data = data.replace(p, "") data에 내가 제거를 원하는 데이터(문자열)이 있다고 하자. punctuation에는 기본적인 특수문자 데이터 (!"#$%&'()*+,-./:;?@[\]^_`{|}~)가 들어있다. 따라서 하나씩 체크하면서 replace 하는 것으로 특수문자를 제거할 수 있다. 공감수 0 댓글수 0 2020. 8. 6.
[scikit-learn 라이브러리] DecisionTreeClassifier (결정트리분류기) 결정트리 분할과 가지치기 과정을 반복하면서 모델을 생성한다. 결정트리에는 분류와 회귀 모두에 사용할 수 있다. 여러개의 모델을 함께 사용하는 앙상블 모델이 존재한다. (RandomForest, GradientBoosting, XGBoost) 각 특성이 개별 처리되기 때문에 데이터 스케일에 영향을 받지 않아 특성의 정규화나 표준화가 필요 없다. 시계열 데이터와 같이 범위 밖의 포인트는 예측 할 수 없다. 과대적합되는 경향이 있다. 이는 본문에 소개할 가지치기 기법을 사용해도 크게 개선되지 않는다. DecisionTreeClassifier() DecisionTreeClassifier(criterion, splitter, max_depth, min_samples_split, min_samples_leaf, m.. 공감수 2 댓글수 0 2020. 8. 5.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.