본문 바로가기

ML&DL

앙상블 학습 (Ensemble Learning) 1 - 배깅 (Bagging)
ML&DL 2024. 8. 9. 앙상블 학습 (Ensemble Learning) 1 - 배깅 (Bagging) 앙상블 학습이란?여러 개의 모델을 결합하여 더 나은 예측 성능을 얻는 기법단일 모델보다 더 높은 정확도 제공 가능 데이터가 부족하거나 노이즈가 많은 경우에 유용 배깅, 부스팅 (Boosting), 스태킹 (Stacking) 등 예시: RandomForest, Gradient Boosting (XGBoost, LightGBM 등)앙상블 학습 중 하나인 배깅(Bagging)에 대해 자세히 알아보겠습니다. 배깅이란?Bootstrap Aggregation의 약자한 가지 분류 모델을 여러 개 만들어 서로 다른 학습 데이터로 학습 시킨 후 (Bootstrap), 동일한 테스트 데이터에 대한 서로 다른 예측값들을 투표를 통해 (Aggregating) 가장 높은 예측값으로 최종 결론을 내리는 방법투표의 종류 예: 손..
머신러닝 회귀 모델 (Regression Model) 평가 지표
ML&DL 2021. 7. 17. 머신러닝 회귀 모델 (Regression Model) 평가 지표 회귀 모델 평가에서 많이 사용되는 지표 5개를 소개해보겠습니다. 어떠한 지표를 사용해야 되는지에 대한 정답은 없으며, 예측 문제/어디에 활용되는지 등에 따라 적절한 평가 지표를 고르면 됩니다. 소개드릴 지표는 다음과 같습니다: MAE, MSE, RMSE, MAPE, MPE 1. MAE (Mean Absolute Error) 실제 값과 예측 값의 차이를 절대값으로 변환, 합산 후 평균을 구하는 방법입니다. 장점 지표가 직관적이며, 예측 변수와 같은 단위를 가집니다 (예: 주가 예측 모델의 MAE가 50이라면 50원만큼의 에러). 단점 실제 값에 과소평가/과대평가 (underestimate/overestimate)를 파악하기가 힘듭니다. 예를 들어 주식 예측 모델의 MAE가 50인데 이게 50원만큼 낮게 예..
ML&DL 2021. 7. 11. 기초적인 회귀 (Regression) 예측 모델 생성 seaborn의 기본 데이터셋인 연비(mpg) 예측 데이터를 사용한 회귀 모델 예시입니다. 정확도를 높이는 등의 학습 기법보단 데이터 전처리 위주로 작성하였습니다. MPG 회귀 (Regression) 예측¶ 0. 필요 library 호출¶ In [1]: import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns In [2]: import warnings warnings.filterwarnings("ignore") 1. 데이터셋 호출 및 탐색¶ In [3]: mpg_df = sns.load_dataset('mpg') 구조 파악¶ In [4]: print(mpg_df.shape) mpg_..
[머신러닝] K-NN (K-Nearest Neighbors)
ML&DL 2021. 7. 3. [머신러닝] K-NN (K-Nearest Neighbors) 현재 데이터와 가장 가까이 있는 데이터들은 무엇일까? 라는 물음에서부터 시작합니다. 현재 데이터를 특정 카테고리로 분류하기 위해, 가장 가까운 데이터 K개를 찾는 방법입니다. 이후 K개의 데이터에서 다수인 카테고리를 현재 데이터의 카테고리로 분류합니다. 만약 짝수인 경우 반반이 나올 수 있기 때문에, K는 주로 홀수로 설정합니다. 아래 그림은 초록별이 어떤 영화 카테고리일지 구분하는 예시입니다. 이 경우 만약 K=3 이라면, 초록별과 가장 가까운 3개의 데이터는 액션 영화인 파란원 2개, 로맨스 영화인 빨간하트 1개이기 때문에 초록별은 액션 영화로 분류가 됩니다. K-NN의 장점과 단점은 다음과 같습니다. 장점 구현이 쉬우며 이해하기도 직관적입니다. 숫자로 구분된 속성에 좋은 성능을 보입니다. 별도의 모..
[머신러닝] Bias vs. Variance (Overfitting vs. Underfitting)
ML&DL 2021. 7. 1. [머신러닝] Bias vs. Variance (Overfitting vs. Underfitting) Bias: 데이터의 특징을 필요 이하로 추출할 때 나타납니다. -> 클수록 Underfitting Variance: 데이터의 특징을 필요 이상으로 추출할 때 나타납니다. -> 클수록 Overfitting Bias를 지나치게 줄이고 Variance를 높이면 Train data에서만 모델이 잘 학습되는 경향이 나타나게 됩니다. 반대의 경우엔 데이터의 특징이 뭔지를 모델이 찾아 내지 못할 수 있습니다. 즉, Bias와 Variance의 중간값이 가장 좋은 모델 조건이 된다고 볼 수 있습니다. ​ (Bias는 정답과 예측값 간의 거리, Variance는 모델별 예측값 간의 거리) ​ Overfitting 피하는 방법: 더 많은 데이터를 확보, 부족학 학습 데이터 채우기, 학습에 사용된 특징 줄이기, 특징들의 수..
머신러닝 용어집 - A
ML&DL 2021. 6. 30. 머신러닝 용어집 - A 출처: https://developers.google.com/machine-learning/glossary + 그때그때 추가 머신러닝 용어집 | Google Developers 머신러닝 용어 정의 developers.google.com 중요도 (★, ★★, ★★★ - 주관적) ​ A A/B testing (A/B 테스트) ★: 둘 이상의 기법을 통계적으로 비교하는 방법으로서, 일반적으로 기존 기법과 새로운 기법을 서로 비교합니다. A/B 테스트의 목표는 더 우수한 기법을 찾는 것뿐만 아니라 그 차이가 통계적 유의성을 갖는지 여부를 파악하는 것입니다. A/B 테스트에서는 일반적으로 단일 측정항목을 사용하여 두 기법을 비교하지만, 적용 가능한 기법 및 측정항목의 수에는 유한성의 범위 내에서 제한이 없습니다...

티스토리툴바