k-평균과 밀도 기반 군집
쉽게 말하면
학생들을 세 모둠으로 나눈다고 해요. 먼저 아무 학생 세 명을 모둠장으로 정하고, 나머지는 가장 가까운 모둠장에게 가요. 그다음 각 모둠의 한가운데 자리로 모둠장을 옮기고, 다시 가장 가까운 모둠장에게 가요. 더 이상 옮길 사람이 없으면 끝이에요.
시험용 정의
k-평균 군집분석은 군집 수 k 를 미리 정하고 각 군집의 중심(평균)에서 가까운 개체끼리 묶는 비계층적 군집 방법이다. ① 초기 중심 k 개를 고른다(보통 무작위 관측치) ② 각 개체를 가장 가까운 중심의 군집에 배정한다 ③ 군집마다 평균으로 중심을 다시 계산한다 ④ 배정이 바뀌지 않을 때까지 ②③을 반복한다. 목표는 집단 내 제곱합(WSS, 각 개체와 자기 군집 중심 사이 거리 제곱의 합)을 줄이는 것이다. k 를 바꿔 가며 WSS 를 그린 그래프에서 감소가 완만해지는 팔꿈치를 고르는 것을 엘보우 방법이라 한다. DBSCAN은 일정 반경 안에 이웃이 충분히 많은 밀집 지역을 이어 군집을 만드는 밀도 기반 방법이다.
비유로 이해하기
버스 정류장 위치 정하기다. 정류장 세 곳을 대충 찍고, 사람들은 가장 가까운 정류장을 이용한다. 그다음 각 정류장을 이용자들의 한가운데로 옮기면 어떤 사람에게는 다른 정류장이 더 가까워져 갈아탄다. 아무도 갈아타지 않으면 위치가 정해진다. 처음 찍은 위치에 따라 결과가 달라질 수 있다.
자세히
먼저 알아 둘 말
| 말 | 뜻 |
|---|---|
| 중심 (centroid) | 군집에 속한 개체들의 평균 위치 |
| WSS | 집단 내 제곱합. 각 개체와 자기 군집 중심 거리 제곱의 합. 작을수록 군집이 촘촘 |
| 엘보우 방법 | k 에 따른 WSS 그래프에서 꺾이는 지점의 k 를 고름 |
| 실루엣 계수 | 자기 군집과는 가깝고 이웃 군집과는 먼 정도. -1 ~ 1, 1 에 가까울수록 좋음 |
장점과 단점
| 장점 | 단점 |
|---|---|
| 원리가 단순하고 큰 데이터에도 빠르다 | k 를 미리 정해야 한다 |
| 사전 정보 없이 구조를 찾는다 | 초기 중심에 따라 결과가 달라진다 |
| 다양한 데이터에 쓸 수 있다 | 평균을 쓰므로 이상값에 민감하다 (→ k-메도이드, PAM) |
| 둥근 모양 군집을 가정해 반달 모양 같은 군집을 잘 못 찾는다 | |
| 평균을 내야 해서 기본적으로 연속형 변수용 (범주형은 다른 거리를 쓰는 방법으로) |
DBSCAN
- 반경(ε)과 최소 이웃 수(MinPts)를 정하면, 반경 안에 이웃이 충분한 핵심점을 중심으로 군집을 넓혀 간다
- 군집 수를 미리 정하지 않아도 된다. 초기 중심도 필요 없다
- 반달·오목한 모양처럼 둥글지 않은 군집도 찾는다
- 어느 군집에도 속하지 않는 점은 잡음(이상값)으로 남긴다
- 계층적으로 병합하는 방법이 아니다
군집분석 공통
- 반응변수가 없는 비지도 학습이다
- 변수 단위가 다르면 표준화한다
- 이상값과 잡음은 군집 결과에 영향을 준다
- 범주형 변수도 알맞은 거리(자카드 등)를 쓰면 군집할 수 있다
시험에 이렇게 나와요
- k 는 사람이 정한다 ('알고리즘이 자동으로'는 틀림), 초기 중심은 무작위 k 개 관측치
- 초기 중심이 결과에 영향을 준다 ('영향 없다'는 틀림)
- k 정하기 → 집단 내 제곱합(WSS) 그래프 (엘보우)
- 반응변수 없이 구조 탐색 → k-평균 군집 (로지스틱·의사결정나무·선형회귀는 지도학습)
- DBSCAN: k 지정 불필요, 노이즈 분류, 비구형 군집 탐색 ('계층적으로 병합'은 틀림)
- 범주형이라서 군집분석을 아예 못 한다는 틀림, 3개 군집이라고 k-평균만 써야 하는 것도 아님
확인 문제
Q1. k-평균 군집분석에 대한 설명으로 옳지 않은 것은?
- 비지도 학습이다
- 중심점을 기준으로 군집을 만든다
- 중심을 반복해서 다시 계산한다
- 군집 수 k 를 알고리즘이 자동으로 정해 준다
정답 보기
4번 군집 수 k 를 알고리즘이 자동으로 정해 준다
k 는 분석가가 미리 정한다. 자동으로 군집 수를 찾는 것은 DBSCAN 쪽 특징이다.
Q2. k-평균에서 적절한 군집 수를 정할 때 참고하는 그래프는?
- ROC 곡선
- 잔차 산점도
- 향상도 곡선
- 집단 내 제곱합(WSS) 그래프
정답 보기
4번 집단 내 제곱합(WSS) 그래프
집단 내 제곱합(WSS) 그래프다. 군집 수를 늘려 가며 WSS가 크게 줄다가 완만해지는 꺾이는 점(엘보우)을 고른다. ROC 곡선은 분류 모형 평가에 쓴다.
Q3. k-평균의 초기 중심 설정으로 일반적인 것은?
- 가장 먼 두 점
- 전체 평균 하나
- 전체 중앙값
- 무작위로 고른 k 개 관측치
정답 보기
4번 무작위로 고른 k 개 관측치
무작위로 고르기 때문에 결과가 달라질 수 있다.
Q4. k-평균의 단점이 아닌 것은?
- 군집 결과가 덴드로그램으로만 나온다
- 이상값에 민감하다
- k 를 미리 정해야 한다
- 둥글지 않은 군집을 잘 못 찾는다
정답 보기
1번 군집 결과가 덴드로그램으로만 나온다
덴드로그램은 계층적 군집의 결과다.
Q5. DBSCAN 에 대한 설명으로 옳지 않은 것은?
- 밀도가 낮은 점을 잡음으로 둔다
- 반달 모양 군집도 찾는다
- 군집 간 거리로 단계적으로 병합하는 계층적 방법이다
- 군집 수를 미리 정하지 않는다
정답 보기
3번 군집 간 거리로 단계적으로 병합하는 계층적 방법이다
'군집 간 거리로 단계적으로 병합하는 계층적 방법'은 계층적 군집이다. DBSCAN은 밀도 기반으로 군집 수를 미리 정하지 않고 잡음을 따로 둔다.
Q6. 이상값이 많을 때 k-평균 대신 쓸 만한 방법은?
- 주성분분석
- k-메도이드
- Apriori
- 선형회귀
정답 보기
2번 k-메도이드
평균 대신 실제 중앙 개체를 중심으로 써서 덜 흔들린다.
헷갈리기 쉬운 O·X
k-평균에서 초기 중심을 어떻게 잡든 결과는 항상 같다.
정답 보기
X 초기 중심에 따라 달라질 수 있어 여러 번 돌려 본다.
k-평균은 배정이 바뀌지 않을 때까지 중심 재계산을 반복한다.
정답 보기
O
DBSCAN 은 군집 수 k 를 반드시 미리 정해야 한다.
정답 보기
X 반경과 최소 이웃 수만 정한다.