계층적 군집과 덴드로그램
쉽게 말하면
반 친구들을 비슷한 사람끼리 묶을 때 가장 닮은 두 명부터 짝을 짓고, 그다음 가까운 짝끼리 다시 묶어 나가는 방식이에요. 이 과정을 나무 모양 그림(덴드로그램)으로 그리면, 어느 높이에서 자르느냐에 따라 2 모둠이 될 수도 4 모둠이 될 수도 있어요.
시험용 정의
계층적 군집분석은 개체들을 단계적으로 묶거나 나눠 나무 모양의 군집 구조를 만드는 비지도 방법이다. 가장 흔한 병합형(응집형)은 모든 개체를 각각 하나의 군집으로 두고 가장 가까운 두 군집을 합치는 일을 하나가 될 때까지 반복한다. 두 군집 사이의 거리는 최단 연결법(단일, 가장 가까운 두 점), 최장 연결법(완전, 가장 먼 두 점), 평균 연결법(모든 쌍의 평균), 중심 연결법(중심점 사이), 와드 연결법(합쳤을 때 군집 내 오차제곱합의 증가량)으로 정한다. 합쳐 간 과정을 그린 그림이 덴드로그램이다.
비유로 이해하기
회사 합병이다. 처음엔 작은 가게들이 모두 따로 있다가 가장 닮은 두 가게가 먼저 합치고, 합친 회사가 또 다른 회사와 합치기를 반복해 결국 대기업 하나가 된다. 합병 연대표(덴드로그램)를 보고 '이 시점에는 회사가 세 개였다'고 자르는 것이 군집 수 정하기다. 한 번 합병하면 다시 쪼개지지 않는다.
자세히
먼저 알아 둘 말
| 말 | 뜻 |
|---|---|
| 병합형 (응집형) | 하나씩 시작해 합쳐 나감. 보통 이 방식 |
| 분할형 | 전체에서 시작해 나눠 나감 |
| 덴드로그램 | 합쳐진 순서와 그때의 거리(높이)를 그린 나무 그림 |
| 오차제곱합 (SSE) | 군집 안 개체와 군집 중심 사이 거리 제곱의 합 |
연결법
| 연결법 | 군집 간 거리 | 특징 |
|---|---|---|
| 최단 (단일) | 가장 가까운 두 개체 사이 | 길게 이어지는 사슬 모양 군집이 생기기 쉽다 |
| 최장 (완전) | 가장 먼 두 개체 사이 | 둥글고 크기가 비슷한 군집, 이상값에 민감 |
| 평균 | 모든 개체 쌍 거리의 평균 | 단일과 완전의 중간 |
| 중심 | 두 군집 중심점 사이 | 합친 군집의 중심은 가중평균 |
| 와드 | 합쳤을 때 SSE 증가량 | 증가량이 가장 작은 쌍을 합친다. 비슷한 크기의 군집 |
덴드로그램 읽기
- 세로축(Height)은 합쳐질 때의 군집 간 거리다
- 높이 h 에서 가로선을 그으면 가로선과 만나는 세로줄 수가 군집 수다
- 합쳐지는 높이가 갑자기 크게 뛰는 곳 바로 아래에서 자르면 자연스럽다 (와드라면 SSE 가 크게 늘어나는 지점)
- 군집 수를 미리 정하지 않아도 되고, 나중에 원하는 높이에서 자른다
k-평균과 비교
| 계층적 군집 | k-평균 | |
|---|---|---|
| 군집 수 | 나중에 덴드로그램을 보고 정함 | 미리 k 를 정함 |
| 다시 하면 | 같은 결과 (결정적) | 초깃값에 따라 달라질 수 있음 |
| 한 번 묶이면 | 다시 나뉘지 않음 | 반복하며 소속이 바뀜 |
| 데이터 크기 | 작은 데이터에 적합 (거리 행렬 전체 필요) | 큰 데이터에도 빠름 |
시험에 이렇게 나와요
- SSE 증가량이 가장 작은 쌍을 합침 → 와드 연결법 (최장·중심·최단 설명과 구분)
- 덴드로그램에서 높이 h 로 자르면 가로선과 만나는 세로줄 수가 군집 수
- 군집 수 정하기: 와드에서 SSE 가 크게 증가하는 지점 참고 ('항상 2~3개', '단일 연결이 항상 최적'은 틀림)
- 최장 연결: 가장 먼 개체 거리 기준, 이상값에 민감, 같은 데이터면 다시 해도 결과 같음 ('달라질 수 있다'는 틀림)
확인 문제
Q1. 두 군집을 합칠 때 군집 내 오차제곱합이 가장 적게 늘어나는 쌍을 고르는 연결법은?
- 단일 연결법
- 와드 연결법
- 완전 연결법
- 평균 연결법
정답 보기
2번 와드 연결법
합친 뒤 군집 안의 흩어짐(SSE)이 가장 덜 늘어나는 쌍을 합치는 것이 와드 연결법이다.
Q2. 두 군집에서 가장 가까운 두 개체 사이의 거리를 군집 간 거리로 쓰는 방법은?
- 최장(완전) 연결법
- 와드 연결법
- 중심 연결법
- 최단(단일) 연결법
정답 보기
4번 최단(단일) 연결법
가장 가까운 점끼리가 최단, 가장 먼 점끼리가 최장.
Q3. 계층적 군집분석에 대한 설명으로 옳지 않은 것은?
- 덴드로그램으로 결과를 본다
- 한 번 합쳐진 군집은 다시 나뉘지 않는다
- 군집 수를 미리 정하지 않아도 된다
- 같은 데이터와 방법으로 다시 하면 결과가 달라질 수 있다
정답 보기
4번 같은 데이터와 방법으로 다시 하면 결과가 달라질 수 있다
계층적 군집은 결정적이라 결과가 같다. 초깃값에 따라 달라지는 것은 k-평균.
Q4. 덴드로그램을 높이 h 에서 잘랐더니 가로선이 세로줄 4 개와 만났다. 군집 수는?
- h
- 3
- 5
- 4
정답 보기
4번 4
4개다. 자른 가로선과 만나는 세로줄 하나가 군집 하나다.
Q5. 길게 이어진 사슬 모양 군집이 생기기 쉬운 연결법은?
- 평균 연결법
- 완전 연결법
- 단일 연결법
- 와드 연결법
정답 보기
3번 단일 연결법
가까운 점 하나만 있으면 이어 붙기 때문이다.
Q6. R 에서 hclust 결과를 군집 3 개로 나누는 함수는?
- kmeans(hc, 3)
- cutree(hc, k = 3)
- dist(hc, 3)
- split(hc, 3)
정답 보기
2번 cutree(hc, k = 3)
cutree 의 k 로 군집 수, h 로 높이를 준다.
헷갈리기 쉬운 O·X
와드 연결법은 두 군집의 중심 사이 거리를 기준으로 합친다.
정답 보기
X 그건 중심 연결법. 와드는 합쳤을 때 SSE 증가량을 본다.
병합형 계층적 군집은 각 개체를 하나의 군집으로 두고 시작한다.
정답 보기
O
계층적 군집에서 군집 수는 항상 2~3 개로 정하는 것이 가장 좋다.
정답 보기
X 덴드로그램의 높이 변화와 목적을 보고 정한다.