STP(Spanning Tree Protocol) 제대로 이해하기 - 왜 2계층 루프는 치명적인가

🤖 AI Assisted Content
이 글은 AI(Claude, Anthropic)의 도움을 받아 작성되었습니다.
작성자가 내용을 검토하고 편집했으나, AI가 초안 작성 및 구성에 참여했음을 밝힙니다.

들어가며

네트워크를 공부하다 보면 STP가 "루프를 방지한다"는 설명은 어디서나 나온다. 그런데 막상 이런 질문이 생긴다.

"루프면 루프지, 왜 하필 2계층에서만 이게 치명적인 문제가 되는 걸까?"

이 글은 그 질문에서 출발해서, STP의 동작 원리와 현대 데이터센터에서 VxLAN이 등장하게 된 맥락까지 이어서 정리한다.

---

왜 2계층 루프는 치명적인가

3계층(IP)은 루프에서 살아남는다

IP 패킷에는 TTL(Time To Live) 필드가 있다. 라우터를 거칠 때마다 TTL이 1씩 줄어들고, 0이 되면 패킷이 자동으로 폐기된다.

라우터A → 라우터B → 라우터C → 라우터A → ...
                               ↑ TTL=0, 패킷 폐기

루프가 생겨도 패킷이 스스로 소멸하기 때문에 네트워크가 마비되지 않는다.

2계층(Ethernet)은 루프에서 자멸한다

Ethernet 프레임에는 TTL이 없다. 루프에 빠진 프레임은 스스로 소멸할 방법이 전혀 없다.

아래와 같이 스위치 3대가 삼각형으로 연결된 상황을 생각해보자.

        SW-A
       /    \
     SW-B---SW-C

여기서 PC가 브로드캐스트(ARP Request)를 하나 보내면:

1. PC → SW-A로 브로드캐스트 전송
2. SW-A → SW-B, SW-C로 플러딩
3. SW-B → SW-C로, SW-C → SW-B로 또 플러딩
4. SW-B, SW-C → 각각 SW-A로 전달
5. SW-A → 또 플러딩...
6. → 무한 반복, 프레임 수 기하급수적 증가

이것이 브로드캐스트 스톰이다. 단 몇 초 만에 링크 대역폭이 100% 포화되고 네트워크가 완전히 마비된다.

왜 브로드캐스트가 특히 위험한가

스위치는 목적지 MAC 주소를 모르는 프레임을 모든 포트로 플러딩한다. 그런데 브로드캐스트(FF:FF:FF:FF:FF:FF)는 "모두에게 보내는" 프레임이므로 스위치는 항상 모든 포트로 내보내야 한다.

루프가 있으면 이 브로드캐스트가 영원히 순환한다.

더 문제는, 루프로 인해 MAC 플래핑이 발생한다는 것이다. 동일한 MAC 주소가 여러 포트에서 계속 학습되어 MAC 테이블이 오염되면, 유니캐스트 트래픽도 플러딩 대상이 되어 결국 모든 트래픽이 브로드캐스트처럼 동작하게 된다.

---

STP가 루프를 끊는 방법

STP는 물리적 중복 링크는 유지하면서, 특정 포트를 Blocking 상태로 만들어 논리적으로 루프를 끊는다.

물리 토폴로지 (루프 있음)     STP 적용 후 (논리 토폴로지)

        SW-A                          SW-A
       /    \                        /    \
     SW-B---SW-C                  SW-B   SW-C
                                   ↕
                              (이 링크는 Blocking)

Blocking 상태는 "수신도 무시"한다

💡 포인트: Blocking 상태는 단순히 "전송 안 함"이 아니다. 데이터 프레임 수신 자체를 무시한다.

SW-B↔SW-C 링크에서 SW-B 쪽 포트가 Blocking이면:

A → C → B 경로로 브로드캐스트가 도달해도
→ SW-B의 해당 포트가 수신을 무시
→ 루프 종료

단, BPDU(STP 제어 메시지)는 Blocking 상태에서도 계속 수신한다. 토폴로지 변화를 감지해야 하기 때문이다.

참고: 들어온 포트로는 다시 내보내지 않는다

스위치의 기본 동작 자체가 들어온 포트로는 절대 내보내지 않는다. 따라서 A → C → A 순환은 STP 없이도 스위치 자체적으로 막힌다. STP가 차단하는 것은 A → B → C → A처럼 다른 포트를 경유하는 순환 경로다.

---

STP 동작 원리

1. Root Bridge 선출

네트워크 내 모든 스위치 중 Bridge ID(Priority + MAC 주소)가 가장 낮은 스위치가 Root Bridge로 선출된다. 기본 Priority는 32768이며, 낮을수록 우선순위가 높다.

2. 포트 역할 결정

포트 역할 설명

Root Port	비루트 스위치에서 Root Bridge로 가는 최적 경로 포트
Designated Port	각 세그먼트에서 트래픽을 전달하는 포트
Non-Designated Port	루프 방지를 위해 Blocking 처리된 포트

3. 포트 상태 전이

Blocking  → BPDU만 수신, 데이터 차단
    ↓ (최대 20초)
Listening → BPDU 송수신, 토폴로지 계산
    ↓ (기본 15초, Forward Delay)
Learning  → MAC 주소 테이블 학습
    ↓ (기본 15초, Forward Delay)
Forwarding → 정상 데이터 전달

⚠️ 주의: Blocking → Forwarding까지 최대 50초가 소요된다. 이 느린 수렴 속도가 STP의 가장 큰 단점이다.

---

STP의 진화

표준 이름 수렴 시간 핵심 개선

IEEE 802.1D	STP	30~50초	최초 표준 (1990)
IEEE 802.1w	RSTP	1~3초	빠른 수렴, Alternate/Backup 포트 추가
IEEE 802.1s	MSTP	1~3초	VLAN별 별도 트리 인스턴스, 로드밸런싱 가능

RSTP는 STP와 하위 호환이 되며, 현재 대부분의 스위치에서 기본값으로 동작한다.

---

브로드캐스트는 ARP만 있는 게 아니다

STP가 필요한 이유를 설명할 때 ARP만 언급하는 경우가 많은데, 실제로 브로드캐스트를 유발하는 경우는 더 많다.

프로토콜/상황 내용

ARP	IP → MAC 주소 변환
DHCP Discover/Request	IP 주소를 아직 모를 때 서버 탐색
NetBIOS	Windows 네트워크 드라이브, 컴퓨터 이름 탐색
RIPv1	라우팅 테이블 브로드캐스트 전파
Unknown Unicast	MAC 테이블에 없는 목적지 → 플러딩

특히 Unknown Unicast는 브로드캐스트 스톰이 발생하면 연쇄적으로 급증하기 때문에 피해가 더 커진다.

---

그럼 3계층 라우팅으로 다 해결하면 안 될까?

3계층 네트워크(라우터 기반)는 TTL과 ECMP 덕분에 루프 문제도 없고 대역폭도 효율적으로 쓸 수 있다. 그런데 왜 2계층을 여전히 사용하고, VxLAN 같은 기술이 나왔을까?

3계층 구조의 한계

라우터를 거칠 때마다 서브넷이 바뀐다.

서버A: 10.0.1.10 (서브넷 A)
서버B: 10.0.2.10 (서브넷 B)  ← 다른 서브넷

이 경우 서버A가 서버B를 ARP 브로드캐스트로 직접 찾을 수 없다. 라우터가 브로드캐스트를 차단하기 때문이다. 이게 문제가 되는 상황들은 다음과 같다.

VM 실시간 마이그레이션 (Live Migration)

VM이 서버A에서 서버B로 이동할 때 IP가 바뀌면 안 된다. IP가 바뀌면 기존 TCP 세션이 모두 끊겨 서비스가 중단된다. 3계층 구조에서 서버B가 다른 서브넷에 있으면 IP를 유지할 수 없다.

클러스터링 / HA 소프트웨어

Oracle RAC, Windows Server Failover Cluster 같은 소프트웨어는 내부적으로 2계층 브로드캐스트/멀티캐스트로 하트비트를 주고받는다. 설계 자체가 같은 서브넷을 가정하기 때문에 3계층으로 분리되면 동작하지 않는다.

레거시 애플리케이션

오래된 ERP, 금융 시스템 중 라이선스 인증이나 서버 디스커버리를 브로드캐스트로 처리하는 경우가 있다. 재개발 비용이 수백억인 시스템을 네트워크 구조 때문에 바꾸기는 어렵다.

---

VxLAN: 3계층 위에 2계층을 얹다

VxLAN은 물리 네트워크는 3계층으로 연결하되, 그 위에 2계층 네트워크를 가상으로 씌우는 오버레이 기술이다.

[물리 레이어] — 3계층 IP 라우팅 (루프 없음, ECMP 가능)
      ↑ VxLAN 터널링으로 감쌈
[가상 레이어] — 2계층처럼 동작 (같은 서브넷, ARP 가능)

택배 비유로 설명하면, 2계층 프레임을 편지지라고 했을 때 VxLAN은 그 편지지를 IP 봉투에 넣어서 배송한다. 받는 쪽에서 봉투를 뜯으면 안에서 2계층 프레임이 나온다.

호스트A(10.0.1.10) ─── VTEP ══ IP 터널 ══ VTEP ─── 호스트B(10.0.1.20)
                    [ 2계층 프레임을 IP 패킷으로 캡슐화 ]

호스트 입장에서는 같은 서브넷(10.0.1.x)에 있는 것처럼 보이지만, 실제 물리 네트워크는 3계층 IP 라우팅으로 연결되어 있다.

2계층 네트워크 3계층 네트워크 VxLAN

루프 문제	있음 (STP 필요)	없음	없음
대역폭 활용	일부 (STP가 차단)	전체 (ECMP)	전체 (ECMP)
같은 서브넷	가능	어려움	가능
VM 마이그레이션	쉬움	어려움	쉬움

VxLAN은 3계층의 안정성과 2계층의 유연함을 동시에 가져간다. 현대 데이터센터(특히 Leaf-Spine 구조)가 VxLAN + BGP EVPN을 기본으로 채택하는 이유가 바로 이것이다.

---

마무리

STP를 이해하는 핵심은 "왜 2계층 루프가 치명적인가"에서 출발한다.

• Ethernet 프레임에는 TTL이 없다 → 루프에 빠지면 자멸
• STP는 물리적 중복 링크는 살리고, 논리적으로 루프를 끊는다
• 현대 데이터센터는 STP 대신 VxLAN + 3계층 라우팅으로 루프 없이 2계층 확장

다음으로 공부하면 좋은 주제:

• RSTP 포트 상태 전이 및 Alternate/Backup 포트 동작
• MSTP와 VLAN별 로드밸런싱
• VxLAN + BGP EVPN 아키텍처
• Leaf-Spine 토폴로지에서의 MC-LAG