VMware ESXi 네트워크 구조와 트래픽 흐름 완전 정리

🤖 AI Assisted Content
이 글은 AI(Claude, Anthropic)의 도움을 받아 작성되었습니다.
작성자가 내용을 검토하고 편집했으나, AI가 초안 작성 및 구성에 참여했음을 밝힙니다.

들어가며

VMware ESXi 환경에서 네트워크를 구성할 때, "물리 스위치랑 어떻게 연결하지?", "여러 IP 대역은 어떻게 나누지?", "VM에서 나간 패킷이 실제로 어떤 경로를 타지?" 같은 궁금증이 생기기 마련이다.

이 글에서는 ESXi의 vSwitch와 물리 스위치의 관계를 정리하고, VM 트래픽이 목적지에 따라 어떻게 다른 경로로 흘러가는지 케이스별로 살펴본다.

핵심 구성 요소 이해

vmnic = 물리 NIC

먼저 용어 하나를 짚고 가자. vmnic은 ESXi가 서버의 물리 NIC(pNIC)을 인식할 때 붙이는 이름이다. 같은 하드웨어를 가리키며, 부르는 관점만 다르다.

관점	명칭
OS / 하드웨어	NIC, pNIC, 물리 네트워크 어댑터
ESXi	vmnic0, vmnic1, vmnic2 … (인식 순서대로 번호 부여)

서버에 물리 NIC 포트가 4개 있으면 ESXi에서는 vmnic0 ~ vmnic3으로 표시되고, 이걸 vSwitch의 Uplink로 할당해서 사용한다.

전체 구조: vSwitch + VLAN + L3 스위치

VMware 네트워크 구성의 핵심 구조는 다음과 같다.

VM
 └─ vNIC
     └─ 포트그룹 (VLAN ID 지정)
         └─ vSwitch (L2 스위칭)
             └─ vmnic (= 물리 NIC, Uplink)
                 └─ 물리 케이블
                     └─ 물리 L3 스위치 (게이트웨이 = SVI)

💡 포인트: ESXi의 vSwitch는 L2 장비다. 서로 다른 VLAN(= 서로 다른 IP 대역) 간 라우팅은 할 수 없으며, 게이트웨이 역할은 물리 L3 스위치의 SVI가 담당한다.

물리 스위치 연결 및 다중 IP 대역 설정 방법

1단계: 물리 스위치 — 트렁크 포트 + SVI 설정

ESXi 호스트와 연결된 물리 스위치 포트를 트렁크 모드로 설정하고, 각 VLAN에 대한 게이트웨이(SVI)를 만든다.

# Cisco 스위치 예시 — 트렁크 포트
interface GigabitEthernet0/1
 switchport mode trunk
 switchport trunk allowed vlan 10,20,30

# 각 VLAN의 게이트웨이 (SVI)
interface Vlan10
 ip address 192.168.10.1 255.255.255.0

interface Vlan20
 ip address 192.168.20.1 255.255.255.0

interface Vlan30
 ip address 172.16.30.1 255.255.255.0

2단계: ESXi — vSwitch에 포트그룹 생성

vSwitch에 물리 NIC(vmnic)을 Uplink로 연결하고, 각 VLAN에 대응하는 포트그룹을 만든다.

vSwitch0
 ├─ Uplink: vmnic0  ←── 물리 스위치 트렁크 포트에 케이블 연결
 │
 ├─ 포트그룹: "Prod-Net"   (VLAN ID: 10)
 ├─ 포트그룹: "Dev-Net"    (VLAN ID: 20)
 └─ 포트그룹: "Mgmt-Net"   (VLAN ID: 30)

ESXi 웹 클라이언트에서의 설정 순서:

1. 네트워킹 → 가상 스위치 → vSwitch 선택 → Uplink에 vmnic 할당
2. 포트 그룹 추가 → 이름 입력 (예: "Prod-Net") → VLAN ID: 10 지정
3. 같은 방식으로 VLAN 20, 30 포트그룹도 추가

3단계: VM에 포트그룹 연결

각 VM의 네트워크 어댑터에 원하는 포트그룹을 지정하면, 해당 VLAN 대역의 IP를 사용하게 된다.

VM-A → "Prod-Net"  → IP: 192.168.10.100/24, GW: 192.168.10.1
VM-B → "Dev-Net"   → IP: 192.168.20.100/24, GW: 192.168.20.1
VM-C → "Mgmt-Net"  → IP: 172.16.30.100/24,  GW: 172.16.30.1

역할 정리

역할	담당 장비
VLAN 트렁킹 (태깅)	물리 스위치 ↔ ESXi vmnic
게이트웨이 (L3 라우팅)	물리 L3 스위치의 SVI
VLAN 분리 (포트그룹)	ESXi vSwitch
IP 할당	각 VM의 OS

트래픽 흐름: 케이스별 분석

VM에서 나간 트래픽이 실제로 어떤 경로를 타는지, 4가지 시나리오로 나눠서 살펴보자.

Case 1: 같은 호스트, 같은 VLAN — vSwitch 내부 스위칭

VM-A (192.168.10.100) → VM-B (192.168.10.200), 둘 다 VLAN 10

VM-A (192.168.10.100)
  │ vNIC
  ├─ 포트그룹 "Prod-Net" (VLAN 10)
  │
  ├─ vSwitch0  ← 여기서 바로 L2 스위칭
  │
  ├─ 포트그룹 "Prod-Net" (VLAN 10)
  │ vNIC
VM-B (192.168.10.200)

물리 스위치까지 나가지 않는다. vSwitch가 같은 포트그룹 내에서 MAC 주소 기반으로 직접 스위칭 처리한다. vmnic을 타지 않으므로 가장 빠른 통신 경로다.

Case 2: 같은 호스트, 다른 VLAN — 헤어핀 트래픽 발생

VM-A (VLAN 10, 192.168.10.100) → VM-C (VLAN 20, 192.168.20.100)

VM-A (192.168.10.100, GW: 192.168.10.1)
  │ vNIC
  ├─ 포트그룹 "Prod-Net" (VLAN 10)
  ├─ vSwitch0
  ├─ vmnic0 (Uplink)
  │
  ══ 물리 케이블 ══
  │
  ├─ 물리 스위치 트렁크 포트
  ├─ VLAN 10 SVI (192.168.10.1) ← 패킷 수신
  ├─ 라우팅 테이블 조회 → "192.168.20.0/24는 VLAN 20"
  ├─ VLAN 20 SVI (192.168.20.1) ← 패킷 전달
  ├─ 물리 스위치 트렁크 포트
  │
  ══ 물리 케이블 (같은 케이블) ══
  │
  ├─ vmnic0 (Uplink)
  ├─ vSwitch0
  ├─ 포트그룹 "Dev-Net" (VLAN 20)
  │ vNIC
VM-C (192.168.20.100)

⚠️ 주의: 같은 ESXi 호스트에 있어도 VLAN이 다르면 반드시 물리 스위치(L3)를 경유한다. vSwitch는 L2 장비이므로 VLAN 간 라우팅이 불가능하다. 패킷이 물리적으로 나갔다가 다시 들어오는 "헤어핀(Hairpin)" 트래픽이 발생하며, 이는 성능 이슈의 원인이 될 수 있다.

Case 3: 다른 호스트, 같은 VLAN — L2 스위칭

Host1의 VM-A (VLAN 10) → Host2의 VM-D (VLAN 10)

[Host 1]                                   [Host 2]
VM-A (192.168.10.100)                      VM-D (192.168.10.150)
  │ vNIC                                     │ vNIC
  ├─ 포트그룹 (VLAN 10)                       ├─ 포트그룹 (VLAN 10)
  ├─ vSwitch0                                ├─ vSwitch0
  ├─ vmnic0                                  ├─ vmnic0
  │                                          │
  └──── 물리 스위치 (L2 스위칭, VLAN 10) ───────┘

같은 VLAN이므로 물리 스위치에서 L2 스위칭만 처리하고, SVI(게이트웨이)는 관여하지 않는다.

Case 4: VM → 인터넷 (퍼블릭) 통신

VM-A (192.168.10.100) → 인터넷 (8.8.8.8)

VM-A (192.168.10.100, GW: 192.168.10.1)
  │ vNIC
  ├─ 포트그룹 "Prod-Net" (VLAN 10)
  ├─ vSwitch0
  ├─ vmnic0 (Uplink)
  │
  ══ 물리 케이블 ══
  │
  ├─ 물리 L3 스위치
  ├─ VLAN 10 SVI (192.168.10.1) ← Default GW로 패킷 수신
  ├─ 라우팅 테이블: 0.0.0.0/0 → next-hop 10.0.0.1 (방화벽)
  │
  ══ 내부 네트워크 ══
  │
  ├─ 방화벽 / 에지 라우터
  ├─ NAT 처리 (사설 IP → 공인 IP)
  ├─ ACL / 보안 정책 검사
  │
  ══ ISP 회선 ══
  │
  └─ 인터넷 (8.8.8.8)

패킷 흐름을 단계별로 정리하면:

1. VM-A가 목적지 8.8.8.8이 자기 서브넷(192.168.10.0/24)이 아님을 확인
2. Default Gateway(192.168.10.1)로 패킷 전송 (ARP로 GW의 MAC 확인)
3. 패킷에 VLAN 10 태그가 붙어서 vmnic → 물리 스위치로 전달
4. 물리 L3 스위치의 SVI가 수신, 라우팅 테이블에서 default route 조회
5. 방화벽/에지 라우터로 포워딩
6. NAT 변환 후 인터넷으로 전달

시나리오별 비교 요약

시나리오	물리 스위치 경유	L3 라우팅	NAT
같은 호스트 + 같은 VLAN	❌	❌	❌
같은 호스트 + 다른 VLAN	✅ (헤어핀)	✅	❌
다른 호스트 + 같은 VLAN	✅ (L2만)	❌	❌
다른 호스트 + 다른 VLAN	✅	✅	❌
인터넷 통신	✅	✅	✅

마무리

정리하면, VMware ESXi 네트워킹에서 기억해야 할 핵심은 세 가지다.

1. vSwitch는 L2 장비다. VLAN 간 라우팅은 물리 L3 스위치(SVI)가 담당한다.
2. 같은 호스트 + 같은 VLAN일 때만 물리 스위치를 거치지 않는다. 그 외에는 전부 물리 네트워크를 탄다.
3. 같은 호스트인데 다른 VLAN이면 헤어핀 트래픽이 발생하므로, 성능이 중요한 환경에서는 NSX 같은 분산 라우팅 솔루션을 고려할 수 있다.

이 구조를 이해하면 VM 네트워크 트러블슈팅이나 성능 최적화 시 트래픽이 어디를 타고 있는지 빠르게 파악할 수 있다.