QoS 설정 (DSCP 마킹, 트래픽 분류, 대역폭 보장)

DSCP 마킹, 트래픽 분류, 대역폭 보장

Zoom 화상회의 도중 상대방 얼굴이 픽셀로 깨지고 목소리가 끊기는 경험, 한 번쯤 있으실 겁니다. 많은 분들이 이걸 인터넷 속도 문제로 생각하는데, 속도를 높여도 나아지지 않는 경우가 훨씬 많습니다. 문제의 핵심은 속도가 아니라 우선순위입니다. QoS 설정 하나로 이 문제가 해결되는 과정을 직접 겪고 나서, 이걸 왜 진작 몰랐나 싶었습니다.

DSCP 마킹, 알고 보면 단순한 개념입니다

일반적으로 QoS라고 하면 뭔가 복잡한 네트워크 전문 영역처럼 느껴지는데, 핵심 개념은 생각보다 단순합니다. 결국 네트워크를 지나는 패킷마다 "이 데이터는 얼마나 중요한가"를 꼬리표처럼 붙여두는 것입니다.

그 꼬리표 역할을 하는 것이 바로 DSCP(Differentiated Services Code Point)입니다. 여기서 DSCP란 IP 헤더 안에 있는 6비트 필드로, 라우터와 스위치가 이 값을 읽어서 패킷을 얼마나 빠르게 처리할지 결정하는 기준값입니다. 쉽게 말해 패킷에 붙은 VIP 등급 스티커라고 보면 됩니다.

DSCP 값에 따라 처리 방식이 달라지는데, 실무에서 중요하게 쓰이는 값들은 다음과 같습니다.

• EF(Expedited Forwarding, DSCP 46): VoIP 음성 패킷에 부여하는 최고 등급. 지연을 최소화하는 것이 목표입니다.
• AF41(DSCP 34): 화상회의 비디오 스트림에 부여합니다. EF보다는 한 단계 낮지만 일반 트래픽보다 우선됩니다.
• CS3(DSCP 24): Zoom이나 Teams의 SIP 신호 트래픽에 적용합니다. 통화 연결 자체를 제어하는 신호이므로 놓치면 안 됩니다.
• BE(Best Effort, DSCP 0): 웹 브라우징, 이메일 같은 일반 트래픽입니다. 남은 대역폭을 알아서 나눠 씁니다.

제가 직접 기업 네트워크 프로젝트에서 이 값들을 다뤄봤는데, 처음에는 숫자 차이가 별 의미 없어 보였습니다. 그런데 실제로 EF와 AF41의 우선순위를 뒤바꿔 설정했을 때 VoIP 음질이 눈에 띄게 나빠졌고, 다시 원래대로 돌리자 바로 회복됐습니다. 숫자 하나 차이가 실제 통화 품질로 이어지는 걸 그때 눈으로 확인했습니다.

트래픽 분류, 설정에서 가장 손이 많이 가는 단계

DSCP 마킹보다 사실 더 까다로운 것은 트래픽 분류(Classification) 단계입니다. 여기서 트래픽 분류란 네트워크를 흐르는 수많은 패킷 중에서 VoIP, 화상회의, 일반 웹 트래픽 등을 구분해내는 작업을 말합니다. 이 분류가 정확해야 DSCP 마킹도 의미가 생깁니다.

Cisco 장비 기준으로 보면, ACL(Access Control List)이나 딥 패킷 검사(DPI, Deep Packet Inspection)를 활용해 RTP, SIP, Zoom, Teams 같은 트래픽을 식별합니다. Cisco IOS 환경에서는 class-map으로 트래픽 유형을 정의하고, policy-map으로 각 클래스에 처리 방식을 지정한 뒤, service-policy로 인터페이스에 붙이는 순서로 구성합니다.

제가 실제 프로젝트에서 써보니, Cisco 스위치에서 auto-qos voip 명령어 하나를 입력하면 클래스맵과 폴리시맵이 자동으로 생성됩니다. 솔직히 처음엔 이걸로 끝인 줄 알았는데, 예상 밖이었습니다. 자동 생성된 설정은 출발점일 뿐이고, VoIP와 화상회의가 함께 운영되는 환경에서는 EF와 AF41의 비율 배분 같은 세부 조정을 손으로 직접 해야 했습니다. 자동화 기능이 편리하긴 하지만, 그 결과물을 무조건 믿고 넘어가면 나중에 품질 민원이 생기더라고요.

신뢰 경계(Trust Boundary) 설정도 빠뜨릴 수 없습니다. 신뢰 경계란 어느 지점까지의 DSCP 마킹을 신뢰하고 받아들일 것인지를 결정하는 경계선입니다. 일반적으로 IP 전화기나 Cisco 스위치의 트러스트 포트까지를 신뢰 경계로 잡고, 그 바깥에서 들어오는 DSCP 값은 재마킹하는 방식을 씁니다.

대역폭 보장, QoS의 핵심이자 한계

QoS 설정에서 실질적인 효과를 내는 부분은 결국 대역폭 보장입니다. 아무리 마킹을 잘 해두어도 큐잉 메커니즘이 없으면 의미가 없습니다. 여기서 LLQ(Low-Latency Queuing)라는 개념이 등장합니다. LLQ란 EF로 마킹된 VoIP 패킷을 별도의 우선순위 큐에 넣어서, 다른 트래픽이 아무리 밀려 있어도 항상 먼저 처리되도록 하는 메커니즘입니다. 실시간 음성 통화처럼 단 몇십 밀리초의 지연도 품질에 직결되는 트래픽에 적합합니다.

실무에서는 VoIP 트래픽에 전체 대역폭의 70% 정도를 우선 할당하는 방식이 많이 쓰입니다. 나머지 30%를 화상회의 비디오, 일반 트래픽이 나눠 갖는 구조입니다. 이 비율은 환경마다 다르게 조정해야 하지만, 처음 설정하는 분들에게는 이 비율이 합리적인 출발점이 됩니다.

무선 환경에서는 WMM(Wi-Fi Multimedia)을 반드시 활성화해야 합니다. WMM이란 Wi-Fi 구간에서도 트래픽 우선순위를 적용할 수 있게 해주는 무선 QoS 표준입니다. Cisco Meraki 환경이라면 트래픽 쉐이핑 룰에서 All voice & video conferencing 항목을 추가하고, PCP 값을 6, DSCP를 46으로 설정하면 무선 구간까지 일관된 우선순위 정책을 유지할 수 있습니다.

그런데 여기서 제가 반드시 짚고 싶은 부분이 있습니다. QoS를 "대역폭 부족 문제의 해결책"으로 알고 있는 분들이 많은데, 제 경험상 이건 좀 다릅니다. QoS는 있는 대역폭을 효율적으로 배분하는 도구이지, 없는 대역폭을 만들어내지는 못합니다. 전체 가용 대역폭이 절대적으로 부족한 상황에서는 아무리 우선순위를 잘 설정해도 한계가 뚜렷합니다. 이 점을 모르고 QoS 설정만 반복하다가 시간을 낭비하는 경우를 여러 번 봤습니다(출처: Cisco Meraki Best Practice).

재택근무 환경에서 직접 겪은 QoS의 현실

이론은 알겠는데 실제로 어느 정도 효과가 있느냐고 물어보시는 분들이 많습니다. 솔직히 기업 환경과 가정용 환경은 차이가 꽤 큽니다.

재택근무 시절, Zoom 화상회의 중에 클라우드 백업 프로그램이 백그라운드에서 대용량 파일을 업로드하면 통화 화면이 순간적으로 굳어버리는 현상이 반복됐습니다. 업로드 대역폭이 좁은 가정용 회선에서 백업 트래픽이 화상회의 패킷을 밀어내는 전형적인 패턴이었습니다. 당시 사용하던 가정용 라우터는 DSCP 마킹을 직접 지원하지 않아서, 애플리케이션 기반 우선순위 설정으로 Zoom과 Teams를 최고 우선순위로 지정하는 방식을 썼습니다. 그것만으로도 체감 품질이 확연히 달라졌습니다.

기업 환경이었다면 SD-WAN 솔루션을 검토했을 겁니다. SD-WAN은 화상회의 트래픽을 자동으로 감지하고 애플리케이션 인식 라우팅(Application-Aware Routing)을 적용하는 기능을 제공해서, 개별 장비마다 수동 설정 없이도 일관된 QoS 정책을 전사적으로 적용할 수 있습니다.

다만 Zoom이나 Teams처럼 클라우드 기반 UC(Unified Communications) 서비스는 인터넷 구간에서 DSCP 마킹이 ISP에 의해 무시되거나 초기화되는 경우가 많습니다. 내부 네트워크에서 아무리 꼼꼼하게 설정해도, 인터넷 구간으로 나가는 순간 그 마킹이 사라질 수 있다는 뜻입니다. 이 사실은 VoIP 품질 관련 업계 자료에서도 공통적으로 지적하는 현실적인 한계입니다(출처: Avoxi VoIP QoS Guide). 그래서 내부 네트워크 QoS만으로 끝내지 말고, WAN 최적화나 SD-WAN의 애플리케이션 인식 라우팅을 함께 고려하는 것이 현실적인 접근입니다.

QoS 설정은 결국 트레이드오프입니다. 화상회의를 살리면 그 시간 동안 백업이나 파일 다운로드는 느려집니다. 중요한 건 어떤 트래픽을 우선시할지 의식적으로 결정하는 것입니다. 그 결정을 네트워크가 알아서 하도록 만들어두는 것이 QoS의 본질입니다. 환경을 먼저 진단하고, 실제로 문제가 되는 병목 구간이 어디인지 파악한 뒤에 설정에 들어가시길 권장합니다.

---

참고:

• Cisco Meraki — Wireless VoIP QoS Best Practices: https://documentation.meraki.com/Architectures_and_Best_Practices/Cisco_Meraki_Best_Practice_Design/Best_Practice_Design_-_MR_Wireless/Wireless_VoIP_QoS_Best_Practices
• Avoxi — VoIP QoS Guide 2026: https://www.avoxi.com/blog/voip-qos/
• CBT Nuggets — What Is DSCP: https://www.cbtnuggets.com/blog/technology/networking/what-is-differentiated-services-code-point-dscp
• NetworkersHome — QoS Design: https://www.networkershome.com/fundamentals/network-design/qos-design/
• Netmaker — QoS: https://www.netmaker.io/resources/quality-of-service
• Tech Advisory — VoIP QoS: https://www.techadvisory.org/2025/04/how-to-improve-voip-call-quality-with-qos/