OpenWrt 공유기 VPN 설정법: 기기별 트래픽 분기 가이드

OpenWrt 공유기에서 VPN을 설정하면 여러 기기가 같은 네트워크에 연결된 상태에서도 기기별로 다른 출구를 사용하도록 구성할 수 있습니다. 다만 VPN 구독 링크를 공유기 관리 화면에 붙여 넣는 것만으로 모든 프로토콜이 작동하는 것은 아닙니다. 공유기 펌웨어와 설치된 패키지가 해당 프로토콜을 지원해야 하며, 터널 인터페이스·방화벽·정책 기반 라우팅을 각각 맞춰야 합니다. 먼저 백업과 복구 경로를 준비하고, 한 대의 시험 기기부터 적용한 뒤 다른 기기로 확장하세요.

공유기와 설정 방식부터 확인하기

시작하기 전에 OpenWrt 버전, 기기 아키텍처, 여유 저장 공간과 메모리를 확인하세요. 암호화와 패킷 처리는 공유기 자원을 사용하므로, 성능이 부족하면 터널 연결 자체는 되더라도 여러 기기가 동시에 사용할 때 응답이 느려질 수 있습니다. 펌웨어를 갱신하거나 패키지를 설치하기 전에는 현재 설정을 백업하고, 유선으로 관리 화면에 다시 접속할 수 있는지 확인하는 편이 안전합니다.

다음으로 사용할 터널 형식을 정합니다. 서비스가 WireGuard용 설정 파일이나 키 정보를 제공하고 공유기에서 WireGuard를 지원한다면 해당 정보를 사용해 인터페이스를 구성할 수 있습니다. Shadowsocks, VMess, Trojan, Hysteria2 등은 WireGuard 설정과 다른 프로토콜입니다. 이를 WireGuard의 서버 주소나 키 입력란에 넣어도 작동하지 않습니다. OpenWrt에 호환되는 클라이언트와 패키지가 있는지 확인하고, 구독을 가져오는 기능이 지원되는지 별도로 살펴보세요. 호환 클라이언트가 제공하는 구독 링크를 일반적인 VPN 설정 파일로 간주해서는 안 됩니다.

3단계

터널·방화벽·라우팅 확인

2개

시험할 경로: 기본·VPN

정책 기반 라우팅은 기기 주소나 지정한 조건을 기준으로 트래픽을 특정 게이트웨이로 보냅니다. OpenWrt 버전과 설치 환경에 따라 LuCI 메뉴나 패키지 이름이 다를 수 있지만, 핵심은 VPN 인터페이스가 정상적으로 올라오는지, 해당 인터페이스로 나가는 방화벽 전달이 허용되는지, 정책 규칙이 정확한 대상에 적용되는지를 따로 검증하는 것입니다. 라인과 프로토콜 안내에서 프로토콜 차이를 먼저 확인하면 설정 형식을 잘못 고를 가능성을 줄일 수 있습니다.

터널을 만들고 기기별 경로 나누기

아래 절차는 메뉴 이름을 고정하지 않는 일반적인 순서입니다. OpenWrt 빌드와 설치한 패키지에 따라 화면 구성이 다를 수 있으므로, 같은 역할의 인터페이스·방화벽·라우팅 메뉴를 찾으세요. 한 번에 여러 설정을 바꾸기보다 각 단계가 저장되고 적용되는지 확인해야 문제가 생긴 위치를 좁힐 수 있습니다.

설정 백업과 시험 대상을 준비합니다. OpenWrt 관리 화면에서 현재 설정을 백업하고, VPN을 사용할 기기의 내부 IP 주소를 확인합니다. 가능하다면 해당 기기가 DHCP를 통해 같은 주소를 계속 받도록 주소 예약을 설정하세요. 주소가 바뀌면 기기별 라우팅 규칙이 다른 기기에 적용되거나 아예 적용되지 않을 수 있습니다.
터널 인터페이스를 구성합니다. 서비스에서 제공한 프로토콜에 맞는 OpenWrt 패키지와 설정 정보를 사용해 인터페이스를 추가합니다. 서버 주소, 포트, 키 또는 인증 항목은 제공된 값과 대조해 입력하세요. 공유기에서 직접 지원하지 않는 구독 형식이라면 필드를 임의로 추정하지 말고, 호환 클라이언트나 수동 설정 지원 여부를 확인합니다.
인터페이스 상태와 기본 통신을 확인합니다. 저장 후 터널이 활성화됐는지 확인하고, 공유기 자체에서 VPN 경로를 통해 통신할 수 있는지 점검합니다. 연결 표시만으로 인터넷 통신까지 확인된 것은 아닙니다. 터널이 올라오지 않는다면 인증 정보, 서버 주소, 시간 설정, 방화벽 차단 여부를 먼저 살펴보세요.
방화벽 구역과 전달 규칙을 설정합니다. VPN 인터페이스를 적절한 방화벽 구역에 넣고, LAN에서 VPN으로 나가는 전달을 허용해야 합니다. 구성에 따라 VPN 쪽 주소 변환(NAT)이나 별도의 전달 규칙이 필요할 수 있습니다. 설정 목적과 다른 구역에 무심코 추가하면 VPN을 사용하지 않는 기기까지 영향을 받을 수 있으므로, 기존 LAN에서 WAN으로 가는 기본 규칙을 보존하면서 적용 범위를 확인하세요.
정책 기반 라우팅 규칙을 추가합니다. 정책 라우팅 패키지와 LuCI 연동 화면을 사용하는 경우, OpenWrt 버전과 저장소에 맞는 패키지인지 확인한 뒤 설치합니다. 시험 기기의 예약 IP 주소를 조건으로 규칙을 만들고, 동작 인터페이스 또는 게이트웨이로 VPN 터널을 지정하세요. 정책의 우선순위와 예외 조건도 확인합니다. 공유기 자체의 관리 트래픽이나 로컬 네트워크 통신까지 불필요하게 터널로 보내지 않도록 범위를 좁히는 것이 좋습니다.
한 기기에서 실제 경로를 검증합니다. 시험 기기의 Wi-Fi를 다시 연결하거나 네트워크 설정을 갱신한 뒤 새 웹 요청을 보내세요. 외부 IP 확인 서비스와 DNS 확인 페이지를 각각 이용해 출구와 DNS 동작을 확인할 수 있습니다. 기존에 열린 페이지나 앱 화면만 보는 것으로는 새 연결이 어느 경로를 이용하는지 판별하기 어렵습니다.

정책 규칙을 추가했는데도 시험 기기가 기본 인터넷 경로를 이용한다면, 먼저 기기의 IP 주소가 규칙과 일치하는지 확인하고 정책 라우팅 서비스가 실행 중인지 살펴보세요. 반대로 로컬 공유 폴더나 공유기 관리 화면에 접근할 수 없게 됐다면, 로컬 대역을 예외로 처리해야 하는지와 규칙의 적용 범위가 너무 넓지 않은지 확인합니다. 다른 기기를 추가하기 전에 시험 기기에서 정상 경로, 로컬 접근, DNS 응답을 차례로 점검하세요.

✅ 먼저 한 기기만 정책에 넣고 기본 경로와 VPN 경로를 비교합니다.
✅ DHCP 주소 예약으로 기기별 규칙의 대상 주소를 일정하게 유지합니다.
✅ 공유기 관리와 로컬 네트워크에 필요한 예외 경로를 보존합니다.
❌ 서로 다른 VPN 클라이언트나 라우팅 규칙을 한꺼번에 적용해 원인을 흐리지 않습니다.

DNS·게이트웨이 오류를 구분해 해결하기

VPN 연결 상태는 정상인데 웹사이트 이름을 찾지 못한다면 DNS 설정부터 확인하세요. 기기의 DNS 요청이 VPN 터널과 다른 경로로 나가거나, 공유기에서 지정한 DNS 서버에 도달하지 못하면 IP 주소로는 통신되지만 도메인 이름은 열리지 않을 수 있습니다. 시험 기기에서 DNS 확인을 하고, 공유기와 기기 양쪽에 설정한 DNS 항목이 서로 충돌하지 않는지 점검합니다. DNS를 바꾼 뒤에는 기기의 캐시 영향이 남을 수 있으므로 새 요청으로 다시 확인하세요.

터널이 연결되지 않거나 인터넷이 완전히 끊기는 경우에는 기본 게이트웨이와 방화벽을 확인합니다. 정책 규칙이 없는 기기까지 VPN 게이트웨이를 기본 경로로 사용하게 되면 터널이 내려갔을 때 우회 경로가 없을 수 있습니다. 반대로 VPN 인터페이스가 활성화되어도 LAN에서 해당 인터페이스로 전달하는 규칙이 없으면 기기 트래픽은 터널을 통과하지 못합니다. 설정을 바꿀 때마다 터널 상태, 정책 일치 여부, 방화벽 전달, DNS 순서로 한 항목씩 살펴보세요.

증상	먼저 확인할 항목	점검 방향
도메인만 열리지 않음	DNS 서버와 DNS 요청 경로	시험 기기와 공유기의 DNS 설정을 비교하고 새 요청으로 재확인
VPN 연결 표시가 없거나 반복 종료	프로토콜 지원, 인증 정보, 서버 주소	설정 형식과 로그를 확인하고 프로토콜에 맞는 패키지인지 점검
터널은 활성화됐지만 기기가 연결되지 않음	정책 대상 IP, 방화벽 전달, 게이트웨이	예약 주소와 규칙을 대조하고 LAN에서 VPN으로의 경로를 확인
정책에 없는 기기도 영향받음	기본 경로와 규칙 적용 범위	전체 기본 게이트웨이 변경 여부와 정책 조건을 검토

문제가 생겼을 때 터널, DNS, 방화벽, 정책을 동시에 초기화하지 마세요. 마지막으로 바꾼 항목을 되돌리고 시험 기기에서 다시 확인하면 원인 파악이 쉽습니다. 관리 화면에 접속할 수 없게 됐다면 미리 확보한 유선 복구 경로와 백업을 이용하세요. 원격 접속 중에는 기본 경로나 방화벽을 바꾸기 전에 접속이 끊길 가능성을 고려해야 합니다.

핵심 정리: 터널 연결, 방화벽 전달, 기기별 정책은 서로 다른 단계입니다. 각 단계가 확인된 뒤에 다음 기기를 추가해야 설정 오류가 전체 네트워크로 번지는 일을 줄일 수 있습니다.

자주 묻는 질문

구독 링크를 OpenWrt에 그대로 가져오면 되나요?

항상 가능한 것은 아닙니다. 공유기 펌웨어와 설치된 클라이언트가 해당 링크 형식과 프로토콜을 지원해야 합니다. WireGuard 설정과 Shadowsocks·VMess·Trojan·Hysteria2 구독은 서로 다른 형식이므로, 지원하지 않는 설정 화면에 붙여 넣지 마세요. 제공된 수동 설정이나 호환 클라이언트가 있는지 먼저 확인하세요.

특정 기기만 VPN을 사용하게 할 수 있나요?

정책 기반 라우팅을 지원하는 구성이라면 기기 IP 주소 등을 조건으로 선택한 트래픽을 VPN 인터페이스로 보낼 수 있습니다. 주소가 바뀌지 않도록 DHCP 예약을 설정하고, 정책이 적용되지 않는 기기는 기본 게이트웨이를 계속 사용하는지 확인하세요.

VPN은 연결됐는데 DNS가 작동하지 않는 이유는 무엇인가요?

터널 상태와 DNS 질의의 경로는 별도로 동작할 수 있습니다. 지정된 DNS 서버에 도달할 수 있는지, 기기와 공유기의 DNS 설정이 충돌하지 않는지, 정책 규칙이 DNS 요청에도 예상대로 적용되는지 확인하세요. 새 요청으로 테스트해야 캐시된 결과와 혼동하지 않습니다.

설정 후 공유기 관리 화면에 접속할 수 없으면 어떻게 하나요?

우선 유선으로 연결해 관리 화면에 접근할 수 있는지 확인하고, 원격 접속만 가능한 상황이라면 기본 경로나 방화벽 설정을 더 변경하지 마세요. 작업 전에 만든 백업과 OpenWrt 기기의 복구 절차를 활용합니다. 복구 방법은 기기 모델과 펌웨어에 따라 다르므로 해당 기기의 안내를 기준으로 진행하세요.