REALITY 프로토콜과 XTLS Vision: 중복 암호화를 줄이면 빨라지는 이유

REALITY의 핸드셰이크와 XTLS Vision의 흐름 제어를 살펴보고, 중복 암호화가 줄어드는 원리와 v2rayN 설정 항목을 알아봅니다.

이 글에서 다루는 내용

v2rayN에 구독을 추가했고 REALITY와 Vision의 차이를 알고 싶은 분을 위한 글입니다. 프록시 핸드셰이크와 웹사이트 핸드셰이크를 구분하고, 어떤 트래픽에서 암호화 처리가 줄어드는지 살펴본 뒤 노드 설정과 속도 측정 결과로 문제 지점을 확인합니다.

REALITY 핸드셰이크: 프록시와 웹사이트의 인증은 별개

HTTPS 페이지를 열 때 브라우저는 웹사이트의 신원을 확인합니다. 프록시를 사용하면 Xray 클라이언트도 먼저 프록시 서버와 연결을 설정해야 합니다. 서로 다른 두 통신으로, 앞 단계는 브라우저와 웹사이트 사이의 세션을 보호하고 뒤 단계는 클라이언트와 프록시 서버 사이에 터널을 만듭니다. REALITY는 후자에 관여합니다.

프록시 연결핸드셰이크 시작프록시 인증프록시 요청웹사이트 세션

위 그림은 새 연결이 성공적으로 설정되는 과정을 나타냅니다. Xray 클라이언트는 먼저 TLS 1.3 기반 핸드셰이크를 시작하고, 미리 설정한 공개 키 관련 값으로 REALITY 서버를 인증합니다. 핸드셰이크가 완료되면 터널 안에서 VLESS 요청을 보냅니다. HTTPS 트래픽을 전달하는 경우 브라우저는 이어서 자체 TLS 세션에서 대상 웹사이트의 인증서를 확인합니다.

XTLS Vision: 어떤 암호화 처리가 줄어들까?

일반적인 이중 암호화 환경에서는 브라우저가 웹페이지 데이터를 TLS 레코드로 암호화하고, 프록시 터널이 이 레코드를 페이로드로 다시 암호화합니다. 수신 측은 먼저 바깥쪽 암호화를 해제해야 합니다. 중복 처리는 프록시 경로에서 일어나며, 브라우저가 같은 웹 요청을 두 번 보내는 것은 아닙니다.

여기서 Flow는 속도 제한 값이 아니라 VLESS의 데이터 흐름 처리 방식입니다. Vision은 연결 초기에 규칙에 따라 데이터를 처리하고 패딩을 추가하며, 내부 TLS 트래픽을 식별합니다. 양쪽이 이를 지원하고 전환 조건을 충족하면 이후 조건에 맞는 레코드는 직접 전달 경로를 사용할 수 있어 프록시 터널의 TLS 레코드 계층을 계속 덧씌우지 않아도 됩니다. 웹사이트 자체의 TLS 암호화는 그대로 유지되며, 일반 평문 트래픽에는 이 경로를 적용할 수 없습니다.

트래픽 단계별 Vision의 역할
단계주요 처리성능 관련 참고
프록시 핸드셰이크터널을 만들고 신원을 확인핸드셰이크 시간은 그대로 발생하며 직접 전달로 없어지지 않음
조건을 충족하는 내부 TLS 데이터전환 후 기존 암호화 레코드를 전달대용량 트래픽에서 외부 처리 비용의 차이가 드러날 가능성이 큼
전환 조건을 충족하지 않는 데이터보호된 프록시 경로로 계속 처리직접 전달 기준으로 처리량을 예상할 수 없음

따라서 REALITY와 Vision은 같은 기능이 아닙니다. REALITY는 프록시 터널의 핸드셰이크와 보안을 담당하고, Vision은 조건에 맞는 데이터가 터널을 통과하는 방식을 결정합니다. Vision은 주로 데이터별 암호화·복호화와 레코드 처리 비용을 줄일 뿐, 물리적인 경로를 단축하거나 패킷 손실에 따른 재전송을 없애지는 않습니다.

v2rayN 설정: 전송 방식, 보안, Flow 확인

v2rayN 메인 창에서 가져온 노드를 두 번 클릭해 편집 창을 여세요. 노드 프로토콜이 VLESS인지 확인하고, 해당 조합을 지원하는 Xray 코어를 사용하고 있는지 확인한 다음 아래 표를 살펴보세요. 버전에 따라 항목 이름이 다를 수 있습니다. 예를 들어 베어 TCP는 화면이나 설정에 tcp 또는 raw로 표시될 수 있습니다. 정상 작동하는 노드를 표기를 통일하려고 다시 만들 필요는 없습니다.

연결 및 흐름 제어

프로토콜
VLESS
주소와 포트
구독에서 제공한 프록시 주소를 입력
사용자 ID
서버 설정과 일치해야 함
전송 방식
노드 설정을 확인하세요. 일반적인 조합에서는 베어 TCP를 사용합니다.
Flow
xtls-rprx-vision, 서버의 사용자 설정과 일치해야 함

구독을 가져온 뒤에는 먼저 기존 값을 확인하세요. 기존 VLESS 노드에 Flow만 추가해도 서버에서 Vision을 지원하게 되지는 않습니다.

REALITY 핸드셰이크 설정

보안 유형
reality
SNI
서버에서 허용한 핸드셰이크 이름
공개 키 관련 값
구독에서 제공한 클라이언트 값을 사용
Short ID
서버에서 허용한 값과 일치해야 함
지문
구독에 지정된 클라이언트 핸드셰이크 지문 유지

SNI는 속도 측정 주소가 아닙니다. 서버 개인 키를 클라이언트에 입력하지 말고, 문제 해결용 스크린샷에 전체 구독 링크를 노출하지 마세요.

가져온 설정은 그대로 둔 채 시스템 프록시를 사용하는 브라우저로 먼저 확인하세요. 브라우저에서는 접속되지만 특정 터미널 앱에서 안 된다면, 해당 앱이 시스템 프록시를 사용하는지 또는 프록시를 별도로 지정해야 하는지 확인하세요. TUN 전환과 노드 설정 변경을 한 번의 테스트에서 함께 하지 마세요. 트래픽 가로채기 범위가 바뀐 것인지 노드가 복구된 것인지 구분하기 어려워집니다.

속도 측정: 첫 응답, 처리량, CPU 사용량을 따로 확인

지연 시간 수치 한 번만으로는 Vision이 데이터 처리 비용을 줄였는지 판단하기 어렵습니다. 지연 시간은 핸드셰이크, 경로, 원격 서버의 응답에 더 큰 영향을 받으며, 처리량 상한은 지속 다운로드에서 확인하기 쉽습니다. 다음은 반복해서 사용할 수 있는 자체 테스트 설정이며, 프로토콜 성능 벤치마크나 클라이언트 기본값을 뜻하지 않습니다.

3회
설정별 최소 반복 횟수
30초
회차별 지속 다운로드 측정 시간
1개
한 번의 비교에서 변경할 설정 수
  1. 테스트 권한이 있는 서비스를 사용하고, 모두 연결 가능한 설정을 두 가지 준비하세요. 프록시 서버, 속도 측정 서버, 로컬 네트워크를 동일하게 고정하고, 캐시된 데이터를 네트워크 다운로드로 오인하지 않도록 충분히 큰 HTTPS 파일을 사용하세요.
  2. 두 설정을 번갈아 실행하면서 매회 첫 응답까지 걸린 시간, 지속 처리량, 코어 프로세스의 CPU 사용량을 기록하세요. 최고값이 아닌 중앙값을 비교하세요. 두 설정이 서로 다른 서버나 경로를 사용해야 한다면 실제 사용 경험만 비교할 수 있으며, 차이가 Vision 때문이라고 단정할 수 없습니다.
  3. 첫 응답 시간은 비슷한데 지속 처리량이 높아지고 같은 속도에서 CPU 사용량이 낮아졌다면, 처리 비용 감소라는 설명과 일치하는 결과입니다. 처리량이 시간대에 따라 달라지거나 CPU 사용률이 충분히 낮다면 먼저 출구 대역폭, 원격 서버의 속도 제한, PC의 백그라운드 다운로드를 확인하세요.

결론: 처리량을 제한하는 구간부터 확인

작업 관리자에서 코어 프로세스와 네트워크 속도를 함께 확인하세요. 네트워크 어댑터의 처리량이 접속 회선의 한계에 가까운데 코어 CPU에 뚜렷한 부하가 없다면, 우선 회선의 기준 성능을 기록하세요. 더 높은 측정값을 얻으려고 Flow를 바꾸는 것은 피하세요.

자주 묻는 질문: 가져온 뒤 연결되지 않거나 속도가 그대로인 경우

구독에 REALITY가 있는데 Flow가 비어 있는 이유는 무엇인가요?

서로 독립적인 설정입니다. 먼저 구독에 Vision 설정이 명시되어 있는지 확인하고, 없다면 빈 값으로 두세요. 원본 설정에 Flow가 명시되어 있는데 편집 화면에 보이지 않는다면 사용 중인 v2rayN과 Xray 코어 버전을 확인한 뒤 다시 가져와 점검하세요. 현재 정상 작동하는 노드를 바로 덮어쓰지는 마세요.

노드를 선택한 뒤 핸드셰이크에 실패하면 무엇부터 확인해야 하나요?

먼저 메인 창 로그에서 처음 발생한 연결 오류를 확인하세요. TCP 연결 자체가 시간 초과되면 주소와 포트를 확인하세요. 프록시 서버에는 연결됐지만 핸드셰이크 오류가 발생한다면 구독과 SNI, 공개 키 관련 값, Short ID를 하나씩 대조하세요. Windows의 「설정」→「시간 및 언어」→「날짜 및 시간」에서 시스템 시간이 동기화되어 있는지도 확인하세요.

웹페이지는 열리는데 다운로드 속도가 빨라지지 않는 이유는 무엇인가요?

다운로드 트래픽이 라우팅 규칙에 따라 직접 연결되는 것이 아니라 해당 노드를 실제로 통과하는지 먼저 확인하세요. 그런 다음 같은 다운로드 서버로 지속 테스트를 진행하세요. 짧은 요청은 왕복 지연 시간의 영향을 크게 받고, 대역폭이 이미 포화된 상태라면 코어 처리 비용이 줄어도 다운로드 속도는 그대로일 수 있습니다.

Vision을 사용하려면 TUN을 켜야 하나요?

아니요. TUN과 시스템 프록시는 앱의 트래픽이 클라이언트로 들어오는 방식을 결정하고, Vision은 조건에 맞는 트래픽이 프록시 연결을 통과하는 방식을 결정합니다. 먼저 시스템 프록시로 노드를 확인하세요. 앱이 시스템 프록시를 사용하지 않고 투명한 트래픽 처리가 꼭 필요한 경우에만 TUN을 별도로 테스트하세요.

v2rayN 다운로드