[네트워크] SSL(Secure Socket Layer) 동작 원리

대칭키와 공개키

SSL의 동작 원리에 대해 알기 위해서는 먼저 암호화 알고리즘의 종류인 대칭키와 공개키에 대해 알 필요가 있다.

 

대칭키(Symmetric Key)

암호화와 복호화에 같은 암호키(대칭키)를 사용하는 알고리즘

장점

• 키 크기가 상대적으로 작고 암호 알고리즘 내부 구조가 단순하여 시스템 개발 환경에 용이하고 비대칭키(공개키)에 비해 암호화와 복호화 속도가 빠르다.

단점

• 교환 당사자 간에 동일한 키를 공유해야 하기 때문에 키 관리에 어려움이 있음
• 잦은 키 변경이 있는 경우에 불편하다.
• 디지털 서명 기법에 적용이 곤란하고 안전성을 분석하기 어려우며 중재자가 필요하다.

 

공개키(Public Key)

암호화와 복호화에 사용하는 암호키를 분리한 알고리즘

자신이 가지고 있는 고유한 암호키(비밀키)로만 복호화할 수 있는 암호키(공개키)를 대중에 공개한다.

공개키는 네트워크에 공유하고 개인키는 본인만 보유

 

공개키 암호화 방식 진행 과정

1. A가 웹 상에 공개된 'B의 공개키'를 이용해 평문을 암호화하여 B에게 보낸다.
2. B는 자신의 비밀키로 복호화한 평문을 확인 후, A의 공개키로 응답을 암호화하여 A에게 보낸다.
3. A는 자신의 비밀키로 암호화된 응답문을 복호화

대칭키의 단점을 완벽하게 해결했으나, 암호화 복호화가 매우 복잡하다. (암호화하는 키와 복호화하는 키가 서로 다름)

암호화에 공개키를 사용하고, 복호화에 개인키를 사용한다.

 

공개키의 장점과 단점

장점

• 근원지 증명이 가능하다.
• 키의 관리와 분배가 용이하다.
  • 키의 관리 측면 : 사용자를 n이라 했을 때, 키의 개수는 불과 2n개만 생성
  • 키의 분배 측면 : 키 교환의 기밀성 보장, 키 공유가 필요 없음

단점

• 알고리즘 수행이 느림

 

SSL 탄생의 시초

대칭키와 공개키 암호화 방식을 적절히 혼합

SSL은 웹서버와 브라우저 간의 통신을 암호화해서 중간에 누가 가로채더라도 그 내용을 알 수 없게 한다. SSL이 적용되면 https://를 사용하여 웹서버에 접근하게 된다.

대칭키 암호화는 서버와 클라이언트가 같은 키를 사용해야하므로 키를 공유하는데 문제가 있고, 비대칭 암호화는 공개키를 배포함으로써 키 공유 문제는 해결되지만, 처리 속도가 느리다는 단점을 가진다.

 

즉, HTTPS 통신에서 실제 전송되는 데이터의 암호화에는 대칭키 암호화 방식을 사용하고, 키 교환 방식으로 비대칭키 암호화를 사용해 이러한 문제를 해결한다.

 

브라우저는 CA(Certificate Authority, 인증 기관)를 알고 있다.

인증서를 이해하는데 꼭 알고 있어야 하는 것이 CA의 리스트이다. 브라우저는 내부적으로 CA의 리스트를 미리 파악하고 있다. 이 말인 즉슨 브라우저의 소스 코드 내에 CA의 리스트가 들어있다는 말이다. 브라우저가 미리 파악하고 있은 CA의 리스트에 포함되어야만 공인된 CA가 될 수 있다. CA의 리스트와 함께 각 CA의 공개키를 브라우저는 이미 알고 있다.

 

SSL 동작 방식

1. 클라이언트가 서버에 접속한다. 이 단계를 Client Hello라고 한다.
2. 서버는 Client Hello에 대한 응답으로 Server Hello를 하게 된다. (여기에 인증서를 포함)
3. 클라이언트는 서버의 인증서가 CA에 의해 발급된 것인지 확인하기 위해 클라이언트에 내장된 CA 리스트를 확인한다. CA 리스트에 인증서가 없다면 사용자에게 경고 메시지를 보여준다.
   • 인증서가 CA에 의해 발급된 것인지를 확인하기 위해 클라이언트에 내장된 CA의 공개키를 이용하여 인증서를 복호화한다. 복호화에 성공했다면 인증서는 CA의 개인키로 암호화된 문서임이 암시적으로 보증되고, 인증서를 전송한 서버를 신뢰할 수 있게 된다.
   • 클라이언트는 상기 2번을 통해 받은 서버의 랜덤 데이터와 클라이언트가 생성한 랜덤 데이터를 조합해 pre master secret이라는 키를 생성한다. 이 키를 뒤에서 살펴볼 세션 단계에서 데이터를 주고받을 때 암호화하기 위해 사용한다. 문제는, 이 pre master secret 값을 어떻게 서버에게 전달할 것인가이다.
   • 이 때 사용되는 방식이 바로 공개키 방식이다. 그렇다면 서버의 공개키는 어떻게 구할 수 있는가? 공개키는 서버로부터 받은 인증서 내에 들어있다. 이 서버의 공개키를 이용하여 pre master secret 값을 암호화한 후 서버로 전송하면 안전하게 전송할 수 있다.
   • 이 때 사용하는 기법은 대칭키이기 때문에, pre master secret 값은 절대 제 3자에게 노출되어서는 안 된다.
4. 서버는 클라이언트가 전송한 pre master secret 값을 자신의 비공개키로 복호화하고, 이로서 서버와 클라이언트가 모두 pre master secret 값을 공유하게 된다. 그러고 난 뒤 서버와 클라이언트는 둘 다 일련의 과정을 거쳐 pre master secret 값을 master secret 값으로 바꾼다. master secret은 session key를 생성하는데, 이 session key 값을 이용하여 서버와 클라이언트는 데이터를 대칭키 방식으로 암호화한 후에 주고받는다. 이렇게 해서 세션키를 클라이언트와 서버가 모두 공유하게 된다.
5. 클라이언트와 서버는 핸드쉐이크 단계의 종료를 서로에게 알린다.

 

단순 공개키 사용이 아닌, 대칭키와 공개키를 조합해서 사용하는 이유?

공개키 방식이 컴퓨터의 오버헤드를 가중시키기 때문이다. 만일, 공개키를 그대로 사용하게 된다면 많은 접속이 몰리는 서버의 경우 매우 큰 비용을 지불해야 한다.

반대로, 대칭키는 암호를 푸는 열쇠인 대칭키를 상대에게 전송해야 하는데, 암호화가 되지 않은 인터넷을 통해 키를 전송하는 것은 매우 위험하다.

따라서, 속도는 느리지만 데이터를 안전하게 주고받을 수 있는 공개키 방식으로 대칭키를 암호화하여 서버와 클라이언트가 서로 나눠가진 후에, 실제 데이터를 주고받는 시점에서는 대칭키를 이용하여 데이터를 보다 효율적으로 주고받을 수 있다.

 

 

 

 

[출처]

[Network] 대챙키와 공개키 SSL 동작방식 | Hoyeon (hoyeonkim795.github.io)

[Network] 대챙키와 공개키 SSL 동작방식