[Linux] 암호화된 SSL 인증서 적용하는 두 가지 방법

 

안녕하세요. 주식회사 서버몬 입니다.

 

SSL 인증서를 서버에 적용해야 하는 상황은 운영 환경에서 자주 발생합니다.

대부분은 별다른 문제 없이 설정이 가능하지만, 간혹 인증서가 암호화된 상태로 제공되는 경우가 있습니다.

이 경우 인증서를 설정하는 과정에서 다음과 같은 상황을 마주할 수 있습니다.

• 서비스 재시작 시 인증서 암호 입력을 할 수 없어 기동 실패
• 자동 재시작 환경에서 SSL 설정 적용 불가

본 글에서는 이러한 상황에서 암호화된 SSL 인증서를 서버에 적용하는 두 가지 방법을 실제 테스트 과정을 기반으로 정리합니다.

• 방법 1: 암호화된 키를 유지한 채 적용하는 방법
• 방법 2: 키 암호를 해제하여 적용하는 방법

테스트 환경

• OS: Linux (RHEL/Rocky 계열)
• Web Server: Nginx
• 인증서 생성 도구: OpenSSL
• 인증서 유형: Self-Signed (테스트 목적)

개인키 생성 과정

1. 암호화된 개인키 생성

먼저 OpenSSL을 사용하여 AES-256으로 암호화된 RSA 개인키를 생성합니다.

openssl genrsa -aes256 -out server_enc.key 2048

개인키 생성 시 passphrase 입력이 필요하며, 해당 passphrase는 이후 모든 작업에서 사용됩니다.

 

2. CSR 생성 및 인증서 발급

- 1 CSR 생성

openssl req -new -key server_enc.key -out server.csr

CSR 생성 시에도 개인키가 암호화되어 있으므로 passphrase 입력이 요구됩니다.

 

- 2 Self-Signed 인증서 생성

openssl x509 -req -days 365 -in server.csr -signkey server_enc.key -out server.crt

위 과정을 통해 다음 파일이 생성됩니다.

• server_enc.key: 암호화된 개인키
• server.csr: 인증서 요청 파일
• server.crt: Self-Signed 인증서

3. Nginx SSL 설정 적용 시 문제 발생

- 1 인증서 파일 배치 및 권한 설정

mkdir -p /etc/nginx/ssl
mv server_enc.key server.csr server.crt /etc/nginx/ssl
chmod 600 /etc/nginx/ssl/server_enc.key
chown root:root /etc/nginx/ssl/server_enc.key

 

 

- 2 Nginx SSL 설정

server {
listen443 ssl;
server_name test.servermon.co.kr;

ssl_certificate     /etc/nginx/ssl/server.crt;
ssl_certificate_key /etc/nginx/ssl/server_enc.key;

location / {
return200"ssl test\n";
    }
}

 

- 3 설정 테스트 및 서비스 재시작

nginx -t

이 단계에서는 passphrase 입력을 요구하며 설정 테스트는 정상적으로 통과합니다.

 

하지만 서비스 재시작 시 다음과 같은 문제가 발생합니다.

• Nginx 서비스 기동 실패
• systemd 환경에서는 passphrase 입력이 불가능

이제 선택지가 생깁니다.

 

방법 1. 암호 유지한 채 적용

1. 패스워드 파일 생성

vim /etc/nginx/ssl/key.pass
chmod 600 /etc/nginx/ssl/key.pass
chown root:root /etc/nginx/ssl/key.pass

해당 파일에는 개인키 생성 시 사용한 passphrase를 입력합니다.

 

2. Nginx 설정 수정

server {
listen443 ssl;
server_name test.servermon.co.kr;

ssl_password_file /etc/nginx/ssl/key.pass;
ssl_certificate     /etc/nginx/ssl/server.crt;
ssl_certificate_key /etc/nginx/ssl/server_enc.key;

location / {
return200"ssl test\\n";
    }
}

 

3. 서비스 재시작 확인

systemctl restart nginx
systemctl status nginx

결과적으로 Nginx는 정상적으로 기동되며, 개인키는 암호화 상태를 유지합니다.

 

특징

• 개인키 보안성 유지
• 패스워드 파일 권한 관리 중요
• 운영 환경에 따라 관리 부담 증가 가능

방법2. 암호 해체 후 적용

1. 암호화된 개인키 확인

openssl rsa -in server_enc.key -check

2. 암호 해제된 개인키 생성

openssl rsa -in server_enc.key -out server_nopass.key

3. 암호 해제 키 검증

openssl rsa -in server_nopass.key -check

 

4. 암호 해제된 개인키로 Nginx 설정 변경

server {
listen443 ssl;
server_name test.servermon.co.kr;

ssl_certificate     /etc/nginx/ssl/server.crt;
ssl_certificate_key /etc/nginx/ssl/server_nopass.key;

location / {
return200"ssl test\\n";
    }
}

nginx -t
systemctl restart nginx

 

추가 입력 없이 서비스가 정상적으로 기동됩니다.

 

두 방식의 비교

구분	암호화 유지	암호 해제
보안성	높음	상대적으로 낮음
자동 재시작	추가 설정 필요	즉시 가능
운영 편의성	낮음	높음
권장 환경	보안 우선 환경	가용성 우선 환경

 

암호화된 SSL 개인키는 보안 측면에서 매우 중요한 요소입니다.

다만 실제 운영 환경에서는 자동 재시작, 장애 복구, 무인 운영과 같은 요소도 함께 고려해야 합니다.

환경과 목적에 따라 암호화를 유지할지, 암호를 해제할지를 선택하는 것이 가장 현실적인 접근 방식입니다.

본 테스트가 인증서 적용 과정에서 당황스러운 상황을 줄이는 데 도움이 되기를 바랍니다.

 

 

 

 

 

1U서버 / 2U서버 / AI서버 / alyac / APC / APC UPS / backup / carepack / centos / chakramax / cuda / DAS / DB / DB서버 / defog / DEFOG랙 / dell5820 / dell5820t / dell7920 / dellpoweredge / dellr240 / dellr340 / dellr350 / dellr450 / dellr540 / dellr630 / dellr640 / dellr740 / dellr750 / dellserver / dellt40 / dellt440 / dellt5820 / dell서버 / DELL서버CPU / DELL서버RAID컨트롤러 / DELL서버SAS하드디스크 / DELL서버가격비교 / DELL서버가격비교견적 / DELL서버견적 / DELL서버구매 / DELL서버디스크교체 / DELL서버메모리 / dell서버서버몬 / DELL서버펌웨어 / DELL서버하드디스크구매 / dell옵션 / dell워크스테이션 / dl20 / dl20gen10 / dl20gen11 / dl360 / dl360gen10 / dl360gen11 / dl380 / dl380g10 / dl380gen10 / dl380gen11 / ECC메모리 / EDFOG랙가격 / embedded / est security / ESTSOFT / FIRMWARE / GPU / gpu서버 / gpu타워형서버 / greenlake / HA솔루션 / HP GPU / hp hdd / hpdl20 / HPDL20Gen10 / hpdl360 / hpdl360gen10 / hpdl380 / hpdl380g10 / HPDL380Gen10 / HPE / HPE GPU / hpe hdd / hpe rok / HPE Service Pack for Proliant / HPE SPP / hpe ssa / hpedl20 / hpedl20gen10 / hpedl360gen10 / hpe서버 / HPE서버CPU / HPE서버RAID컨트롤러 / HPE서버SAS하드디스크 / HPE서버가격비교 / HPE서버가격비교견적 / HPE서버견적 / HPE서버구매 / HPE서버드라이버설치 / HPE서버디스크교체 / HPE서버메모리 / HPE서버비용 / hpe서버소음 / HPE서버펌웨어 / HPE서버하드디스크구매 / hpe옵션 / hpe정품 / hpgen10 / hpml30 / hpserver / hpz2 / hpz4 / hpz4g4 / hpz6g4 / hpz8g4 / hp마이크로서버 / hp서버 / hp서버cto / hp서버pc / HP서버메모리 / hp서버소음 / hp서버컴퓨터 / HP서버파워 / HP서버펌웨어 / HP서버하드디스크 / hp옵션 / hp워크스테이션 / hp정품 / hp프로라이언트 / HYPER BACKUP / ibm서버 / ilo / Intelligent Provisioning / internetdisk / KVM / KVM 기술지원비(비용) / KVM 설치비 / L2스위치 / L3스위치 / LENONO서버SAS하드디스크 / lenovop620 / lenovor650 / LENOVO서버 / LENOVO서버CPU / LENOVO서버RAID컨트롤러 / LENOVO서버가격비교 / LENOVO서버가격비교견적 / LENOVO서버견적 / LENOVO서버구매 / LENOVO서버디스크교체 / LENOVO서버메모리 / LENOVO서버하드디스크구매 / LENOVO펌웨어업데이트 / Linux / ML30 / ml30gen10 / ml30gen11 / ML350GEN10 / ml350gen11 / ML360 / MS CSP / MSSQL / MSSQL 기술지원비(비용) / MSSQL 설치비 / MYSQL / MySQL 기술지원비(비용) / MySQL 설치비 / NAS / NVIDIA / Office 365 / oneview / orange / OS설치 / PA-410 / PA-440 / paloalto / poweredger740 / poweredger750 / precision5820 / QUADRO / r240 / r250 / r340 / r360 / r440 / r550 / r650 / r660 / r740 / r750xs / r760 / r760xs / RAID / redhat / RHEL설치 / RMS랙 / rocky / s100i / securedisk / server / serverpc / smart storage administrator / SPP / sql server / sr250 / sr650 / SYNOLOGY / SYNOLOGY나스 / t150 / t360 / UPS / UPS기술지원 / UPS납품 / UPS설치 / V3 / veeam / vroc / windows server / Windows서버설치 / XEON서버 / z8g4 / 가상서버 / 가성비서버 / 기술지원비(비용) / 나스기술지원 / 나스설치지원 / 네트워크스위치 / 네트워크장비 / 더블테이크 / 데이터베이스 / 델5820 / 델서버 / 델서버비용 / 델서버펌웨어업데이트 / 델옵션 / 델워크스테이션 / 델컴퓨터워크스테이션 / 디포그 / 디포그랙 / 디포그랙가격 / 딥러닝 / 딥러닝pc / 딥러닝서버 / 랙 / 랙(RACK) 기술지원비(비용) / 랙(RACK) 설치비 / 랙납품설치 / 랙설치 / 레노버p620 / 레노버서버 / 레노버워크스테이션 / 레노보서버 / 레노보서버펌웨어 / 레드헷설치 / 레이드 / 레이드구성 / 록키리눅스 / 리눅스 / 리눅스 기술지원비(비용) / 리눅스 설치비 / 리눅스서버 / 리눅스서버설치 / 리눅스서버트러블슈팅 / 리눅스트러블슈팅 / 문서보안 / 문서중앙화 / 미니서버 / 미니서버랙 / 미니서버렉 / 미디어서버 / 방화벽 / 방화벽 기술지원비(비용) / 방화벽 설치비 / 방화벽엔지니어 / 백업 / 백업 기술지원비(비용) / 백업 서버 / 백업서비스 / 백업솔루션 / 보안솔루션 / 보안솔루션구매 / 보안솔루션설치 / 보안툴 / 빔백업 / 샤크라맥스 / 서버 / 서버 기술지원비(비용) / 서 버 랙마운트비용 / 서버 설치비 / 서버 장애조치비용 / 서버CPU / 서버MEMORY / 서버OS설치 / 서버pc / 서버가격 / 서버가속기 / 서버견적 / 서버교체 / 서버구매 / 서버구입 / 서버구축 / 서버기술지원 / 서버납품 / 서버디스크장애처리 / 서버랙 / 서버렉 / 서버렉마운트 / 서버메모리 / 서버 몬 / 서버몬기술지원 / 서버백업 / 서버보안 / 서버부품 / 서버엔지니어 / 서버옵션 / 서버용GPU / 서버용PC / 서버용그래픽카드 / 서버용메모리 / 서버 / 컴퓨터 / 서버용하드디스크 / 서버재고 / 서버컴 / 서버컴퓨터 / 서버트러블슈팅 / 서버판매 / 서버하드 / 서버호스팅 / 스위치 / 스위치 기술지원비(비용) / 스위치 설치비 / 스토리지 / 스토리지 기술지원비(비용) / 스토리지 랙마운트비용 / 스토리지 설치비 / 스토리지 장애조치비용 / 스토리지납품설치 / 스토리지서버 / 시놀로지DS918 / 시놀로지HyperBackup / 시놀로지나스 / 시놀로지나스백업 / 시놀로지하이퍼백업 / 시큐어디스크 / 안랩 / 알약 / 앱서버 / 오피스 365 / 우분투설치 / 워크스테이션 / 워크스테이션pc / 워크스테이션컴퓨터 / 윈도우서버 / 윈도우서버2016 / 윈도우서버2019 / 윈도우서버2022 / 윈도우서버설치 / 윈도우서버컴퓨터 / 윈도우서버트러블슈팅 / 윈도우즈 기술지원비(비용) / 윈도우즈 설치비 / 이스트소프트 / 이스트 시큐리티 / 이중화솔루션 / 이중화솔루션구매 / 이중화솔루션설치 / 인터넷디스크 / 임베디드 / 저가서버 / 저렴한서버 / 정품서버 / 정품서버옵션 / 제온서버 / 젠서버 / 중고서버 / 중고워크스테이션 / 카보나이트 / 카스퍼스키 / 컴퓨터서버 / 케어팩 / 타워서버 / 타워형서버 / 팔로알토 / 페도라설치 / 프로라이언트