SSH 공개키 인증 원리와 키 파일 권한 오류 해결법
AWS 같은 클라우드 가상 서버나 개인 리눅스 서버에 원격으로 접속하려고 ssh -i mykey.pem user@서버IP 명령을 입력했는데, 접속이 되기는커녕 WARNING: UNPROTECTED PRIVATE KEY FILE!과 함께 Permissions 0644 for 'mykey.pem' are too open이라는 경고 문구가 뜨면서 연결이 아예 거절되는 경험을 자주 하게 됩니다.
또한 왜 굳이 익숙한 아이디·비밀번호를 놔두고 두 개짜리 암호 키 파일을 만들어 써야 하는지도 처음에는 번거롭게 느껴집니다. SSH 공개키 인증 원리와 개인키 파일을 왜 내 계정 외에 아무도 읽지 못하게 잠가 두어야 하는지 이해하면 보안과 오류 해결이 동시에 풀립니다.
서버에서 발급받은 SSH 키 파일(.pem)을 넣었는데 접속이 거부되는 오류
클라우드 콘솔에서 내려받은 .pem 키 파일이나 새로 만든 개인키를 리눅스·WSL·macOS·윈도우 PC에 두고 SSH 접속을 시도할 때, “개인키 권한이 너무 열려 있어 무시한다”는 문구와 함께 결국 비밀번호 입력 창으로 넘어가거나 Permission denied (publickey) 오류로 튕겨 나갑니다.
특히 윈도우 탐색기 ‘다운로드’ 폴더에 있던 키를 WSL2 리눅스 안에서 그대로 /mnt/c/Users/... 경로로 끌어다 쓸 때 파일 권한이 0777로 잡히면서 이 오류가 100% 발생합니다.
SSH 공개키 인증 원리와 키 파일 권한(chmod 600·400) 검사 이유
자물쇠와 열쇠의 비유로 생각하면 단번에 이해됩니다. 집 문 앞에 걸어 두는 자물쇠가 공개키(Public Key)이고, 내 주머니 깊숙이 숨겨 두는 유일한 열쇠가 개인키(Private Key)입니다. 서버에는 자물쇠(공개키)를 걸어 두고, 내가 접속할 때는 내 주머니 속 열쇠(개인키)로 서버가 내민 암호 문제에 서명해 “이 자물쇠에 맞는 진짜 열쇠를 가진 주인”임을 증명합니다.
비밀번호 방식은 매번 네트워크 위로 암호 문자열을 건네고 무작위 대입 공격(Brute-force)에 뚫릴 위험이 있지만, SSH 공개키 인증 원리는 개인키 자체가 네트워크 밖으로 전혀 전송되지 않으며 2,048비트·Ed25519 수준의 암호학 서명으로 검증하므로 무차별 대입으로 뚫는 것이 사실상 불가능합니다. 게다가 서버 쪽 공개키가 유출되어도 개인키가 없으면 문을 열 수 없습니다.
그렇다면 왜 키 파일 권한 오류(Permissions are too open)가 뜰까요. SSH 클라이언트 경비원이 출발 전에 내 PC에 있는 열쇠(개인키) 보관 상태를 검사하는데, 다른 사용자도 그 키 파일을 읽어 볼 수 있는 상태(예: 0644 또는 0777)라면 “남들이 열쇠 본을 떠 갈 수 있는 위험한 보관 상태”로 간주해 아예 사용을 막아 버리기 때문입니다(비유와 달리 열쇠 파일이 복사되는 순간 누구든 접속할 수 있어 스스로 안전장치를 거는 것입니다). 흔히 “서버 쪽 폴더 권한이 잘못되어 발생하는 오류”라고 오해하지만, UNPROTECTED PRIVATE KEY FILE 경고는 서버가 아니라 내 로컬 PC에 있는 개인키 파일 권한을 조이라는 뜻입니다.
SSH 키 쌍 생성·서버 등록 및 권한 과다 오류 해결 단계
새 키 쌍을 만들어 서버에 등록하거나, 이미 받은 .pem 파일의 권한 오류를 바로 잡으려면 아래 순서를 따르면 됩니다.
SSH 키 인증 설정 및 권한 과다 오류 해결 순서
- 리눅스·macOS·WSL에서 개인키 권한을
600(또는400)으로 제한하기: WSL 사용자라면 먼저 윈도우 폴더(/mnt/c/...)에 있는 키를 리눅스 홈 디렉터리 안의~/.ssh/폴더로 복사합니다(cp /mnt/c/.../mykey.pem ~/.ssh/). 이어서chmod 600 ~/.ssh/mykey.pem(소유자만 읽기·쓰기) 또는 읽기 전용chmod 400 ~/.ssh/mykey.pem을 실행하면 권한 오류가 즉시 사라집니다. - 윈도우 PowerShell·CMD에서 직접 SSH 쓸 때 권한 오류 해결하기: 윈도우 네이티브 OpenSSH에서 같은 오류가 나면 키 파일을 우클릭 →
속성 > 보안 > 고급으로 들어가 ‘상속 사용 안 함(상속된 사용 권한 모두 제거)’을 누른 뒤, 현재 로그인한 내 윈도우 계정 하나만 ‘모든 권한’ 또는 ‘읽기’로 남기고 SYSTEM·Administrators 외 다른 사용자 목록을 지웁니다. - 직접 키 쌍 생성(
ssh-keygen) 후 서버에 공개키 등록하기: 개인 서버나 라즈베리파이에 키 로그인을 붙이려면 내 PC 터미널에서ssh-keygen -t ed25519를 입력해id_ed25519(개인키)와id_ed25519.pub(공개키)을 만듭니다. 이후ssh-copy-id 사용자@서버IP를 실행(또는 서버의~/.ssh/authorized_keys파일에 공개키 한 줄 추가)하고, 서버의~/.ssh폴더는700,authorized_keys는600권한으로 맞춥니다. - 개인키 분실·유출 예방을 위해 암호문(Passphrase) 설정 고려:
ssh-keygen실행 시 묻는passphrase를 비워 두면 자동화에는 편하지만, 키 파일이 통째로 복사될 경우 대비가 약해지므로 중요 서버용 키에는 암호문을 함께 걸어 이중으로 보호하는 것이 안전합니다.
주의할 점은 실수로 서버의 ~/.ssh/authorized_keys에 내 개인키(id_ed25519 또는 .pem) 내용을 붙여 넣거나 메신저·깃허브에 개인키 파일을 올리면 그 즉시 열쇠가 만천하에 공개된 것이므로, 반드시 .pub로 끝나는 공개키만 서버와 외부에 두고 개인키는 내 PC 밖으로 내보내지 말아야 합니다.
비밀번호 인증과 SSH 공개키·개인키 인증 방식 비교
원격 서버 접속 시 두 인증 방식의 보안성과 관리 편의를 비교했습니다.
| 구분 | 비밀번호 접속 방식 | SSH 공개키·개인키 인증 |
|---|---|---|
| 보안 강도 | 무차별 대입 공격·약한 암호 추측 위험 | 암호학적 키 쌍 서명, 무차별 대입 방어 최상 |
| 로그인 편의성 | 매번 비밀번호 입력 필요 | 키·에이전트 등록 시 즉시 자동 로그인 가능 |
| 유출 시 대처 | 비밀번호 즉시 변경 필요 | 서버 authorized_keys에서 해당 공개키 줄만 삭제 |
| 주요 오류 포인트 | 비밀번호 오타, Fail2ban 차단 | 개인키 파일 권한 과다(0600·0400 미적용) |
핵심 정리
SSH 공개키 인증 원리는 자물쇠에 해당하는 공개키는 서버에 두고, 열쇠에 해당하는 개인키는 내 PC에만 안전하게 보관한 채 암호 서명으로 본인임을 확인하는 방식입니다. 접속 시 Permissions are too open 경고가 뜬다면 서버 문제가 아니라 내 PC 키 파일의 읽기 권한이 타인에게 열려 있다는 뜻이므로, 리눅스·WSL에서는 ~/.ssh/ 아래로 옮겨 chmod 600(또는 400)으로 잠그고 윈도우에서는 파일 보안 상속을 끊어 본인 계정만 남기면 바로 접속됩니다.
재발 방지 체크리스트
재발 방지 체크리스트
- SSH 개인키(
.pem,id_ed25519등)는~/.ssh/폴더에 보관하고chmod 600또는400권한이 유지되는지 확인합니다. - WSL2에서 윈도우
다운로드폴더에 있는 키 파일을 직접 참조하지 말고, 리눅스 홈 디렉터리(~/.ssh/)로 복사해서 사용합니다. - 깃허브(GitHub) 등 공개 저장소에 코드를 올릴 때 개인키 파일이 함께 커밋되지 않도록
.gitignore에*.pem,*.key를 등록해 둡니다. - 서버에 키 로그인이 안정적으로 붙는 것을 두 번 확인한 뒤에는 서버
sshd_config에서 비밀번호 로그인(PasswordAuthentication no)을 끄면 보안이 한층 강화됩니다.









