Last Updated on 2025-09-19 by BallPen
로컬컴퓨터에서 여러 서버로 SSH 접속하는 방법을 알아 봐요.
1. 문제 상황
SSH로 로컬 컴퓨터에서 원격 서버에 접속하는 방법을 설명드린 적이 있어요.
그런데 이 방법은 한 대의 서버에 대해서만 접속할 수 있습니다. 그러니까 로컬 컴퓨터로 서버A와 B를 접속하고 싶은 경우가 있을 수도 있는데요. 이게 되지 않아요.
그 이유는 서버 A에 접속하기 위해 ssh-keygen 명령어로 개인키와 공개키를 생성하면 .ssh폴더에 id_rsa와 id_rsa.pub 파일이 생성됩니다. 그런데 문제는 서버 B에 접속하기 위해 개인키와 공개키를 다시 생성하면 종전에 만들어졌던 id_rsa와 id_rsa.pub 파일을 덮어쓰게 되어 버려요.
그러면 서버A는 접속이 더 이상 이루어지지 않고 서버 B만 접속이 가능해져요.
2. 해법
이 문제의 해법은 두번째 서버 B의 개인키와 공개키를 생성할 때, “Enter file in which to save the key”에서 키 이름을 별도로 지정하여 서버A의 id_rsa와 id_rsa.pub 파일을 덮었 쓰지 않게 해야 합니다.
이때 예를 들어 key77이라고 입력했다고 해볼게요. 그러면 key77과 key77.pub 파일이 생성되는데요. 잘 찾아서 .ssh 폴더로 이동시키기 바랍니다.
그러면 .ssh 폴더에는 서버 A에 대한 id_rsa, id_rsa.pub 파일이 있고, 그리고 서버 B에 대한 key77, key77.pub 파일이 있게 됩니다.
그러면 .ssh 폴더에서 nano 에디터로 config 파일 하나를 다음 명령어로 생성합니다.
nano config
그러면 나노 에디터의 빈 창이 열리는데요. 그 창에 아래의 내용들을 입력 후에 저장하고 닫으면 됩니다.
Host 00.000.000.000
User Tom
IdentityFile id_rsa
Host 00.000.000.000
User Jenny
IdentityFile key77
위 내용에서 00.000.000.000은 접속하고자 하는 서버의 아이피입니다. 그리고 Tom은 서버A의 계정을 뜻해요. 그리고 Jenny는 서버B의 계정입니다. 물론 id_rsa와 key77은 .ssh 폴더에 있는 각 개인키 파일 명이 되겠습니다.
이렇게 하면 ssh 접속할 때 아이피만 바꾸면 한 대의 컴퓨터로 여러 서버에 접속할 수 있게 됩니다.
물론 공개키를 서버에 등록하는 것을 잊지 마시기 바랍니다. 나머지 사항은 ssh 접속에 대한 글을 참고하시기 바랍니다.






