Hyper-V Server 2016 설치하고 Hyper-V Manager에서 원격접속 설정하기

꽤 오래 전 부터 IT 업계에는 서버 운영체제에 대한 가상화 열풍이 불고 있다. 그리고 그 열풍을 주도하는 기업은 바로 서버 가상화 솔루션을 공급하고 있는 VMWare다.

IT 업종에서 일하는 사람치고 VMWare를 모르는 사람은 없을 것이다. 개발자나 엔지니어의 노트북, PC에는 의례… VMWare Player 혹은 VMWareWorkstation이 설치되어 있는 경우가 많다. 물론 나도 노트북에 Windows를 설치하면 가장 먼저 설치하는 SW가 바로 VMWare Player다. 그리고 뒤 늦게 Microsoft에서도 Hyper-V라는 운영체제 가상화 솔루션을 Windows Pro 버전부터 사용할 수 있도록 기본 탑재하여 판매하고 있다.

그리고 2012년 즈음부터 Windows 서버에서 가상화 기능을 제외한 대부분의 GUI와 가상화에 불필요한 대부분의 서비스를 제거한 Hyper-V Server를 지원하고 있다. Hyper-V 서버를 설치하면 GUI가 없고 CMD 창만 덜렁~있는 것을 알 수 있다. 당연히 대부분의 제어판과 관리도구 또한 지원하지 않는다.

이번 포스트에서는 Hyper-V Server 2016을 설치하고 Windows 10 pro부터 지원하는 Hyper-V Manager를 통해 Hyper-V Server 2016에 접속하는 단계까지를 포스팅한다. 과정은 꽤나 길다.

Hyper-V Server 2016 설치

Hyper-V 서버의 설치는 Windows Server의 설치와 비슷하다. 다만 조금 간단하다. 이 과정은 몇몇 화면으로 대체한다.

설치할 디스크를 선택하고 파티셔닝하는 과정 또한 동일하다.

설치 준비 및 파일 복사 과정 등을 거쳐 Hyper-V Server를 설치하는 과정은 Windows 서버를 설치하고 Windows 로고가 뜨는 것 까지는 동일하다.

Hyper-V Server 2016 기본 설정

여기서부터 Windows Server 설치와는 완전….다르다. 설치가 모두 완료되고 리부팅이 되면 화려한(?) Windows 로그인 창 대신 난데없이 도스창이 뜬다. 그리고 관리자 계정(Administrator)의 비밀번호를 설정하란다.

비밀번호를 변경하고 나면 파란색의 새로운 도스창이 실행된다. 이후에도 config.cmd를 실행하면 이 창을 볼 수 있다. 이 창에서는 도메인설정, 관리자 계정의 추가, 원격접속 허용 여부, IP등 네트워크 설정 등 Hyper-V Server의 기본 설정을 할 수 있는 창이다.

몇몇 설정(예:컴퓨터 이름)을 하다보면 다음과 같이 리부팅해야 한다는 메시지가 나오는데 나중에 해도 된다.

Hyper-V 서버의 네트워크를 설정하는 화면이다. 나중에 원격PC에서 Hyper-V Manager를 통해 접속한 뒤 Internal Switch를 생성하고 Hyper-V Server 내부망을 구성할 때 이 창에서 Hyper-V Internal Switch의 IP를 추가로 설정할 때 이 창을 이용할 수 있다.

Hyper-V Server 2016에 외부에서 원격데스크톱(MSTSC)으로 접속하기 위한 설정이다.

위의 화면에서 원격 데스크톱으로 접속을 가능하게 한 뒤 원격접속을 시도해봤다.

여기서부터는 원격 데스크톱으로 접속한 화면이다. 설정을 모두 마치고 나서도 원격데스크톱으로 접속하면 config.cmd가 자동으로 실행된다.

Hyper-V Server 2016에 Windows 10 pro의 Hyper-V Mnager 연결 설정하기

일반적인 Windows Server 운영체제만 다뤄보았기에 여기서부터는 매우 생소했다. Hyper-V Server는 GUI가 제공되지 않기에 어떤 설정을 변경하기 위해서는 모두 PowerShell이나 명령어를 이용해 설정을 변경해야 했다.

다음은 파워쉘을 리모트에서 사용할 수 있도록 설정하고 CredSSP 인증을 통해 원격 연결이 가능하도록 설정해주어야 한다.

기본적으로 여기까지는 구글링을 통해 설정방법을 비교적 쉽게 찾을 수 있다. 하지만 “Hyper-V Manager”를 통해 “Hyper-V 서버에 연결”하려하면 원격 관리에 대한 온갖 인증 오류가 나면서 접속이 안되는 경우가 있다. 그리고 이 경우 하나 하나 원인을 찾고 해결해가는 과정이 힘겹다. Hyper-V 관리자를 통해 Hyper-V Server 2016에 접속하기 위해서는 Windows RM에 대한 설정과 CredSSP라는 인증에 대한 구성을 설정해야하는데 그에 대한 설명이 MSDN에 조차 쉽게 설명되어 있지를 않다.

그리고 나서 Windows 10 pro가 설치된 PC(Hyper-V Manager 실행되는 PC)와 Hyper-V 서버의 hosts 파일에 서로를 등록해주면 서로간에 신뢰할 수 있는 컴퓨터로 인식되어 비교적 쉽게 Hyper-V Manager를 통해 원격관리가 가능한 듯 하다. (단, Windows 10 pro와 Hyper-V Server가 동일 네트워크(워크그룹 및 도메인)인 경우로 한정한다.

Hyper-V Manager를 통해 Hyper-V Server에 연결하기

hosts 파일에 서로의 IP와 컴퓨터이름을 등록하였다면 Hyper-V Manager를 실행하고 다음과 같이 Hyper-V Server에 연결을 시도한다. 컴퓨터의 이름은 hosts 파일에 등록한 이름이고 사용자는 아래와 같이 “컴퓨터이름\계정명” 의 형태로 입력한다. (이렇게 하지 않으면 오류가 발생했다.)