가상화 하이퍼바이저의 선택
서버를 가상화하기로 생각하고 처음 생각한건 가상화 하이퍼바이저의 선택이었다. (위키피디아 : 하이퍼바이저)
하이퍼바이저의 선택이 잘못되었을 때 나중에 바꾼다는건 굉장히 어렵고 복잡하므로 처음 선택이 중요하다.
2026년 수정 안내 이 글에는 “Xen은 반가상화라 빠르고 ESXi는 전가상화라 느리다”는 구도로 정리했는데, 이는 글을 쓴 2014년 시점에 이미 낡은 이해였다. Xen의 출신에 대한 서술도 틀렸다. 해당 부분을 바로잡고, 지금 기준의 상황도 덧붙인다.
내가 회사에서 사용하고 있던 것은 VMWare의 ESXi 5.0이었고 이번에 바꾸기 위해 몇가지 하이퍼바이저를 찾아보고 조사해보았다.
Microsoft - Hyper-V

마이크로소프트의 하이퍼브이 시스템.(http://www.microsoft.com/ko-kr/server-cloud/solutions/virtualization.aspx)

장점은 익숙한 윈도우GUI를 그대로 이용할 수 있다는 것. 시중에 이미 Hyper-V를 다루는 기술이라는 하이퍼브이에 관련된 책이 나와있기 때문에 참고하기 쉽다는 점이 있었다. 실제로 교보문고에 가서 이 책을 잠시 읽어봤는데 내용도 상당히 괜찮았다.
하지만 단점도 있다. 하이퍼브이는 하이퍼브이를 지원하는 운영체제만 공식지원하고 있다. (참고 : http://technet.microsoft.com/ko-kr/library/cc794868(v=ws.10).aspx) 게스트 운영체제가 이를 지원하지 않으면 사용상 애로사항이 생길 우려가 보였다. 또한, 사실상 콘솔모드로 작동하는 Windows Hyper-V를 쓰지 않으면 Windows 서버 운영체제를 구입해야한다는 경제적인 문제도 고려해야했다.
Xen Project - XenServer

Xen Project의 XenServer. (https://xenproject.org)
Xen은 Citrix가 만든 것이 아니라 케임브리지 대학 컴퓨터 연구소에서 2003년에 시작된 연구 프로젝트다. 이후 상용화를 맡은 XenSource를 Citrix가 2007년에 인수했고, 2013년부터 Xen Project는 리눅스 재단 산하로 옮겨 중립적으로 운영되고 있다. XenServer(현 XenServer/Citrix Hypervisor)는 Citrix가 Xen 위에 만든 상용 제품이다.

XenServer는 국내외에서 많이 사용되고 있다. 가장 유명한 아마존 AWS도 Xen을 사용하고 있고 KT의 ucloud시스템도 Xen을 이용하고 있다고 한다. 반가상화 시스템에서 오는 성능적인 장점이 굉장히 크다고 한다.
사실 ESXi를 설치해보다가 Xen도 한번 설치해본 것인데, 기본적인 설치방법이라던가 설치한 이후 화면에 나오는 것은 ESXi와 별반 다르지 않다. 단지 ESXi는 노랑색 화면이 나오고 Xen은 옅은 회색 화면으로 나온다는 정도?
여러 업체가 쓰고 있다는 사실만으로 믿음직하다는 점이 장점이다. 그럼에도 내가 Xen으로 가지 않은 이유는, 사용상 너무 불편하다. 특히 ESXi와 비교해서 너무 불편했는데, 가상운영체제를 설치하려고 할 때 ESXi는 ISO 파일을 그냥 업로드한 다음 마운트 해주면 그만이지만, Xen은 ISO파일을 올리고 그것을 공유디렉토리로 마운트 하는 식으로만 접근이 가능했다. 왜 이런식의 접근을 요구하는지 잘 모르겠으나 어쩄튼 사용방법이 너무 번거롭고 귀찮아서 제외하기로 결정.
VMWare - ESXi
![]()
VMWare의 ESXi. (http://www.vmware.com/kr/products/vsphere-hypervisor)

가상화 체제에서 아직까지는 최고로 유명한 ESXi. 사실 내가 계속 사용해온 것이기도 하고 위 두가지와 비교했을 때 사용상 제일 편리했다.
장점은 편리한 사용방법, 인터넷에 자료가 많다는 점. 전세계적으로도 많이 쓰이고 있다는 점, 그리고 게스트 운영체제를 수정할 필요가 없어 사실상 모든 OS를 올릴 수 있다는 점이 제일 좋았다. vSphere Client에서 지원하는 운영체제는 현존하는 대부분의 메이저 운영체제를 포괄한다. 그리고 당시 ESXi는 무료 라이선스로 쓸 수 있었다. (다만 기능 제약이 있었다.)
그래서 결국 무엇을 선택했는가.
결론적으로는 VMWare ESXi를 선택했다. 일단 사용상으로 불편하다면 계속 사용하지 않게 될 수 밖에 없었다. 더군다나 내 서버는 서비스용 서버라기 보다는 공부용 성격이 강하기 때문에 이런 저런 운영체제를 자유자재로 설치했다 지웠다 하게 되는데 Xen의 경우는 이게 너무나 불편해서 제외하게 되었다. (원래 이 자리에는 “성능을 중시한다면 Xen”이라고 적었는데, 아래 정정에서 다루듯 근거가 약한 판단이었다. 판단 자체를 지웠다.) 하여튼 난 Hyper-V와 ESXi 중에 선택을 해야했는데 Hyper-V는 공식적으로 지원하는 운영체제가 제한적이었다. 사실 공식지원을 안하는 것이지 설치 자체는 잘 될 것 같지만 그래도 일단 기분이 다르니까. 만약 윈도우를 못 벗어나겠다거나 윈도우만 써야겠다, 난 MS가 신뢰가 간다면 Hyper-V를 선택해야할 것 같다.
결국에는 손에 제일 익었고 내가 사용할 상황에 가장 적절한 ESXi를 선택하고 지금도 잘 사용하고 있지만 나중에는 한번 Xen이나 Hyper-V도 설치해서 살펴봐야할 것 같다.
정정 : 전가상화 / 반가상화 구도에 대하여
원래 이 글은 “Xen = 반가상화 = 빠름”, “ESXi = 전가상화 = 느림”이라는 대비로 정리했는데, 이 구도는 2006년 전후에나 유효했다.
- Xen도 전가상화를 지원한다. Xen은 2006년부터 HVM(Hardware Virtual Machine) 모드를 지원해 수정하지 않은 게스트 OS를 올릴 수 있다. 반가상화(PV)만 하는 하이퍼바이저가 아니다. 오히려 이후에는 PV보다 HVM + PV 드라이버 조합이 표준이 되었고, Xen은 2019년 이후 PV 모드를 단계적으로 정리했다.
- ESXi도 반가상화 기법을 쓴다. VMware Tools에 포함된 vmxnet3(네트워크), pvscsi(스토리지) 드라이버가 바로 반가상화 드라이버다.
- 결정적으로, 하드웨어 가상화 지원이 판을 바꿨다. Intel VT-x / AMD-V(2005~2006), 그리고 메모리 가상화를 담당하는 EPT / RVI(2008년경)가 보급되면서 전가상화의 오버헤드가 크게 줄었다. 2014년 시점에는 이미 CPU/메모리 성능 격차가 사실상 사라진 상태였고, 남은 차이는 I/O 경로에서 나왔다. 그리고 그 I/O는 양쪽 다 반가상화 드라이버로 처리한다.
즉 “어느 쪽이 빠른가”는 전가상화/반가상화라는 분류가 아니라 I/O 스택 구현과 튜닝의 문제였다. 원래 결론 문단에 “성능을 중시한다면 Xen이 가장 좋은 선택”이라고 적었던 것은 이런 이유로 근거가 약한 판단이었고, 위 결론 문단에서 해당 문장은 지웠다.
지금 이 글을 읽는다면
10년이 지나 상황이 많이 달라졌다.
- ESXi 무료 라이선스는 2024년 2월에 중단되었다. Broadcom의 VMware 인수 이후 무료 하이퍼바이저 제공이 종료되어, 개인 학습용으로는 더 이상 선택지가 아니다. (이후 별도 프로그램으로 일부 복구되었으나 조건이 달라졌다.)
- AWS는 2017년 Nitro 도입 이후 KVM 기반으로 전환했다. 이 글에서 “AWS도 Xen을 쓴다”고 적은 것은 당시에는 맞았지만 지금은 아니다.
- 개인 서버 용도라면 Proxmox VE가 사실상 표준에 가깝다. KVM + LXC 기반에 웹 UI를 갖췄고 무료다. 이 글의 목적(공부용 서버에 이런저런 OS를 올렸다 지웠다)에 가장 잘 맞는 선택지다.
- 리눅스 호스트에서 직접 쓴다면 KVM + libvirt, 윈도우라면 Hyper-V가 여전히 유효하다.
댓글 남기기