AI 성능개선을 위한 클라우드 GPU 가상화 기술의 현황과 향후방향 (다운로드 : 558회)

요 약

GPU(Graphic Processing Unit)를 클라우드 컴퓨팅에 활용하는 연구와 상용화가 점차 확산되고 있다. 인공지능이 주목받게 되면서, 이를 동작시키기 위한 인프라이자 데이터를 공급하는 저장소인 클라우드도 수요와 서비스가 늘고 있다. 인공지능의 성능은 데이터의 학습량과 그 학습에 필요한 컴퓨팅 파워에 따라 달라져서 고성능 클라우드 컴퓨팅이 요구된다. GPU는 다수의 코어를 가져 병렬 처리에 유리하며, CPU 대비 단위 코어당 가격이 저렴하다. 이에 따라 GPU를 클라우드 컴퓨팅 자원으로 활용하는 방법이 등장했다. 그런데 클라우드 컴퓨팅은 가상화가 전제되는 기술이기 때문에 GPU를 온전한 클라우드 자원으로 활용하기 위해서는 역시 가상화가 필요하다. 그간 GPU 가상화는 어렵고 복잡한 기술이었으나, 여러 연구를 거쳐 최근에는 하드웨어에서 가상화를 지원하는 제품이 출시되고 있다. 이 보고서에서는 GPU 가상화 기술의 등장배경과 그간의 현황에 대하여 살펴보고, 클라우드 GPU 가상화 연구에서 기술 수준을 발전시킬 수 있는 과제와 방향을 논의하고자 한다.

Executive Summary

Research and commercialization of using GPU(Graphic Processing Unit) for cloud computing is gradually spreading. AS AI rises, Cloud computing that is the infrastructure to operate AI and the storage that supplies data, is also increasing in demand and services. The performance of AI depends on the amount of data learned and the computing power required to learn it, then it require high performance Cloud computing. GPUs have a large number of cores, which are advantageous for parallel processing, and are cheaper per core than CPUs. This has led to the emergence of leveraging GPUs as Cloud computing resources. Cloud computing is a technology on which virtualization is fundamental. Therefore, virtualization is also required to utilize the GPU as a complete cloud resource. GPU virtualization has been a difficult and complex technology, but many researches have recently released products that support virtualization in hardware. This paper examines the background and the current state of GPU virtualization technology, and discusses the challenges and directions to advance the level of technology in cloud GPU virtualization research.


목 차

  1. 1. 논의배경
  2. 2. GPU기술
  3. 2.1. GPU의 구조
  4. 2.2. 왜 GPU를 컴퓨팅 자원으로 쓰는가?
  5. 2.3. 클라우드에 GPU컴퓨팅이 필요한 이유
  6. 3. GPU가상화 기술과 분류
  7. 3.1. GPU 가상화의 필요성과 클라우드 적용
  8. 3.2. GPU 가상화 기술의 종류
  9. 4. 향후 기술방향과 시사점
  10. 4.1. 클라우드 GPU 가상화 기술의 향후방향
  11. 4.2. 요약과 시사

Table of Contents

  1. 1. Research background
  2. 2. GPU technology
  3. 2.1. GPU architecture
  4. 2.2. Why use a GPU as a computing resource?
  5. 2.3. Why GPU computing needs for Cloud computing
  6. 3. GPU virtualization technology and classification
  7. 3.1. GPU virtualization needs and Cloud adoption
  8. 3.2. Types of GPU Virtualization Technologies
  9. 4. Future directions and implication
  10. 4.1. Future directions for Cloud GPU virtualization technology
  11. 4.2. Summary and implication

키워드 이슈리포트 GPU AI 클라우드 가상화 월간SW중심사회 2020년 4월호