사진:케이투스
선도적인 엔드투엔드(end-to-end) 인공지능(AI) 및 액체 냉각 솔루션 제공업체 케이투스(KAYTUS)가 오는 5월 14일(수)부터 16일(금)까지 3일간 서울 삼성동 코엑스 1층 A홀 전관에서 단일 인공지능 행사로 아시아 최대 규모로 개최되는 '제8회 국제인공지능대전(AI EXPO KOREA 2025)’에 참가해, AI DevOps 소프트웨어 ‘MotusAI’와 통합형 ‘AI DevOps 솔루션’을 선보인다.

케이투스의 엔드투엔드 AI DevOps 솔루션은 MotusAI와 클러스터 시스템을 통합해 AI 모델 개발부터 배포까지 전 주기를 원활하게 지원한다.

케이투스는 AI 시스템의 복잡성을 근본적으로 해소하고, AI 애플리케이션이 실질적인 비즈니스 성과로 이어질 수 있도록 지원하는 통합 인프라 솔루션을 제공하고 있다. 이번 행사에서 ‘MotusAI’와 AI 애플리케이션을 위한 통합 서버 솔루션을 선보이고 시연할 예정으로 현장 라이브 데모를 통해 한 명의 운영자가 복잡한 AI 클러스터를 효율적으로 관리하며 딥러닝 모델과 추론 서비스를 5분 이내에 배포하는 모습을 직접 확인할 수 있다. 또한 관람객은 개발 환경의 초 단위 배포, 리소스 스케줄링, 신속한 모델 배포 등 핵심 기능을 직접 체험해볼 수 있다.

이처럼 케이투스는 MotusAI와 엔드투엔드 ‘AI DevOps’ 솔루션을 통해 AI 인프라 과제에 대한 전방위적 대응 방안을 제시하며, 기업들이 AI 워크플로우를 보다 빠르고 안정적으로 통합할 수 있도록 지원하고 있다.

케이투스 MotusAI, AI 리소스 스케줄링 및 태스크 오케스트레이션 강화

케이투스 MotusAI는 AI 모델의 개발부터 배포까지 전 과정에서 효율성, 안정성, 단순성을 획기적으로 향상시키는 AI DevOps 플랫폼이다. 리소스 투입을 대폭 절감하고 개발 효율성을 높이며, 클러스터 컴퓨팅 자원 활용률을 70% 이상으로 끌어올리는 동시에 대규모 학습 작업의 스케줄링 성능을 크게 향상시킨다.

MotusAI는 효율적인 GPU 스케줄링과 워크로드 오케스트레이션을 통해 리소스 효율성을 향상시킨다. 네트워크 친화성(network affinity) 및 GPU 로드 스케줄러를 포함한 고급 리소스 스케줄링 전략을 제공해 활용도를 극대화하며, 온디맨드(on demand) GPU 리소스 할당 및 정밀한 GPU 분할을 지원하여 리소스 활용률을 70% 이상으로 끌어올린다. 또한, MotusAI는 수백 개의 포드(POD)를 빠르게 기동하고 환경을 신속히 구성할 수 있는 효율적인 워크로드 스케줄링 기능을 통해, 커뮤니티 스케줄러 대비 처리량을 5배 향상시키고 지연 시간은 5분의 1 수준으로 감소시킨다.

MotusAI는 안정적인 모델 운영을 위한 고가용성(HA) 및 장애 복구 기능을 갖추고 있다. HA 아키텍처와 구성 요소를 함께 적용하며 3노드 액티브-액티브(Active-Active) 구조를 채택해 고가용성 서비스를 보장하고, 마이크로서비스가 로드 밸런싱 전략에 따라 호출되어 플랫폼의 안정성을 높인다. MotusAI는 장애 복구 기능을 통해 서비스 중단 시 자동으로 서비스를 이전할 수 있으며, 애플리케이션은 수 초 내에 복구된다. 아울러 통합 그래픽 사용자 인터페이스(GUI)를 통해 모니터링, 운영 및 유지보수를 손쉽게 수행할 수 있어 관리 부담과 운영 비용을 줄여준다.

MotusAI는 파이토치(PyTorch), 텐서플로(TensorFlow) 등 주요 딥러닝 프레임워크는 물론, 메가트로(Megatron), 딥스피드(DeepSpeed)와 같은 분산 학습 프레임워크와도 호환되며, 주피터 노트북(Jupyter Notebook), 웹쉘(Webshell), IDE 등 다양한 개발 도구를 포함하고 있다. 또한, 데이터 전송 가속화를 통해 빠른 모델 개발을 가능하게 하며, 원격 데이터의 로컬 로딩, 제로 카피(zero-copy) 데이터 전송 등 다양한 전략을 통해 데이터 지연 시간과 캐싱 주기를 단축시켜 데이터 학습 효율을 2~3배 향상시킨다.

MotusAI는 모델 추론의 효율성을 높이기 위한 다양한 기능도 함께 제공한다. 로우코드(Low-code) 배포 기능을 통해 원클릭으로 모델을 서비스에 적용할 수 있으며, 트래픽이 급증하는 상황에서도 리소스를 자동으로 확장해 수만 건의 요청이 동시에 발생하는 고병렬 추론 환경에서도 평균 지연 시간을 수 밀리초 이내로 유지하고, 응답 효율성을 50% 이상 향상시킨다.

케이투스 AI DevOps 솔루션, AI 전 주기 지원하는 턴키(Turnkey) 인프라

MotusAI는 안정적이고 효율적인 AI 클러스터 관리와 간소화된 AI 워크플로우에 초점을 맞춘 솔루션이다. 케이투스는 MotusAI를 클러스터 하드웨어 플랫폼과 결합해, 개발부터 배포 및 운영까지 AI 전 주기를 포괄하는 엔드투엔드 AI 인프라 솔루션 ‘KAYTUS AI DevOps 솔루션’을 제공한다. 이 솔루션은 컴퓨팅, 스토리지, 오케스트레이션, 자동화 기능이 통합된 단일 플랫폼으로 구성되어 인프라 병목 현상을 해소하고 AI 워크플로우의 효율성을 극대화한다. 단순한 AI 툴이 아닌, 기업의 혁신을 뒷받침하는 대규모 AI 생태계를 지향하는 것이 특징이다.

AI DevOps는 고성능·고밀도·고처리량을 갖춘 애플리케이션 지향형 하드웨어를 기반으로 구축되어 고객의 AI 개발 수요를 폭넓게 수용할 수 있도록 설계됐다. AI 학습 및 추론에 최적화된 설계를 바탕으로, 연산 성능과 입출력 효율성을 극대화한 다양한 제품군을 제공하며, 컴퓨팅·스토리지·네트워킹이 유기적으로 통합되어 일체화된 성능을 구현하는 클러스터 단위의 턴키 제품으로 제공된다.

또한 케이투스는 사용자가 예상하는 컴퓨팅 수요를 분석해 클러스터 설계와 성능 최적화 서비스를 함께 제공한다. 하드웨어부터 시스템 환경까지 아우르는 원스톱 클러스터 구축을 통해 사전 구성된 이미지와 스크립트를 활용한 원클릭 환경 설정이 가능하며, 복잡한 시스템 설정 없이도 최적화된 인프라를 빠르게 구현할 수 있다. 클러스터 상단에 탑재된 MotusAI는 다중 인스턴스 GPU 리소스 분할 및 분배, 병렬 연산, 토폴로지 인식, 데이터 가속, 로우코드 배포 등 다양한 기능을 통해 클러스터 전반의 활용률과 운영 효율을 획기적으로 높인다.

한편, 케이투스는 ‘AI EXPO KOREA 2025’ 골드파트너로 기간 동안 서울 코엑스 전시장 L01 부스에 참가해 관람객을 맞이할 예정이다. 현장에서는 MotusAI 시연을 비롯해 케이투스의 차세대 AI 인프라 전략을 직접 확인할 수 있다.

출처 : 인공지능신문(https://www.aitimes.kr)