회사 및 주요 서비스 소개
AI 모델이 대형화됨에 따라 이를 운영하기 위한 하드웨어 리소스와 서버 비용이 급증하고 있으며, 이는 AI 도입 기업들에게 큰 부담을 주고 있습니다. 이러한 문제를 해결하기 위해 스퀴즈비츠는 AI 모델을 경량화하고 AI 서비스를 최적화하는 솔루션을 제공합니다. 스퀴즈비츠의 기술은 AI 서비스의 운영 비용을 크게 절감할 수 있게 해주며, 이를 통해 AI가 일상생활에 더욱 가까워질 수 있도록 돕고 있습니다. 창업 이후 네이버, 카카오, 삼성 등 주요 기업으로부터 투자를 유치했으며 모델 경량화 툴킷인 아울라이트(OwLite)와 LLMOps 툴킷인 핏츠 온 칩스 (Fits on Chips) 서비스를 운영하고 있습니다.
전시 제품 및 서비스 소개
스퀴즈비츠는 AI 모델 경량화, 최적화를 위한 2가지 SaaS 툴킷 (OwLite, Fits on Chips)과 컨설팅 서비스를 지원하고 있습니다. SaaS 툴킷의 경우기본 기능을 오픈소스로 공개하여 더 많은 사람들이 AI 경량화를 경험할 수 있도록 지원하고 있으며, 주로 Vision 모델과 같이 1B 내외의 모델의 경우 OwLite (아울라이트) 를 통해서 모델 구조를 시각적으로 보면서 경량화가 가능하며, 대형 언어모델(LLM)의 경우 Fits on Chips (핏츠온칩스)를 통해서 전체적인 모델 파라미터 세팅을 마치 엑셀처럼 쉽게 테스트할 수 있습니다. 컨설팅 서비스의 경우, 극한의 경량화가 필요한 경우 스퀴즈비츠의 엔지니어가 직접 경량화를 진행하는 서비스를 말합니다. 이렇게 다양한 제품과 서비스를 통해서 AI 모델 경량화 최적화 기술을 제공하고 있으며 이를 통해서 AI 모델의 성능을 최대한 유지하면서 비용을 절감하고 속도를 개선할 수 있도록 돕습니다.
1) OwLite (아울라이트): AI 모델 경량화 SaaS 툴킷
AI 추론 속도를 평균 3.6배 향상시키고 메모리 사용량을 4배까지 줄이며 AI 서비스 운영 비용을 대폭 절감할 수 있도록 설계되었습니다. PyTorch, ONNX, TensorRT와의 높은 호환성을 통해 복잡한 최적화 작업 없이도 추천 알고리즘을 활용해 손쉽게 모델 경량화 및 성능 최적화를 진행할 수 있습니다. 사용자는 실시간으로 성능 차이를 비교하고 분석할 수 있는 기능과 사용자 친화적으로 설계된 쉬운 인터페이스 통해 최적의 최적화 설정을 빠르게 적용할 수 있습니다.
2) Fits on Chips (핏츠온칩스) : 대형 언어 모델(LLM) 서빙 솔루션
: LLM 서비스와 하드웨어 간의 최적화를 위한 파라미터 세팅 실험을 쉽게 분석할 수 있게 돕는 LLMOps 도구입니다. 이 솔루션은 모델 선택부터 성능 평가, 배포까지 LLM 서빙의 모든 단계를 원스톱으로 지원하며, 엔지니어의 작업 시간을 기존 30시간에서 3시간으로 단축해 생산성을 대폭 향상시킵니다. 또한, 엔비디아 GPU와 인텔 가우디를 포함한 다양한 하드웨어와 vLLM, TensorRT-LLM 같은 프레임워크를 최적화해 사용자에게 최적의 설정을 제안합니다. Fits on Chips는 비용 효율성과 성능 극대화를 동시에 실현하며, AI 서빙 환경을 간소화하고 맞춤화하여 기업들이 AI를 더 빠르고 경제적으로 활용할 수 있도록 돕습니다.
제품별 적용 분야 및 실제 적용 사례
스퀴즈비츠의 AI 모델 경량화 기술은 다양한 분야에서 효과적으로 적용되고 있습니다. 예를 들어, 출입 관리 보안 업체는 라이선스 구독하던 외부 솔루션을 자체 솔루션으로 대체하기 위해 경량화 작업을 진행했으며, 이를 통해 기존에 지불하던 라이선스 구독료를 절감할 수 있었습니다. 의료 분야 기업은 10종 이상의 AI 모델을 Cloud 기반으로 서비스 중이었으나, 경량화를 통해 On-device로 구동 가능하게 되어 Cloud 비용을 대폭 절감할 수 있었습니다. 스마트 CCTV 업체는 고사양 하드웨어를 사용해 고성능 AI를 지원했지만, 경량화 덕분에 동일한 성능을 유지하면서 더 저렴한 하드웨어로 교체할 수 있었고, 그 결과 제품 원가를 25%가량 절감하는 성과를 거두었습니다.
HOME > 참관객 > 참가기업 디렉토리
서울 서초구 강남대로 311 (서초동, 한화생명보험빌딩) 7층 711호 
