Cheetah

Cheetah

AI 전 주기의 효율적인 관리를 위한 ML/LLMOps 플랫폼을 경험하세요.

Core Values

AI의 가치는 도입이 아니라 운영에서 완성됩니다.

치타는 GPU 자원, AI 워크로드, 모델 서비스를 하나의 정책과 운영 흐름으로 연결합니다.

core value visual

하나의 AI 운영 흐름

GPU 자원 관리부터 AI 작업 실행,
모델 평가·배포, 추론 서비스 운영까지
하나의 흐름으로 연결하여 일관되게 관리합니다.

정책 기반 자동화와 운영자 판단

반복 가능한 운영은 정책에 따라 자동화하고,
승인·예외 처리·운영 결정은 사람이 통제하여
자동화와 운영자 판단을 균형 있게 적용합니다.

운영 데이터의 지속적인 활용

운영 과정에서 축적된 데이터와
품질 정보를 분석·활용하여 AI 서비스의
지속적인 개선과 운영 최적화를 지원합니다.

Features

변화하는 AI, 통제 가능한 운영으로

효율적인 GPU 자원 운영

한정된 GPU 자원을
정책과 우선순위에 따라 운영

다양한 자원 운영 정책으로 한정된 GPU 활용도를 극대화하고,
사용자·그룹별 자동 할당·회수로 유휴 자원을 줄이고 필요한 곳에 즉시 배분합니다.
리소스 카탈로그 기반으로 워크로드에 적정 자원을 체계적으로 제공합니다.
또한 우선순위에 따라 작업 실행 순서를 조정해 GPU 효율적으로 공유합니다.

GPUNPU 자원 할당리소스 카탈로그 작업 큐

체계적인 AI 워크로드 운영

표준 개발환경과 자동화를 통한
AI 개발·학습 체계화

표준화된 개발·학습 환경과 자동화 기능으로 AI 개발 전반의 생산성을 높입니다.
1분 내 검증된 개발환경을 구성해 별도 준비 없이 빠르게 개발을 시작하고,
데이터 수집·전처리부터 모델 학습·배포까지 반복되는 작업을 자동화합니다.
하이퍼파라미터 튜닝으로 최적의 학습 조건을 탐색해 모델 성능 개선까지 지원합니다.

자동화데이터 파이프라인워크플로우워크스페이스하이퍼파리미터 튜닝

유연하고 안정적인 모델·서비스 운영

검증된 모델을
안정적인 AI 서비스로 운영

GUI 기반으로 LLM 성능을 손쉽게 개선·평가하고, 모델을 버전별로 관리합니다.
검증된 모델은 기존 서비스 중단 없이 안정적으로 배포·전환합니다.
또한 과도한 호출을 제한하고, 개인정보(PII)와 프롬프트 인젝션을 탐지·차단합니다.
이를 통해 부적절한 입·출력을 통제하고 신뢰도 높은 AI 서비스 품질을 유지합니다.

모델 평가한국어 벤치마크무중단 배포가드레일AI Gateway
운영 안정성

가시화된 AI 운영 통제

기업 보안·운영 정책 기반
안전한 AI 서비스 관리·통제

온프레미스·폐쇄망에서도 기존 보안 정책을 유지하며 AI 서비스를 운영합니다.
사용자 역할에 맞는 접근 체계로 주요 자산과 운영환경을 보호하고,
통제된 자원 배분으로 무분별한 사용과 자원 편중을 방지합니다.
운영 전반을 투명하게 추적해 안전성과 관리 책임을 함께 확보합니다.

On-premise폐쇄망RBAC 자원 요청 승인 대시보드감사로그

머신러닝과 인공지능을 위한
완벽한 통합 인공지능 플랫폼

Architecture

CHEETAH Workflow

Feature

AI 전주기를 효율적으로 진행할 수 있는 통합 환경을 제공합니다.

데이터 구축 및 처리

데이터 관리

  • 유형별(Git, 오브젝트 스토리지) 업로드

  • Object Storage기반 대규모 데이터셋

  • Git+LFS 기반 대용량 데이터셋 형상관리

  • 벡터DB(Weviate,Chroma,Qdant) 관리

데이터셋 처리/연계

  • 데이터 Import를 통한 외부 DB 수집

  • 데이터 수집/전처리 파이프라인 자동화

  • Annotation/Labeling 환경 제공

  • 필요 시 자신의 개발환경에 즉시 추가

  • 사용자간 데이터셋/볼륨 공유

AI 모델 개발 및 관리

AI 개발환경 관리

  • 약 40종의 버전별 개발 도구가 탑재

  • GUI 기반의 모델 파인튜닝/평가 환경

  • SSH/JupyterLab/Vscode 환경 제공

  • 커스텀/외부 이미지 생성 및 공유 가능

모델 관리

  • Git+LFS 기반 대용량 모델 형상관리

  • AI 모델은 다른 사용자들과 자유롭게 공유

  • 임베딩 모델 업로드 및 공유

  • 모델의 버전 및 플러그인, 노트북 관리 지원

AI 모델 배포 및 운영

AI 모델 배포/운영

  • Triton 기반 멀티 백앤드(Pytorch 등) 및 Vllm, TensorRT-LLM, TEI 등 모델 별 최적화된 배포 체계 제공

  • 배포 설정 시 레이아웃 자동 맞춤 지원

  • 모델 배포 시 Endpoint 자동 생성

  • JSON Web Token 자동 생성

  • 모델 성능 모니터링 대시보드 제공

  • Auto Scailing, Ratelimit, Trace LLM 등 지원

  • 외부 이미지 도입 시 안전한 보안점검 체계

인프라 관리

인프라 시스템 관리

  • GPU/Job/컨테이너/노드 모니터링

  • 수요에 따른 GPU 자원 할당 및 회수

  • 잡 스케줄링 및 멀티노드 클러스터링

  • 약 6종 이상의 학습 프레임워크 지원

사용자/자원 관리

  • 대시보드를 통한 직관적인 상태 확인

  • 권한에 따른 그룹/사용자별 자원 관리

  • 사용자 자원 요청 및 승인 관리

  • 정책에 따른 시스템 전반 관리

더 궁금한 점이 있으신가요?

에이프리카의 솔루션에 대해 상담이 필요하시면
언제든지 문의해주세요.