ATOM™-Max Server
大規模AI推論向けの高性能サーバー
単一サーバーで始める大規模AI推論
ATOM™-Maxサーバーは高効率の電力設計を基に、単一サーバーのみで大規模AI推論を安定的に行います。 ATOM™-Max NPU Cardは最大8枚で構成可能で、数百種類のAIモデル(Vision AI、LLM、Multi-Modal AI、 Physical AIなど)と主要なAIサービスの運用ツール(vLLM、Triton、K8sなど)に対応します。GPUで使い慣れた開発環境をそのままで利用できますので、チュートリアルを見ながら気軽に始めてみてください。
1,024 TFLOPS
Peak Performance
FP16基準で最大の演算性能
512GB, 8TB/s
GDDR6 Memory
大容量・高帯域幅のメモリー
Typical ~3.4kW
Max Power Consumption 4.3kW
エネルギーの最適設計
4U
Form Factor
データセンターの最適化
Compatible Software
OS
Ubuntu, RHEL, AlmaLinux, Rocky Linux
Frameworks & Tools
Hugging Face, PyTorch, TensorFlow, Triton
Inference Serving
vLLM, Triton Inference Server, TorchServe
Orchestration
Docker, OpenStack, Kubernetes, Ray
Performance at
Any Scale
ユーザーからのリクエストが急増してもサービスの性能は落ちません。
大規模AIサービスを実現するために、ATOM™-Maxサーバーは、サーバー1台で毎秒数千個のトークンを生成し、毎秒数千フレームを分析するなど圧倒的な性能を誇ります。
Sustainable
AI Infrastructure
サーバールーム内の限定的な電力容量でも、最大のAI推論能力を提供します。ATOM™-Maxサーバーは、高い電力効率でAIインフラの総所有コスト(TCO)を大幅に削減でき、持続可能なAIビジネス環境を実現します。
Full-stack
Software Support
ATOM™-Maxは、最も活用率が高いオープンソースソフトウェア(OSS)生態系と互換性を持っています。大量のリクエストにも効率よく対応し、柔軟なリソース運用およびモニタリング向けのさまざまなAIサービスの運用ツール( vLLM、 Triton Inference Server、K8s、Prometheusなど)を通じて、end-to-endサービスが構築できます。
Variety of
Models and Applications
LLM、Vision AI、Multi-Modal AI、Physical AIなどの数百種類の最新AIモデルを即時に利用できます。チャットボットや企業向けの検索エンジン、要約·分析、AI監視カメラ、さらには画像や動画生成サービスまで、企業のニーズに合わせたAIサービスをご提供頂けます。
Develop
As You Always Have
Rebellionsの新しいハードウェアを導入しても、使い慣れている開発環境を変更する必要はありません。
ATOM™-Maxはユーザーフレンドリーな開発環境を提供しますので、PyTorch、TensorFlowなどこれまで使っていた標準ワークフローのままで開発ができます。チュートリアルを見ながら簡単に始められます。
NPU로 구현하는 산업별 AI 혁신
Enterprise
확장 가능한 AI 인프라로 개발부터 운영까지
기업 전반 AI 도입 효율화
Construction
AI 기반 안전관제로
건설 현장 안전사고 선제적 예방
Healthcare
맞춤형 건강관리부터 정밀 의료 지원까지
AI 헬스케어 생태계 지원
Finance
안전한 실시간 금융 데이터 처리로
차세대 금융 서비스 인프라 구축
Manufacturing
Physical AI 기반 스마트 팩토리로
제조 생산성 혁신
Telecom
안정적인 대규모 AI 서비스 운영으로
차별화된 통신 서비스 구현 및 고객 만족도 향상
Rebellions SDK
Deploy with Confidence from Day One.
기존 PyTorch 코드 그대로,
익숙한 개발 환경 제공
vLLM을 통한
최적의 스케줄 서빙
Triton을 비롯한
수많은 Dev 도구 지원
복잡한 설정 없이,
손쉬운 배포
Driver SDK
NPU駆動のための基本的なシステムSWおよびツールを提供します。
NPU SDK
モデルおよびサービス開発のためのSWツールを提供します。
Model Zoo
Rebellions NPUですぐ使える300+ PyTorchとTensorFlowモデルをご利用頂けます。