ATOM™-Max Server

大規模AI推論向けの高性能サーバー

単一サーバーで始める大規模AI推論

ATOM™-Maxサーバーは高効率の電力設計を基に、単一サーバーのみで大規模AI推論を安定的に行います。 ATOM™-Max NPU Cardは最大8枚で構成可能で、数百種類のAIモデル(Vision AI、LLM、Multi-Modal AI、 Physical AIなど)と主要なAIサービスの運用ツール(vLLM、Triton、K8sなど)に対応します。GPUで使い慣れた開発環境をそのままで利用できますので、チュートリアルを見ながら気軽に始めてみてください。

1,024 TFLOPS

Peak Performance
FP16基準で最大の演算性能

512GB, 8TB/s

GDDR6 Memory
大容量・高帯域幅のメモリー

Typical ~3.4kW

Max Power Consumption 4.3kW
エネルギーの最適設計

4U

Form Factor
データセンターの最適化

Compatible Software

OS

Ubuntu, RHEL, AlmaLinux, Rocky Linux

Frameworks & Tools

Hugging Face, PyTorch, TensorFlow, Triton

Inference Serving

vLLM, Triton Inference Server, TorchServe

Orchestration

Docker, OpenStack, Kubernetes, Ray

Performance at

Any Scale

ユーザーからのリクエストが急増してもサービスの性能は落ちません。
大規模AIサービスを実現するために、ATOM™-Maxサーバーは、サーバー1台で毎秒数千個のトークンを生成し、毎秒数千フレームを分析するなど圧倒的な性能を誇ります。

Sustainable

AI Infrastructure

サーバールーム内の限定的な電力容量でも、最大のAI推論能力を提供します。ATOM™-Maxサーバーは、高い電力効率でAIインフラの総所有コスト(TCO)を大幅に削減でき、持続可能なAIビジネス環境を実現します。

Full-stack
Software Support

ATOM™-Maxは、最も活用率が高いオープンソースソフトウェア(OSS)生態系と互換性を持っています。大量のリクエストにも効率よく対応し、柔軟なリソース運用およびモニタリング向けのさまざまなAIサービスの運用ツール( vLLM、 Triton Inference Server、K8s、Prometheusなど)を通じて、end-to-endサービスが構築できます。

Variety of

Models and Applications

LLM、Vision AI、Multi-Modal AI、Physical AIなどの数百種類の最新AIモデルを即時に利用できます。チャットボットや企業向けの検索エンジン、要約·分析、AI監視カメラ、さらには画像や動画生成サービスまで、企業のニーズに合わせたAIサービスをご提供頂けます。

Develop

As You Always Have

Rebellionsの新しいハードウェアを導入しても、使い慣れている開発環境を変更する必要はありません。
ATOM™-Maxはユーザーフレンドリーな開発環境を提供しますので、PyTorch、TensorFlowなどこれまで使っていた標準ワークフローのままで開発ができます。チュートリアルを見ながら簡単に始められます。

NPU로 구현하는 산업별 AI 혁신

Enterprise

확장 가능한 AI 인프라로 개발부터 운영까지
기업 전반 AI 도입 효율화

Construction

AI 기반 안전관제로
건설 현장 안전사고 선제적 예방

Healthcare

맞춤형 건강관리부터 정밀 의료 지원까지
AI 헬스케어 생태계 지원

Finance

안전한 실시간 금융 데이터 처리로
차세대 금융 서비스 인프라 구축

Manufacturing

Physical AI 기반 스마트 팩토리로
제조 생산성 혁신

Telecom

안정적인 대규모 AI 서비스 운영으로
차별화된 통신 서비스 구현 및 고객 만족도 향상

Rebellions SDK
Deploy with Confidence from Day One.

기존 PyTorch 코드 그대로,
익숙한 개발 환경 제공

vLLM을 통한
최적의 스케줄 서빙

Triton을 비롯한
수많은 Dev 도구 지원

복잡한 설정 없이,
손쉬운 배포

Driver SDK

NPU駆動のための基本的なシステムSWおよびツールを提供します。

Firmware Kernel Driver User Mode Driver System Management Tool

NPU SDK

モデルおよびサービス開発のためのSWツールを提供します。

Compiler, Runtime, Profiler Hugging Faceに対応 主要な推論サーバーに対応 (vLLM, TorchServer, Triton Inference Server, etc)

Model Zoo

Rebellions NPUですぐ使える300+ PyTorchとTensorFlowモデルをご利用頂けます。

Natural Language Processing Generative AI Speech Processing Computer Vision Physical AI
このサイトは開発サイトとして wpml.org に登録されています。本番サイトキーに切り替えて remove this banner を実行してください。