BittWare パートナープログラム会員

GroqChip

リアルタイムAIアクセラレーション

超低遅延アプリケーション向けに設計された決定論的ML推論チップです。

MouserからGroqCard™ Acceleratorを購入!

主な特徴

完全決定論的プロセッサ

ラン・トゥ・ランのばらつきがなく、予測可能で再現性の高いパフォーマンス

230MBのオンダイメモリ

グローバルに共有可能な大容量SRAMにより、外部メモリなしでモデルパラメータに広帯域かつ低レイテンシーでアクセス可能

最大80TBのオンダイメモリ帯域を実現

帯域幅に敏感なアプリケーションのための大規模な並行処理とデータ
の並列性

9 RealScale™チップ間コネクター

外部スイッチを必要としない、ほぼリニアなマルチサーバー、マルチラックの拡張性

エンド・ツー・エンドのオンチップ・プロテクション

GroqChip™のデータパス全体でエラー訂正コード(ECC)を保護し、アップタイムと信頼性を向上させます。

PCIe Gen4 x16インターフェース

業界標準のインターフェースで最大31.5GB/sの双方向帯域幅を実現し、機器やネットワークの高速接続を可能にします。

スタートアップの準備はできていますか?

BittWare は、開発中であっても、デプロイの準備が整っていても、Groq AI推論を手に入れるためのいくつかの道を提供しています:

グロックカード

GroqCard™ アクセラレータ

Mouserを通じて入手可能なため、いつでもご利用いただけます。

TeraBox™(テラボックス

あらかじめカードが組み込まれた高密度サーバーと、包括的な保証を提供します。

カスタムカードを持つ男性

カスタムデザイン

BittWare は、30年以上にわたってカスタマイズされたソリューションとフォームファクターを提供してきました。

Ready, set, done.低遅延を保証します。

機械学習の推論において、GPUはレイテンシー、低シリコンリソース使用量、予測不可能なパフォーマンスにつながる非効率性に悩まされています。Groqは、予測可能で効率的、かつ低レイテンシーの推論を提供するために、AI深層学習チップを特別に設計しており、現在のワークフローに簡単に導入することができます。

統合のしやすさ、スケールアップのための構築

GroqCardは、手間をかけずに統合できるダブルワイドPCIeフォームファクタのMLアクセラレータです。GroqWareスイートは、ソフトウェア定義のハードウェア・アプローチに従っており、PyTorch、TensorFlow、ONNXで学習したディープラーニング・モデルを簡単に導入できます。

拡張性はGroqCardの中核機能であり、9つのRealScaleチップ間接続により、複数のカードを1枚と同じ効率で展開することができます。内部ソフトウェア定義ネットワークにより、実行ごとのばらつきがなく、予測可能で再現性の高いパフォーマンスを実現します。

でプログラミングを簡略化。

GroqWare™ Suite

GroqWare Suiteは、さまざまなHPCおよびMLワークロードを加速するために設計された、包括的で汎用性の高いソフトウェアスタックです。Groq™ Compiler、Groq API、Utilitiesで構成されるこのスイートは、オープンソースのドライバ/ランタイムと業界標準のAI/MLフレームワークのサポートにより、導入の実装を容易にする。

GroqFlow™ Tool Chain(GroqWare Suiteに含まれる)は、PytorchまたはTensorFlowのコード1行で、Groqハードウェア上で実行する完全自動化ツールチェーンを通じて既存のモデルのインポートと変換を可能にします。

GroqChipを横断するプログラムを見ることができます。

 

GroqChip™ Processorとは何ですか?

ゼロから作り上げたスケーラブルなプロセッサー を搭載し、AI、ML、HPCワークロードを加速させます。

革命的で完全に決定論的なGroqChipプロセッサーは、スケーラブルなパフォーマンスの中核となるものです。AI、ML、HPCワークロードを加速するためにゼロから構築されたGroqChipは、ボトルネックのない予測可能な低レイテンシーパフォーマンスのためにデータ移動を削減します。このスタンドアロンチップは、コンピュート集約型アプリケーションへの柔軟な統合を実現します。

GPUよりもはるかにシンプルなアーキテクチャで、ソフトウェアファーストにこだわって設計されているため、プログラミングがしやすく、低レイテンシーで予測可能なパフォーマンスを提供します。

主なアプリケーション

金融関係

科学と政府

インダストリアル

オイル&ガス

グロックカード

PCIeカード仕様

フォームファクター

デュアル幅、フルハイト、¾長さのPCI Express Gen4 x16アダプタ。

パフォーマンス

最大750TOP、188TFLOP(INT8、FP16 @900 MHz)

メモリ

230MBのSRAM(1チップあたり

最大80TB/sのオンダイメモリ帯域幅を実現。

チップスケーリング

最大9個のRealScale™チップ間コネクタを搭載。

数値

INT8、INT16、INT32 & TruePoint™ テクノロジー MXM: FP32
VXM: FP16、FP32

パワー

最大:375W、TDP:275、代表値:240W

PCIeをお探しでない

設計+製造 モレックスの会社であるBittWare から

BittWare は、お客様の展開に適したフォームファクターを設計・製造することができます。 

購入の準備はできていますか?

この製品は、Mouser Electronics社からオンラインでご注文いただけます。 Mouserのウェブサイトから見積もりを請求してください:

詳細な情報については、こちらをご覧ください。

Groq リアルタイムAIアクセラレーション の詳細については、フォームにご記入の上、お問い合わせください。