
バイナリ重み付けニューラルネットワーク推論のFPGAアクセラレーション
White Paper FPGAアクセラレーション of Binary Weighted Neural Network Inference YOLOv3の特徴のひとつに、1枚の画像から複数の物体を認識することがあげられる。そのために
BittWare は、BittWareのXUP-P3Rアクセラレータ・カード用の100Gネットワーク負荷テスト・アプリケーション、StreamSurgeを提供します。StreamSurgeは、XUP-P3Rの所有者にコンパイル済みのビットストリームとして無償で提供され、ハードウェアのコストのみでカードをシンプルなネットワーク・テスト・ソリューションに変身させることができます。StreamSurgeのApp Noteはこちらです。
あらゆる帯域幅でのネットワーク・プロトコル・テストや、10GbEまでの負荷テストに対応したソフトウェア・ソリューションは既に存在しています。しかし、25G以上の帯域では、最新のマルチコアIntel Xeon CPUでも追いつかないため、専用のネットワークアクセラレーション ハードウェアが必要でした。
GPUはパケット処理に向かないため、選択肢はNIC ASICかFPGAソリューションに絞られる。ASICベースのアプライアンスの利点は、25~100Gbpsで、広範なテストに対応する多くの機能を提供できることです。しかし、100G専用アプライアンスは非常に高価で、FPGAカード1枚の何倍ものコストがかかることもあります。
また、FPGAベースのソリューションでは、ユーザーのニーズに合わせて必要な機能だけを、より低コストで設計することが可能です。
BittWare では、100Gネットワークの負荷テストについて、社内で2つの異なるユースケースを持っています:
いずれも、複数の100Gテスターを同時に稼働させる必要があるケースです。これらのテストに対応したASICテスターは存在しますが、1台あたり非常に高いコスト(XUP-P3Rカードの5倍以上)で複数台購入する必要があります。
その解決策として、テストに必要な機能を絞り込み、SmartNIC Shellを出発点として、StreamSurgeを構築しました。
SmartNIC Shellから始めたので、FPGAでパケットを操作するためのガスケットやその他の "配管 "はすでに用意されていました。さらに、ホスト・アプリケーションとのインターフェースにはDPDKデータ・ムーバーを使用しました。その結果、時間を大幅に節約することができ、チームはこのSmartNICアプリケーションの特徴であるネットワーク負荷テストに集中することができました。
テストのためには、FPGAの中にパケットジェネレータを作るか、FPGAを使いながら別のソースからのパケットを再生したりストリーミングしたりする手段を提供する必要がありました。私たちはこの2番目の道を選びましたが、再生とストリーミングの両方を可能にしました。再生する場合、ユーザーはまずソフトウェアやASICのソースからPCAPファイルにパケットをキャプチャします。その後、StreamSurgeはバッファからラインレートでPCAPファイルを再生することができます。
ストリーミングには、業界標準のDPDKホストインターフェイスを利用しています。これにより、XUP-P3Rはパケット生成ソフトウェアからは通常のNICカードに見え、送信と受信の両方でタイムスタンプが表示されます。XUP-P3Rには、これらの機能を備えた大容量DRAMバッファが搭載されています:
StreamSurgeとのインターフェースとして、私たちは "streamcli "というDPDKアプリケーションを作成しました。このコマンドラインツールは、上記のハードウェア機能をすべて制御します。さらに、PCAPファイルへのパケット受信、PCAPファイルの送信、IETF RFC 2544およびITU-T Y.1564テスト神話に基づくパターンでパケットバッファを満たすことができます。
XUP-P3Rカード2枚をGPS原子時計に同期させ、カード間の機器の遅延を測定するように設定したStreamSurgeを実際に使用した動画を公開しています。
ネットワークパケット処理では、CPUの性能に限界があり、ASICベースのソリューションが利用できない、実現不可能である、または目的のアプリケーションに対して高価である場合に、BittWare'のFPGAソリューションが役に立ちます。この場合、ASICベースのアプライアンスは十分な機能を備えていますが、継続的な統合テストや製造テストでは、装置コストによってできることが制限されます。
代わりに、BittWare XUP-P3Rカードが、100Gb/sでのネットワークテストに適したソリューションを提供します。カード所有者のために、StreamSurgeはビットストリーム(限られたチップ/カード構成のサブセットと互換性がある)として、BittWare Developerウェブサイトから無料で入手できます。
StreamSurgeの詳細は、App Noteから無料でダウンロードできますので、以下のフォームから今すぐ入手してください!
このページで紹介するのは、BittWare's StreamSurgeの紹介です。アプリノートには、さらに多くの詳細が記載されています!PDF版アプリノートへのアクセスをご希望の方は、フォームにご記入ください。
"*"は必須項目
White Paper FPGAアクセラレーション of Binary Weighted Neural Network Inference YOLOv3の特徴のひとつに、1枚の画像から複数の物体を認識することがあげられる。そのために
CUSTOM PRODUCT DEVELOPMENT Design + Manufacturing fromBittWare, a Molex Company Custom Product Development Design + Manufacturing fromBittWare, a Molex Company Build on our our own.
ホワイトペーパー FPGAアクセラレーション of Convolutional Neural Networks 概要 Convolutional Neural Networks(CNN)は、複雑な画像認識問題において非常に有効であることが示されている。
BittWare オンデマンド・ウェビナー エンタープライズクラスのFPGAサーバー:TeraBoxのアプローチ FPGAベースのカードは、データセンターとエッジコンピューティングのための重要なデバイスとして成熟しています。しかし、その一方で
45 South Main Street, Concord, NH 03301|コンコード、ニューハンプシャー州 603-406-6200 | 連絡先