M5Stack AI-8850 LLMアクセラレーション M.2モジュール (AX8850)

M.2 M-KEY 2242に適合したAIアクセラレータで、24 TOPS（INT8）の性能をもつAxera AX8850を内蔵しています。M.2 M-KEYの為、ラズベリーパイなど多くのホストデバイスに容易に多言語モデルやビデオ処理機能を付加できます。回転数制御機能付のアクティブクーラーや放熱性に優れたアルミ合金製のケースによりフル負荷が長時間続いてもケース内の基板を安定して冷却します。

C / Python 用APIで容易にCNN、トランスフォーマー、LLMなどを開発できるAXCLランタイムをサポートしており、またH.264 / H.265 8 Kといった高解像度画像を実時間処理できるAX8850のVPUを駆使することができます。

特徴

• PCIe 2.0 ×2レーンをサポート
• M.2 M-KEY 2242サイズ
• 高性能NPU
  • 24 TOPS（INT8）
• 8コア Cortex‑A55 1.7 GHz CPU
• インテリジェント冷却・電源システム
  • オンボードDC/DCコンバータ+PMIC（電源管理IC）
  • 回転数制御機能付のアクティブクーラー装備
  • 放熱性に優れたアルミ合金製のケースに格納
• ハードウェアビデオエンジン
  • H.264 / H.265：エンコード 8K（60 fps）、デコード 8K（30 fps）・・・32チャンネル 1080p パラレルデコードをサポート
• セキュアブート / 暗号化：AES / DES / 3DES / SHA‑256対応 ハードウェアセキュリティモジュール
• AXCLネイティブ：H.264 / H.265の同時エンコード / デコードを含むCNN、トランスフォーマー、CLIP、Whisper、Llama3.2、Qwen 2.5、InternVL2などのワンクリックオペレーション

仕様

動画

注意

• 動作時はケース表面が高温になる場合があります。やけどに御注意下さい。
• ラズベリーパイ等に接続する場合は非PDタイプのスイッチングACアダプタ（5 V、3 A以上）を御使用下さい。PD電源はUSB電源プロトコルの問題から最大電圧が出力される可能性があります。
• USB-M.2変換アダプターには対応していません。
• 現時点でサポートされているOSは、Ubuntu24.04、Ubuntu22.04、Ubuntu20.04、Debian12です。WindowsやmacOSはサポートされていません。

資料

• ドキュメント
• 外形図
• クイックスタートガイド