LLM とマルチモーダルモデルをエッジ側ホストで実行し、HMI、センサー、コントローラを軽量な「シンクライアント」に格下げします。1 台のホストが工場・ホテル・家庭全体の AI ワークロードを担い、フロント機器を薄く保ちながらあらゆるシナリオへ AI をもたらします。
Bestom はコアボードを売るだけではありません——エッジ AI ホスト＋シンクライアント＋エッジ・クラウド協調という完成した AI 変革ソリューションを提供し、あらゆる小規模商用・産業シナリオにそのまま導入できます。1 つのハードウェア基盤が「知覚—推論—実行—フィードバック」の全チェーンをカバーします。
推論をフロントから単一のエッジホストへオフロードすることが、産業・商用・ホスピタリティ・家庭環境へ AI をもたらす最も実践的な道です。
タッチ・表示・センシング・プロトコル処理は RK3506 などの低消費電力コントローラへ移り、推論はエッジホストで実行。完成品の BOM と熱負荷がともに下がります。
1 つの工場・ホテル・家庭が単一のホストと単一のモデルセットを共有し、振る舞いと知識が全端末で共有されます。
音声・画像・行動データは現地で理解・判断され、機密情報がサイト外に出ることはありません——工場とホテルのコンプライアンス要件を満たします。
ローカル推論はネットワーク障害時も継続し、重要シナリオ（産業制御・ホテルチェックイン・インシデント対応）が途絶しません。
1.7B–4B モデルはローカルで、7B+ と長コンテキストはエッジ・クラウド協調——必要に応じて処理を追加、コストと体験のバランス。
ホストのチップを差し替えるだけで、前面機器全体のネットワークを一斉にアップグレード。フロントのハードウェア作り直しは不要です。
メインコントローラサンドボックス＋エッジ側ブレイン＋エッジ・クラウド協調。1 つのハードウェア基盤が「知覚—推論—実行—フィードバック」の全チェーンをカバーします。
| 層 | 主要チップ | 責任 | 代表的機能 |
|---|---|---|---|
| メインコントローラサンドボックス Main Sandbox |
RK3576 / RK3588 (CPU + GPU + NPU) |
汎用演算、システムスケジューリング、エージェントフレームワーク、知覚入力／実行出力、プライベートデータ保存 | Agent OS / Claw フレームワーク ・ 汎用開発基盤 ・ 複雑な業務オーケストレーション |
| エッジ側ブレイン Edge Brain |
RK1828 (LLM NPU) |
大規模言語／マルチモーダルモデルのローカル推論、ローカル・スキル実行、プライベートデータ処理 | 4B モデル、32K コンテキスト ・ 10K 以内のローカル・スキル呼び出し ・ 単純タスクのローカル・クローズドループ |
| エッジ・クラウド Edge–Cloud |
クラウド大規模モデル トークン枠 | 複雑なタスク計画、深い長コンテキスト推論、オンデマンド演算追加 | 7B+ 長コンテキスト ・ クロスドメイン知識ベース ・ 学習／微調整フィードバック |
| フロント・シンクライアント Thin Clients |
RK3506 / RK2116 / RV1106B など | タッチ、音声 I/O、センサー取得、電動機制御、ローカル前処理 | 86 ボックスパネル ・ マッサージチェアパネル ・ IPC ・ 産業 PLC パネル ・ ホームセントラルコントロール |
RK1828 は大規模言語／マルチモーダル推論専用に設計され、CPU のみの経路の 6–10 倍の速度を実現します。以下は W4A16／W8A8-3 量子化、1024 トークンコンテキスト、入力 128／出力 128 で計測。
| プラットフォーム | モデル | 量子化 | TTFT (ms) | Prefill (tok/s) | TPS (tok/s) | メモリ (MB) | 帯域 (MB/s) |
|---|---|---|---|---|---|---|---|
| RK182X | Qwen3.5-2B | W4A16 | 362.7 | 352.9 | 41.13 | 1510 | 82 378 |
| Qwen3-1.7B | W4A16 | 53.6 | 2387.5 | 137.98 | 1333 | 16 150 | |
| Qwen3-4B | W4A16 | 107.8 | 1187.5 | 84.10 | 2696 | 220 029 | |
| RK3588 | Qwen3.5-2B | W8A8-3 | 923.3 | 138.6 | 12.76 | 2109 | 27 442 |
| Qwen3-1.7B | W8A8-3 | 429.3 | 298.2 | 13.88 | 1934 | 26 904 | |
| Qwen3-4B | W8A8-3 | 1012.0 | 126.5 | 6.75 | 4184 | 28 817 | |
| RK3576 | Qwen3.5-2B | W4A16 | 1726.7 | 74.1 | 9.41 | 1462 | 11 315 |
| Qwen3-1.7B | W4A16 | 807.7 | 158.6 | 11.32 | 1271 | 11 620 | |
| Qwen3-4B | W4A16 | 1733.1 | 73.8 | 5.57 | 2460 | 12 386 |
RK1828 + RKNN3 ツールチェーンは、言語・音声・ビジョン・マルチモーダル・オムニモーダルの各モデルファミリをカバーします。
| カテゴリ | 代表的モデル |
|---|---|
| LLM | Qwen2.5-0.5B/1.5B/3B/7B ・ Qwen3-0.6B/1.7B/4B/8B ・ GLM Edge ・ Hunyuan-MT1.5 ・ Youtu-LLM |
| 音声 ASR / TTS | SenseVoice ・ Qwen3-ASR / TTS ・ Whisper ・ VITS |
| マルチモーダル / VLM | Qwen3.5-9B ・ Gemma4-12B ・ Qwen2.5-VL 3B/7B ・ Qwen3-VL 2B/4B ・ Qwen3.5 2B/4B ・ MiniCPM-V-4 ・ PaddleOCR |
| オムニモーダル | Qwen3-Omni ・ Qwen3.5-Omni ・ Gemma4-E2B / E4B |
| カテゴリ | 代表的モデル |
|---|---|
| ビジョン ViT / CNN | SigLIP 1/2 ・ EVA02 ・ DINOv2/v3 ・ CLIP ViT-B/L ・ Yolo V5/V6/V8/World/26 ・ MobileNet ・ ResNet |
| 深度 / 位置推定 | Depth-Anything-V2-small ・ LocateAnything-3B |
| Embedding | M3E-small ・ Albert-base-v2 |
| Reranker | Qwen3-0.6B-Reranker ・ Qwen3-4B-Reranker |
| テキスト→画像 | Dream-Lite |
RKNN3 は「モデル→オンデバイス実行可能」を単一コマンドにし、カスタム演算子と超低メモリ変換を提供します。
顧客は専用業務シナリオ向けに独自の推論演算子を開発でき、モデルと異種アクセラレーションの自由度を拡張します。
サードパーティ whl パッケージのバージョン制限を撤廃し、環境構築を簡素化、モデル変換に必要な GPU メモリを大幅に低減。コンテキスト長の変更が容易で、評価／展開モードをワンクリックで切り替え。
W4A16／W8A8-3 など多段階量子化レベルを精度と速度で自在に切り替え。
1 モデルを RK1828 NPU と RK3588／RK3576 CPU/GPU/NPU の両方へパッケージ化し、ホストチップ構成に柔軟に合わせられます。
最新の RKNN3 対応：オムニモーダル、マルチモーダル、ビジョン特化。
| カテゴリ | モデル | 処理能力 | 備考 |
|---|---|---|---|
| オムニモーダル | Qwen3-Omni | 86 TPS | ローカルオムニモーダル対話 |
| Qwen3.5-Omni | 62 TPS | 強化版オムニモーダル | |
| Gemma4-12B | 30 TPS | 大規模オムニモーダルモデル | |
| マルチモーダル VLM | Qwen3.5-4B | 50 TPS | 視覚言語 4B |
| Qwen3.5-9B | 35 TPS | 視覚言語 9B | |
| ビジョン特化 | Dream-Lite | 3.1 s / 画像 | テキスト→画像 |
| LocateAnything-3B | 102 TPS | 視覚位置推定＆参照 |
同じ「エッジホスト＋シンクライアント」基盤が汎用 AI 変革エンジンとなり、あらゆる小規模商用・産業シナリオにそのまま導入され、分散デバイスと知能を統一します。典型的な導入方向は以下のとおり。
客室／フロント／注文／行列を 1 台のエッジホストに統合。シン HMI と IoT 機器がシンクライアントに。バーチャルヒューマン受付、音声温度制御、人数カウント——すべて一箇所で。
ローカル音声入力、商品＆在庫のビジョンカウント、体温スクリーニング——データが店外に出ず、プライバシー準拠。
工場ごとに 1 台のホスト。PLC パネル／HMI／センサーがすべてシンクライアント化。推論を集中させ、アップグレードはホストのみに作用。
振動／温度／音のマルチモーダル異常検知をローカルで実行し、クラウドへ行かずに警告——オフラインでも動作。
家庭ごとに 1 台のホスト。HMI は薄いパネルを使用。全宅の音声／視覚理解がローカル・クローズドループで動作。
会議書き起こし、オフライン車載マルチモーダル、キャンパス内ローカルチューター——障害時も途絶しません。
200 室のホテルを例に、「エッジホスト＋シンクライアント」がいかに一度に AI 変革を完了するかを示します。
| 場所 | デバイス | 役割 | 主要機能 |
|---|---|---|---|
| 客室 × 200 | RK3506 86 ボックス／壁パネル | シンクライアント HMI | タッチ＋音声 I/O、照明制御、HVAC、カーテン、シーン、省エネ報告。デバイス上に大規模モデルなし |
| フロント／サーバー室 × 1 | RK3576 + RK1828 エッジホスト | ブレイン | バーチャルヒューマン受付 ・ RAG 知識ベース ・ 音声温度制御 ・ 入口人数カウント ・ シナリオ全体エージェント |
| 公共エリア／フロア | RK2116 オーディオモジュール | 空間オーディオ | マルチマイクアレイ取得 ・ 空間オーディオ ・ 遠距離ウェイクアップ ・ 部屋間音声ルーティング |
| 入口／廊下 | RV1106B / RV1126B IPC | エッジビジョン | 顔認証入退管理 ・ 人数カウント ・ 異常行動検知 |
「エッジホスト＋シンクライアント」の難所はチップ自体ではなく、エッジ・クラウド分割、プロトコル適合、現地導入です。Bestom は Rockchip 全ラインアップを通じた成熟したエンドツーエンド能力を持ちます。
RK3588／RK3576／RK3506／RV1106B／RK1828／RK2116 を一箇所で統合——複数サプライヤーの組み立て不要。
Qwen3 1.7B–4B から Qwen3-Omni の量子化・変換・オンデバイス展開のクローズドループ。
86 ボックス、マッサージチェアパネル、産業 HMI での実証済み「表示のみ」シンクライアント設計。
ローカル推論＋大規模モデル トークン枠のハイブリッド構成。ネットワーク全体のグレースフル劣化とアップグレード経路。
産業／ホテル／家庭向けマルチプロトコル適合。統合された量産納入、DFM、熱シミュレーション、EMC。
CE／FCC／RoHS および医療関連登録ガイダンスへのアクセスで上市を短縮。
RK3588／RK3576／RK3506／RK1828 の SoM と開発ボード詳細。
シナリオとモデル要件をお持ちください。NRE、パイロット、認証のペースをともに検討できます。