ON-PREMISE LLM SOLUTION

日本企業の現場で
使える生成AIを

セキュリティ・コスト・日本語精度の壁を超え、
生成AIを業務に定着させる
オンプレミスAIソリューション
“aiDAPTIV+(アイダプティブ・プラス)”

aiDAPTIV+ 製品イメージ

生成AI導入で、
こんな壁にぶつかっていませんか?

( Security )

セキュリティの壁

クラウドにデータを出せない(出したくない)
セキュリティ・ガバナンスへの不安が拭えない
( Cost )

コストの壁

利用量に比例してコストが膨らみ、予算が読めない
GPUやインフラ構築のハードルが高い
( Quality )

精度の壁

日本語や専門用語の精度が不十分
RAGだけでは業務品質に届かない
( Operations )

運用の壁

PoCで止まったまま、本番運用に進めない

1つでも当てはまるなら、

解決策になります。

なぜ、日本企業の
オンプレミスLLM活用は
難しいのか

「最初の一歩」のハードルが
高すぎる現状があります。

物理的制約

インフラの構造的課題

  • ハイエンドGPUサーバー(DGX H100等)は数千万円規模の初期投資
  • 消費電力8kW超、冷却設備・設置スペースの確保が必要
  • 大規模モデルの稼働に必要なVRAMが圧倒的に不足
運用的制約

セキュリティとデータ主権の構造的課題

  • 製造図面・カルテ・住民情報など、外部に出せないデータが業務の核心
  • ビジネスのスピード感と情報システム部門のリスク管理が衝突
  • 「クラウドNG」の一言でプロジェクトが停止してしまう
AI専用高速SSD

GPUのメモリ不足から
解放します

GPUを買い足すのではなく、専用に開発されたミドルウェアとSSDでメモリ空間を拡張、標準的なワークステーションで巨大なLLM学習を可能にします。

フルファインチューニング
必要な理由

RAGの限界

「検索」はできても「理解」ができない

RAGの限界
課題 1

外部知識の参照はできても、思考回路(ロジック)や口調は汎用モデルのまま

課題 2

社内用語・業界の暗黙知を文脈として理解できない

課題 3

回答精度にばらつきが出やすく、現場の信頼を得にくい

フルファインチューニングの価値

AIを「自社仕様」に育て上げ、実戦投入へ

フルファインチューニングの価値
解決策 1

企業の「脳」そのものを再教育し、自社専用AIを育成

解決策 2

敬語・専門用語・社内ルールをモデルの深層に定着

解決策 3

複雑な指示なしで常に意図通りの回答を実現し、日々の微調整にかかる運用コストを劇的に削減

なら

「セキュリティの壁」も突破

オンプレミス環境により、
機密データを外部に出さない究極の自社専用AI構築を実現します。

こんな企業・部門に選ばれています

製造業

過去のトラブル報告書や技術図面を学習させ、品質保証(QA)の自動化やベテラン技術者のナレッジ継承を実現。

医療機関

院外に出せない電子カルテデータを活用。院内ポリシーに準拠したQAボットや、医療用語の解釈補助にセキュアなAIを導入。

公共・自治体

住民情報や条例などの内部規定を安全に活用。窓口業務の支援ボットを情報漏洩リスクなしで運用。

スモールスタートから全社展開へ

初期投資(CapEx)を最小化し、将来の拡張性を担保します。

Phase 1

PoC(最小構成)

aiDAPTIV+搭載ワークステーション1台でPoC開始。低リスク・低コストで有効性を検証。

Phase 2

実用化検証

PoCの成果をもとに、データ主権を確保したまま運用フェーズへ移行。業務適用範囲を段階的に拡大。

Phase 3

全社AI基盤化

部門展開・複数拠点へのスケールアウト。自社の情報資産を最大限に活用する全社AIインフラへ。

セキュアで低コストなオンプレミスAI基盤を、
今日から検討しましょう。

使いやすさ

家庭、オフィス、教室、またはデータセンターに簡単に導入可能。省スペース設計で、一般的な電源と冷却システムで使用可能。

コマンドラインからのアクセス、もしくは直感的なGUIを利用してのアクセスが可能。モデルの取り込み、ファインチューニング、検証、推論をオールインワンのツールセットで実行可能。

AIトレーニングPCでLLMトレーニングを学ぶ

個人や企業向けに費用対効果の高い AI トレーニングPCを提供することで、単なる推論の学習にとどまらず、モデルのファインチューニング方法も習得可能。これにより、LLMトレーニングの技術人材不足を解消し、独自データを活用したトレーニングを容易に実現。

ソリューションの紹介

モデルスケールは
無限に拡張可能

追加の人員やインフラストラクチャを必要とせずに、大規模なデータ モデルを簡単にトレーニングできるワンストップ ソリューション。ノードを柔軟に拡張してデータ量を直線的に増加させ、トレーニング時間を短縮します。

ソリューションの紹介

エッジコンピューティングと
ロボティクス向けIoT

NVIDIA Jetson IoTデバイスは、Phison aiDAPTIV+ を活用して最初のトークンリコール時間を短縮し、推論パフォーマンスを向上させます。さらに、トークン長を拡張することで、より長く正確な回答を可能にします。また、aiDAPTIV+ によりJetson IoTデバイス上でのLLMモデルのトレーニングが可能になります。

ソリューションの紹介

AIノートパソコン

GPUとPhison aiDAPTIV+ を搭載したAIノートパソコンを使用することで、個人は自宅やオフィス、教室でLLMのトレーニング方法を学ぶことができます。また、トレーニング済みのLLMをオンプレミスで運用し、自身のデータを活用したモデルにより、推論プロンプトに対するより適切な応答を得ることができます。aiDAPTIV+ を使用すると、プロンプトリコール時間が短縮され、より多くのコンテキストを処理できるため、より長く正確な回答を生成できます。

ソリューションの紹介

ファイソンaiDAPTIV+
LLMトレーニング統合ソリューション

コマンドラインを使用するか、直感的なオールインワンの aiDAPTIV+ Pro Suite を利用して LLM トレーニングを実行します

対応モデル

  • Llama, Llama-2, Llama-3, CodeLlama
  • Vicuna, Falcon, Whisper, Clip Large
  • Metaformer, Resnet, Deit base, Mistral, TAIDE
  • さらに多くのモデルを対応する予定です。

and/or

内蔵メモリ管理ソリューション

シームレスな PyTorch 互換性を体験し、AI アプリケーションを調整する必要がなく、ノードを簡単に追加できます。システム サプライヤーは、AI100E SSD、ミドルウェア ライブラリの認証とシステムのスムーズな統合を支援する ファイソンの包括的なサポートを利用できます。

メリット

  • 簡単に実装
  • AI アプリケーションを変更する必要はありません
  • 既存のハードウェアを再利用するか、ノードを追加します

aiDAPTIV+ ミドルウェア

  • モデルを分割して各GPUに割り当てる
  • aiDAPTIV キャッシュ上で保留中のスライスを保持する
  • GPU 上で保留中のスライスを完了したスライスと交換する

システム統合

  • ai100E SSDを使用可能
  • ミドルウェアデータベースライセンス
  • ファイソンの総合サポートサービス

and

GPU メモリとのシームレスな統合

ファイソンaiDAPTIVCache とミドルウェアは GPU メモリを拡張でき、PC には320 GBの追加メモリ、ワークステーションとサーバーには最大 8 TB の追加メモリを提供し、低遅延の LLM トレーニングをサポートします。さらに、業界をリードする100 DWPD という極めて高い耐久性を備え、特別な設計でファイソンの高度なNANDエラー訂正アルゴリズム技術をサポートしています。

シームレスで完璧な統合

  • GPUメモリ容量を拡張するために最適化されたミドルウェア
  • 2x 2TB aiDAPTIV キャッシュ、70B モデルをサポート
  • 低遅延

高耐久性

  • 業界をリードするDWPD
    5 年以内に 1 日あたり 100 回の書き込み
  • 高度な NAND 修正アルゴリズムを備えた SLC NAND

推論の向上

aiDAPTIV+ は、最初のトークンリコール時間を短縮することで、推論体験を向上させます。さらに、トークン長を拡張することで、より長く正確な回答を提供するためのコンテキストが増加します。

モデルの無限の可能性を解き放つ

aiDAPTIV+ はフラッシュ メモリと DRAM を統合することでより大きなメモリ リソースを提供するため、モデルサイズは GPU グラフィックス カードの HBM やGDDR メモリの容量によって制限されなくなります。

これにより、大規模なモデルをトレーニングし、かつては大企業やクラウド サービス プロバイダーのみが利用できたコンピューティング需要をより手頃な価格で実行できるようになります。

リソース

aiDAPTIV+紹介動画_技術責任者正田インタビュー

aiDAPTIV Nextorageインタビュー

よくあるご質問(FAQ)

Q1. なぜクラウドでなくオンプレなのですか?

製造データ・図面・顧客情報など社外に出せないデータを扱う現場ではクラウドAPIに送れないケースが多く、情報漏洩を避けるためオンプレで完結させる必要があります。aiDAPTIV+は自社サーバー内でLLMの学習・推論を完結し、データを外部に出しません。

Q2. 導入費用やGPU要件は?

通常は大規模モデル学習に多数の高価なGPUが要りますが、aiDAPTIV+はシステムメモリとSSDでGPU不足を補い、必要GPUを低水準に抑えます。既存GPUを活かせるかも含め、オンプレAI導入診断で試算できます。

Q3. 自社のどんな業務に使えますか?

製造業では「不良の原因分析」「ベテランの技能・暗黙知の継承」「設備マニュアルや社内文書の自然言語検索」等の相談・実績が多い領域です。まず貴社のデータとテーマで「どこから使えるか」を導入診断で見極めます。

Q4. 自社データでファインチューニング(追加学習)できますか?

できます。aiDAPTIV+は自社ハード内でファインチューニングを完結でき、社内データを外に出さずモデルを自社業務に最適化できます。

Q5. いきなり本格導入せず小さく試せますか?

「オンプレAI導入診断(30万円〜・約1ヶ月)」でヒアリング中心にPoC計画・概算まで短期間で見極められます。データ実物の提供は不要(NDA前でも着手可)です。

Q6. 導入までどのくらいかかりますか?

診断→PoC→本導入と段階的に進めます。診断は約1ヶ月。規模により異なるため、まず診断で貴社に合った進め方を提案します。

さらに詳しく知りたい方は、お気軽にお問い合わせください。