サービスの詳細

社内だけで動く、自社専用の生成 AI

社内の文書やデータを外部のクラウドに送らずに、生成 AI で検索・要約・下書きができる環境をつくります。サーバーは御社の社内やデータセンターに置き、インターネットにつながない構成にもできます。

こんな課題はありませんか

なぜ閉域・オンプレなのか

• データが社外に出ない: 文書の取り込みも回答の生成も、御社の環境の中で行います。
• 外への通信を確かめられる: 外部と通信しない設定にし、残る通信があれば一覧にしてお渡しします。
• 費用を読みやすい: 機器と運用の費用が中心で、利用量に応じた課金が増え続けることはありません。
• モデルを自社で決められる: 使うモデルとバージョンを、御社の都合で選び、更新できます。

クラウドのほうが向いている場合もあります。 扱うデータに機密性がない、利用量が少ない、最新で最も高性能なモデルが必要、といった場合は、クラウドの生成 AI のほうが安く、手軽です。ご相談の段階で、どちらが向いているかを率直にお伝えします。

できること

• 社内文書の検索: 規程、マニュアル、報告書などから答えを探し、根拠になった文書を示します。
• 問い合わせの一次回答: 社内や取引先からのよくある質問に、文書をもとに答えます。
• 議事録や資料の要約: 長い文書の要点をまとめます。
• 文書の下書き: 過去の資料をもとに、報告書やメールの下書きをつくります。

提供範囲

• 要件の整理: 使う人、扱う文書、同時に使う人数、置き場所を整理します。
• 機器の選定: 用途と人数に合う GPU サーバーやワークステーションを選び、調達を助言します。今ある機器が使えるかも確かめます。
• モデルと推論サーバー: 日本語の性能と商用で使えるライセンスを確かめてモデルを選び、vLLM や Ollama で動かします。
• RAG（文書の取り込みと検索）: PDF や Office の文書を取り込み、Qdrant や pgvector で検索できるようにします。
• 利用者の画面: Open WebUI や Dify で、チャットやワークフローの画面を用意します。利用者数やロゴの扱いなど、ライセンスの条件も確かめたうえで選びます。
• 認証と権限: Keycloak で社内のアカウントとつなぎ、部署ごとに見られる文書を分けます。
• ログと監視: 利用のログを残し、GPU やサービスの状態を監視します。
• 運用と引き継ぎ: モデルの更新やパッチの適用を含めて運用をお引き受けします。構成のコードと手順書もお渡しします。

構成の目安

規模は、社員の数ではなく「同時に使う人数」と扱う文書の量で決めます。

• 小さく試す: GPU を1枚積んだワークステーション。少人数で効果を確かめます。
• 部署で使う: GPU を1〜2枚積んだサーバー。認証やログを整えて、日々の業務で使います。
• 全社で使う: 複数の GPU を Kubernetes（NVIDIA GPU Operator）で管理し、利用者が増えても広げられる構成にします。

進め方

1. ご相談（無料）: 使いたい業務、扱う文書、社内の規程をうかがいます。
2. 小さく試す: 御社の文書の一部で、回答の質と速さを確かめます。
3. ご提案・お見積り: 機器、構成、範囲、運用を決めて、お見積りをお出しします。
4. 構築: 機器の設置から、モデル、RAG、画面、認証、監視までを構築します。
5. 運用: 文書の追加、モデルの更新、障害の対応などをお引き受けします。

期間は、機器が届くまでの日数によって大きく変わります。ご相談のときに目安をお伝えします。

運用と体制

設計から構築、運用まで、代表のエンジニアが一貫して担当します。運用の対応時間は平日 9:00〜18:00 です。構成はコードと手順書で残し、担当が変わっても引き継げる状態にします。

よくある質問