ライトアップ、社内データを外部に出さずにAI活用「ローカルLLM導入支援サービス」を提供開始〜オープンウェイトAI「Kimi K3」などに対応〜

ローカルLLMとは？企業が抱える課題を解決するAI活用法

「ローカルLLM」とは、外部の事業者が提供するAPI（アプリケーション・プログラミング・インターフェース）を経由せず、企業が自社で管理する環境の中にAIモデルそのものを設置し、運用する方式を指します。これにより、AIへの指示文であるプロンプトや社内文書の処理がすべて自社の管理下で完結するため、外部のAIサービスへ機密性の高い社内データを送信することなくAIを利用できる点が最大のメリットです。

このローカルLLMの基盤となるのが「オープンウェイトモデル」です。これは、AIの学習済みパラメータ（重み）が公開されており、企業が自社の環境にダウンロードして利用できるAIモデルのことです。近年、高性能なモデルでも自社設置が可能な選択肢が増えており、Kimi K3のような大規模モデルもその一つとして注目されています。

これまで、ローカルLLMの導入支援は大規模なシステム構築（SI）が中心で、潤沢な予算を持つ大企業が主な対象でした。しかし、社内に機密情報を抱えながらも、AIによる効率化の余地が大きい中小企業や、予算・専門人材の不足、導入後の運用定着に課題を感じている企業は少なくありませんでした。

ライトアップの「ローカルLLM導入支援サービス」は、こうした企業の「予算の壁」「人材の壁」「定着の壁」を乗り越え、規模や業種を問わずAI活用を可能にすることを目的としています。

「ローカルLLM導入支援サービス」の具体的な特徴

このサービスは、単にAI環境を構築するだけでなく、企業の業務に深く根差したAI活用を支援します。主な特徴は以下の通りです。

1. 業務に応じた最適なモデル選定

Kimi K3の導入を前提とせず、対象業務の内容、求められる精度、処理速度、費用、扱うデータの条件などを詳細に確認します。その上で、K3を含む複数のオープンウェイトモデルの中から、その業務に最も適したモデルを評価・選定します。モデルを導入すること自体が目的ではなく、業務で具体的な成果を出す状態を創り出すことを重視しています。

2. 各社の予算と規模に合わせた設計

大規模なシステム構築を一律に適用するのではなく、各社の業務量や予算に合わせた必要十分な構成を設計します。過剰なスペックを避け、「まず小さく始めて、効果を確認してから広げる」という段階的なアプローチを基本としています。これにより、初期投資を抑えつつ、リスクを低減しながらAI導入を進めることが可能です。ローカルLLMの実機検証には、モデルの規模に応じてGPU（画像処理装置）などの計算資源が必要になる場合がありますが、これらについても個別に見積もりを行います。

3. 環境構築から業務への組み込み、運用定着まで一貫支援

AIが動作する環境（箱）を用意して終わりではありません。社内文書の検索・要約、日報や議事録の整理、問い合わせ対応など、実際の業務にAIを接続し、社内に定着させるところまでを支援します。ライトアップは、中小企業向けにAIエージェントを月間1,000体以上提供し、30種類を超えるAIサービスを自社で開発・運用してきた実績があり、実務での使い勝手を基準にモデルと構成を選定します。

導入支援の4つの工程

本サービスでは、お客様の環境にAI環境を構築するため、次の4工程を一貫して支援します。

選定: 業務内容、扱う情報の機密度、予算に応じて、最適なモデルと構成を選定します。
構築: 自社サーバー設置型、または専有クラウド型のいずれかで、AIが動作する環境を構築します。必要となるGPUなどの計算資源の手配についても、国内のGPUクラウド基盤との連携を含めて相談に応じます。
- 自社サーバー設置型: 自社内のサーバー・GPU環境にモデルを設置します。比較的小規模から中規模のモデルに適した構成です。
- 専有クラウド型: Kimi K3のような大規模モデルは、動作に相応の計算資源を必要とします。この場合は、他社と共有しない専有のクラウド環境を用意し、外部との通信を制限した構成で運用します。自社設置と同様に、社内データを外部のAIサービスへ送信することなく利用できます。
- 組み込み: 社内文書の検索・要約、日報・議事録の整理、問い合わせ対応など、実際の業務にAIを接続します。
- 定着: 利用状況の確認、モデルの入れ替え、社内の運用ルール整備を継続的に支援します。

想定される活用シーン

特に、外部に出しづらい情報を扱う業務において、本サービスのメリットが活かされます。

金融機関: 外部に出せない顧客情報や審査関連資料の処理。
製造業: 設計図面や仕様書の検索・要約など、社外に出せない技術情報の処理。
士業（税理士・社会保険労務士・行政書士等）: 顧客から預かる書類の整理・下書き作成。
医療・介護: 記録の要約、引き継ぎ資料の作成。
人事・総務、自治体・公共関連: 人事情報や外部送信に制約のある文書の処理。

ライトアップの強みと今後の展望

ライトアップは、各社の予算と規模に合わせた設計を前提とし、「小さく始めて広げる」進め方を基本としています。また、15万社の顧客データベースと全国1,500社の代理店ネットワークという提供基盤を有しています。「全国、全ての中小企業を黒字にする」というビジョンのもとで培ってきたこの基盤を土台に、規模や地域を問わずAI導入支援を届けてまいります。

今後は、業種別の構成テンプレートの整備や、ライトアップが提供する各種AIサービスとの連携を段階的に進めていく予定です。