インターネット接続なし、オフラインで使える生成AI！製造業の現場で使えるChatGPTライクなローカルLLM活用方法

Q: ローカルLLMに社内の図面や検査記録を読ませても大丈夫ですか？

推論が手元で完結する構成であれば、入力した内容が社外に送信されることはありません。ただし、その端末を誰が使えるか、出力をどこに保存するかは別問題として残ります。社外送信のリスクが消えても、社内での持ち出しや共有の管理は必要です。

製造DX編集部

2024年3月22日公開2026年9月16日更新

インターネットに接続できない工場でも、生成AIは使えます。手元のPCや社内サーバーの中だけでモデルを動かす「ローカルLLM」という方式があり、無料のツールでモデルを一度ダウンロードしてしまえば、その後はネットワークを切ったまま対話できます。本記事は、無料で試すまでの手順と必要なGPUメモリの目安、そしてローカルLLMが向かない条件までを、製造現場を前提に整理します。

この記事の要点

オフラインで使える生成AI＝ローカルLLM。モデルの実体をPC内に置いて推論するため、入力した文章が社外に出ません。
完全にネット不要なわけではありません。モデルのダウンロードと更新のときだけ接続が要ります。ここを設計しないと「入れたが更新されない」状態になります。
無料で試すだけなら、ツールもモデルも無償で手に入ります。制約になるのはGPUメモリで、4bit量子化なら7〜8Bクラスが8GB前後、30B級で24GB前後が目安です。
使い分けの軸は「データをどこまで出せるか」。社内に閉じるならローカルLLM、経路だけ遮断できればよいなら閉域クラウド、契約と監査で足りるならクラウドサービスです。
向かないのは「出力の正しさを誰も確認できない業務」。閉じた環境ほど、誤りを見つける役目は社内にしか残りません。

この記事が支援する判断：製造業の情報システム担当・生産技術・設計の担当者が、社外にデータを出せない環境で生成AIを試すにあたり「まず手元のPCでローカルLLMを動かしてみるべきか、それとも最初から閉域クラウドや契約型サービスを検討すべきか」を決める場面を想定しています。機材を発注する前に、無償の範囲でどこまで確認できるのかを切り分けるための記事です。

セキュリティが厳しくて生成AIが使えない・・・

「ChatGPTを工場で使ってみたい！」
「プライベートでChatGPT使ってて便利だから仕事でも使いたい！」

と思っていても、製造業の現場はセキュリティが厳しく、
「工場内ではインターネットが使えないようなっている」
「ネットは使えるけど、仕事に関連する情報を送るようなWebサービスは禁止されている」

という状況は多いのではないかと思います。実務で問題になるのは、通信が物理的に遮断されていることそのものよりも、図面・部品表・検査記録・顧客名といった業務データを社外のサーバーへ送ってよいかが決まっていない点です。判断が付かないため、現場は「禁止」の側に倒れます。

図面はほぼ確実に機密情報にあたるため、アップロード前に入力データの取り扱い条件を確認することが前提になる。
チャットGPT（ChatGPT）で図面作成はできる？旋盤フランジ部品で検証した結果とJIS製図の限界【2026年最新】

インターネット接続なし、オフラインで使える生成AIがある！

本記事ではそういったインターネットに接続できない環境であっても、ChatGPTのような対話型AIを使うことができるローカルLLMについて紹介していきます。

ローカルLLMって何？

通常のChatGPTはウェブブラウザを介して、インターネット上のAIにテキストを送って回答してもらうようになっていますが、ローカルLLMは、PC内でローカルにオフラインでAIを動かせるようにして、そのAIを用いて回答生成が可能になるというものです。モデルの重み（学習済みのパラメータ）がファイルとして手元にあるため、推論の計算も手元で完結します。

登場当初はMeta社のLlama系が代表格でしたが、その後はGoogleのGemma系、AlibabaのQwen系、MicrosoftのPhi系など、重みが公開された（オープンウェイトの）モデルの選択肢が大きく広がりました。いずれも公式サイトやモデルライブラリからダウンロードでき、一度PCへ入れてしまえば、以降はネット無しで使えます。

ただし性能が無条件にクラウドの最新モデルと並ぶわけではありません。同じモデル名でもパラメータ数の違う版が複数あり、手元のGPUに載る小さい版を選ぶほど、長文の論理整合性や複雑な推論では差が出ます。「何B（ビリオン＝10億パラメータ）の版を動かせるか」が、そのまま使い勝手を決めます。

「オフラインで使える」はどこから成立するのか？

誤解が多いのはこの点です。ローカルLLMはモデルを取りに行くときだけネットワークを使い、それ以降の対話では通信しません。つまり「導入時はオンライン、運用時はオフライン」が正確な姿です。モデルを新しい版へ入れ替えるときは、再びこの入口に戻ります。

図1：ローカルLLMが「オフラインで使える」と言えるのは、モデルを取り込んだ後の段階

無料で試すには何が必要？——3ステップの手順

検討の前に、まず手元の1台で動かしてみるのが早道です。ツールもモデルも無償で入手でき、費用をかけずに「自社の文章でどの程度使えるか」を確認できます。

ステップ1：実行ツールを入れる

モデルの重みファイルだけでは動かないため、読み込んで推論を実行するソフトが要ります。代表的なのは Ollama（コマンドから扱う軽量な実行環境）と LM Studio（チャット画面がついたデスクトップアプリ）です。初めての1台ならLM Studioのように画面のあるものが確認しやすく、社内サーバーへ置く前提ならOllamaのように常駐させやすいものが向きます。

ステップ2：モデルを1つ選んでダウンロードする

最初の1本は7〜8Bクラスの日本語が扱えるモデルから始めるのが無難です。この段階だけインターネット接続が必要で、数GBのファイルを取得します。いきなり大きい版を選ぶと、GPUメモリに載らず極端に遅くなるため、小さい版で通しの動作を確認してから大きくする順序にします。

ステップ3：ネットワークを切って、自社の文章で試す

ここが本番です。回線を抜いた状態で応答が返ってくるかを必ず確認してください。その上で、議事録の要約・社内規定の問い合わせ回答・手順書のたたき台など、実際に自社で発生している文章を入れて試します。一般的な質問ではなく自社の文書で試さないと、業務で使えるかどうかは判定できません。

なおステップ3で試す業務の選び方そのものは、製造業でChatGPTは本当に使えるのか？——使える業務・使えない業務を切り分ける4つの条件【2026年版】で扱っている4条件（頻度・型・材料・確認可能性）がそのまま使えます。

必要なハードウェアはどれくらい？

動かすためのハードウェアとして、実用速度を出すにはNVIDIA製のGPUが事実上の前提になります。GPUとは、Graphics Processing Unitの略で3Dゲームの画像処理やAIの計算などに用いられている計算機です。GPUを搭載していないPCでも動かせなくはないのですが、計算時間が数十倍に伸びるため、実務で使うには厳しくなります。

制約になるのはGPUの「メモリ容量（VRAM）」です。モデルの重みがメモリに載りきらないと、速度が大きく落ちます。実務では4bit量子化（重みを圧縮して容量を減らす手法）を使うのが一般的で、その前提での目安は次のとおりです。

モデル規模	4bit量子化時のVRAM目安	現実的な機材	この規模で成立しやすい用途
3〜4Bクラス	4GB前後	ノートPC搭載GPU	定型文の整形、短文の言い換え
7〜8Bクラス	8GB前後	一般的なデスクトップGPU	議事録要約、社内Q&Aの一次回答
12〜14Bクラス	12GB前後	上位のデスクトップGPU	手順書のたたき台、長めの文書要約
30〜32Bクラス	24GB前後	ワークステーション向けGPU	仕様書ドラフト、複数文書の突き合わせ
70Bクラス	48GB前後（複数GPUも可）	サーバー機	部門共有での常用

表1：モデル規模とVRAMの目安（4bit量子化を前提に、パラメータ数から重みサイズを概算したもの・編集部整理）

これはあくまで重みを載せるための目安であり、実際にはこれに加えて入力文の長さに応じたメモリが要ります。長い文書をまとめて読ませる使い方をするほど、表の値より余裕を見る必要があります。発注前に、想定する文書量で実測してください。

ローカルLLM・閉域クラウド・クラウドサービスはどう使い分ける？

「社外にデータを出さない」を実現する方法はローカルLLMだけではありません。どこまで出せるかによって、選ぶべき方式が変わります。

図2：3方式の違いは「業務データがどこまで届くか」（編集部整理）

判断の軸	ローカルLLM	閉域クラウド	クラウドサービス
業務データの届く先	社内のみ	契約クラウド（経路は遮断）	契約クラウド（公衆経路）
初期にかかる手間	大（GPU調達と運用設計）	中（ネットワークと権限の設計）	小（契約とアカウント配布）
モデルの更新	自社で実施（担当が要る）	提供側が更新	提供側が更新
無償で試せる範囲	試用は無償。機材は自前	利用量に応じた課金	試用枠または月額
選ぶ理由になる条件	データを社内から出せない	経路さえ閉じれば許容される	契約と監査で足りる

表2：3方式の使い分け——「データをどこまで出せるか」から逆算する（編集部整理）

この3方式に「業務エージェント基盤ごと社内に置く」方法を加えた4分類での比較と、それぞれの選び方については ChatGPT（チャットGPT）はオフラインでは使えない——ローカルLLMなど機密情報を守る4つの方法と選び方【2026年版】で詳しく扱っています。本記事は「選んだあとに現場で動かす方法」、そちらは「4つの方式のどれを選ぶか」を担当します。

ChatGPTより実は仕事で便利なローカルLLM

ローカルLLMは性能面でクラウドの最新モデルに劣る場合があり、ハードウェアの制約もあるのですが、ネット無しで使えるという以外にもいくつか便利な側面があります。

生成速度が速いもしくは安定している
- インターネットを介さないので、テキスト出力までの速度が安定しているというメリットがあります。外部サービスの混雑や障害の影響も受けません。
専用モデルの使用
- モデルがオープンであるため、医療や法律といった専門的な領域に特化するようにチューニングされたパラメータが公開されています。用途を絞れば、小さいモデルでも十分な精度が出る場合があります。
モデルのカスタマイズ
- 専用モデルを自分たちで作ることもできます。学習データを自分たちで用意する必要がありますが、より自らが抱える課題に特化したAIを作成することができます。
費用が使用量で増えない
- 従量課金ではないため、社内で使う回数が増えても追加費用が発生しません。定型業務で回数が読める用途ほど、この性質が効きます。

モデルのカスタマイズなどは正にその会社に特化した課題解決に繋がるという意味ではとても有用なのではないかと思います。

ローカルLLMのチャットアプリ

こちらに関しては、下記サイトよりお問い合わせください。

https://spesill-local.studio.site

ローカルLLMが向かない条件・まだ早い条件とは？

社内に閉じられる点は魅力的ですが、次の条件に当てはまる場合は向かないか、少なくとも現時点ではまだ早い判断になります。閉じることの代償は、更新と運用を自社で背負うことだからです。

当てはまる条件	なぜ向かないのか	代わりに取る手
出力の正しさを誰も確認できない業務	誤りに気づけないまま下流の判断へ流れる	人の確認を挟める業務から始める
GPUの調達・更新を担う担当が決まっていない	導入直後は動いてもモデル更新が止まり、陳腐化する	閉域クラウドかクラウドサービスで運用を外に出す
最新の一般知識を前提にした用途	ローカルモデルの知識は学習時点で止まる	クラウド型を使う
利用者を全社に広げる想定	同時利用数に応じて計算資源が要り、配布が重くなる	全社はクラウド型で配り、機密業務だけ閉じる
対象業務が月に数回しか発生しない	構築と維持の手間に対して効果が見合わない	当面は対象外にする

表3：ローカルLLMが向かない条件と、代わりに取る手

とくに1行目が実務では重くなります。閉じた環境では、誤りを検出する役目がすべて社内に残ります。

閉じた環境では外部の目が入らないため、誤りを検出する役目はすべて社内に残ります。
ChatGPT（チャットGPT）はオフラインでは使えない——ローカルLLMなど機密情報を守る4つの方法と選び方【2026年版】

生成AIは、もっともらしく間違えます。下書きであれば読んだ人が気づいて直せますが、誰も検算しないまま次工程へ流れる業務では、間違いがそのまま製品に到達します。
製造業でChatGPTは本当に使えるのか？——使える業務・使えない業務を切り分ける4つの条件【2026年版】

よくある質問

オフラインで使える生成AIは無料で手に入りますか？

試すだけであれば無料です。実行ツール（Ollama・LM Studio など）も、オープンウェイトのモデルも無償で入手できます。費用がかかるのはGPUを備えた機材のほうで、手元のPCにGPUがあればまずはそこで確認できます。ただし業務導入の段階では、モデルのライセンス条件と運用体制の設計が別途必要です。

GPUがないPCでもローカルLLMは動きますか？

動きはしますが、CPUだけでは生成速度が大きく落ちるため、実務で使い続けるのは難しくなります。動作確認としては成立するので、「まず動くか見たい」段階なら小さいモデルで試す価値はあります。日常的に使う想定であればGPUを前提に検討してください。

ローカルLLMに社内の図面や検査記録を読ませても大丈夫ですか？

推論が手元で完結する構成であれば、入力した内容が社外に送信されることはありません。ただし「その端末を誰が使えるか」「出力をどこに保存するか」は別問題として残ります。社外送信のリスクが消えても、社内での持ち出しや共有の管理は必要です。

導入したあと、モデルは更新しなくてよいのですか？

更新は必要です。オープンウェイトのモデルは新しい版が継続的に公開されており、放置すると相対的な性能差が開きます。更新のたびに図1の①へ戻るため、誰がいつ入れ替えるのかを導入時点で決めておくことが、運用が止まらないための条件になります。

まとめ

インターネット無し、オフラインでも使えるChatGPTのようなAI、ローカルLLMについて紹介しました。無償のツールとモデルで、費用をかけずに手元の1台から試せます。確認すべきは、回線を切った状態で応答が返ること、そして自社の文書で使いものになるかの2点です。

一方で、閉じることには更新と検証を自社で背負う代償があります。出力を確認できる業務から始め、GPUと更新の担当を決めてから広げる——この順序を守れば、導入したまま止まる状態は避けられます。弊社では、ローカルLLMの導入のお手伝いやハードウェアの選定、チャットツールの構築、カスタマイズなど、ローカルLLMに関する導入支援とツール開発を行っています。