什麼是 Air-gapped AI？
從工廠內網 LLM 說起

錯誤的寫法：依賴外部即時下載與 API 呼叫（離線環境直接崩潰）

# ❌ 在生產線執行此腳本會直接 Crash，因為無法與 PyPI 或 Docker Hub 建立連線
import os
import requests

# 1. 現場嘗試線上安裝缺失套件
# os.system("pip install requests langchain langchain-community") 
# ConnectionTimeoutError: Failed to establish a new connection...

# 2. 嘗試呼叫外部公有雲 API
def call_online_llm(prompt):
    api_key = "sk-xxxxxxxxxxxxxxxxxxxxxxxx"
    url = "https://api.openai.com/v1/chat/completions"
    headers = {
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json"
    }
    data = {
        "model": "gpt-4o",
        "messages": [{"role": "user", "content": prompt}]
    }
    
    # 這裡在 Air-gapped 環境下會直接丟出 ConnectionError
    response = requests.post(url, headers=headers, json=data, timeout=5)
    return response.json()

if __name__ == "__main__":
    try:
        res = call_online_llm("分析當前工廠測試機台異常日誌")
        print(res)
    except Exception as e:
        print(f"❌ 部署失敗：找不到外部網絡連接。錯誤詳情: {e}")

改良後寫法：分階段下載、本地加載模型與離線部署自動化

我們將整個部署拆分為「有網開發機」的下載腳本，與「無網生產機」的本地安裝載入腳本：

# 🚀 步驟一：【在有網路的 Office 開發機執行】下載腳本
# download_assets.sh
# ----------------------------------------------------
# 1. 下載所有 Python wheels（包含所有子依賴，強制使用 binary 避免現場編譯）
# pip download -d ./offline_wheels -r requirements.txt --only-binary=:all:
#
# 2. 拉取並保存 Docker 映像檔
# docker pull ollama/ollama:latest
# docker save -o ollama_image.tar ollama/ollama:latest

# 🚀 步驟二：【在無網路的 Air-gapped 生產機執行】本地加載與推論 Python 腳本
# run_local_llm.py
# ----------------------------------------------------
import subprocess
import os
from openai import OpenAI

def init_offline_environment():
    print("📦 正在執行本地依賴包離線安裝...")
    # 在生產主機本地安裝準備好的 wheels，不連網且忽略 index
    # subprocess.run(["pip", "install", "--no-index", "--find-links=./offline_wheels", "-r", "requirements.txt"])
    
    print("🐳 正在導入離線 Docker 映像檔...")
    # subprocess.run(["docker", "load", "-i", "ollama_image.tar"])
    
    print("✅ 本地運維環境就緒。")

# 使用 Ollama Modelfile 載入特許搬入的本地 GGUF 模型檔
# 本地 Modelfile 內容：
# FROM /app/models/qwen2.5-7b-instruct.gguf
# PARAMETER temperature 0.3
# SYSTEM "你是一位精通半導體測試機台日誌分析的資深助理。"

def run_local_inference(prompt):
    # 呼叫已經在生產網伺服器背景運行起的本地 Ollama 服務 (127.0.0.1:11434)
    client = OpenAI(
        base_url="http://127.0.0.1:11434/v1",
        api_key="ollama" # 本地推論無須外網金鑰
    )
    
    response = client.chat.completions.create(
        model="qwen2.5-7b-custom",
        messages=[{"role": "user", "content": prompt}],
        temperature=0.3
    )
    return response.choices[0].message.content

if __name__ == "__main__":
    # 模擬本地初始化與離線推論
    # init_offline_environment()
    
    log_sample = "ERR 2026-05-19 22:15:50 [SYS] Serial port write timeout on controller board XY-04."
    print("🤖 送出分析日誌請求...")
    analysis = run_local_inference(f"請分析以下機台錯誤並給出除錯建議：\n{log_sample}")
    print("\n=== 本地 AI 分析結果 ===")
    print(analysis)