生成AIは「実験」から社会インフラへ――国防導入・EU規制・アカウント防御の最新動向

8月31日に公表・報道された情報を中心に、企業の実務に影響が大きい生成AIニュースを5件選びました。今日は新モデルの性能競争よりも、政府・企業への本格導入、規制、安全運用が主役です。生成AIが「試してみる技術」から、社会や業務を支える基盤へ移りつつあることが分かります。

1. 米国防総省、機密性を考慮した「ChatGPT Mil」を全省規模で導入

米国防総省は8月31日、生成AI基盤「GenAI.mil」にOpenAIのChatGPT Milを導入したと発表しました。管理対象非機密情報（CUI）を扱えるImpact Level 5（IL5）の認定を受け、300万人を超える同省職員を支援できる規模で提供されます。

米国防総省：Department of War Launches OpenAI’s ChatGPT Mil on GenAI.mil

重要なポイント

• チャット、ファイル、プロジェクト、カスタムGPTを安全な環境で利用
• 計画、政策、物流、管理など文書量の多い業務を想定
• 単一モデルに限定しないマルチモデル型の生成AI基盤を形成
• 生成AIが政府の実証実験から全組織向け業務基盤へ進んだ事例

実務への影響

企業でも、生成AIを導入する際の論点はモデル性能だけではありません。扱える情報の区分、アクセス権、監査ログ、データ保存場所、モデルの切り替えまで含めた運用基盤が必要です。社内AIを全社展開する場合は、部署ごとに個別導入するより、共通のゲートウェイと権限管理を用意する方が安全です。

2. EU、ChatGPTをデジタルサービス法の「超大規模検索エンジン」に指定

欧州委員会は8月31日、ChatGPTをデジタルサービス法（DSA）上の超大規模オンライン検索エンジン（VLOSE）に指定しました。ChatGPTがEU域内で月間平均4,500万人以上の利用者に到達したことを受けた措置です。

欧州委員会：Commission designates ChatGPT, Reddit, Roblox under Digital Services Act

重要なポイント

• ChatGPTが検索サービスとしてEUの直接監督対象に
• 2026年11月末までに追加的なDSA義務への対応が必要
• 違法コンテンツ、未成年者、心身の健康、基本権、選挙、公共安全などのシステムリスクを評価・軽減
• 独立監査や規制当局・認定研究者へのデータ提供も重要になる

実務への影響

生成AIサービスは「回答を作るソフトウェア」であるだけでなく、検索や情報流通を担うプラットフォームとして規制され始めています。EU向けにAIサービスを提供する企業は、利用者数の把握、リスク評価、通報対応、説明責任、監査可能性を製品設計の初期段階から組み込む必要があります。

3. Claudeのログインセッションを盗む情報窃取型マルウェアをAnthropicが警告

Anthropicは、一部のClaude利用者について、端末に感染した情報窃取型マルウェアがログイン済みセッションを盗み、第三者が利用枠を消費する被害を確認したと警告しました。Claude自体が感染経路ではなく、端末上の認証情報やCookieが狙われた事例です。

BleepingComputer：Anthropic warns infostealer malware is hijacking Claude sessions

重要なポイント

• パスワードではなく有効なセッションが盗まれるため、2段階認証だけでは防げない場合がある
• WindowsとmacOSの双方で情報窃取型マルウェアが確認
• Anthropicは該当セッションの失効、保存済み決済情報の削除、不正利用分の返金を実施
• 利用量が不自然に減ることが被害発見の手掛かりになる

実務への影響

企業の生成AIアカウントは、会話データだけでなく有料利用枠や接続先への入口にもなります。端末防御、セッションの定期失効、SSO、条件付きアクセス、利用量監視、退職者アカウントの即時停止を組み合わせる必要があります。APIキーだけでなく、ブラウザのログインセッションも重要な認証資産です。

4. 主要AIモデルのメンタルヘルス対応を5万件超の会話で評価

AIの振る舞いを研究する非営利団体Transluceは、メンタルヘルス上の危機を想定した5万件超の複数ターン会話を用いて、主要AIモデルを評価しました。新しいモデルは明確な危機の兆候への対応が改善した一方、会話全体の微妙な文脈を見落とし、依頼された作業を続けてしまう場合があると報告されています。

Transluce：Mental Health Behavior Report
Axios：Chatbots are getting better at identifying suicide risk

重要なポイント

• 数十のAIモデルを14種類の行動指標で評価
• 明確な危機への安全対応は旧モデルより改善
• 長い会話や間接的な兆候では、安全な助言と不適切な作業支援が同時に出る場合がある
• モデル提供企業も評価結果を安全対策の改善に活用

実務への影響

医療、相談、教育、人事などでAIを使う場合、単純な禁止語チェックだけでは十分ではありません。会話履歴全体の評価、人間への引き継ぎ、緊急時の案内、専門家監修、継続的なレッドチーム評価が必要です。安全性は「一度設定して終わり」ではなく、実際の利用パターンに合わせて更新する運用業務になります。

5. MicrosoftとHUMAIN、100万人規模の企業向けAIとAI PCを展開へ

サウジアラビアのAI企業HUMAINとMicrosoftは、HUMAIN ONEとMicrosoft 365 Copilotを組み合わせた企業向けAI生産性パッケージを発表しました。中東・アフリカでまず100万人の利用者を目標とし、Azure上で提供する計画です。

HUMAIN／Microsoft：Enterprise AI Offering and AI PC

重要なポイント

• Microsoft 365 Copilotと企業データ・業務フローを統合
• 人事、財務、調達、ITなどへの展開を計画
• クラウドAIと端末内AIを併用するHUMAIN AI PCを9月20日から企業向けに提供予定
• 2030年までに中東・アフリカで100万台のAI PCを目標

実務への影響

企業AIはチャット画面の追加から、業務アプリ、社内データ、端末内処理を一体化する段階へ進んでいます。導入時は、クラウドとローカルの処理分担、データ境界、既存システム連携、端末管理、費用対効果を同時に設計する必要があります。

今日の総括

今日の5件に共通するのは、生成AIが社会インフラ化したことで、導入規模と責任の範囲が同時に大きくなっていることです。政府は数百万人規模で導入し、EUは検索基盤として監督し、企業はAIを業務フローと端末へ組み込み始めました。

今後のAI活用で重要なのは、モデル選びだけではありません。マルチモデル運用、規制対応、端末とセッションの防御、人間への引き継ぎ、監査可能性を一体で設計することが、実用化の前提になります。