小説特化LLMの事前学習・FTを断念した私が、汎用モデルの外側に「自律生成ハーネス」を組んで長編を完走させるまで

対象読者: AI長編小説生成に挑戦し、設定矛盾・途中での破綻・ハルシネーションに苦しんでいる開発者・創作テックに関わる人 難易度: 中級 テーマ: 創作分野の自律システムを完走させるアプリケーション・ハーネス設計

:::message この記事の要点 (TL;DR)

課題: AIに長編小説を書かせようとすると、数十話を超えたあたりから設定が崩れ、伏線が忘却され、キャラクターの口調が分裂する。
失敗の原因: この問題を「モデルの賢さ」や「プロンプトの工夫」で解決しようとすること。長文の文脈的一貫性は、モデルの重みではなく外側の制御で担保すべき問題である。
解決策: 事前学習とFTを断念し、生成プロセスと監査ゲートの責務を分離する。設定図・辞書マスターとの照合を多層的に検証する決定論的監査アーキテクチャを外側に構築する。 :::

1. はじめに：AI長編小説生成という「墓場」

2026年現在、LLMに小説を書かせることは、ショートストーリー程度なら十分に実用的です。問題は長編です。

30話、50話、100話と続くうちに、必ず次のような破綻が発生します。

設定矛盾: 3話前に「魔力は使えない」と設定したキャラが、20話後に魔力を使い出す
伏線の忘却: 序盤で張った伏線が中盤で完全に消滅する
口調の分裂: 同じキャラクターの喋り方が、担当する生成バッチによって変わる
世界観のドリフト: 街の名前、地理関係、社会制度が、生成のたびに少しずつズレていく

この問題に対して、多くの人が取る選択肢は2つです。

もっと賢いモデルに変える（課金して上位モデルを使う）
自前でファインチューニングする（文体と設定を焼き込む）

私は両方を試しました。そして両方の限界を、身をもって経験しました。

2. 壁の解剖：なぜ小説特化LLMの事前学習・FTは失敗するのか

2.1 文体は入るが、嘘は消えない

FTを試した人の多くが報告するように、FTで「文体」を焼き込むことには一定の効果があります。しかし、「設定の一貫性」は別問題です。

モデルは確率的に次のトークンを予測する装置です。「3話前に魔力が使えないと設定された」という事実は、モデルの重みには刻まれていません。たとえFTデータに含めても、長い生成の過程でその文脈が attention の彼方に薄れていきます。

結果として、文体はそれっぽいが、設定はボロボロという、一番質の悪い状態——読者は違和感にすぐ気づくが、直し方がわからない——に陥ります。

2.2 コンテキスト長の物理的限界

「じゃあコンテキストウィンドウに全部突っ込めばいい」——これも現実的ではありません。

長編小説の設定資料（年表、人物相関図、地理、魔力体系、用語集）をすべてプロンプトに含めると、それだけで数十万トークンに達します。さらに過去の全本文を含めるのは不可能です。

ここでVRAMの問題も別途発生します。意味のあるFTを試みると、コンシューマGPUでは即座に限界に達し、モデルサイズを縮めた瞬間に知能の質が落ちます—— 「設定を覚えた賢いモデル」は、作れば作るほど遠のかる、という皮肉な構造です。

2.3 モデル更新による陳腐化——そして核心に気づいた

さらに致命的だったのは、ハイパースケーラーのモデルアップデートです。

数ヶ月かけて中途半端なコストでFTしたモデルは、次のフロンティアモデルが出た瞬間に、知能の差で一撃で陳腐化します。

ここで、ようやく核心に気づきました。

「なぜ私は、モデルに一貫性を覚えさせようとしているのか？一貫性は、モデルの外で管理できるはずだ。」

モデルの仕事は「創造的に文章を生成すること」です。設定の整合性をチェックすることは、別の仕事です。この2つを同じものに押し込もうとしていたから、すべてが破綻していたのです。

3. 解決策：生成と監査の責務分離——自律生成ハーネス

辿り着いた設計は、生成プロセスと監査ゲートを明確に分離することでした。

┌─────────────────────────────────────────────────────────────┐
│  生成層 (Generative Layer)                                  │
│  ・汎用LLMに自由に書かせる（創造性を殺さない）               │
│  ・設定図・辞書マスターは「参照情報」として渡すだけ           │
└──────────────────────────┬──────────────────────────────────┘
                           ▼
┌─────────────────────────────────────────────────────────────┐
│  監査層 (Audit Layer) ← 決定論的・多層的                    │
│  ・設定図との照合（人物・地理・制度）                        │
│  ・辞書マスターとの用語照合                                  │
│  ・口調プロファイルとの差分検査                              │
└──────────────────────────┬──────────────────────────────────┘
                           ▼
┌─────────────────────────────────────────────────────────────┐
│  トリアージ層 (Triage Layer)                                │
│  ・許容 → 採用                                              │
│  ・軽微 → 自動修正して採用                                  │
│  ・重大 → 再生成要求（ただし最大回数を制限）                 │
└─────────────────────────────────────────────────────────────┘

3.1 なぜ監査を「決定論的」にしたか

ここが最も重要な設計判断です。

監査プロセスをブラックボックスのまま野放しにし、制御不能な再生成ループに陥る—— これは、ハルシネーション対策を「別のLLMにレビューさせる」アプローチでありがちな失敗です。レビューするLLM自身がハルシネーションを起こすため、堂々巡りになります。

私は監査を決定論的に実装しました。

difflib — 用語・表記ゆれの検出
re — 構造的パターンの検査
dataclasses / frozenset — 設定値の不変なスナップショット管理
IPA辞書データ — 語彙照合セット

確率的な生成物を、決定論的なルールで遮断する。 この分離により、再生成ループは必ず停止します。

3.2 設定図・辞書マスターという「特化データ」

監査ゲートが機能する前提として、照合先の設定図と辞書マスターが必要です。これこそが、まさにドメイン特化データです。

人物設定図（口調、魔力体系、関係性）
世界観年表（イベントの前後関係）
用語辞書マスター（固有名詞の正書法）

これらは一度人手で整備すれば、以降の全生成で再利用できる永続資産です。モデルを変えても、監査ゲートはそのまま機能します。むしろ、モデルが賢くなればなるほど、生成層の質は上がり、監査ゲートの負荷は下がる——これは理想的な関係です。

4. 実装上の具体的な設計判断（Why Not）

4.1 なぜ「埋め込み（Embedding）」を使わなかったか

設定図と本文の照合に、ベクトル検索を使う選択肢もありました。しかし却下しました。

生成のたびに「3話前に魔力を使えなくなった」という事実を、ベクトル空間上の「近さ」で管理するのは不安定
決定論的な遮断が目的なので、正確な照合が必要
設定値は有限であり、ハッシュ・完全一致で管理できる

類似度ではなく、一致・不一致で判断する。 創作の自由度は生成層が担保し、整合性は監査層が二値で遮断する。この住み分けが安定性を生みました。

4.2 なぜ再生成の上限を設けたか

監査で「重大な矛盾」を検出した場合、素直に実装すると「再生成→再監査」のループになります。

しかし、それではいつまで経っても完走しません。最大再生成回数を設け、それを超えた場合はトリアージ層が警告付きで採用するか、人間にエスカレーションする設計にしました。

これは、完走性を整合性よりも優先した判断です。長編創作において、「完璧ではないが完結している」ことの価値は、「完璧に近いが未完である」ことよりも高いからです。

5. 結論：モデルを弄るのをやめ、ハーネスを組んだ

今では、この設計で長編を完走させています。

モデルは交換可能です。より賢いモデルが出たら、生成層だけを差し替えます。設定図・辞書マスターはそのまま、監査ゲートもそのまま、ハーネスとして機能し続けます。

一方で、もし私が当時、小説特化モデルのFTにのめり込み続けていたら—— 数ヶ月の時間とGPUリソースを投資し、そして次のモデルアップデートでその投資を一撃で陳腐化させていたでしょう。

AIモデルを作るな。ハーネスとドメイン特化データを作れ。

これは長編小説生成においても、まったく同じように成立します。キャラクターの設定図と辞書マスターはあなたの特化データであり、決定論的な整合性監査ゲートはあなたのハーネスです。この2つは、モデルがどう変わっても、あなたの手元に残ります。

6. 次に読むべきもの

なぜファインチューニングは失敗するのか — モデル開発の消耗戦をやめるという判断
「とりあえずRAG」が失敗する本当の理由 — 金融データでの実例
Manifesto — 旗印の全文
Architecture Showcase — 全ハーネスの解剖

小説特化LLMの事前学習・FTを断念した私が、汎用モデルの外側に「自律生成ハーネス」を組んで長編を完走させるまで（Story_creator 実録）