Tree of Thoughtsとは？CoTとの違い・使い方・使わない基準を論文ベースで解説

この記事の監修者

リスキルAIキャリア編集部

リスキルAIキャリアは、AI時代の学び直し・キャリア形成・副業・転職に役立つ情報を発信するWebメディアです。編集部では、生成AIスキルの身につけ方、AI関連スクール・講座の選び方、キャリアアップにつながる学習方法などを、実務目線でわかりやすくお届けしています。

Tree of Thoughts（思考の木、以下ToT）は、LLMに複数の解法候補を出させ、評価し、弱い候補を捨てて答えを探す推論手法です。CoTは1本の思考手順を順に進めます。ToTは複数ルートを分岐させて比較します。向くのは数字パズル、計画立案、選択肢比較、制約の多い意思決定です。要約、翻訳、定型文作成には過剰です。この記事では原論文の結果、CoTとの違い、ChatGPTで試す簡易プロンプト、使わない判断基準まで扱います。

先に骨格を押さえておきます。ToTの本体はプロンプト文ではなく、生成・評価・枝刈り・探索を回す探索手法です。チャットUIで再現できるのは、その簡易版までです。本記事の最終確認日は2026年7月27日で、半年ごとに見直します。

Tree of Thoughtsとは

ToTは、問題を「思考の断片（thought）」に分け、木構造で複数案を枝分かれさせて探索する手法です。原論文は「Tree of Thoughts: Deliberate Problem Solving with Large Language Models」です。Shunyu Yaoら（Princeton大学・Google DeepMind）が2023年に発表しました。一次情報はarXiv:2305.10601（NeurIPS 2023採録）にあります。

一直線に考えるのではなく、複数の道を試してダメな道を捨てるやり方です。人が難問を解くとき、案を出しては消し、別ルートを試す動きに近い設計です。CoTを一般化し、後戻り（バックトラック）を許した点が特徴です。

Tree of Thoughtsの仕組み：生成・評価・枝刈り・探索

原論文のToTは「複数案を出してください」と頼むだけの技法ではありません。構成要素は主に3つあります。

• thought generator：次の一手の候補を複数つくる役割
• state evaluator：候補がどれだけ有望かを採点する役割
• search algorithm：評価の高い候補を残し、探索を続ける役割

探索にはBFSとDFSを使います。BFSは同じ深さの候補を横に広く比べます。DFSは1つの候補を深く掘り、失敗したら戻ります。ChatGPTの通常画面でできるのは、候補生成と自己評価の簡易版までで、厳密なBFS/DFS制御はできません。

この違いを押さえると、宣伝で見る「呪文プロンプト」との差が分かります。コードで探索を制御したい人は、原論文の公式リポジトリ（GitHub: princeton-nlp/tree-of-thought-llm）に実装があります。チャットで完結させたい人は、後述の擬似ToTプロンプトへ進んでください。

Tree of ThoughtsとCoTの違い

両者の差は「探索の広さ」と「後戻りの有無」です。CoTは一発勝負です。ToTは複数案を比べて選び直せます。その分ToTはトークンも時間も多く消費します。

実務では、いきなりToTに飛びません。まずCoTかプロンプトチェーンで足りるかを確かめます。工程を分けたいだけならプロンプトチェーンとは？業務分割でAIの精度を上げる手順と判断基準のほうが扱いやすい場面が多くあります。CoTの基礎は思考の連鎖プロンプトとは？2026年の使いどころと書かない基準で先に押さえてください。ReAct（arXiv:2210.03629）は推論に外部行動を足す手法で、ToTの内部探索とは狙いが違います。ToTは複数案を比較して1つ選ぶ問題で効きます。

原論文の実験結果：Game of 24、Creative Writing、Mini Crosswords

宣伝でよく出る「4%→74%」は、Game of 24の結果です。Game of 24は、数字4つを四則演算で24にするパズルです。原論文はこれ以外に複数タスクを検証しています。数値は論文中の表と記述を参照しています。実験条件を先に示します。

• 論文名：Tree of Thoughts: Deliberate Problem Solving with Large Language Models
• arXiv ID：2305.10601（発表2023年、NeurIPS 2023採録）
• 使用モデル：GPT-4
• 対象タスク：Game of 24、Creative Writing、Mini Crosswords
• 比較手法：標準プロンプト、CoT、ToT ほか
• 評価方法：タスクごとに成功率やGPT-4評価スコアを併用

ここでの数値は、Yao et al.「Tree of Thoughts」（arXiv:2305.10601）に記載された特定条件の結果です。現在のGPT-4.1、o系モデル、Claude、Geminiで同じ改善率が出ることを示すものではありません。「4%→74%」は探索パズルの数字で、日常業務の精度が18倍になる話ではありません。メール作成、要約、企画のたたき台は生成が中心です。生成寄りのCreative Writingでは、CoTとToTの差は縮みました。適用条件を外した一般化は避けてください。

ChatGPTで試すTree of Thoughts風プロンプト

コードを書かずに擬似ToTを試すなら、1プロンプトで「案の生成→評価→枝刈り→選択」を指示します。本格的な木探索ではありませんが、比較漏れを減らせます。まず、悪い例の出力から直します。

ビフォーアフター：出力がどう変わるか

ビフォーは「副業で稼げる提案を考えて」だけの指示です。返ってくる出力は、案が箇条書きで3〜5個並ぶだけになりがちです。評価軸も、切る理由も、最初の行動もありません。比較ではなく、ただの列挙で終わります。

アフターは、後述の構造化プロンプトを使った出力です。例として、こう変わります。

• ビフォー：「①ライティング代行 ②SNS運用 ③資料作成代行」と列挙だけ
• アフター：3案を効果・工数・リスクで5点採点し、合計12点のライティング代行を残す
• アフター：SNS運用は「初月売上が読めず失敗リスク高」と理由付きで切る
• アフター：残した案を「今週やる営業行動3つ」まで分解

擬似ToTのコツは、切る理由を必ず書かせることです。枝刈りの根拠を言語化させると、比較が甘くなりません。以下に用途別の3本を置きます。

プロンプト1：一般課題解決用

1. 次の課題をTree of Thoughts風に検討してください。課題：【ここに課題を書く】
2. 解決方針を3案出してください。
3. 各案のメリット・デメリット・失敗条件を書いてください。
4. 各案を「効果」「実行コスト」「リスク」で5点満点評価してください。
5. 合計点が低い案を、切る理由を書いて捨ててください。
6. 残った案を1つ選び、最初の3アクションに分解してください。（結論を先に出さず、基準が曖昧なら先に確認質問をする）

プロンプト2：副業サービス設計用

1. 前提：使える時間【週◯時間】、スキル【例：営業、ライティング、Excel】、目標【月◯万円】、初期費用上限【◯万円】
2. 副業サービス案を3つ出してください。
3. 各案を「初月売上の見込み」「習得コスト」「競合の強さ」「実績化のしやすさ」で評価してください。
4. 月5万円到達までの最短ルートを比較してください。
5. 成功確度が低い案を切り、残した案の今週の営業行動を3つ出してください。

プロンプト3：転職判断用

1. 前提：年齢【】、職種【】、年収【】、生成AIスキル【】、転職意欲【高・中・低】、リスク許容度【高・中・低】
2. 選択肢A：現職でAI活用実績を作る／B：副業で実績を作ってから転職／C：すぐAI関連職へ応募
3. 各選択肢の期待年収、必要学習時間、失敗リスクを比較してください。
4. 3か月後に判断する指標を決めてください。
5. 切るべき選択肢があれば理由を書き、最初の1週間でやることを1つに絞ってください。

出力の良し悪しは4点で見ます。失敗リスクが「初回契約が5万円未満になりやすい」まで具体か。工数が「初回提案3時間、初稿6時間」と時間で出ているか。切る理由が制約に基づくか。最終案が行動に落ちているか。テンプレの使い分けはプロンプトのフレームワーク9選｜暗記より使い分けで成果を出すで扱っています。

Tree of Thoughtsが向くタスク・向かないタスク

向き不向きは、業務単位で分けると判断しやすくなります。どの仕事で何を使うかを表にします。

単価が低く納期が短い作業は、ToTよりCoTか通常指示が向きます。複数案の比較で意思決定の価値が高い業務だけ、ToT風を使ってください。

Tree of Thoughtsを使わない判断基準

ToTは過剰設計になりやすい手法です。使わない線引きを先に決めます。次のどれかに当てはまるなら、ToTは使いません。

• 答えが一意で探索の余地がない（要約・翻訳・定型メール）
• 案が2〜3個で、1回のCoTで比較できる
• 納期が短く、試行の反復に時間を割けない
• APIコストが数倍に増えると採算が合わない
• 問題定義が曖昧で、探索の前提が固まっていない

コストは計算例で見ます。単発CoTで入力1,000トークン・出力1,500トークンの処理を考えます。ToT風に3案生成、3案評価、上位2案の再検討、最終案作成まで行うとします。出力は5,000〜10,000トークン程度まで増えやすくなります。API利用なら同じタスクでも処理量は2〜6倍程度です。チャット定額プランでも時間コストは増えます。1件3,000円の低単価案件で30分余計に検討すると、時給換算で赤字になりやすくなります。

目安として、判断ミスの損失が1万円未満、または修正が10分以内で済む作業ならToTは不要です。判断ミスで10万円以上の機会損失、または1週間以上の手戻りが発生するなら、ToT風の比較を使う価値があります。追加コストと追加時間を上回る意思決定の価値がある問題だけ、ToTを使ってください。これは厳密な線ではありません。実費はモデルで変わるため、OpenAI・Anthropic・Googleの料金ページで確認し、確認日を控えておくと料金改定の影響を避けられます。

推論モデル時代に手動ToTの優先度が下がった理由

個人が手動でToTを組む優先度は下がっています。理由は、推論系モデルが複雑な問題を長く推論する設計になったからです。複数案の検討を指示しやすくなりました。OpenAIの推論モデル（公式ガイド）、Claudeの拡張思考（公式ドキュメント）、Geminiのthinking（公式ドキュメント）はいずれも長い推論を説明しています。

推論系モデルは、通常モデルより長く考える設計を公式に説明しています。ただし、OpenAI、Anthropic、Googleが「内部でTree of Thoughtsを実装している」と公表しているわけではありません。挙動には差もあります。OpenAIは思考量を制御できます。Claudeは思考ブロックを明示的に扱えます。Geminiは思考予算を設定できます。細部は各公式ドキュメントを参照してください。

個人がやるべきは、ToTを自作することより、推論モデルに複数案の比較を促す指示を書くことです。「複数案を出し、評価し、弱い案を切ってから結論を出して」と頼む方法が扱いやすくなっています。手動での木構造構築は、研究や大規模な自動化パイプライン寄りに残ります。

PEP検定で押さえるべきポイント

ToTを学ぶ前に、次の自己診断でCoTとチェーンの土台を確認してください。1つでも自信がなければ、ToTより先にそちらを固めます。

• CoTで足りるタスクと、ToT風の比較が必要なタスクを分けられる
• 要約・翻訳・定型文作成にToTを使わない理由を説明できる
• 複数案を評価するとき、効果・工数・リスクの評価軸を置ける
• 生成AIの出力をうのみにせず、公式情報や一次情報で検証できる
• APIコストや作業時間を考えて、過剰設計を避けられる

評価されるのは手法名を並べる知識ではありません。「このタスクはCoTで足りる」「これはチェーンに分ける」「これは探索が必要」と説明できる状態です。ToTの名称を覚えるだけでは、評価につながりにくくなります。

PEP検定の学習では、生成AIの使い分け・業務適用・リスク判断を体系的に確認します。受検前チェックリストを置きます。

1. CoT・プロンプトチェーン・RAGを業務ごとに使い分けられるか
2. 要約や定型文にToTを使わない理由を言えるか
3. 複数案を効果・工数・リスクで採点できるか
4. コストと時間から過剰設計を避けられるか

ゴールは「木を組める」ではなく「どの手法をいつ使うか判断できる」ことです。出題範囲と勉強手順は、公式シラバスから逆算したPEP検定の勉強法で確認してください。

よくある質問

Tree of Thoughtsは初心者が覚えるべきですか？

概念の理解だけで足ります。手動実装の優先度は低く、先にCoTとプロンプトチェーンを固めるほうが実務で先に効きます。副業・転職の作業でToTを自作する場面はほぼありません。

ToTとCoTはどちらが精度が高いですか？

タスク次第です。探索が本質の問題ではToTが有利です。原論文のGame of 24ではCoT 4%からToT 74%へ上がりました。要約や翻訳など探索の少ない業務では差が小さく、コスト増だけが残ります。

推論モデルを使えばToTは不要ですか？

個人利用では優先度が下がりました。推論モデルが長く推論する設計のため、複数案の比較を指示しやすくなっています。各社がToTを内部実装しているとは公表していません。「不要と断定できる」ではなく「手動で組む必要性が減った」と捉えてください。

ToTのコストはCoTと比べてどのくらい増えますか？

案の生成と評価を反復するため、トークン量はCoTの数倍〜十数倍に増え得ます。単発CoTが1,500トークンのタスクでも、擬似ToTでは5,000〜10,000トークンに膨らむことがあります。具体的な費用は各社の公式料金ページで確認してください。

ChatGPTでTree of Thoughts風に考えさせるプロンプトはありますか？

本文の「ChatGPTで試すTree of Thoughts風プロンプト」に、一般課題・副業設計・転職判断の3本を置きました。いずれも擬似ToTで、論文のようなBFS/DFSを実装するものではありません。比較漏れを減らす目的で使ってください。

コードで本格的に実装したい場合はどうしますか？

原論文の公式リポジトリ（GitHub: princeton-nlp/tree-of-thought-llm）に実装があります。thought generator、state evaluator、search algorithmをコードで制御します。チャットUIだけでは厳密な探索制御はできません。