Algorithm of Thoughts（AoT）とは？ToTより安い理由と使わない基準

この記事の監修者

リスキルAIキャリア編集部

リスキルAIキャリアは、AI時代の学び直し・キャリア形成・副業・転職に役立つ情報を発信するWebメディアです。編集部では、生成AIスキルの身につけ方、AI関連スクール・講座の選び方、キャリアアップにつながる学習方法などを、実務目線でわかりやすくお届けしています。

Algorithm of Thoughts（AoT）は精度を上げる手法ではありません。木探索の試行錯誤を1〜数回のLLM呼び出しに畳み込み、APIコストを削る手法です。ブラウザにプロンプトを手打ちする個人利用では、この削減効果がほとんど出ません。

APIで大量処理を回すエンジニア以外は、CoTやToTで足ります。判断を10秒で終わらせるため、まず結論を表にまとめます。対象モデルはGPT-4o mini／Claude／Geminiなど、2023年以降の主要チャットモデルを想定します。

この記事で見るべき点は「AoTが賢いか」ではありません。自分の業務でToTの呼び出し回数を削る必要があるかです。一次情報はAlgorithm of Thoughts: Enhancing Exploration of Ideas in Large Language Models（arXiv:2308.10379）で確認できます。

Algorithm of Thoughts（AoT）とは？一言でいうと

AoTは探索アルゴリズム（DFSやBFS）の試行錯誤の流れを1つのプロンプトに例示し、LLMに頭の中で木探索を模倣させる手法です。2023年8月公開の論文（arXiv:2308.10379）で提案され、ICML 2024 Proceedings（PMLR v235）に収録されました。

狙いは精度そのものではありません。論文の主張は「Tree of Thoughtsに近い性能を、はるかに少ないクエリで出す」という点にあります。ここを取り違えると、AoTを過大評価します。

論文のウリは「精度」ではなく「コスト効率」

論文はGame of 24、Mini Crosswords、Creative Writingの3課題で、AoTをStandard・CoT・ToTと比較しています。Game of 24では、標準プロンプトやCoTの成功率が数%にとどまる一方、ToTは成功率74%前後を報告します。ただしToTは1問あたり100回規模のLLM呼び出しを要します。

AoTはこのToTに迫る成功率を、桁違いに少ない呼び出しで達成したと報告しています。AoTの価値は「1問あたりのAPI料金と待ち時間」に直結します。手打ちで1問ずつ解く個人には、この節約分が体感できません。正確な成功率と呼び出し回数は、arXiv:2308.10379の実験セクションで確認してください。

CoT・ToTとの関係（思考のアルゴリズム系の位置づけ）

AoTは思考のアルゴリズム系プロンプトの一種で、CoT（連鎖）とToT（木）の中間に位置します。CoTは一直線に考え、ToTは枝分かれして探索します。AoTは木の探索手順を例示し、1本の連鎖の中で疑似的に探索させる発想です。前提は思考の連鎖プロンプトの解説とTree of Thoughtsの解説で押さえられます。

AoTとToT・GoT・CoTの違いをコスト軸で整理

違いは「精度」ではなく「クエリ数」「API前提か」で見ると誤解しません。多くの解説は精度の優劣ばかり並べますが、実務判断で効くのはコスト構造です。下表は各手法を運用コスト中心で整理しています。

AoTの立ち位置は「ToT並みの探索力を、CoTに近いクエリ数で」の一点に尽きます。GoTとの使い分けはGraph of Thoughtsの解説で補完できます。

料金イメージ：ToTをAoTに置き換えると何円変わるか

仮定を置いて円換算します。1問あたりの入力・出力合計を2,000 tokens、ToTを30回呼び出し、AoTを1回呼び出しとします。

• ToT：2,000 tokens × 30回 = 60,000 tokens
• AoT：2,000 tokens × 1回 = 2,000 tokens
• 削減量：1問あたり58,000 tokens

単価はGPT-4o miniの入力側 $0.15／100万tokensを仮定として使います。1,000問処理すると削減は58,000,000 tokens、約$8.7です。1ドル150円で換算すると1,000問あたり約1,300円の差になります。実際の単価は変動するため、OpenAI API Pricingで確認してください。

1,000問で約1,300円という数字が、AoTの現実的な立ち位置です。件数が万単位なら効きますが、日次数十件では差が小さく残ります。

AoTの仕組み：なぜ少ないクエリで木探索を模倣できるのか

仕組みの核は「探索の失敗と後戻り（バックトラック）まで含めた実例をプロンプトに書く」点です。ToTは実際にモデルを何度も呼び出して枝を評価しますが、AoTは探索の流れを言語化して1文脈に入れ、モデルにプロセスごと模倣させます。

呼び出しを繰り返さないため、待ち時間と料金が下がります。代償もあります。探索の質はプロンプト内の「探索の例」に依存し、外部評価器で枝を選ぶToTほど厳密には枝刈りできません。

AoTは探索の型が明確な課題（パズル、制約充足、経路探索）で強みが出ます。正解が一意でない企画・文章生成では、木探索を模倣する意味が薄くなります。

AoTプロンプトの雛形と使い方（本物寄りと簡易版）

1. 論文のAoTに近い考え方

AoTは単に「順番に考えて」と言う手法ではありません。探索アルゴリズムの実行例、つまり候補生成・評価・却下・バックトラック・停止条件をプロンプト内に示し、モデルにその流れを模倣させます。ToTのように多数の呼び出しで枝を評価するのではなく、この一連の探索例を1文脈に入れる点が違いです。

2. 個人が試せる簡易版プロンプト

以下は論文の完全再現ではなく、AoTの考え方を手元で試すための簡易版です。注意：これは論文実験の再現プロンプトではありません。AoTの考え方をChatGPTやClaudeで試すための簡易版です。

• 役割: あなたは探索問題を解くソルバーです。
• 方針: 候補を1つ試し、行き詰まったら理由を書いて別候補へ戻ります（バックトラック）。
• 手順: (1)候補を列挙 (2)有望な順に試す (3)制約違反なら却下理由を明記 (4)別候補へ戻る (5)条件を満たしたら停止。
• 出力: 「試行→評価→採否→次候補」を一連で記述し、最後に最終解のみを1行で提示。
• 課題: 〔ここに探索課題を記入。例: 4つの数字で24を作る〕

フレーム全体の使い分けはプロンプトのフレームワーク9選も参考になります。

実例：Game of 24でAoTの動きを見る

課題は「4, 7, 8, 8 を使って24を作る」です。AoTの雛形に載せると、候補を試しては却下し、成立する式に到達します。

• 候補1：8 × 4 = 32。残り7, 8。32から全数字で24へ戻す形が作れず却下。
• 候補2：8 ÷ 4 = 2。残り7, 8, 2。7 − 2 = 5、8 × 5 = 40で不一致。却下。
• 候補3：7 − 4 = 3。残り8, 8, 3。8 ÷ 8 = 1、1 × 3 = 3で24に届かず却下。
• 候補4：8 ÷ 8 = 1。残り7, 4, 1。7 − 1 = 6、6 × 4 = 24。成立。
• 最終解：(7 − 8 ÷ 8) × 4 = 24

この流れが、候補生成→評価→却下→採用というAoTの探索です。1文脈内で試行錯誤を見せる点が、CoTとの違いになります。

効果を数字で確かめる検証手順

感覚ではなく、正答率と手数で判断します。

1. 正解が明確な探索課題を10問用意します（Game of 24など）。
2. まずCoT（順を追って考えて）で解き、正答数を記録します。
3. 次に上のAoT簡易版で解き、正答数を記録します。
4. 正答数の差が2問以上ならAoTの効果あり、0〜1問なら誤差と判断します。
5. API利用ならクエリ数・トークン数も記録し、ToTと比べます。

手打ち運用では、この検証で体感差がほぼ出ないケースが大半です。差が出なければ、CoTへ戻すのが合理的です。

個人がAoTを使わなくていい基準（この記事独自の判断軸）

次の条件に1つでも当てはまるなら、AoTは不要か逆効果です。理由はクエリ削減という最大の利点が効かないためです。

• ブラウザにプロンプトを手打ちして1問ずつ解いている（API未使用）。
• 課題が短く、探索の枝分かれが不要（要約・翻訳・メール文・分類など）。
• 正解が一意でない創作・企画・アイデア出しが中心。
• 探索の型（制約・停止条件）を自分で言語化できない。

削減額は次の式で見ます。

削減額 = 削減できる呼び出し回数 × 1回あたりの平均token数 × API単価

例として、次の運用を置きます。

• 1日20件
• ToTからAoTにして1件あたり20回の呼び出しを削減
• 1回あたり2,000 tokens
• 30日運用

この場合、月間削減tokenは 20件 × 20回 × 2,000 tokens × 30日 = 24,000,000 tokens です。GPT-4o miniの入力 $0.15／100万tokensで概算すると約$3.6、150円換算で月およそ540円です。ここにAoTプロンプト作成・検証の手間が見合うかを判断します。

ブラウザで1問ずつ使うだけなら、この計算以前に削減できる呼び出し回数がほぼありません。だからAoTではなくCoTで足ります。

それでもAoTが効く具体的な場面（副業・業務自動化）

API×探索課題×大量処理の3条件がそろうなら、AoTは採用候補になります。副業・業務自動化での例を挙げます。

• ECの商品分類で、カテゴリ候補を複数出しルール違反を除外する。停止条件が明確でAoT向きです。
• 求人票と職務経歴書のマッチングで、条件不一致を枝刈りする。除外条件を型にできAoT向きです。
• シフト作成で、勤務不可日・必要人数・連勤制限を満たす案を探索する。制約と停止条件が明確でAoT向きです。
• 問い合わせ分類で、一次分類→例外判定→再分類の手順を固定する。手順が固定できAoT向きです。
• 営業リスト抽出で、対象外条件を順に除外する。除外基準が明確でAoT向きです。

一方、広告コピー案の発想は正解が一意でないためAoTの優先度は低いです。AoTはAPI大量処理向けで、手打ち利用には合いません。まず精度を上げたいだけならToTかGoTを検討します。

法人でAPI大量処理の自動化を進めるなら、手法選定を担当者が判断できる体制が要ります。業務自動化を前提にした法人向けの生成AI研修では、CoT・ToT・AoTの使い分けとコスト設計をまとめて扱えます。

よくある質問

AoTはCoTより精度が高いのですか？

課題によります。論文は探索課題でToTに迫る成果を少ないクエリで出したと報告しますが、要約や翻訳など探索不要のタスクではCoTと差が出ない場合もあります。AoTのウリは精度より、探索課題でのコスト効率です。

AoTとToTのいちばんの違いは何ですか？

クエリ数です。ToTは各ノードで生成・評価を繰り返し、呼び出しが数十〜100回超に膨らみます。AoTは探索過程を1文脈に畳み込み、1〜数回で済ませます。精度が近いままコストを下げる設計です。

ChatGPTのブラウザ画面でAoTを使う意味はありますか？

薄いです。手打ちでは削減できるクエリが存在せず、最大の利点が効きません。探索が必要な難問ならToT寄りの手順を試すか、CoTで足りることがほとんどです。

AoTを学ぶ順番はどうすべきですか？

CoT→ToT→GoTの順で仕組みを押さえ、最後にコスト最適化の文脈でAoTを見ると理解が進みます。用語の全体像はプロンプトのフレームワーク9選で俯瞰できます。

論文の一次情報はどこで読めますか？

arXiv:2308.10379で原文が読めます。クエリ削減に関する主張は原文で確認してください。二次情報だけで判断すると、AoTを精度向上手法と誤解しがちです。

結論：個人はCoT/ToTで足りる、AoTはAPI大量処理の節約策

手打ちの個人利用ではクエリ削減が効かず、CoTかToTで足ります。まず上の検証手順で自分の課題に差が出るか確かめ、差が0〜1問ならAoTは採用しないでください。

AoTを暗記する必要はありません。実務で問われるのは、CoT・ToT・AoT・GoTを名前で覚えることではなく、「この業務は一本道でよいのか、探索が必要なのか、APIコストを削るべきなのか」を判断する力です。

生成AIを副業・転職・業務改善に使うなら、手法の名前より、課題に合わせて手法を選ぶ基礎力が問われます。PEP検定の出題範囲では、生成AIの基本概念、プロンプト設計、業務活用の考え方を体系的に確認できます。

次にやること。

• CoT・ToT・AoTの違いを説明できるか確認する。
• 自分の業務を「一本道タスク」「探索タスク」「大量API処理」に分類する。
• 生成AI活用の基礎を検定形式で確認したい人は、PEP検定の出題範囲を確認する。

本記事の料金・単価は変動する前提で、年次で数値を見直します。最新のAPI単価は各社の公式Pricingページで確認してください。