AIエージェント・エンジニアリング
JA

第1章

エージェントとは何か

20分で読めます · 図4点

このページの内容
  1. 1.1 エージェントという考え方
  2. 1.2 エージェント、ワークフロー、チャットボット
  3. 1.3 そもそもエージェントは必要か

この章では、まえがきでの約束を果たします。何かを作りはじめる前に、エージェントとは何であるかをはっきりさせるのです。その必要性は実務的で、しかも差し迫っています。ベンダーは台本どおりに動くボットに「エージェント」というラベルを貼り、研究者は何時間も無人で動きつづけるシステムだけをそう呼びます。そしてその間のどこかで、あなたは現実の予算を使って現実の判断を下さなければなりません。言葉があいまいなままだと、3ステップのパイプラインのほうが安くてデバッグもしやすかった場面で自律型のエージェントに手を伸ばしたり、ステップが本当に予測できない問題に対して、融通の利かないパイプラインを手作業で組み上げたりすることになります。この章では3つのことを行います。まず、エージェントという考え方そのものを述べ、それがなぜあのタイミングで実用的になったのかを(意図的に日付抜きで)説明し、本書が進路を決めるのに使う羅針盤を示します。次に、チャットボット、ワークフロー、エージェントの実用上の区別を示します。以降のすべての章が、この区別を土台にします。そして最後に、口に出して問う人があまりに少ない問い、すなわち「そもそもエージェントが必要なのか」を取り上げます。

エージェントという考え方

デモやマーケティングを取り払ってしまえば、この考え方は片手に収まるほど小さなものです。エージェントとは、ループの中に置かれた言語モデルです。エージェントには、ゴールと一組のツールが与えられます。ツールとは、モデルがあなたのプログラムに実行を依頼できる関数のことで、「これを検索する」「あれを読む」「このコマンドを実行する」といったものです。エージェントはタスクの状態を見て、アクションを1つ選び、結果を確認し、また同じことを繰り返します。これは、ゴールが達成されたとエージェント自身が判断するか、停止ルールが実行を打ち切るまで続きます。何年も話がかみ合わない状態が続いたあと、実務家のコミュニティは、本書の執筆時点で、1つの文にまとめた定義におおむね落ち着いています。エージェントとは、ゴールを達成するために、ループの中でツールを実行するものだ、という定義です1 Simon Willison, “I think ‘agent’ may finally have a widely enough agreed upon definition to be useful jargon now,” simonwillison.net(2025年9月)。引用した定義「An LLM agent runs tools in a loop to achieve a goal」(LLMエージェントは、ゴールを達成するために、ループの中でツールを実行する)は同氏によるもので、同記事ではこの定義の語句が1つずつ擁護されています。LLMは、この分野で大規模言語モデル(large language model)を指す略語です。本書ではたいてい言語モデル、あるいは単にモデルと呼びます。。この文には、無駄な言葉が1つもありません。「ツール」は、モデルを外の世界につなぐものです。「ループ」は、見つけたものに応じてモデルが反応できるようにするものです。「ゴール」は、ループを終わらせるものです。エージェントには停止条件があり、そこが暴走プロセスとの違いです。第3章では、このループをコードで詳しく見ていきます。

ここで本当に新しいのは、制御フローがどこにあるかです。あなたがこれまでに書いてきたどのプログラムでも、処理の順序は、あなたが、あらかじめ、コードの中で決めていました。エージェントでは、処理の順序は、モデルが、実行時に、観察した内容に応じて決めます。このたった1つの変化が、エージェントを1冊の本に値するものにしており、同時に、高価で、遅く、ときに肝を冷やすものにもしています。本書の残りは、この文の前半と後半の両方について書かれています。

なぜあのタイミングで実用的になったのか、と疑問に思うのはもっともです。言語モデルは、誰かがループを任せるようになるずっと前から流暢でした。足りなかったのは流暢さではなかったのです。成熟しなければならなかったものは3つあります。いずれも本書のあとのほうで再び登場します。最初は仕組みとして、次に、それが足りなくなったときの失敗モードとして。

1つ目。モデルが指示を受け取れるようになりました。最初の学習を終えたばかりのモデルは、ひたすらテキストの続きを書くだけの存在です。質問をすると、さらに質問を返してくるかもしれません。テキストの続き方として、それがもっともらしいからです(理由は第2章で示します)。そのあとに来る学習の段階を、この分野では事後学習(post-training)と呼びます。この段階が、続きを書くだけの存在を、仕事を任せられるものに変えます。指示に従い、示された目的に向かって作業し、終わったら止まるようになるのです。エージェントとは委任であり、委任には、任された仕事を引き受ける働き手が必要です。

2つ目。テキストが、行動への橋を手に入れました。関数呼び出し(function calling)では、モデルが「この関数をこの引数で呼び出してほしい」という機械可読なリクエストを出力し、あなたのコードがそれを実行して、結果をモデルに返します。これによってモデルは、外の世界につながる規律ある経路を得ました。提案するのはモデルで、決めるのはあなたのコードです。仕組みの詳細は第2章で扱います。ここで大事なのは、その帰結です。世界について書くことしかできなかったシステムが、世界の中で何かが起こるように、プログラムが安全に従える形で依頼できるシステムになったのです。

3つ目。モデルの作業記憶が大きくなりました。エージェントがその時点で知っていることは、すべてモデルのコンテキストウィンドウ(モデルが1回の呼び出しで考慮できる、長さに上限のあるテキスト)に収まっていなければなりません。ウィンドウが数ページ分しかなかった頃、ループは立ち行きませんでした。指示と、履歴と、最新のツール結果が、同時には収まらなかったのです。やがてウィンドウは、ひとまとまりの作業セッションに近い分量を収められるまでに広がり、ループを続けられるようになりました。

これらはいずれも、なだらかな上り坂がいつのまにかしきい値を越える、という形で成熟しました。これは私にとってもあなたにとっても好都合です。「なぜ今なのか」の説明に、賞味期限がないからです。さらに、何か新しい能力が発表されたときに何を確かめればよいかも教えてくれます。3つの要素のうち、どれが向上したのかを問えばよいのです。

分類と仕組みの話に入る前に、本書が進路を決めるのに使う羅針盤を渡しておきます。ほぼすべての章に繰り返し現れる、4つの方位です。ここでは、十分な論証を抜きにして述べます。その論証にあたるのが、本書全体です。

最初に来るのは検証可能性です。まえがきで述べた主張ですが、繰り返す価値があります。エージェントは、その働きを検証できるシグナルがある分だけしか信頼できません。モデル自身の自信は、それが正しいかどうかについて何の情報も含んでいません。だから信頼は、外側から得るしかありません。通るテスト、検証に通るスキーマ、開いて確かめられる情報源、承認する人間です。どんなエージェントの設計に対しても最初に立てるべき問いは、本書が何度も繰り返し立てる問いです。うまくいったことを教えてくれるシグナルは何か。

次はコンテキストの希少性です。コンテキストウィンドウは有限です。そして多くの人が意外に思うのは、スペースが尽きるより前に、モデルの注意力が落ちていくことです。長く積み上がったテキストの真ん中に埋もれた事実は、事実上、半分忘れられています。コンテキストは、意図をもって使うべき予算として扱ってください。本書の第III部は、それをうまく使う方法について書かれています。

3つ目は誤りの累積です。エージェントは多くのステップを連鎖させ、信頼性はステップごとに掛け合わされていきます。あくまで例として、各ステップが95%の確率で成功するとしましょう。すると、20ステップを連鎖させた実行が成功する確率は、およそ0.9520 ≈ 36%です。個々の数値は場合によって変わりますが、この計算は変わりませんし、容赦がありません。長いループが生き延びるには、途中でのリカバリ、チェックポイント、検証が欠かせません。本書は、そのための仕組みにいくつもの章を丸ごと充てています。

そして最後の方位が、うまくいく最もシンプルなものです。この若い分野で、最も長く通用してきたエンジニアリング上の助言は、単刀直入なものです。できるかぎりシンプルな解決策を見つけ、複雑さを足すのは、それが割に合うと実証できたときだけにする。それは、エージェントをまったく作らないということかもしれません2 Erik Schluntz and Barry Zhang, “Building Effective Agents,” Anthropic engineering blog(2024年)には、次のようにあります。「できるかぎりシンプルな解決策を見つけ、必要なときにだけ複雑さを増すことを勧めます。これは、エージェント型のシステムをまったく構築しないことを意味するかもしれません。」同記事によるワークフローとエージェントの区別は、次の節の土台にもなっています。。最もシンプルなものが、たった1つのプロンプトであることもあります。正規表現であることもあります。この章の最後の節では、この方位を正面から取り上げ、1節を丸ごと充てています。図1.1は、4つの方位を1つの羅針図の上に配置したもので、針は1つ目の方位を指しています。

本書の羅針盤。以降のほぼすべての章で、設計上の分かれ道を決めるのは4つの方位です。針は、その1つ目である検証可能性を指しています。エージェントは、その働きを検証できるシグナルがある分だけしか信頼できないからです。残りの3つ、すなわちコンテキストの希少性、誤りの累積、うまくいく最もシンプルなものは、検証可能性の代わりにではなく、それと併せて読みます。
図1.1 本書の羅針盤。以降のほぼすべての章で、設計上の分かれ道を決めるのは4つの方位です。針は、その1つ目である検証可能性を指しています。エージェントは、その働きを検証できるシグナルがある分だけしか信頼できないからです。残りの3つ、すなわちコンテキストの希少性、誤りの累積、うまくいく最もシンプルなものは、検証可能性の代わりにではなく、それと併せて読みます。

羅針盤は控えめな道具です。あなたの代わりにシステムを設計してはくれません。それでも、本書が分かれ道に差しかかるたびに(自律性を増やすか減らすか、エージェントをもう1つ足すか普通のスクリプトにするか、コンテキストを厚くするか絞るか)、同じ4つの方位が進む道を決めるのを目にすることになります。そして読み終える頃には、あなた自身の分かれ道も、この4つが決めるようになっていることを願っています。

エージェント、ワークフロー、チャットボット

3つのシステムを見てもらいましょう。読み進める前に、どれがエージェントなのかを決めてみてください。

1つ目は、質問に答えるアシスタントです。関数を貼り付けて何をするものか尋ねると、説明してくれます。diffを貼り付けてコミットメッセージの下書きを頼むと、書いてくれます。そして、あなたの次のメッセージを待ちます。2つ目は、届いたサポートチケットをすべて同じやり方で処理します。モデル呼び出しがチケットを分類し、通常のコードが該当するポリシー文書を取得し、2回目のモデル呼び出しが返信の下書きを作り、3回目が評価基準(ルーブリック)に照らして下書きをチェックし、結果は人間によるレビュー待ちのキューに入ります。4つのステップが、この順番で、毎回実行されます。3つ目は、「チェックアウト処理のテストが失敗している。直してほしい」と指示されると、誰の監督も受けずにコードベースを検索し、ファイルを3つ読み、1つを編集し、テストを実行し、新たに出た失敗を読み、もう一度編集し、テストスイートがすべて通ったところで止まります。

たいていの人は、直感でこれらを即座に仕分けます。3つ目は種類が違うと感じますし、その直感は正しいのです。大事なのは、なぜそうなのかを正確に言い表すことです。3つとも、まったく同じモデルの上に作られているかもしれません。違うのは、前の節で本当に新しい点として取り上げた問い、つまり「次に何が起こるかを誰が決めるのか」です。1つ目のシステムでは、あなたが、メッセージ1通ごとに決めます。2つ目では、あなたのコードが決めます。モデルは、最初のチケットが届く前から固定されていた経路に沿って、中身を埋めるだけです。3つ目では、モデルが決めます。どのファイルを読むか、編集するのか再実行するのか、いつ止まるのか。誰が制御フローを握っているのかというこの問いが、区別のすべてです。そしてここから、本書が全編で使う3つの実用上の用語が得られます。図1.2は3つを並べて描いたもので、違いは、次のステップを誰が決めるかだけです。

チャットボット、ワークフロー、エージェントの違いは1つだけです。次のステップを誰が決めるか、です。チャットボットでは、すべてのターンを人間が主導します。ワークフローでは、経路はコードの中に固定されていて、モデルは各ステップの中身を埋めるだけです。エージェントでは、モデルがループを握り、ゴールに達するまでツールを選んでは結果を読みます。モデルが握るこのループ(アクセントカラーの部分)こそが、本書全体の主題です。
図1.2 チャットボット、ワークフロー、エージェントの違いは1つだけです。次のステップを誰が決めるか、です。チャットボットでは、すべてのターンを人間が主導します。ワークフローでは、経路はコードの中に固定されていて、モデルは各ステップの中身を埋めるだけです。エージェントでは、モデルがループを握り、ゴールに達するまでツールを選んでは結果を読みます。モデルが握るこのループ(アクセントカラーの部分)こそが、本書全体の主題です。

チャットボットは、1ターンずつ進む会話です。すべてのステップを人間が主導し、モデルはテキストを生成して待ちます。ループはなく、何も実行されません。チャットボットは実際に役に立ちますし、それが適切な道具であることも少なくありません。そして、失敗しうる範囲が小さいという点を、ここで明記しておきたいと思います。チャットボットが生み出しうる最悪のものは、間違った答えです。外の世界に働きかけることは、チャットボットの手の届かないところにあるからです。

ワークフローは、複数のモデル呼び出し(とツール呼び出し)を、あなたのコードがあらかじめ定めた経路に沿ってつなぎ合わせたものです。各ステップで「これを分類する」「あれの下書きを書く」といった中身を埋めるのはモデルですが、次にどのステップが来るかを決めるのは、あなたのコードです。繰り返し現れる形には名前がついていて、第10章でまた出会うことになります。チェイニング(ある呼び出しの出力が次の呼び出しの入力になる)、ルーティング(分類してから分岐する)、並列化(複数の呼び出しに展開してから集約する)です。先ほどのチケット処理パイプラインはワークフローであり、スイッチを入れる前にフローチャートを描くことができたはずです。

エージェントは、制御フローをモデルに渡します。広く引用されているあるエンジニアリング記事は、まさにここに線を引いています。ワークフローは「LLMとツールが、あらかじめ定義されたコードパスを通じてオーケストレーションされるシステム」であり、エージェントは、モデルが「自らのプロセスとツールの使い方を動的に指揮する」システムである、というのです3 Erik Schluntz and Barry Zhang, “Building Effective Agents,” Anthropic engineering blog(2024年)。どちらの語句も同記事からの引用です。同記事は、次の段落で説明する拡張LLMという構成要素にも名前を与えています。これに先立つサーベイであるLilian Weng, “LLM Powered Autonomous Agents,” lilianweng.github.io(2023年)は、同じ構造を内側から描いています。計画、メモリ、ツール使用に支えられた、モデルという「頭脳」です。。ステップがいくつあり、どのステップがいつ来るのかは、あなたのコードのどこにも書かれていません。モデルが、直前に観察したものに反応しながら、進むにつれて選んでいきます。テストを修正するシステムが違って感じられるのは、そのためです。その実行記録は、プログラムの実行結果というより、同僚のある午後の作業ログのように読めます。

あとの2つの下には、同じ「原子」があります。第10章で出会うパターンはこれを組み合わせて作られるので、名前をつけておく価値があります。拡張LLM(augmented LLM)とは、3つのもので強化されたモデル呼び出しです。検索(retrieval:リクエストの時点で関連情報を取り込むこと)、ツール(モデルが実行を依頼できる関数)、メモリ(大事なことを先へ持ち越すための何らかの手段)の3つです。ワークフローは、この原子をいくつか、あなたのコードが固定の経路に沿ってつなぎ合わせたものです。エージェントは、この原子を1つループの中に置き、1周ごとに何をするかを自分で決めさせたものです。(この見方では、チャットボットは、拡張がほとんど使われていない素のモデル呼び出しです。)同じ原子の、2通りの配置。この絵を頭に置いておけば、世の中のさまざまな分類が謎めいて見えることはなくなります。

これから本書を通じて私が使うリトマス試験は、次のとおりです。リクエストが届く前に、制御フローの図を自信をもって描けるなら、あなたが見ているのはワークフローです。モデルが見つけたものに反応し終えてから、あとになって振り返ることでしか図を描けないなら、あなたが見ているのはエージェントです。

チャットボット、ワークフロー、エージェントを3つの箱として扱いたくなりますが、実際にはダイヤルです(図1.3)。一方の端では、モデルがテキストを生成し、すべてを人間が決めます。その同じ端の近くに、固定パイプライン(先ほどのチケット処理システム)があります。コードがすべてのステップを握り、モデルは中身を埋めるだけです。そこから少し進むと、ワークフローがモデルに判断を1つだけ委ねます。ハードコードされた分岐のうち、どれでリクエストを処理するかをルーターが選ぶのです。さらに進むと、エージェントがツールを使って自由にループしますが、重大な結果を伴う操作(メールを送る、お金を使う、データを削除する)の前には一時停止して、人間の承認を待ちます。本番環境で動いているものの多くは、このあたりにあります。反対側の端では、モデルが、ステップごとの確認なしに、多くのステップにわたって経路を最初から最後まで握ります。能力は最大、影響範囲(blast radius)も最大です。影響範囲とは、何かに止められるまでの間に、誤ったアクションが与えうる損害のことで、第17章で厳密に定義します。このダイヤルに沿って動くのは、モデルが制御フローをどれだけ握っているかという、ただ1つの量です。そして成熟したシステムは、デモでの位置をそのまま引き継ぐのではなく、意図して位置を選びます。

自律性はスイッチではなく、ダイヤルです。ダイヤルに沿って変わるのは、モデルが制御フローをどれだけ握っているかという量です。ラベルは、名前をつけておく価値のある目盛りです。現実のシステムは、たいていその間のどこかにあります。
図1.3 自律性はスイッチではなく、ダイヤルです。ダイヤルに沿って変わるのは、モデルが制御フローをどれだけ握っているかという量です。ラベルは、名前をつけておく価値のある目盛りです。現実のシステムは、たいていその間のどこかにあります。

分類の話を終える前に、もう1つ述べておきます。本書の行き着く先を予告するものだからです。実際にリリースされるもので、純粋なワークフローや純粋なエージェントであるものは、ほとんどありません。本番環境で主流の形は、ワークフローという外殻の中に、真にエージェント的なステップが1つか2つ入っているというものです。予測できるところはすべて予測可能な構造にし、モデルが握る自律性は、列挙しきれない分岐点だけに置きます。あなたは、ステップごとにダイヤルを設定しているのです。次の節は、それをどこまで回すかについてです。

そもそもエージェントは必要か

エージェントとワークフローを見分けられるようになったところで、次の問いに向き合うことになります。そもそもエージェントは必要なのでしょうか。この節の目的は、この問いを堂々と口にできるものにすることです。これほど早い段階に置いたのは意図的です。この分野が新しく入ってきた人に最もよく警告する誤りは、1つのプロンプト、固定パイプライン、あるいは50行の普通のコードのほうが安く、速く、デバッグもしやすかった場面で、自律型のエージェントに手を伸ばしてしまうことです。エージェントのデモは、人を惹きつけます。モデルが計画し、行動し、立て直し、やり遂げるのを見れば、この力はどこにでも使うべきだと結論するのが自然です。その結論に飛びつくのは、値段を見積もるまで待ってください。

単一のモデル呼び出しと比べると、エージェントには継続的にかかるコストがいくつか加わり、しかもそれらはひとまとめでやってきます。第一に、お金です。エージェントは1つのタスクにつき1回ではなく何回もモデルを呼び出し、しかも各呼び出しは、伸びていく会話を毎回送り直します。そのためコストは二重に膨らみます。呼び出しの回数で一度、各呼び出しの大きさでもう一度。10ステップのループは、それが置き換えた1回の呼び出しより1桁高くつくことがあります(この倍率は例示です。大事なのは方向です)。第二に、レイテンシです。呼び出しは逐次的で、それぞれが直前のツール結果を待つので、1秒未満で返っていた答えが、何秒も、あるいは何分もかかるようになります。向こう側で人間が待っているなら、これだけでその設計は失格になりえます。第三に、非決定性です。同じ入力でも、実行のたびに違う経路をたどり、違う答えを出すことがあります。これは、テスト、デバッグ、監査についてのあなたの習慣を、気づかないうちに通用しなくします4 エージェントの信頼性に関する、ある公開された分析は、1回の実行での成功率が約60%であるのに対し、同じタスクが8回連続で成功しなければならない場合はおよそ25%まで落ちると報告しています。これらの数値は一貫性のギャップを示す例であり、恒久的な事実ではありません。Fiddler AI, “AI Agent Failure Rate: Why 70–95% Fail in Production,” fiddler.ai blog(2026年)。。そして、失敗しうる範囲の性質そのものが変わります。これが、私が最も実感してほしいコストです。前の節でチャットボットの長所として挙げた、範囲の限られた失敗こそ、エージェントが手放すものなのです。エージェントの間違いは誤ったアクションであり、そのあとに、それを土台にしたアクションがさらに10個続き、羅針盤のところで見た計算が予測するとおりに、ループを進むにつれて累積していきます。

デモが輝いて見えるときには見落としやすいコストが、さらに2つあります。モデルにツールと自律性を与えると、攻撃対象領域が広がります。それを与えすぎることに、セキュリティのコミュニティは名前をつけています。過剰なエージェンシー(excessive agency)、つまりタスクに必要な以上の権限、機能、自由を与えることです5 OWASP, “Top 10 for LLM Applications”のExcessive Agencyの項。。危険は、意図して与えたものの外にも及びます。エージェントが単に読んだだけのテキストが、次の行動を左右しうるのです。これはプロンプトインジェクションと呼ばれる一群の攻撃で、第17章で詳しく見ます。最後に、運用の負担です。チャットボットに必要なのはプロンプトですが、エージェントにはそれに加えて、ツールの配管、コンテキスト管理、エラーからのリカバリ、停止条件、承認ゲート、トレーシング、評価が必要です。この周囲の仕組みをハーネスと呼び、それを作ることが仕事の大半を占めます。優秀なモデルも、貧弱なハーネスの中では、本番環境で失敗します。

したがって、誠実に考えたときのデフォルトは、はしごです。これは羅針盤の4つ目の方位を実践の形にしたもので、守るべき規律は、あなたの問題を解決できる最も低い段にとどまることです。一番下の段は、普通のコードです。正規表現、SQLクエリ、if文。無料で、瞬時に終わり、決定論的で、監査できます。ロジックを完全に仕様として書き下せるなら、モデルは要りません。次の段は、よく練られた1回のモデル呼び出しです。検索を加えたり、プロンプトに例をいくつか入れたりすることもあるでしょう。「エージェントが必要だ」という話の意外なほど多くが、「もっと良いプロンプトが必要だった」に落ち着きます。その上の段はワークフローで、あらかじめ描いた経路の上での複数の呼び出しです。最上段がエージェントです。1段上がるごとに適応力が手に入り、その代価を、コスト、レイテンシ、予測不能性で支払います。ステップをあらかじめ描ける問題では、低い段がいつまでも正解のままです。そこにとどまることが規律です。図1.4はこのはしごを描いたもので、上るにつれて適応力が上がり、それとともにコストも上がります。

段階的に上っていくはしご。普通のコードから、1回のモデル呼び出し、ワークフロー、エージェントへと1段上がるごとに、適応力が手に入り、その代価をコスト、レイテンシ、予測不能性で支払います。守るべき規律は、問題を解決できる最も低い段(アクセントカラーの段)に立ち、下の段では届かないことを現実のケースが証明したときにだけ上ることです。
図1.4 段階的に上っていくはしご。普通のコードから、1回のモデル呼び出し、ワークフロー、エージェントへと1段上がるごとに、適応力が手に入り、その代価をコスト、レイテンシ、予測不能性で支払います。守るべき規律は、問題を解決できる最も低い段(アクセントカラーの段)に立ち、下の段では届かないことを現実のケースが証明したときにだけ上ることです。

実用上のテストは前の節のものと同じで、今度は判断の助けとして使います。リクエストが届く前にフローチャートを描けるでしょうか。描けるなら、ワークフローかそれより下で止めてください。ステップがわかっていること、正しさを監査できなければならないこと、レイテンシやコストの予算が厳しいこと、参照・分類・変換といった単純なタスクであること。これらはどれも、はしごの下を指しています。はしごの上を指すのは、本当にオープンエンドなゴールです。ステップはモデルが発見したものによって変わり、列挙しきれない分岐で判断が求められます。その場合でも、羅針盤の1つ目の方位を具体的な形で要求してください。明確な成功基準、各ステップでのフィードバックシグナル、そして人間が確認するのにふさわしい場所です。感覚をつかむための具体的な対比を挙げましょう。「届いたメールを請求、技術、営業のいずれかに振り分け、最初の返信の下書きを書く」は、ステップがわかっていて件数も多いので、ワークフローが向いています。「見たことのないコードベースで、この失敗しているテストを通す」は、ステップがわからず、検証器が最初から組み込まれているので、本物のエージェントの問題です。

1つの罠には、独立した段落を充てる価値があります。間違った設計を、実に雄弁に擁護するからです。それは「いつか適応が必要になるかもしれない」というものです。これは仮説であり、誠実に検証するのに大した費用はかかりません。まずシンプルなほうを作り、現実のケースで測定します。はしごを上るのは、シンプルなシステムが確かに失敗する入力の種類を具体的に示すことができ、かつエージェントのほうが実際にうまくやれると確認できたときだけです。逆向きの罠がエージェントウォッシング(agent-washing)です。この言葉が売れるので、台本どおりに動くパイプラインがエージェントという名前に貼り替えられるのです。どちらの罠も断ち切る問いは、あなたがすでに手にしているリトマス試験です。ラベルに何と書いてあろうと、目の前のシステムについてこう問います。次のステップを決めるのはモデルか、それともコードか。第14章では、そこまでに学んだすべてを踏まえて、この判断にもう一度立ち戻ります。第16章では、その測定のやり方を示します。

つまりエージェントとは、どんな適応力が必要なのかを具体的に言えるときに、その適応力のために支払うコストです。それを言えないなら、お金は取っておきましょう。そして言えるなら、つまりステップを本当にあらかじめ描くことができず、検証のためのシグナルが存在するなら、エージェントが適切な道具です。続くいくつかの章は、それをうまく作る方法について書かれています。ただしその前に、これからループさせるエンジンを理解しておく必要があります。第2章は、言語モデルとは実際のところ何なのかを扱います。