生成AIは、調査や実装、テストを驚くほど速く進めます。一方で、AIに任せる範囲が広がるほど、人が判断すべきところははっきりしてきます。この記事では、EVOLOOPが「Human in the Loop」として大切にしている、人が必ず入る5つの場面を、図とあわせて解説します。
AIに任せるほど、人の判断が大切になる理由
生成AIは、既存のコードを読み解いたり、仕様に沿ってコードを書いたり、テストを用意したりといった作業を、短い時間で進められるようになりました。開発の進め方そのものが、大きく変わり始めています。
一方で、AIは「何のためにつくるのか」「どこまで作れば十分か」「出して大丈夫か」を、自分で決めることはできません。作業が速くなるほど、判断を誤ったときに、間違った方向へ速く進んでしまう心配も大きくなります。だからこそ、開発の流れのなかに、人が必ず判断する場面をあらかじめ組み込んでおくことが大切です。
この考え方を「Human in the Loop（ヒューマン・イン・ザ・ループ）」と呼びます。AIが進める開発のループの中に、人の判断を決まった場所で入れておく、という意味です。
ここからは、人が判断すべき5つの場面を、「AIが手伝えること」「人が決めること」「判断を誤ると起きること」に分けて見ていきます。
1. 何をつくるかを決める（要件・仕様）
開発の出発点は、「何を、誰のために、どこまでつくるか」を決めることです。AIは、伝えた内容を形にするのは得意ですが、その内容が本当に業務に合っているかまでは判断できません。
AIが手伝えること
今の業務の流れや既存のシステムを調べ、要件の候補や、決めておくべき論点を洗い出す。
人が決めること
業務の目的、使う人、今回つくる範囲と、あとに回すことを決める。
判断を誤ると
要件があいまいなまま進めると、速くつくれても、使われないものができてしまいます。つくり直しの手間は、作業が速いほど目立たないまま積み上がります。
EVOLOOPでは、やりたいことをタスクボードに入れていただくと、AIが事前に調べ、判断が必要な点を質問としてまとめます。人はその質問に答えるだけで、要件を固めていけます。
2. 全体の形を決める（設計）
画面ひとつひとつが正しく動いても、システム全体として整っていなければ、あとから手を入れにくくなります。データの持ち方、機能の分け方、ほかのシステムとのつなぎ方は、一度決めると変えるのに大きな手間がかかる部分です。
AIが手伝えること
いくつかの設計案を示し、それぞれの長所と短所、影響する範囲を整理する。
人が決めること
将来の拡張や運用まで見渡して、どの形で進めるかを決める。
判断を誤ると
場当たり的に機能を足していくと、似たデータがあちこちに散らばり、ひとつ直すとほかが壊れるシステムになりがちです。
設計の判断は、経験のあるエンジニアが担います。決めた理由は記録として残すので、あとから「なぜこうなっているのか」を確かめられます。
3. 影響の大きい変更を確かめる（レビュー）
すべての変更を同じ深さで確かめる必要はありません。大切なのは、間違えたときの影響が大きい変更を見分けて、そこを人が必ず確かめることです。
AIが手伝えること
変更点と影響する範囲、人が見るべき確認ポイントをまとめる。自動テストを繰り返し実行する。
人が決めること
認証・個人情報・決済・データベース・インフラなど、影響の大きい変更を確かめ、問題がないかを判断する。
判断を誤ると
権限の確認が抜けていた、データを消す処理が意図より広く動いた、といった問題は、本番に出てから気づくと影響が大きくなります。
影響の大きい変更はエンジニアのレビューを必須にしています。AIが事前に確認ポイントをまとめておくので、人は見るべきところに集中できます。
4. 本番に出すかを決める（リリース判断）
テストが通ったことと、実際に使えることは同じではありません。画面の言葉づかい、操作の手順、業務の流れとの合い方は、使う人が触ってみて初めて分かることも多くあります。
AIが手伝えること
本番と同じ環境（ステージング）に反映し、何が変わったかをリリースノートにまとめる。
人が決めること
ステージングで実際に触って確かめ、本番に出すかどうかを決める。
判断を誤ると
確認をとらずに出してしまうと、「思っていたものと違う」という手戻りや、現場の混乱につながります。
本番に出すかどうかを決めるのはお客様です。イメージと違えば、コメントを付けて戻すだけで直します。
5. 何から進めるかを決める（優先順位）
AIによって作業が速くなると、「次に何をやるか」を決める重要性がさらに増します。やりたいことが溜まっているほど、どれから手を付けるかで、得られる成果が変わるからです。
AIが手伝えること
タスクごとの作業量の見込みや、ほかのタスクとの関係を整理する。
人が決めること
事業の状況、締め切り、現場の困りごとを踏まえて、順番を決める。
判断を誤ると
優先順位があいまいなままだと、作りやすいものから進んでしまい、本当に困っていることがいつまでも残ります。
開発コーディネーターが、優先順位付けと進行を一緒に支えます。プランによっては、ヒアリングからタスクの整理まで私たちが担います。
実際の開発の流れで見ると
5つの場面は、開発の流れのなかで、次のように組み込まれています。AIが速く進めるところと、人が判断するところが、交互に現れるのが分かります。
| 場面 | AIが進めること | 人が判断すること |
|---|---|---|
| 要件・仕様 | 既存の調査、論点の洗い出し | 目的・範囲・優先すること |
| 設計 | 設計案と影響範囲の整理 | どの形で進めるか |
| レビュー | 変更点の要約、自動テスト | 影響の大きい変更の確認 |
| リリース | ステージング反映、リリースノート | 本番に出すかどうか |
| 優先順位 | 作業量や関係の整理 | 何から進めるか |
AIに任せやすいこと、任せにくいこと
人が判断すべき場面がある一方で、AIに任せたほうが速く、確かに進むこともたくさんあります。大切なのは、どちらか一方に寄せるのではなく、性質に合わせて分担することです。
| AIに任せやすいこと | 人が担うほうがよいこと |
|---|---|
| 既存のコードや資料の読み解き | 業務の目的や優先順位の判断 |
| 決まった手順に沿った実装 | 全体の設計と、将来を見据えた決定 |
| テストの作成と繰り返しの実行 | 影響の大きい変更の最終確認 |
| 変更点の要約やリリースノートの下書き | お客様や現場との合意づくり |
| 調べたこと・試したことの記録 | 本番に出すかどうかの判断 |
任せやすいことに共通するのは、「正しさを確かめる方法がある」作業です。テストで確かめられる、記録と照らし合わせられる、といった作業はAIに向いています。反対に、正解がひとつに決まらず、関係する人の合意が必要なことは、人が担うべき判断です。
社内でHuman in the Loopを始めるには
AIを使った開発を社内で始めるときも、考え方は同じです。いきなりすべてをAIに任せるのではなく、次の順番で、人が判断する場所を先に決めておくと進めやすくなります。
- どの変更を「人が必ず確かめるもの」にするか、最初に決めておく
- 確かめる場所（本番と同じ環境）と、確かめる人を決めておく
- AIに依頼するときは、目的と、やってほしくないことも一緒に伝える
- 判断した内容と理由を記録に残し、あとから振り返れるようにする
- うまくいった進め方を少しずつ広げ、任せる範囲を段階的に増やす
社内に開発の担当者がいない場合や、判断できる人の時間が限られている場合は、こうした体制ごと外部に任せるという選択肢もあります。
人の判断を、速く・確かにする工夫
人が判断する場面を増やすと、そこで待ちが生まれるのでは、と心配されるかもしれません。大切なのは、人が判断しやすい形に情報を整えておくことです。
- 判断に必要な情報を、AIがあらかじめまとめておく（変更点、影響範囲、確認ポイント）
- 確かめる場所を決めておく（本番と同じ環境で触って確認する）
- 判断の結果と理由を記録に残し、同じ議論を繰り返さない
- 影響の小さい変更は、仕組みで守ったうえで人の確認を軽くする
こうした工夫によって、人は「全部を見る」のではなく「見るべきところを見る」ことに集中できます。それが、速さと確かさを両立させるいちばんの近道です。
よくある質問
すべての変更を人が確認するのですか？
いいえ。影響の大きい変更は必ず人がレビューし、それ以外は自動テストなどの仕組みで守ります。どこまでを人が確かめるかは、システムの性質に合わせて決めます。
判断する人が社内にいなくても大丈夫ですか？
はい。要件の整理や優先順位付けは、開発コーディネーターが一緒に進めます。本番に出すかどうかなど、お客様にしか決められないことだけを、分かりやすい形でお伺いします。
AIが間違えることはありますか？
あります。だからこそ、自動テスト・人によるレビュー・ステージングでの確認を組み合わせ、間違いが本番に届く前に気づける仕組みにしています。
まとめ
この記事のポイント
- AIの作業が速くなるほど、人の判断の重要性は増していく
- 要件・設計・レビュー・リリース判断・優先順位の5つの場面には、人が必ず入る
- 判断に必要な情報をAIが整えることで、人は見るべきところに集中できる
- AIの速さと人の確かさを組み合わせることが、安心して速く進めるための近道
特長
AIと人の開発体制、品質とセキュリティ、記録の残し方など、EVOLOOPの考え方をまとめています。
詳しく見る →