AIエージェントを開発する上で、最も大事にした3つの柱とは
この記事について
Algomatic NEO(x)テックリードの坂本と申します。
生成AI以外に全力投球する宣言をしてはや3ヶ月が立ちました。
そして先日ついに、開発に携わっていた「リクルタAI ダイレクト採用」がβ版を提供開始しました。
本記事では採用AI エージェント「リクルタAI 」シリーズを例に、どのようにAI エージェントの開発を行うべきか、自分たちの知見から3つのポイントにまとめました。
実際にAIを活用したプロダクトを作りたい方に是非読んでいただければと思います。
採用AI エージェント「リクルタAI」
まず、前提として、「リクルタAI」シリーズについて簡単に説明させていただければと思います。
「リクルタAI」は、負荷の高い採用業務をトータルサポートし、人事担当者が本質的な業務に集中できる環境を実現する「採用特化AIエージェント」です。
プレスリリース
サービス紹介ページ
詳しくは上記を是非ご覧いただければと思いますが、今回はAIエージェントを開発していく上で不可欠であった
AIエージェントに何を任せるべきか?
AIエージェントにどこまで任せるべきか?
AIエージェントをどう運用すべきか?
の3つの柱についてお話させていいただきます。
※あくまで我々が開発する中で得た知見です。他の知見やご意見ありましたら是非反応いただければと思います。
1. AIエージェントに何を任せるべきか?
まず、AIエージェントの開発以前にシステムを作るうえで大前提ですが、システムによってクライアントの業務のどこがどのように変革するのかを考える必要があります。
AIエージェントであろうがなかろうが、システム化は手段であり目的ではありません。
生成AIが今までのシステムと違い、非構造化データを扱えることは強みとしてある一方、既存のルールベースでのシステムと合わせたトータルでの業務を描く必要があります。
そうした実際の業務選択には、採用ドメインのエキスパートや実際の現場担当者の知見が不可欠です。
我々としても「人事のためのAIは、人事がつくる」をスローガンとし、実際に採用のプロである弊社CHROの高橋(@hiroyuki_takah)にガッツリと参画してもらい、業務フローを整理しながらシステムを構築してきました。
しかし、市場的に投入するまでの時間やコストを考えたら売れるかわからないものに最初から全ての機能を作ってリリースとは行きません。
「リクルタAI ダイレクト採用」も最初はRPO(スカウト代行)としてスカウト業務フローのほとんどの業務を手で行う傍らで、市場ニーズや本当に価値があるのかを検証しながらの開発スタートでした。
その中で、想定通り価値があったもの、実はペインが違ったものをより分けながら一つずつ機能を開発していくことでいち早く価値のあるAIエージェントになったと自負しています。
この辺りの泥臭く進んできた部分はカンパ二ーCEOの高橋がnoteを書いておりますので是非一読いただければと思います。
AIエージェントはどこまでいっても手段です。
どこを自動化すべきかエキスパートと協議し、既存のシステムと合わせてフローをデザインする。そしてはじめは手動で何に価値があるか実際に確認する。
これができて初めてAIエージェントに任せるべきことが見えてくるはずです。
2. AIエージェントにどこまで任せるべきか?
そうして、AIエージェントに任せることが見えてきた時に現段階で立ちはだかる壁があります。
それは生成AIが常に正しい出力を行うわけではないことです。
LLMの場合はハルシネーション（事実無根の内容を生成してしまう現象）であったり、日本語の細かいニュアンスまで正確に捉えきれていないというケースが該当します。
一方で、最終的にAIの結果に人のチェックを入れることをしては先程の業務フローの建付けがうまくいかなかったり、工数は思ったように減らなかったりしAIを入れている意義が薄れてしまいます。
そこで課題になるのがAIエージェントにどこまでその業務を任せるのか?ということです。
私はその中でAIに任せる範囲を決めるには
AIエージェントに必要な事のみをさせる
AIエージェントにガードレールをつける
AIエージェントのフェイルセーフをつける
という3つの指針があると考えています。
AIエージェントに必要な事のみをさせる
もし、AIがスパムのように大量のスカウトを送りつけたり、でたらめな文章を生成したりすると、AIエージェント自体の信用が大きく損なわれ、市場からも受け入れられなくってしまいます。
これは、採用の文脈に限らず、これからさまざまな領域で登場するAIエージェントにとって重要な課題だといえるでしょう。
私たちが取り組んでいる採用AIエージェントでは、「採用担当者の思考をトレースする」仕組みを重視しています。実際に採用担当者が送るであろう“適切な候補者”に対して、“適切なメッセージ”のみを自動生成することで、必要以上にスカウトを濫用しないように設計しています。
AIが高い処理能力を持っているからといって、本来送る必要のない人に送ったり、同じ人に大量に送ったりしないよう厳しく制御しなければ、不審に感じられる挙動や過度なアプローチが起こりかねません。
AIが24時間動き続けられるからと不必要に任せるのではなく、必要なことを必要なだけ実施することがAIエージェントを信頼してもらう上で非常に大事だと言えるでしょう。
AIエージェントのガードレールをつける
さらに、AIが出力する文章にはハルシネーションや不自然な日本語が紛れ込むリスクもあります。当社では、AIの生成結果をルールベースの仕組みと組み合わせて品質保証することで、安全性と精度を担保できるよう設計しています。
※以前LLMのガードレールについては記事を寄稿させていただきました。
「リクルタAI」における具体的なガードレールの設計や技術的な詳細は、チームメンバーである宮脇（@catshun_）が別途解説予定なので、公開され次第リンクを共有いたします。
このように、AIが引き起こす懸念を事前に回避する仕組みを整え、ユーザーに信頼してもらえる出力を常に実現すること――それが、採用AIエージェントをはじめとする各種AIエージェントを自動化するにあたって、求められる姿だと考えています。
AIに任せる上で、自動化による生産性向上と、AIに対する不信感を抱かせない安全性・品質をどこに置くかはAIエージェントの開発における重要な意思決定の一つです。
AIエージェントのフェイルセーフをつける
セキュリティ面から見ると、AIエージェントは社外秘のセンシティブな情報扱う可能性も高いため、万が一“暴走”した場合にリスクを最小化する仕組みづくりが欠かせません。
そこで重要になるのが「フェイルセーフ」の考え方です。
フェイルセーフとは、機械は必ず誤作動を起こすことを前提に立ち、誤作動を起こした際に周りに害を及ぼさないような設計であったり、自動で働く安全装置のことです。
｢リクルタAI｣では、フェイルセーフとして予防と対策の2つの考え方を取り入れています。
1つは予防として候補者の方の判断に必要な情報のみを扱い、不要なデータはそもそも持たないことを徹底しています。
必要な情報以外を扱わないように事前に選別することにより、そもそも不要な情報をユーザーに誤って出力してしまうような状況は起こりえません。
もう一つは対策として、想定外の挙動を検知した際はシステム自体を即座に停止する仕組みも導入しています。AIをフルオートで運用している以上、何か問題が起きてから慌てて対応するのでは遅い場合があります。そのため、「まずは止める」というフェイルセーフを常に用意しておくことで、ユーザーに安全に使っていただける仕組みとしています。
ここで重要なのは、「AIにどこまで業務を任せるか」という点だけでなく、フェイルセーフなく暴走すると周囲へ深刻な影響を与えかねないという認識を開発者全員が共有することです。
一度でも重大な情報漏洩や不適切な処理が発生し、クライアント企業がAI導入に消極的になってしまえば、業界全体にとって大きな機会損失となります。
私たちが「AIエージェントのフェイルセーフ」を重視する背景には、AIが社会に受け入れられ続けるための責任があると考えているからです。自動化や効率化のメリットを享受しつつ、暴走のリスクに対しては常に目を光らせる――それこそが、今後AIエージェントに仕事を任せる上で開発者が果たすべき責任だと考えています。
3. AIエージェントをどう運用していくか?
β版リリース直前、私たちが最後に注力していたのは、新機能の追加ではなく、AIエージェントの運用をいかに自動化できるかという点でした。
開発を進めていくなかで、運用を重ねるほどにボトルネックが人間の対応そのものになっていったからです。AIを活用する以上、日々変化し続ける要件に合わせて素早くアップデートをかけられなければ、AIエージェントとしての自動化効果が薄れてしまいます。
日々変わる要件に追従できるAIエージェント
採用業務に限らず、現場の要件は常にアップデートされます。法改正や社内ルールの変更、業務プロセスの変化など、新しい条件が追加・削除されるのは日常茶飯事です。
採用の場面でも、実際に面談を重ねていく中で理想の候補者像が変化することはよくあり、最初に定義した要件どおりにスムーズにいくわけではありません。
こうした現場の変化を捉え、AIエージェント自体を日々アップデートし続けることが、長期的に成果を出し続けるための鍵となります。そのためにも、AIエージェントの出力結果を日々検証し、クライアント企業と協議を重ねながらアップデートを進める――この地道なプロセスが不可欠です。むしろ、細かな修正を積み重ねることで「AIエージェントが現場に馴染んでいく様子」を実感してもらうことこそ、AIエージェントの成功へとつながると考えています。
AI エージェントのメンテナンスも自動化していく
こうした日常的なアップデートを、人間の手を最小限に抑えて実現することが理想です。従来のシステム開発では、新たな要件が出てくるたびにアプリケーションやデータベースを改修し、大きな工数やリリース作業が必要でした。しかし、AIエージェントの場合、プロンプトや設定を修正するだけで対応できるケースがあり、メンテナンスの負荷を大幅に軽減できます。
現状でも「リクルタAI」シリーズは、実際のスカウト結果などからより正確な要件を学び、半自動でプロンプト自体の改善を提案する段階にまできています。最終的には、人間が細かく手を入れなくても、現場の動きやデータの変化に対してAIが自ら追従していく――このような“自己成長”を実現できることこそAIエージェントの運用の始まりではないでしょうか。
最後に
以上が、採用AIエージェント「リクルタAI ダイレクト採用」を開発していく中で得たAIエージェント開発において大事な3つの要素でした。
ここまで読んでいただきありがとうございました。
もしサービスやチームにご興味をお持ちいただいた方は、ぜひお気軽にご連絡ください。一緒にAIの可能性を広げながら、新しい価値を創造していきましょう。
是非、ご連絡お待ちしております。