進化するAIエージェント！人と協調して、サイバーセキュリティ対策や現場作業を支援する2つの新技術を発表

こんにちは！富士通 広報 note編集部です。
生成AIに続いて、今年はAI エージェントが話題になっていますね。
富士通も10月に、「Fujitsu Kozuchi AI Agent」を発表し、会議AIエージェントの提供を開始しており、大きな反響をいただいています。
会議AIエージェントは、損益や商談に関する会議に参加し、会議の会話から課題を自律的に抽出し、適切な情報の共有や施策を提案します。

そして、只今開催中のメディア・投資家・アナリスト向けの富士通テクノロジー戦略説明会では、AIサービス「Fujitsu Kozuchi」のコア技術として、２つのAI エージェントの新技術を発表します。マルチAI エージェントセキュリティ技術は、2025年3月よりトライアル提供を開始し、映像解析型AIエージェントは、2024年度中にトライアル環境の提供を開始する予定です。

1．マルチAI エージェントセキュリティ技術

近年、特定の企業・組織を標的としたサイバー攻撃が急増し、深刻な問題になっています。そこで富士通が開発したのが、AIエージェントを活用したセキュリティ技術です。
攻撃や防御などのセキュリティに特化したスキルやナレッジを持つ複数のAIエージェントを連携させることで、企業や公共団体のITシステムにおいて、脆弱性を悪用する攻撃や生成AIへの攻撃といった新たな脅威へのプロアクティブなセキュリティ対策を支援します。本技術は、次の3つの技術で構成されています。
・マルチAIエージェント連携技術：
組織や拠点ごとに開発されたAIエージェントを、透過的に協働させる技術。協働におけるポリシーを自律的に制御して接続するセキュアエージェントゲートウェイを組織や拠点ごとのAIエージェント基盤に導入することで、AIエージェント開発者が意識することなく、AIエージェントを連携できます。
・セキュリティAIエージェント技術：
プロアクティブなセキュリティ対策に必要な基本的なセキュリティAIエージェントとして、攻撃、防御、テストの3つのAIエージェントを開発。これらのAIエージェントを、マルチAIエージェント連携技術で連携させることで、テストAIエージェントに構築された検証用仮想環境「サイバーツイン」上で攻撃と防御AIエージェントによる攻撃・防御シミュレーションが交互に行われ、新たな脆弱性へのプロアクティブな対策を行います。

・生成AIセキュリティ強化技術
生成AIのセキュリティ耐性について自動で網羅性高く確認を行うLLM脆弱性スキャナーと、攻撃を自動的に防御・緩和するLLMガードレールを、イスラエルのBen-Gurion University of the Negevと共同開発しました。それぞれ攻撃、防御AIエージェントと連携して動作することで、生成AI活用システムへのプロアクティブなセキュリティ対策を実現します。

マルチAIエージェントセキュリティ技術の全体像

詳細を知りたい方は、プレスリリースをチェック！
URL:https://pr.fujitsu.com/jp/news/2024/12/12.html

2．映像解析型AIエージェント

製造・物流現場では、人手不足と高齢化が深刻な問題となっており、生産性や品質の確保と、安心・安全な現場づくりの両立が大きな課題となっています。人と協調するAIエージェントは、デスクワークや会話支援において大きな広がりを見せていますが、現場作業の支援に向けてはさらなる進化が求められています。
こうした課題に対して、富士通は、製造、物流などの現場に設置されたカメラの映像を空間認識し解析するとともに作業指示や規則などのドキュメント情報を参照することで、自律的に現場改善の提案や作業レポートの作成を行い、人の作業を支援する映像解析型AIエージェントを開発しました。
開発したAIエージェントでは、マルチモーダル大規模言語モデルをベースに、安全規則などのドキュメント情報をもとに現場の3次元空間を映像認識する能力を獲得する自己学習技術と、ドキュメントのコンテキストが示す対象部分を映像から選択し記憶することにより、長時間の映像を世界最高精度で解析することを可能にしたコンテキスト記憶技術を搭載しています。

映像解析型AIエージェント

さらに、AIエージェントの性能評価を目的に、工場や倉庫の現場映像を含むAIエージェントの評価環境「FieldWorkArena（フィールドワークアリーナ）」を、米国のCarnegie Mellon Universityの監修のもと開発しました。

詳細を知りたい方は、プレスリリースをチェック！
URL:https://pr.fujitsu.com/jp/news/2024/12/12-1.html

AIエージェントへの注目度が高まるにつれ、その倫理的な側面への関心も強まっています。富士通では、従来から人を中心に考えたAIを目指しており、「Fujitsu Kozuchi AI Agent」の提供開始とともに、AIエージェントの自律性に関する富士通の考え方（人間中心のAI）について、社内外への浸透を図っています。

■AIエージェントの自律性

AIは、ひとの生活を豊かにするために、ひとの意思決定を支援することを目的に作られています。しかし、AIの自律性というと、ドライバーがハンドルを握らずに自律的に走る自動運転車や、自律的に敵を発見して攻撃する兵器といった、人間の判断を全く介さない印象を受ける方がいるかもしれません。AIエージェントも自律的に高度な業務を推進すると謳われていますので、もしかしたら人間を介在しない怖さを感じる方がいるかもしれません。ただし、実際にはAIエージェントは定められた仕様の中でタスクを実行しているので、人間側の意思決定を無視して挙動することはありません。

■富士通の「Human Centric」

富士通では、「Human Centric」の理念に基づき、AIをはじめとする最新技術を、あらゆる人の可能性を広げ、幸福の追求や社会貢献を支援するツールとして位置付けています。プライバシーを守り、人が差別を受けたり危害を受けたりすることのないよう公平や安全を配慮して実装することにより、人が安心して利用できるAIを目指しています。
AIエージェントについても、「Human Centric」、つまり人の自律性を支えることを目的に開発しており、人の意思決定を尊重し、人と協調して作業を行うように配慮して提供しています。

■富士通のAI戦略

富士通は、2024年2月に、「AIはわたしたちのバディになる」という新しいAI戦略メッセージを打ち出しました。AIが信頼できる仕事仲間となり、人間の生産性と創造性を拡張していくと考えます。
さらに2024年7月には、生成AIを組み込む際は、「Chatを超える、Beyond Chat」を合言葉に、従来のレポート作成やチャット利用に留まらない、業務課題を解決するためのユースケースを開発していくことを発表しています。

富士通は今後も、お客様の成長を支えるパートナーとして、AIを中心とした最先端技術開発に注力していきます。

富士通のAI倫理に関する取り組みの詳細は、過去のnote記事をご覧ください。

おすすめ記事