はじめての機能安全（その１１）

11　機能安全に関する動向

11.1　AI/機械学習の導入

機能安全へのAI/機械学習の導入は、現在、急速に進んでいる研究開発分野の一つです。AI/機械学習は、自動車、航空、産業制御などの分野で、様々な課題に取り組むために利用されています。AI/機械学習の精度を確保することや、その学習過程で発生するエラーの管理などが重要になります。

一方で、AI/機械学習の導入に伴い、新たな機能安全上の課題が発生する可能性もあります。AI/機械学習によって生成される「モデルの信頼性」や、「データの適切な扱い」などが課題となっています。また、AI/機械学習によって生成されるシステムが、従来のソフトウェアやハードウェアのシステムと異なる特性を持つ可能性があるため、新たな検証手法や評価指標が必要とされる場合があります。

このような課題に対応するために、標準化団体では、AI/機械学習に関する機能安全の指針や規格の開発が進められています。例えば、ISO/IEC JTC 1/SC 42は、AI/機械学習の信頼性や説明性、透明性に関する国際標準化活動を行っています。

今後AI/機械学習がますます普及することにより、機能安全の観点から見た信頼性や安全性の確保より重要となっていくと考えられます。そのため、AI/機械学習の導入においては、機能安全に関する適切なガイドラインや標準化が必要とされます。

11.2　システムの複雑化

システムの複雑化に対応する機能安全も現在の研究開発分野の一つです。システムがより複雑化していくことにより、システムの安全性設計や検証において、より高度な技術や手法が必要となっています。

システムの複雑化は、様々な分野に影響を与えています。例えば、自動車や航空機などの輸送機器においては、自動運転や飛行制御システムの導入に伴い、システムの複雑化が進んでいます。また、産業制御システムにおいては、IoTやビッグデータ解析の導入によって、より高度な制御が必要とされるようになっています。

このような複雑なシステムに対応するために、機能安全に関わる団体や企業により、より高度な設計手法や検証手法、安全分析手法や評価指標の開発が進められています。安全性解析について3つ紹介します。

• モデルベース安全性解析

モデルベース安全性解析は、システムのモデルを使用して安全性解析を行う手法です。この手法では、システムの機能と要件をモデル化し、そのモデルを使用してフォルトツリーやハザード分析などの解析を行います。この手法により、安全性解析の正確性が向上することが期待されています。

• 統計的モデルチェック

統計的モデルチェックは、大規模なシステムの安全性解析に使用される手法です。この手法では、システムの状態遷移を確率的にモデル化し、確率的モデル検査によりシステムの安全性を評価します。この手法により、システムの安全性解析において、高速かつ正確な解析が可能となることが期待されています。

• シミュレーションベース安全性解析

シミュレーションベース安全性解析は、システムの動作をシミュレーションすることで安全性解析を行う手法です。この手法では、システムの動作をモデル化し、そのモデルに仮想的な故障を注入してシステムと安全関連系の挙動をシミュレーションします。この手法により安全性評価を、よりリアルな環境下で実施できます。

11.3　サプライチェーンの管理

製品の安全性において、サプライチェーンの管理が重要になっています。サプライヤーが提供する製品や部品が、製品の機能安全性に影響を与える可能性があるため、その安全性と品質管理が必要です。

11.4　IEC 61508 3rdについて

IEC TC65委員会によると、IEC 61508の第３版にはサイバーセキュリティの要件が追加されます。また、ISO 21448のSOTIF（Safety of the Intended Functionality）の影響からヒューマンファクタ、ISO 26262:2018-11の影響から半導体関連が追加され大幅に変更される予定です。

11.5　まとめ

機能安全規格は技術の進歩と同時に更新を余儀なくされています。これは、ソフトウェアの占める割合が増加し、サイバーセキュリティ、さらにAIに関する要件が増えたためです。また、半導体の進化も規格の大幅な変更を促しています。さらに、各国が自動運転やサイバーセキュリティの法整備を進めていることもあり、これらにも対応する必要があります。

規制の変化に対応するためには、システムや製品の改良に迅速に対応できる開発プロセスが必要になります。

IEC 61508は第3版の改定が予定されており、近い将来更新される予定です。したがって、IEC 61508準拠の開発を行っている製品については、その動向を把握し、ドラフトを入手して準備をする必要があります。

既に、新しい安全基準が次々と導入されています。例えば、自動車の機能安全に使われる半導体に関するガイドラインISO 26262-11が2018年に発行され、工業制御システムのサイバーセキュリティに関するISO/IEC 62443-4-1が2020年に発行されました。これらの規格に準拠して、製品開発を行う必要があります。

コラム：ChatGPTとの対話１１

機能安全規格を複雑化させることはよくないと考え、ChatGPTと以下のような議論をしてみまし