AI/IoTシステム安全性シンポジウム参加してみた2
2日目、Asian STAMP Workshopというのがあったので、そこにも参加してみました。手元でメモっていたことと、感想を書きます。
FMEAはFaultは見つけられるけれどもAccidentは見つけられない
ソフトウェアは無限のシステム複雑度を許容する
SILはソフトウェアには全く意味がない
ソフトウェアそのものに安全性はない
ここらへんから、STAMP/STPAの考え方が出てきたそうです。実際ソフトウェアFMEAとかってありますけど、そもそもが「筋が悪い」のかもしれません。STAMPのガイドブックがIPA?から出ているみたいなので、勉強します。
人を考慮しないとどうしようもないよ、というのがメッセージ
だからパラダイムを変えようよ。複雑になってんだから
相互作用するのがソフトウェアなんだから、分割なんてできないよ
Human in the loopというキーワードが出ていました。人ってユースケース検討時にはシステムに含まれていますけど、それ以降になると仕様から消え去りますよね。そこに人を関与させよう、だって人はシステムの一部で、人のミスユースとかでシステムが異常状態に陥ることもあるから、という考え方だと理解しました。
近年の事故は組み合わせ、人為的なエラーによって起きている
従来法、PRAというのもある
STAMP/STPAはシステム全体の振る舞い。論理構造図を使う
導入への課題
どこで使うか
独立でやらない(開発と安全解析でいっしょにやる)
早い段階で安全性の作りこみしたい。要件定義
要件レベルでコントロールストラクチャなどを書く
単体のコンポーネントのエラーでは事故は起きない、ということです。ある程度成熟したシステムではそうでしょうね。自信をもってそう言える時点で、すごいなとは思います。
STAMP自体を詳しく知らなかったのですが、要件レベルという早期に実施するんですね。
やってみるところからですねー。
この記事が気に入ったらサポートをしてみませんか?