2016/06/27

内平直志製品・制御システム高信頼化部会 主査（北陸先端科学技術大学院大学 知識科学系 教授）

「製品・制御システム高信頼化部会」

活動概要紹介

IPA/SECセミナー失敗から学ぶ組込みソフトウェア高信頼化のためのアプローチ法紹介～製品・制御システム高信頼化部会2015年度成果報告～

2

製品・制御システム高信頼化部会

独立行政法人 情報処理推進機構 （IPA）

ソフトウェア高信頼化センター （SEC）

「重要インフラ分野のシステム障害への対策」事業

重要インフラITサービス高信頼化部会

製品・制御システム高信頼化部会

高信頼性定量化部会

・未然防止知識WG

・システム安全性手法解析WG

・障害原因診断WG

3

主査 内平 直志 国立大学法人 北陸先端科学技術大学院大学荒木 啓二郎 国立大学法人 九州大学兼本 茂 公立大学法人 会津大学安達 和孝 日産自動車株式会社岩崎 新一 日本電気株式会社河合 浩明 アイシン精機株式会社小泉 忍 株式会社日立製作所五味 弘 沖電気工業株式会社

／一般社団法人 電子情報技術産業協会（JEITA）鈴村 延保 アイシン・コムクルーズ株式会社高木 徳生 オムロンソーシアルソリューションズ株式会社中岡 邦夫 三菱電機株式会社野本 安栄 株式会社日立産業制御ソリューションズ長谷川 賢一 株式会社富士通コンピュータテクノロジーズ久住 憲嗣 国立大学法人九州大学細谷 伊知郎 トヨタ自動車株式会社三浦 邦彦 矢崎総業株式会社薬袋 正和 横河電機株式会社門田 浩 一般社団法人 組込みシステム技術協会（JASA）

ＩＰＡ／ＳＥＣ 三原 幸博（副主査）・十山 圭介・松田 充弘・石田 茂・石井 正悟

2015年度 製品・制御システム高信頼化部会メンバー

4

主査 久住 憲嗣 国立大学法人 九州大学石川 学 横河電機株式会社岩橋 正実 三菱電機メカトロニクスソフトウエア株式会社植武 信弘 株式会社日立産業制御ソリューションズ内平 直志 北陸先端科学技術大学院大学石原 鉄也 矢崎総業株式会社鈴村 延保 アイシン・コムクルーズ株式会社木村 裕之 日本電気株式会社羽田 裕 日本電気通信システム株式会社細谷 伊知郎 トヨタ自動車株式会社高木 徳生 オムロン株式会社土山 欽也 日本電気株式会社

ＩＰＡ／ＳＥＣ 三原 幸博・松田 充弘・石田 茂

2015年度 未然防止知識ＷＧメンバー

5

主査 荒木 啓二郎 国立大学法人 九州大学内平 直志 北陸先端科学技術大学院大学大原 衛 地方独立行政法人東京都立産業技術研究センタ岡本 圭史 仙台高等専門学校兼本 茂 公立大学法人会津大学川野 卓 東日本旅客鉄道株式会社日下部 茂 国立大学法人九州大学中村 洋 株式会社レンタコーチ野本 秀樹 有人宇宙システム株式会社福田 和人 東日本旅客鉄道株式会社

ＩＰＡ／ＳＥＣ 三原 幸博・石井 正悟・十山 圭介

2015年度 システム安全性解析手法ＷＧメンバー

6

主査 兼本 茂 公立大学法人会津大学副主査 金田 光範 東京都立産業技術研究センター

青木 利晃 国立大学法人北陸先端科学技術大学院大学漆原 憲博 （株）ジェーエフピー中村 洋 （株）レンタコーチ北道 淳司 公立大学法人会津大学大学院岡野 浩三 大阪大学大学院髙村 博紀 （株）アトリエ岡本 圭史 仙台高等専門学校大原 衛 東京都立産業技術研究センター田渕 一成 ビジネスキューブ・アンド・パートナーズ（株）

ＩＰＡ／ＳＥＣ 三原 幸博・十山 圭介・石井 正悟

2015年度 障害原因診断ＷＧメンバー

7

「重要インフラ分野のシステム障害への対策」事業

• 生活や社会・経済基盤を支える重要インフラ分野等における情報処理システムの信頼性向上のため、システムの障害事例情報の分析や対策手法の整理・体系化を通して得られる「教訓」を業界・分野を越えて幅広く共有し、類似障害の再発防止や影響範囲縮小につなげる仕組みを構築する。

• 教訓の有用性を示すとともに、障害情報の分析等により導かれる教訓を分野横断で共有するための、障害情報や教訓の共通様式、その公開に際しての機密保持等のルールを取りまとめる。

• 教訓に基づき、類似障害の再発防止に向けたシステム開発や運用・管理の継続的なプロセス評価・改善手法を取りまとめるとともに、広くその導入を促進する。

出典：IPA/SECホームページhttp://www.ipa.go.jp/sec/system/index.html

8

「重要インフラ分野のシステム障害への対策」事業

出典：IPA/SECホームページhttp://www.ipa.go.jp/sec/system/index.html

9

製品・制御システム高信頼化部会中期計画

• 1年目（2013年度）

– 1-1 製品・制御システム高信頼化に向けたロードマップ（部会活動計画）の策定

– 1-2 製品制御システム信頼性向上ガイドライン(Ver1.0)骨子検討

– 1-3 障害事例検証に基づく障害分析手法の検討

– 1-4 障害の未然防止のためのノウハウ・知識の収集と分析

• 2年目（2014年度）

– 2-1 製品制御システム信頼性向上ガイドライン(Ver1.0)策定・公開

– 2-2 障害分析手法ならびに分析事例集(Ver1.0)策定・公開

– 2-3 障害未然防止知識集(Ver1.0)策定・公開

– 2-4 製品制御システム信頼性向上に向けた公開資料普及に向けた教材整備

• 3年目（2015年度）

– 3-1 障害事例の追加分析と分析事例集への追加検討

– 3-2 障害未然防止知識の追加検討

10

製品・制御システム高信頼化部会 2015年度 基本方針

•基本方針１教訓集および各企業の事例を，各企業において活用するための仕組み作り（教育手法の開発＆試行）

•基本方針２システムの安全性や障害の分析手法の深耕（最新手法の更なる調査と検証）

11

製品・制御システム高信頼化部会 2015年度

「重要インフラ分野のシステム障害への対策」事業

重要インフラITサービス

高信頼化部会製品・制御システム高信頼化部会

未然防止知識WG

障害原因診断WG

システム安全性解析手法WG

主査兼本 茂

主査久住 憲嗣

主査荒木 啓二郎

高信頼性定量化部会

12

２０１５年度主要成果

1. 「情報処理システム高信頼化教訓集(組込みシステム編)」2015年度版

教訓集の事例の充実（２８件→３５件）

2. 「現場で役立つ教訓活用のための実践ガイドブック」「障害未然防止のための教訓化ガイドブック」

新規リリース

3. 教訓集を活用した教育・研修の試行・評価（２回）

4. 「はじめてのSTAMP/STPA ～システム思考に基づく新しい安全性解析手法～」 新規リリース

5. 「組込みソフトウェア開発データ白書 2015」、「組込みソフトウェア向け プロジェクトマネジメントガイド［定量データ活用編］」 新規リリース

13

未然防止知識ＷＧの２０１５年度活動と成果

■事例のアップデート

■教訓集の活用方法の検討各社独自の再発防止／未然防止教育情報の共有

■教育・研修方法の検討各社の実状に即した教育方法を検討、共有ASIF、SECセミナーで研修を試行し有効性の確認と振り返りを実施

■観点マップ、障害検証手法の活用自社内で活用する場合の方法、共有形態などの検討

14

システム安全性解析手法ＷＧの２０１５年度活動と成果

■Nancy Leveson教授との意見交換会・第一回：平成27年6月19日（金）・第二回：平成28年1月20日（水）

■「はじめてのSTAMP/STPA」

■2016年度・ワークショップ in Japan発表（12月5，6日）・STAMP解説書（2017年3月）

目次1.STAMP解説2.STPAの手順（全体説明）3.対象システム概要4.STPA分析実施例の説明5.Advanced Technic

6.エンタープライズ系システムでのSTAMP適用7.まとめ

15

障害原因診断ＷＧの２０１５年度活動と成果

2015年度

事後V&Vフレームワークのブラッシュアップ

STAMP/STPAの利用による第三者検証、複雑システムのハザード分

析への適用可能性の検討

要素技術検討事後検証用サンプルシステムの開発・MATLAB/SIMULINKを用いた

LEGOロボット制御

化学プラントシミュレータ要求仕様のSysML表現による可視化

ハザード分析ツールの検討（SysMLによるSTAMP解析支援）

障害原因の診断手法の検討

制御システムセキュリティセンター（CSSC）との連携

16

事後V&Vのフレームワーク

障害事例の分析・整理STAMP/CAST による体系的な解釈

教育コンテンツ

モデルの階層的表現による理解

システム要求仕様のモデル化

システム機能のモデル化

改善・水平展開

初動調査のガイドライン

組込み系の調査マニュアル

整理・データベース化

フィードバック

ハザード分析

STAMP/STPA

FTA, FMEA, HAZOP

障害再現手法(ﾃｽﾄﾍﾞｯﾄ )゙

シミュレーターによる模擬実行

故障注入

障害箇所特定

障害箇所特定・切り分け手法、ログ分析

ソフトウェア検証手法（形式検証、モデル検査ツール等の調査、適用)

仮説生成

仮説検証

17

教訓を活用した組織の知識継承の研究紹介

知識継承手法

（教育による内面化）

18

教訓を活用した組織の知識継承：課題

• 使ってもらえないトラブル情報データベース［田村2008］

① 記載不十分（表出化の問題）

② 関連情報があちこちに分散（表出化・連結化の問題）

③ 他部門への水平展開ができない（表出化・連結化の問題）

④ 特定対象むけに整理されている（表出化・連結化の問題）

⑤ 業務での活用の仕方がわからない（内面化の問題）

⑥ 登録件数が膨大で必要な知識をうまく収集できない（連結化・内面化の問題）

共同化Socialization

表出化Externalization

連結化Combination

内面化Internalization

暗黙知

暗黙知

形式知

形式知

暗黙的な経験を共有することで他者の持つ暗黙知を獲得する

暗黙知を第三者にもわかりやすい情報に変換する

グループレベルの形式知を分類・結合・体系化することで組織レベルの形式知に変換する

形式知を個人の行動を伴う暗黙知に変換する

ＳＥＣＩモデル

19

教訓を活用した組織の知識継承：モデル

送り手 受け手

課題

問題意識

課題問題意識

知識 知識事例（教訓）表出化 内面化

表出化支援

内面化支援

組織ルーチンにおける知識構造（各企業の文脈）

経験 経験知識の構造化

観点・テンプレート分析手法 教育・レビュー

20

事例（教訓）による仮想経験学習モデル（内面化）

具体的な経験

内省的な観察

抽象的な概念化

積極的な実践

事例による仮想的な経験

経験・問題意識との紐づけ

Kolbの経験学習モデル

知識の受け手側の過去の経験や問題意識がないと表層的な理解に留まってしまう．

21

「気づき力」を強化するための教育（内面化支援）

内面化の難しさ

•事例を勉強しても忘れてしまう

•チェックリストも限界

•まったく同じ障害など二度と起こらない

•すべてが繋がるIoTの時代には想定外の障害がますます増える

事例を用いた教育で「何か変だな」と感じる「気づき力」をどのように強化するか？

事象

気づいたリスク

事象

気づいたリスク

事例で教育（内面化）

気づき力強化の教育の設計と効果の評価必要性

知識科学

22

「気づき力」を強化するための内面化支援の例

• 研究開発マネジメントにおける成功・失敗事例からの知識継承

– 内平直志, et al. "研究開発プロジェクトの知識継承: 分析事例データベースとその活用." (2009).

http://hdl.handle.net/10119/8721

• ITプロジェクトマネジメントにおける過去事例の活用

– 内田吉宣, et al. "マネジメントにおける実践的知恵養成のためのケースメソッド(< 特集> プロジェクトマネジメント教育)." プロジェクトマネジメント学会誌15.2 (2013): 9-13.

http://ci.nii.ac.jp/naid/110009615029/

• EMSにおける設計・製造の暗黙的知識の継承

– 瀬川良久, and 井川康夫. "思考スキルの組織間移転を通じた暗黙知創造のモデル―電子機器受託生産企業の事例研究―." (2014).

http://hdl.handle.net/10119/12361

23

設計時の気づきと運用時の気づき

出典：内平直志. "製品ライフサイクル高信頼化− 仕様と実装と環境のギャップをライフサイクルで管理する技術." 東芝レビュー 64.8 (2009): 2-7.

ギャップに気づく力の育成と気づきの支援

STAMP

24

まとめ

• 製品・制御システム高信頼化部会の構成

• 製品・制御システム高信頼化部会 の目的と計画

• ２０１５年度の成果

– 情報処理システム高信頼化教訓集（組込みシステム編）

– 教訓活用ガイドブック２編，教訓活用教育の試行評価

– はじめてのSTAMP/STPA

• ２０１６年度に向けて

- 障害の教訓化から知識の整理方法の体系化教育手法コンテンツの洗練化

- ライフサイクルを通して安全性・信頼性・セキュリティ向上

手法の調査・研究・普及促進