ソフトウェアに起因する海外it障害事例の紹介 - ipasoftware reliability enhancement...

Copyright © 2013 IPA, All Rights Reserved

Information-technology Promotion Agency, Japan

S o f t w a r e R e l i a b i l i t yEn h an c emen t Cen t er

Software Reliability Enhancement Center

2013年11月

ソフトウェアに起因する海外IT障害事例の紹介～「海外におけるIT障害の影響及び対応策に関する事例調査」報告書から～

独立行政法人情報処理推進機構技術本部ソフトウェア高信頼化センター

ソフトウェアグループ細目紀子

Copyright © 2013 IPA, All Rights Reserved 2Software Reliability Enhancement Center

海外障害事例調査報告書から


■対象期間：２０００年１月～２０１２年８月（約1２年間）■対象国：米国、英国、独、仏、韓国、シンガポール、台湾、インド、タイ、中国等■分野（業種）：重要インフラ１０分野

（内閣官房情報セキュリティセンター（NISC）によって定義）■調査方法：ソフトウェアに起因する障害事例について、WEBや文献、

欧州・米国の障害情報データベース等から抽出。当該企業に電話インタビュー、訪問インタビュー調査を実施

調査概要

米国ドイツ英国

フランス韓国中国

台湾インドタイシンガポール

米国食品医薬品局（FDA）

英国医薬品庁（MHRA）

EU緊急警告システム（RAPEX）

英国安全衛生庁（HSE）


0

100

200

300

400

500

600

700

800

0

10

20

30

40

50

60

70

80

90

2000年 2001年 2002年 2003年 2004年 2005年 2006年 2007年 2008年 2009年 2010年 2011年

障害の発生年度別障害収集件数

エンタプライズ統合

組込みソフトウェア原因の障害

医療機器のソフトウェア障害件数（FDA）：右軸件数

※上記グラフは本調査結果の年度別件数の分布を示すものであり、年度別の発生傾向ではない。今回収集した障害事例を分析した結果、ソフトウェア起因障害は85%であった。

(n=299)ユーザの業種別内訳

0

10

20

30

40

50

60

70

80

2009 2010 2011

公務情報通信業一般ユーザその他

件数

海外障害事例：件数の推移

ユーザの業種別内訳では、

公務、情報通信業の比率が

2009～2011年の間で

高まっている。

２０１０年ぐらいから、

ソフトウェア起因障害と、

医療機器のソフトウェア障害件数が増加！


海外障害事例：重要インフラ１０分野の内訳

自動車：ほぼ半数警報器：10件

ｽﾏｰﾄﾒｰﾀｰ4件

証券:13件(取引停止:12件)

空港ｼｽﾃﾑ:23件

政府・行政３９件

合計：２９９件！医療:58件


海外障害事例：政府・行政サービス分野政府・行政サービス件数

税金 6

年金 5

保険 3

司法（裁判・刑務所） 3

入国管理・パスポート・ビザ 3

抽選/くじ 2

選挙 2

信号・有料道路 2

試験/ライセンス 2

貿易 1

臓器提供登録 1

市営風力発電 1

洪水警報 1

給与システム 1

議会 1

ネット検閲 1

ダム 1

住宅データ評価 1

エネルギー評価 1

38

北米の事例：刑務所では、収容人数がパンクすると、刑の軽い人から釈放するシステムがあるが、ソフトのバグにより、凶悪犯から釈放してしまった。

続きはＤＶＤを・・

その他１


個別事例：スマートメーター


（１）２006年～、2009年訴訟、2010年に障害調査報告書(約700頁）公開。北米（カリフォルニア州、テキサス州）、パシフィック・ガス&エレクトリック(PG&E)

「トータル45,000件のスマートメーターが正常動作せず！」

（２）2010年5月（北米、ペンシルバニア州）、サンディエゴガス＆エレクトリック（SDG&E）

No. 障害概要障害の原因件数被害状況原因

分類

1 ソフトウェアのプロセス異常に起因する頻繁なリブート。

ソフトウェア障害 12,763件

検針データが失われ、料金過小請求につながった。

SW

２スマートメータ種別(事業者用、住宅用）を間違ってソフトをインストール。

出荷時もしくは、設置作業者のミス

2,900件

検針データが不正値となり、電力会社側のシステムにも影響を与えた。メーター交換。

SW運用

３音振動によるスマートメーターの誤動作。

取り付けミスorHWの不良？

14,000件

料金過剰請求、過小請求につながった。メーター交換。

設置HW?

No. 障害概要障害の原因件数被害状況原因

４スマートメータのソフトウェア更新中に停電し、更新できず。

ｼステム検討不足 30,000件通信できなくなった。メーター交換。

SW保守

海外障害事例：電力系（スマートメーター）


海外障害事例：電力系：スマートメーター（１）

発生時期：２００６年

発生国：北米（ｶﾘﾌｫﾙﾆｱ州、ﾃｷｻｽ州）

事業者：パシフィック・ガス・アンド・

エレクトリック（ＰＧ＆Ｅ）

障害概要：スマートメーターが異常動作！

被害件数：４５,０００件！

訴訟：２００９年裁判にまで発展！



事例（１）（ソフトウェア）

スマートメータが頻繁にリブートし、

データロストが発生し、結果として、

送信データが少なく、

顧客に過小請求となった。影響件数：

１２，７６３件



事例（2）（ソフトウェアと運用）

事業者用と一般住宅用のソフトウェアを

間違えて、スマートメータにインストー

ルした結果、検針データが不正値となり、

さらにそのデータを受信した

電力会社のシステムにも

混乱をきたした。

影響件数：２９００件



事例(３)（ソフトウェア）

スマートメーターのソフトウェアバグで、

データ通信が正常に動作せず。

(データ未送信,複数送信,ロスト等）

結果として、顧客に対し、

料金の過剰請求、過小請求が

発生した。

影響件数：５２００件


海外障害事例：電力系：スマートメーター（2）

発生時期：２０１０年５月

発生国：北米（ペンシルバニア州）

サンディエゴガス＆エレクトリック

（SDG&E）

障害概要：スマートメーター使えなくなった！

被害件数：３０,０００件！



事例(４)（ソフトウェア）

スマートメータのソフトウェアを

更新中に停電が発生し、

正常に更新できず。

通信できないため、

すべてメータ交換と

なった。

影響件数：30,000件



発生時期：２０１１年５月

発生国：豪州

事業者：オーロラ・エネルギー（被害者）

事件概要：スマートメーターのSIMカードの不正使用のよる通信料詐欺

事例（5）：（製品セキュリティに関連する事例）

スマートメーターからSIMカードが抜き取られ、第三者の手に渡った。

第三者が、そのSIMカードを不正に使用したため、メータの通信料とし

て、電力会社に「約＄193,000」が請求された。

犯人は逮捕されたが、第三者も、裁判にて賠償金の支払いを請求された。

コメント：

・スマートメーターのSIMカードが別機種の通信に使えてよいのか？

・データ受信側(電力会社のシステム等）で異常を検出できないのか？

・簡単？にＳＩＭカードがはずせることも問題！


見えない、気がつかない、ホントは怖いソフトウェア障害！


日本でスマートメーターが導入されたら？

＜環境的には・・＞・日本製品は信用があるので、米国ほど利用者が「不安」に

ならないが、新しいシステムなので利用者が「安心している」とまでは言えない。

・電気料金が昨年と比較して、異常値でなければ、利用者は問題に気付かない？

＜その結果・・＞・ソフトウェアに問題があった場合は、

導入先全部が被害者になる。・利用者は、不当な料金を支払うことに・・・

被害が拡大

海外障害事例：電力系スマートメーター


No.

分類

地域

発生時期

障害概要影響特徴

1 金融

米国

2006年～

アセットマネジメント会社AXA Rosenbergの株式投資運用サービスに関するリスクモデルのシミュレーションソフトウェアのバグを、3年以上も投資家に報告していなかった

217百万ドルの損害を与えたと試算された。罰金及び補償金を支払った。

証券会社が提供している株式投資運用サービスのリスクモデル用シミュレーションソフトのバグ。証券システムの管轄とは別？利用者（投資家）には品質が「見えない」※損害があっても投資の失敗と混同されやすい。

海外障害事例：金融系（投資会社）

出典：アクサ・インベストメント・マネージャーズ・パリ(E14940)有価証券報告書（外国投資信託受益証券）

投資はコンピュータによるシミュレーションの時代！

運用が開始されてからもプログラムに改良が加えられることも


投資用のシミュレーションソフトは、結果的に国民の財産に関与する可能性あり

＜環境的には・・＞・例えば、アクサによる資産運用額は、2010年9月30日現在で330億ドル

米国、欧州、アジアや日本の年金基金、政府機関の顧客にも投資戦略を提供している。

＜もし、資産運用対象になっていたら・・＞・投資損失が発生すると、結果として、

国民の財産が危機に陥る可能性が・・・

知らないうちに被害者に！


＜この事例の損害額は？＞・バグを隠していた期間： 2007年4月～2010年4月約3年間・顧客数：約600社・損害想定額 : 217百万ドル・損害額の算出方法 : 1社当たりの損害想定額×顧客数×期間・罰金 : 3社で25百万ドル

※アメリカ証券取引委員(SEC)の審査のタイミングで発覚した。


もし、このようなシミュレーションソフトが、スマートフォンアプリとして提供されたら？

＜環境的には・・＞・最近は、プロの投資家のみならず、一般投資家も増えている。・ネット環境を駆使し、スマートフォン等を利用するケースも増

えている。・証券会社は、スマートフォンのアプリを投資家に提供している。

＜その結果・・＞・事例のように、ソフトウェアに問題があった

場合、被害者がさらに増加。・もし、このようなソフトウェアに問題があっ

ても、利用者は気がつきにくい！

被害が拡大



２つの障害事例の共通点


１．外的環境により、利用者には障害か？現実か？わからない。（１）スマートメーター

・電気料金が高くなったのは異常気象のせいか？・結果は、異常気象とスマートメータの両方が原因

（２）投資運用サービスモデルシミュレーションソフトウェア・投資損失は、市場の変動が原因では？・結果は、ソフトウェアのバグ

２つの障害事例の共通点

２．利用者には問題をあきらかにする手段がない。ー＞提供者の品質管理にゆだねられる。

３．社会的影響が大きい（大きくなる可能性がある）（１）スマートメーター：45,000件、30,000件（２）アクサによる資産運用額は、2010年9月30日現在で330億ドル

米国、欧州、アジアや日本の年金基金、政府機関の顧客にも投資戦略を提供。投資損失が発生すると、結果として、国民の財産が危機に陥る可能性も・・

最終

手段は

訴訟？


ＩＴ社会におけるソフトウェアの重要性

これからのITシステムの特徴：構成機器およびサブシステムが自律的に動作

全体として連携・協調動作するシステム

複雑な機能の実現にソフトウェアの役割が増大

例）スマートハウスにおける主な制御機能

各接続機器からのデータ収集、蓄積、分析

系統電力一定制御、ピークカット

機器への動作指示（バッテリ充放電制御、家電省エネ運転、EV/PHV制御）

停電時対応、障害対応

発電量、消費量、各機器の運転状態等を居住者へモニタ表示

セキュリティ

（出典）経済産業省資料より


「もの」のインターネット化が加速

■Bluetooth搭載機器の出荷数予測（出典：Bluetooth SIG）

アプセサリー（App-ccessory）

「スマートフォン＋周辺機器／アクセサリー」近距離無線技術の進化(低消費電力、コストダウン、サイズレス）

Bluetooth (ver4.0)、低消費電力は従来の1/10

歯ブラシ、バスケットボール、歩数計、心拍計・・・などつながる！

＜Bluetooth出荷台数＞

2012年：20億個

2013年：100億個(予測）

５倍！


見えない、気がつかないソフトウェア障害対策はあるのか？


第三者による客観的な（品質）評価の実施

障害の被害が拡大してから、第三者調査・対策がはじまるスマートメーター：第三者機関ｶﾘﾌｫﾙﾆｱ州公益事業委員会（CPUC）

投資会社：第三者機関ｱﾒﾘｶ証券取引委員会（SEC）

日本企業は、高品質というブランド力を築いてきた日本製のソフトウェアの品質は、海外に比べて1桁以上高いとの調査報告もある

今後「第三者による客観的・合理的な説明」も必要では？企業会計は、公認会計士による会計監査が行われている。

客観的・合理的な説明

国際標準（ISO/IEC）等、世界的に合意されている基準類を用いた説明、または、それに準じた説明 → 規格適合、規格認証等

専門性のある第三者による説明 → 第三者確認、第三者証明等

公的な機関による説明 → 公的認証、規制等


整理すると・・・

① これからのＩＴ社会は、当事者企業の主張だけでは不十分で、第三者による客観的な評価の裏付けが必要

② IT融合システムの市場の拡大には利用者の理解と安心感が不可欠であり、利用者に対する品質説明が重要

③ 利用者自らが、製品・サービスやシステムを選択し、組み合わせて使用する時代。しかし、技術的に詳細な説明は利用者には困難

第三者が品質を客観的に確認して利用者にわかりやすく示す仕組みが求められている


IPA/SECの取り組みは？


制度ガイドラインの策定と公開

対象

利用者への品質説明を目的とした制度構築に関心を持つ組織・団体等

製品・システムの分野毎に個別に適用

特徴

公正な制度の構築製品・システムを確認する第三者と供給者の独立性の確保

制度に関与していない外部者による制度のレビューの実施等

共通的で抜け・漏れの少ない制度の構築製品・システムの分野に依存しない制度の企画、設計、運用に関する説明と要求事項（43項目）の提示

分野毎に異なる品質要求や技術に対応した審査基準策定の考え方や配慮事項、審査の実施項目等の提示等

各制度の制度文書に規定する項目の事例の提示等

製品・システムにおけるソフトウェアの信頼性・安全性等に関する

品質説明力強化のための制度構築ガイドライン

【通称】「ソフトウェア品質説明のための制度ガイドライン」


重要インフラ分野のシステム障害への対策

３部会と３ＷＧで活動開始！■重要インフラITサービス高信頼化部会

■製品・制御システム高信頼化部会

■未然防止知識WG

■障害事例検証WG

■高信頼性定量化部会

■製品・制御システム定量データ収集・分析WG

重要インフラ分野の障害事例と対策の収集と分析、その教訓を共有化し、

類似障害の再発防止や影響範囲縮小につなげる仕組みの構築を目指す！


ご清聴ありがとうございました

＜PR＞

ｉパス検索Illustration by れい

©Crypton Future Media, INC. www.piapro.net

国家試験初音ミクとコラボ！

iパスは、IT化された社会で働くすべての社会人が備えておくべき

ITに関する基礎知識を証明する国家試験です。

ソフトウェアに起因する海外it障害事例の紹介 - ipasoftware reliability enhancement...

Documents