ISO/IEC Guide 51:2014（JIS Z 8051:2015）によると、リスクとは
危害の発生確率及びその危害の度合いの組合せ。
注記 発生確率には，ハザードへの暴露，危険事象の発生，及び危害の回避又は制限の可能性を含む。
となっている。もう少しシンプルに言うと
リスク ＝ 危害のひどさ × 危害の発生確率
である。リスクを小さくする、ということは、危害のひどさを低減するAND/OR発生確率をさげることになる。お話し相手をする対話ロボットより、重い荷物を運ぶ自律搬送ロボットの方がソフトのバグなどで暴走したときの危害のひどさははるかに高い。同じリスクレベルにするためには発生確率を大きく下げなければならない。すなわちソフトの品質レベルを上げる必要がある。
また、回避の可能性が高ければ発生確率は下がことになる。健康で若い学生がいる環境で動くロボットとより、老人や子供、体の不自由な方の周りで動くロボットの方が同じロボットだとしてもリスクが高くなる。
いわゆるお手伝いロボットを体の不住な方に使ってもらうという話を聞くが（健常者では機能的に満足できないが、体の不自由な方ならロボットの機能が若干低くても役立ててもらえるという考え）、これはわざわざリスクの高いターゲットを選んでいる事になるので注意が必要。
次に安全。同じく規格の定義によると
安全（safety）
許容不可能なリスクがないこと
となっている。リスクベネフィットの記事で飛行機の話をしたが、飛行機に乗る人は、まれに堕ちるというリスクを受容していることになるので、飛行機は安全だといえる。逆に言うと、安全な状態であっても、受容できるリスク（まれに堕ちる）は存在していることになる。
リスクベネフィットの話は↓
世の中の一般的なイメージでは、安全といわれれば「すべての危険から守られている」ということになるが、それは違う。正しくは「危害を引き起こす恐れがあると思われる危険源（ハザード）から守られている状態」である。
危害を引き起こす恐れが無いと思われているハザードからの危害に対しては、端的に言えば無防備でなのである。安全かどうかすらわからない。よく聞く「想定外」のことが起きて事故が起こることがあるが、安全規格上は何も不思議ではない。ロボットを設計するときに考えていなかったハザードは「想定外」なのである。すなわり、安全なロボットというのは想定しているリスクに対して受容許容なレベルになるよう設計＆検証しているということ。
その想定が甘いと過失になるが、どのレベルまで「想定内」とするかは難しい。この話は別の機会にしようと思う。
コメント