安全設計とは、一言でいえばリスクアセスメントをしてリスクを洗い出し、それに対する安全対策を実施し、受容可能なレベルまで下げることです。
【用語の復習】
- 安全：受容できないリスクがない状態。絶対安全は存在しない
- リスク：「危害の発生確率」およびその「危害のひどさ」の組合わせ
- 受容可能なリスク：その時代の社会の中で利便性、慣習や歴史などを鑑みて受け入れられるリスク。時代や国民性でも異なり、世の中の流れでも変わっていく
よく何かしらコトが起きた後に、「想定外です」、という答えを聞くことがあるが、これはある意味安全設計の概念として正しい。あくまでも想定されるリスクに対して安全設計をしているので、そもそも設計時に想定していなかったリスクに対しては無防備である。安全側か危険側かどちらに転ぶかは全く分からない。
ただし、「そんなことも想定していなかったのか？」と言われるようなザルのリスクアセスメントでは駄目である。「さすがにそんなことまで考えられないよね」、という社会の合意が得られるレベルで実施しなければならないです。隕石が落ちてくることを想定してなくて、家の屋根を設計し、もし落ちてきて事故が起きたって、だれも設計ミスとは非難しないと思う。また、容易に想像できる誤使用は考えなくてはならないが、ユーザーの悪意のある誤用までは考えなくてもよい。包丁の安全設計？をするときに強盗の道具に使われることを想定しなくてもよいということです（医療介護系のロボットではここが特に重要です。また別の機会で）。
時代とともに変わっていく安全意識としてわかりやすい例は、鉄道のホームドアである。今考えれば、ホームドアがないと、目の前をそれなりのスピードで通解する鉄道への接触や落下に対しては全く無防備であるので、とても危険だと感じる。昔はそんなものなくても当たり前で、もし事故が起きてもそれは仕方がないことであると社会が受容していたのである。そのうち、ホームドアがない駅で転落時を起こしたら、鉄道会社が訴えられる時代が来るかもしれない（リスクの洗い出しを十分していない過失）。
さて前置きが長くなってしまったが、例えば、自律移動のサービスロボットを空港とかで動かす場合、安全に対して無防備に挑むのは危険である。絶対に安全にすることはできないのだが、もしコトが起きた場合に「十分に安全に配慮してました」と堂々と説明できる必要がある。そのための一つのツールになるのが３ステップメソッドである。３ステップメソッドは国際安全規格でも定義されている方法なので、「その方法が正しかったのですか？」と突っ込まれる可能性は少ない。なぜなら世界中の人が知恵を絞って作った規格であるので、それが間違いだと指摘していることになるからである。もちろん「使い道が正しかったのですか？」と突っ込まれることはあるので規格のスコープは大切です。
「規格は守るものではなく、使うものである」。これはとある第3者認証機関の方が言われた言葉である（ドイツ語訛りの英語で）。その便利なものがGuide51とISO12100：2010である。ものすごく要約すると、冒頭に書いた、「安全設計とは・・・」のくだりである。特に難しいことではないので安心してください。
余談ですが、外国の方が相対的に受容できるリスクレベルが高い気がします。日本は絶対安全神話が根強いので、ロボットをその辺で動かくのはなかなか敷居が高いです。
背景の話ばかりになってしまいましたが、個人的には規格の箇条一つ一つの文言より、その規格に込められた思い、世界観を理解する方が重要です。箇条なんてどうにでも解釈できてしまいます。その解釈を正しくするには、背景の理解が重要なんです。
中編に続きます。
コメント