カテゴリ:
1: スタス ★
◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information
https://www.theinformation.com/articles/uber-finds-deadly-accident-likely-caused-by-software-set-to-ignore-objects-on-road

Report: Software bug led to death in Uber’s self-driving crash | Ars Technica
https://arstechnica.com/tech-policy/2018/05/report-software-bug-led-to-death-in-ubers-self-driving-crash/

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

■写真
no title

no title


GIGAZINE 2018年05月08日 13時00分
https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/

3: 名無しさん@1周年
>>1

判別ソフトウェアが、このレベルなのに公道試験するとはおかしいw

2: 名無しさん@1周年
安全と効率のトレードオフは当然想定していたはずで、故意に効率を優先した結果。
ほぼほぼ故意の殺人と言っていい。

6: 名無しさん@1周年
女を減らすことが人類にとって有益であるとAIが判断したんだよ
だからこれは正しい

8: 名無しさん@1周年
普通こういう物は過剰なくらい安全方向に余裕を持たせるもんなんだけどな
テスト走行なら快適性以前の問題
間違いなく判断ができるくらい学習データを重ねてからこういうのは緩めるもんだ

10: 名無しさん@1周年
ソフトなんてバグはつきものだし人間の判断と同じようになんて
100%無理だからどこかで足切りしなきゃだし
その時の責任は全部メーカーがかぶりますってことになると
自動運転なんて成り立たなさそうだよな

12: 名無しさん@1周年
テストだからなぁ
怖いけどどこまでオッケーか試してたのはあるかもな

でも動画見たけどあれ運転手がハンドル持ってても半分ぐらいの確率で轢く事案だと思うわ

13: 名無しさん@1周年
試作車だろテスト走行や 取り敢えず安全に全フリして走らすもんやで、
ブレーキ掛けまくりやけど一度も事故りませんでした、を表に出さなアカンのや、

15: 名無しさん@1周年
自動ドアにもなかなか認識してもらえないお前らはこの車にも轢かれる

17: 名無しさん@1周年
性能高すぎて性能悪いのか

20: 名無しさん@1周年
人が運転しようがAIが運転しようが死亡事故は起こるというのであれば
すべてAIに任せたほうがいいに決まってる

AIだと事故原因解析後、即スクラップに出来る

でも人は死刑にならない
その上税金も無駄に食う

理不尽で不愉快な気持ちを世の人々の植え付け
只刑務所で暮らしていたやつを社会に放逐させるの?

俺はゴメンだねwそんなヤツ即死刑にして欲しいよ!

21: 名無しさん@1周年
AI「ググったところこの黒い物体はゴリラと判定……轢いても問題ありませんね」

23: 名無しさん@1周年
ぶっちゃけ、普通の車で実験するのがイカれてる。
事故ってもダメージが少ないような、バイクサイズの実験用機体を用意しろよ

25: 名無しさん@1周年
始めのころは感度高めに設定していたが、誤動作が大杉て感度を下げていた?
感度/特異度は自動運転を実現する上で、かなり深刻な問題になりそう。

26: 名無しさん@1周年
そもそもこの女もライトつけて走ってくる車がいるのになんでのこのこ車道突っ切ってんだよ

28: 名無しさん@1周年
>>26
人間の車なら普通に減速してくれると予測してたんだろ

27: 名無しさん@1周年
機械にとっては人間も単なる動物。サルかな~、、轢いちゃえ、ドーン!

29: 名無しさん@1周年
AI車が事故ると中からロボットがでてきて倒れた人にBLSやるのか?

38: 名無しさん@1周年
>>29
そこまでやるならロボットに車を運転させた方が良い

中途半端なんだよ、救助義務は人間、下手すると事故の責任も人間(所有者か同乗者)になる

33: 名無しさん@1周年
自動運転で公道走らそうと本気で思ってるほうがマジキチ

どうしてもやるなら電車みたいに人が入ってこれないガードレールが必要

回避する対象が人間である限りこの手の開発は失敗する

37: 名無しさん@1周年
自動運転をいきなり車で試しているところに疑問を持たざるを得ない
誰がどれくらい儲かってるんだろうな

39: 名無しさん@1周年
人間で言うと「まさかそんな事はないな」って思ったって事か
人間の作ったもんだし、不完全なのも宜なるかな

41: 名無しさん@1周年
人間が乗ってるなら減速したらアクセル踏めばいいと思うが…
自動運転にこだわり過ぎて今現在の商品としてはただの犯罪者養成装置

43: 名無しさん@1周年
LiDARは検知しているが、アプリが対応せず
真正面で減速せず 自動ブレーキが働かずに突っ込んだ

46: 名無しさん@1周年
AI「ニンゲン、愚かなる生き物、コロセ」

50: 名無しさん@1周年
自転車を押してたので人間とも自転車とも形状認識できなかったか

53: 名無しさん@1周年
人間プラス自転車サイズの障害物を仮にビニール袋だったとしても突っ込む選択は有り得ない。
実質的にはレーンキープしかさせてなかったんだろ。
人にブレーキ踏ませるつもりで。

56: 名無しさん@1周年
出てくるほうが悪いんだから引いちゃえって判断したんかな

59: 名無しさん@1周年
多分、実用化するとしたら日本が最初だと思う…こういう物を実用化する能力に長けてる気がする

61: 名無しさん@1周年
こういうのって常に安全側に作用するようにプログラムするもんじゃないの?
AIがだろう運転してどうすんだよ

70: 名無しさん@1周年
>>61
フレーム問題があるし自動車の運転自体が制御安全だ
人間だって運転中に脇見してたら簡単に道路からはみ出てしまう

63: 名無しさん@1周年
AI「マンドクセー、おい運転手お前が運転しろよ」

66: 名無しさん@1周年
もともとこの事故以前からウーバーのAIは完成度が低くて信号無視、急停車急発進、歩行者への異常な接近が多かったとか報じられてる
ほとんど1km走行ごとになんかしらの問題発生があるとも
そういうレベルのモノが特に制限も監視も受けず公的機関への報告義務も持たないまま走っている

67: 名無しさん@1周年
ボロボロだった昔のWindowsもそうだったけど
やってみなはれ精神はアメリカの強みではあると思う

71: 名無しさん@1周年
車優先の道に飛び出したババアの自業自得
来るべき超高齢化社会に自動運転は不可欠、こんな事で止めるわけには

79: 名無しさん@1周年
単純に処理能力が全然人間に追いつかないのよね。
人間よりAIの方が賢いとか言ってるのはアホ。人間は集中力が全然もたないだけw