[新聞]為什麼特斯拉AI「看不出」路中央橫躺的大

看板car作者 (Pa3rick_Gao)時間4年前 (2020/06/02 12:40), 編輯推噓54(57推 3噓 63→)
留言123則, 58人參與, 4年前最新討論串1/1
原文連結： 為什麼特斯拉AI「看不出」路中央橫躺的大貨車？如果貨車車主放了三角錐或許結果會不 同 https://udn.com/news/story/7086/4606969 原文內容： 昨天上午發生特斯拉無視路中央橫躺的貨車，筆直撞上去的新聞。相信很多人都覺得很奇 怪，駕駛表示有開啟輔助駕駛系統，那麼為什麼這麼大一台貨車躺在路中央，特斯拉的AI 會完全看不見？這是怎麼回事呢？雖然目前特斯拉官方沒有說明，不過，或許我們可以從 特斯拉輔助駕駛的AI是怎麼樣「看」這個世界的原理，來試著理解一下。 能夠實現自駕車自動上路，有幾個重要的硬體搭配軟體來實現，硬體方面包括有車上的多 具攝影機、LiDAR光達系統、GPS定位系統，軟體則是利用AI技術來辨識道路上的各種狀況 。而針對「特斯拉為什麼看不到路中央橫躺的大貨車」這個問題，主要是發生在AI辨識這 個部分上，因此我們必須先理解自動駕駛的AI辨識的原理。 其實自動駕駛AI辨識的基本原理，與其它的AI影像應用差不多，基本上就是必須要先能夠 為所見到的物體進行分類，然後在辨別出所看到的各個物件是屬於哪一個類別之後，再來 判斷這個類別的這個物件，現在的狀態又是什麼。 假設你今天要丟給機器學習，讓他理解什麼是計程車，什麼是大貨車，首先當然要讓他能 夠理解什麼是「車」。可能丟給他上百張物件的照片，第一階段，先讓他學會知道有輪子 的就叫做「車」。接下來他發現車子的輪子有的有四個輪子，有的有兩個輪子，有的有八 個輪子...然後你再教它四個輪子的是小型車，兩個輪子的是機車，八個輪子的是貨車或 卡車...諸如此類一路學習下去。 以自動駕駛來說，最基本它必須要能夠辨識出路上的行人、摩托車、各式車種、交通號誌 等等，這是最基本的辨別條件，接下來就要進一步辨識出行人要行進的方向、紅綠燈的狀 態、汽車是前行還是倒退、路上的白線延伸到哪裡......諸如此類，提供給自動駕駛的大 腦進行判斷。這些都會形成一個智慧學習的資料庫。 各家的自動駕駛AI基本的原理差不多，不過當然不同的車廠各自發展的AI，就有不同的特 長。比方說，「動物」是否要加入自動駕駛能夠判斷的類別？而有人類騎在上面的單車， 又該要怎麼判別？假設馬路上跳出了一顆球，或是像前幾天我們報導的天外飛來一隻烏龜 ，你的AI要不要能夠判斷這些物體？這些就是不同的車廠對於不同的AI所進行的研發判斷 。 為什麼無法判斷是倒在地上的大貨車？ 坦白說，透過機器學習，AI是如何判斷出一輛汽車是「汽車」的過程，對於人類來說可能 很難理解，AI可能可以在很複雜的情況下，很精準的判斷出結果出來，或是可以告訴你在 路前方目前有五輛公車、三台機車、兩輛腳踏車之類的，但可能卻無法回答你一些，你一 眼看上去覺得很簡單的問題。 不過，還記得嗎？前面我們說過，AI要學會怎麼樣判斷是一台車，基本條件可能是先從有 沒有輪子開始。而現在這輛橫倒在路中央的白色大物，一開始就沒有輪子，因此AI判斷是 車子的前提馬上就不存在，因此，在AI的眼中，這並不是一台車子。 再來就是在資料庫中看看，這個白色的東西是什麼呢？很明顯這不是人類、也不是交通號 誌，這個奇怪的白色東西可能根本就不存在於特斯拉的機器學習資料庫中。畢竟特斯拉的 機器學習很可能沒有考慮過會有這麼奇怪的東西出現在馬路中央。 因此，特斯拉的確是「看不出」有輛白色的大貨車倒在路中央的。 根據報導，車主當時是站在一旁的分隔島上。如果特斯拉的輔助駕駛正常運作的話，理論 上如果車主站在這個倒下的大貨車車頂前面，特斯拉的輔助駕駛AI應該就能夠看到「有人 」出現在馬路前方，進而進行自動減速、煞車的動作。 ▲ 從監視器影片中看來，事故後方並沒有擺放三角錐等警告標誌物 當然了，如果你看過新聞報導中現場的監控畫面，特斯拉一路看起來氣勢十足地筆直往車 廂中衝入的畫面，相信你並不會建議貨車車主進行這樣「肉身擋車」的動作。 不過，車主如果有依照規定，在事故現場擺放三角錐或是警告標誌，特斯拉的AI應該是能 夠辨識出來警告標誌的，如果車主的警告標誌放的夠遠的話，特斯拉的自動駕駛應該還是 能夠及時煞住。壞就壞在看來貨車車主覺得這麼明顯的障礙物，任何「人」應該都看得到 ，而忽略了擺放警告標誌的動作。（也有可能是貨車倒成這樣，根本拿不出警告標誌出來 放） 在這裡要補充說明的是，「看不出」不代表「看不見」，特斯拉的AI系統到底看到了什麼 ，這一點在這裡就猜不出來了，但從撞上去的狀況來看，或許可能當成了普通道路或是背 景。 特斯拉輔助駕駛AI是怎麼看這個世界的？ 在兩年前，曾經有名叫verygreen 與 DamianXVI的兩位駭客，購入一套解鎖的特斯拉 Autopilot Hardware 2.5 系統，然後將它開上路上AI即時解析的畫面錄了下來，從這個 影片中，我們可以看到特斯拉的AI是怎麼看這個世界的。 https://youtu.be/_1MHGUC_BzQ
他們手動駕駛開車在法國的路上，AI純粹是用來分析道路上的物件來進行判斷。其中你可 以看到，除了用方框框出辨識出來的物件之外，特斯拉的AI還可以辨識出來有哪些地方是 汽車可以行駛的路，就用綠色的範圍覆蓋，而往前的黃色直線，代表著可行駛的車道以及 邊界。至於在人行道上的石柱、路牌、遠處的建築物等東西，基本上不屬於可行駛的範圍 、也不會移動，因此AI不予理會。 特斯拉的AI可判斷的物件還包括有「路口」，會依照路口的範圍來判斷可行進的方向，像 是到了這個T字型路口的地方，你可以從兩對黃線的方向看出，他判斷車輛可以向右轉。 如果有「物件」擋在車子前方行駛的路徑上，你會看到黃色的線會變成紅色，表示警告。 再來下面這張就特別有趣了，你可以看到在這輛車轉彎的時候，有人橫過前面的馬路，這 裡需要特別注意綠色部分可行駛的範圍，你可以看到，特斯拉的AI會依照路邊水泥判斷人 行道與馬路之間的區別，但是當有人經過馬路的時候，綠色的範圍就縮起來表示不能夠行 駛。更有趣的是，後面有一排三角錐，他也會自動判斷為不能行駛。 從這幾張圖片以及影片，或許可以協助我們更進一步的理解，為什麼特斯拉「看不出」路 中央的貨車這件事。以及如果當時車主放了三角錐，或許就可以幫助特斯拉自動駕駛辨識 出「此路不通」的原因。 《原文刊登於合作媒體T客邦 ，聯合新聞網獲授權轉載。》 心得/說明：(30字以上) 根據內文所說，不建議貨車車主肉身擋車測試 而且遇到非常規突發狀況的時候也無法判別 畢竟系統內並沒有此項數據 電腦要怎麼判斷 建議還是自己掌握路況比較實在 ＊轉錄新聞/情報，必須附上原文及網址連結及心得或意見30字(不含標點符號)＊ -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 123.51.171.8 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/car/M.1591072826.A.155.html
推
06/02 12:46, 4年前 , 1F
06/02 12:46, 1F
→
06/02 12:47, 4年前 , 2F
對消費者/利害關係者而言只在乎系統能不能運作...判別精確/
06/02 12:47, 2F
→
06/02 12:47, 4年前 , 3F
精準/可靠度是開發者的事
06/02 12:47, 3F
推
06/02 12:48, 4年前 , 4F
翻車後仔細觀查來車：特斯拉→plan a, 其他車→plan b
06/02 12:48, 4F
→
06/02 12:49, 4年前 , 5F
都4三角錐的錯
06/02 12:49, 5F
推
06/02 12:49, 4年前 , 6F
就像下圍棋的阿發狗,蒐集人類的大數據夠多,才能愈來愈
06/02 12:49, 6F
→
06/02 12:49, 4年前 , 7F
強大,目前自駕系統就是沒法取代駕駛
06/02 12:49, 7F
推
06/02 12:50, 4年前 , 8F
特仔：都是they的錯。
06/02 12:50, 8F
→
06/02 12:50, 4年前 , 9F
當然,現在看一堆在特斯拉上面睡覺看書的不會在意,就
06/02 12:50, 9F
→
06/02 12:50, 4年前 , 10F
用達爾文去天擇牠們就好
06/02 12:50, 10F
推
06/02 12:51, 4年前 , 11F
這樣直撞上去毫髮無傷也蠻猛的
06/02 12:51, 11F
→
06/02 12:52, 4年前 , 12F
那要看撞到什麼物體，若是車底結果就可能不一樣了
06/02 12:52, 12F
推
06/02 12:53, 4年前 , 13F
問題是特斯拉喜歡玩壁尻，可能會牽連到其他人啊...
06/02 12:53, 13F
推
06/02 12:53, 4年前 , 14F
不用車底,如果一般海運用標準貨櫃,撞上去很難全身而退
06/02 12:53, 14F
推
06/02 12:54, 4年前 , 15F
阿法狗不是餵棋譜大數據...是自己深度學習跟特斯拉目前餵資
06/02 12:54, 15F
→
06/02 12:54, 4年前 , 16F
料給車子是不一樣的
06/02 12:54, 16F
→
06/02 12:54, 4年前 , 17F
那貨車主在揮 特斯拉看起來也沒發現 差不多在車道上了
06/02 12:54, 17F
→
06/02 12:54, 4年前 , 18F
那冷藏貨車貨頂材質感覺連金屬都不是,裡面還有隔熱發
06/02 12:54, 18F
→
06/02 12:54, 4年前 , 19F
泡棉,完全緩衝
06/02 12:54, 19F
推
06/02 12:56, 4年前 , 20F
海運貨櫃應該是全鐵殼吧，才能堆那麼多層
06/02 12:56, 20F
→
06/02 12:57, 4年前 , 21F
退役以後整理一下弄成貨櫃屋還能在鄉下開咖啡廳什麼的
06/02 12:57, 21F
推
06/02 12:57, 4年前 , 22F
貨車車主在揮手,想到WRC賽道旁的觀眾,可能電腦不會判
06/02 12:57, 22F
→
06/02 12:57, 4年前 , 23F
定危險 XD
06/02 12:57, 23F
推
06/02 12:58, 4年前 , 24F
對..DYE大說的我也覺得奇怪...白色背景也就算了...行人也沒
06/02 12:58, 24F
→
06/02 12:58, 4年前 , 25F
看到？
06/02 12:58, 25F
→
06/02 12:59, 4年前 , 26F
貨車主如果是穿越車道的行人 這樣是來不及會撞到的
06/02 12:59, 26F
推
06/02 13:00, 4年前 , 27F
特粉：以後規定行人要穿斑馬裝 XD
06/02 13:00, 27F
推
06/02 13:01, 4年前 , 28F
就說行人要在頭上頂個三角錐，特斯拉就看的見了XD
06/02 13:01, 28F
→
06/02 13:02, 4年前 , 29F
現在AI環境辨識能力比3歲小孩還不如.
06/02 13:02, 29F
→
06/02 13:02, 4年前 , 30F
還有就是 一般這樣的事故 要在事故點前擺三角反光架
06/02 13:02, 30F
→
06/02 13:02, 4年前 , 31F
如果ACC運作中 無法判斷停止物
06/02 13:02, 31F
推
06/02 13:03, 4年前 , 32F
一堆自以為的AI專家都出來了 笑死
06/02 13:03, 32F
→
06/02 13:03, 4年前 , 33F
至少應該先做到判斷三角反光牌
06/02 13:03, 33F
推
06/02 13:04, 4年前 , 34F
願請Lebra大指導羞辱推文的理盲XD。否則好像也是？
06/02 13:04, 34F
→
06/02 13:04, 4年前 , 35F
這樣至少不會造成ACC啟動中對停止車輛的追撞
06/02 13:04, 35F
噓
06/02 13:04, 4年前 , 36F
就貨櫃每個面都漆警示三角形就好了 油車仔就是一堆毛
06/02 13:04, 36F
推
06/02 13:05, 4年前 , 37F
原來ACC是猴子看世界的程度 那難怪了
06/02 13:05, 37F
推
06/02 13:06, 4年前 , 38F
感覺特斯拉的自己沒特別厲害，只是吃定其他人腦駕駛的
06/02 13:06, 38F
→
06/02 13:06, 4年前 , 39F
車輛會閃避特斯拉的無腦行動罷了...
06/02 13:06, 39F
還有 44 則推文
→
06/02 15:49, 4年前 , 84F
車
06/02 15:49, 84F
→
06/02 15:54, 4年前 , 85F
電腦辨識到不明物體，決定撞下去，這AI很棒XD
06/02 15:54, 85F
→
06/02 15:58, 4年前 , 86F
不會自動變換車道嗎==
06/02 15:58, 86F
推
06/02 15:59, 4年前 , 87F
電腦判定 眼前物體不構成威脅 撞下去就對了
06/02 15:59, 87F
推
06/02 16:07, 4年前 , 88F
變換車道要fsd才有，ap不行
06/02 16:07, 88F
推
06/02 16:07, 4年前 , 89F
所以會撞牆也是合理的
06/02 16:07, 89F
推
06/02 16:10, 4年前 , 90F
熊熊想到,若一個人很無聊，對著高速行駛的 Tesla
06/02 16:10, 90F
→
06/02 16:10, 4年前 , 91F
順手丟一個交通錐到Tesla將行駛到的動線上,會怎樣????
06/02 16:10, 91F
→
06/02 16:11, 4年前 , 92F
或者是一台載滿交通錐的貨車，開在特斯拉前面
06/02 16:11, 92F
→
06/02 16:12, 4年前 , 93F
突然數十個交通錐滾下去到高速公路路面,後面就幾台
06/02 16:12, 93F
→
06/02 16:12, 4年前 , 94F
開著 AP 然後駕駛根本沒看路的 Tesla 會怎樣???
06/02 16:12, 94F
推
06/02 16:17, 4年前 , 95F
ap的話照樣撞，ap只能說就一般車廠acc功能而已。
06/02 16:17, 95F
→
06/02 16:41, 4年前 , 96F
怎麼沒人想到為什麼大貨車會橫躺在馬路中間？這合理嗎？
06/02 16:41, 96F
→
06/02 16:53, 4年前 , 97F
爆胎、閃避障礙物、(扯一點)強風都有可能致使車輛翻覆呀
06/02 16:53, 97F
推
06/02 17:13, 4年前 , 98F
寫一堆 結果貨車駕駛是站在車道， 不是躲旁邊..
06/02 17:13, 98F
→
06/02 17:14, 4年前 , 99F
然後看不懂車頂, 白牆, 然後就判定safe 開上去？
06/02 17:14, 99F
推
06/02 17:15, 4年前 , 100F
可是未來還是有可能會有比較啟智的特酸會無視人家車廠
06/02 17:15, 100F
→
06/02 17:15, 4年前 , 101F
有說要注意路況這件事啊
06/02 17:15, 101F
推
06/02 17:23, 4年前 , 102F
不合理就可以撞上去嗎..
06/02 17:23, 102F
推
06/02 17:30, 4年前 , 103F
也是AI無法判定那是danger 所以就沒有動作?
06/02 17:30, 103F
→
06/02 17:31, 4年前 , 104F
也可能是AI無法判定那是danger 所以就沒有動作?
06/02 17:31, 104F
→
06/02 17:32, 4年前 , 105F
也許AI的邏輯是 只有它偵測到危險時才會介入駕駛
06/02 17:32, 105F
→
06/02 17:32, 4年前 , 106F
但是它判定不出是否危險時就不會介入 而是讓駕駛去判斷
06/02 17:32, 106F
→
06/02 17:33, 4年前 , 107F
所以說AI只是輔助啊XD
06/02 17:33, 107F
→
06/02 17:37, 4年前 , 108F
屁啦只有看到車才要停？
06/02 17:37, 108F
推
06/02 17:51, 4年前 , 109F
特斯拉行銷過頭被神話了，賓士的自駕優於特牌很明顯
06/02 17:51, 109F
→
06/02 17:52, 4年前 , 110F
說不定豐田的自駕都比特斯拉好，我寧可買豐田的tss
06/02 17:52, 110F
→
06/02 18:53, 4年前 , 111F
之前強國也有人開Audi想撞展間結果被自動煞停的
06/02 18:53, 111F
→
06/02 18:54, 4年前 , 112F
靜止物品突然理所當然的變成應該撞下去XD
06/02 18:54, 112F
推
06/02 19:01, 4年前 , 113F
這是bug
06/02 19:01, 113F
推
06/02 19:25, 4年前 , 114F
一句話，就還不行啦
06/02 19:25, 114F
推
06/02 19:26, 4年前 , 115F
看不懂那是車子沒問題 可是怎麼樣也要認為那是牆吧
06/02 19:26, 115F
推
06/02 20:33, 4年前 , 116F
印象中，影像辨識要快速找到移動的物件，只會檢查連續畫面的d
06/02 20:33, 116F
→
06/02 20:34, 4年前 , 117F
iff，所以靜止的東西會被濾掉
06/02 20:34, 117F
推
06/02 20:35, 4年前 , 118F
這公司就是從老闆到粉粉們都愛吹牛 不意外
06/02 20:35, 118F
→
06/02 22:48, 4年前 , 119F
要是今天撞的是別牌，特粉會說：換成特斯拉就閃的過了。
06/02 22:48, 119F
推
06/02 23:00, 4年前 , 120F
用AI捍衛路權
06/02 23:00, 120F
推
06/03 00:44, 4年前 , 121F
ai駕駛出錯的機會比人類低多了。但遇到資料庫中沒有的罕見
06/03 00:44, 121F
→
06/03 00:44, 4年前 , 122F
特例就是會出包
06/03 00:44, 122F
推
06/03 01:28, 4年前 , 123F
封閉系統才可以放任的東西。
06/03 01:28, 123F
‣ 更多 pat7681 的文章
文章代碼(AID): #1UrTWw5L (car)