2017年，人工智能摔過的那些跟頭
今年，人工智能項目AlphGo和Libratus分別在圍棋和德州撲克兩個領域戰勝了世界上最好的人類選手。雖然這些里程碑事件顯示了近些年人工智能的發展程度，庫卡機器人何服電機維修，許多人仍然對新興技術整體的成熟程度抱有懷疑尤其是考慮到過去12個月中出現的一些人工智能的失誤案例。
機器之能是機器智能的鐵桿粉絲，這從我們的名字中就可見一斑。但是同樣，我們十分清楚地認識到，一些新技術并不能有效地執行自己本來的任務，時常會犯一些人類從不會犯的錯誤。以下是我們挑選出來的2017年人工智能失誤事件Top10。
面具解鎖FaceID
FaceID，一種用來解鎖最新款iPhone的面部識別技術，一度被稱為迄今為止最安全的人工智能激活方法。蘋果公司曾夸口稱FaceID的解鎖失誤率僅為百萬分之一。但是隨后越南公司BKAV使用了由3D打印的塑料、硅膠、化妝品和一些剪紙制成的面具就成功破解了FaceID，而面具的造價只有150美元。BKAV只是掃描了測試對象的臉部，使用3D打印機生成了一個臉部模型，貼上了一些剪紙眼睛、嘴巴和硅膠做的鼻子。FaceID的破解給整個行業帶來了沖擊，加劇了對消費者設備隱私的風險以及更普遍的人工智能技術安全性的考量。
AmazonEcho故障引發鄰居報警
最近大受歡迎的AmazonEcho被認為是更加強大的智能揚聲器之一。但是沒有東西是完美的。一名德國男子的Echo在其外出期間被意外喚醒，并在半夜開始大聲地播放音樂，吵醒了鄰居。鄰居報了警，警察不得不打破前門才把Echo關閉。事后警察更換了門鎖，房子的主人回家時發現自己的鑰匙已經打不開自己的房門了。
Facebook關閉聊天機器人
今年7月，媒體鋪天蓋地地報道，兩個Facebook的聊天機器人以人類無法識別的語音相互溝通，發現后被關停。關于新的秘密超級智能語言的謠言淹沒了各大網站，直到Facebook出來解釋，這種神秘的交流只是語法編譯不力造成的結果，這場風波才漸漸平息。
拉斯維加斯的自動駕駛巴士上路第一天就發生事故
今年11月，一輛自動駕駛巴士在拉斯維加斯華麗亮相，包括常駐拉斯維加斯的魔術明星Penn&Teller在內的眾多名人爭相排隊試乘。然后，僅僅在兩個小時后，這輛公交車就和一輛貨車相撞。盡管從技術角度來看，公交車無須為此次事件負責據警方所說，貨車司機才應該為此次事件負責但是這輛智能巴士上的乘客還是抱怨說，公車還是不夠智能，卡車慢慢靠近的時候，它無法擺脫危險。
GoogleAllo用頭巾表情回應表情
美國有線電視新聞網的員工使用GoogleAllo時收到了一個帶有頭巾的人的表情建議。而這個表情是因為一個手槍表情觸發的回復建議。谷歌尷尬地向公眾保證，問題已經得到解決，并向公眾道歉。
雙胞胎騙過了匯豐銀行的聲紋識別ID
匯豐銀行的聲紋識別ID是一個以人工智能為核心的安全系統，允許用戶通過語音命令訪問自己的賬戶。盡管匯豐銀行聲稱這套系統和指紋ID一樣安全，但是BBC的一名記者的雙胞胎兄弟卻能通過模仿聲音訪問他的賬戶。實驗嘗試了7次才成功。匯豐立即給出了解決方案，登錄失敗三次后即鎖定賬戶。
Google人工智能把步槍錯認為直升機
通過略微調整步槍的照片，麻省理工學院的研究小組成功欺騙了GoogleCloudVisionAPI，讓它將步槍照片錯認為直升機。這個技巧，也叫對抗樣本，是計算機通過進行人眼無法察覺的修改從而使圖像分類出現錯誤。此前，如果黑客知道目標計算系統的基本機制，工業機器人維修，這種對抗樣本才會起效。麻省理工學院的團隊通過觸發錯誤分類無須獲得系統信息，改進了對抗樣本。
路牌黑客愚弄了自動駕駛汽車
研究人員發現，用油漆和膠帶對停止標志作出不起眼的修改，他們就可以使自動駕駛汽車對這些標志錯誤分類。用「love」和「hate」這樣的單詞修改停止標志，m.twshmhelmet.com，就欺騙了一輛自動駕駛汽車的學習系統。測試集中，自動駕駛汽車的學習系統100%將這些停車標志辨認為「限速45」。
AI想象了一片「銀行臀部」顏色的夕陽
機器學習研究人員JanelleShan訓練了一個神經網絡，用來生成新的油漆顏色以及給每種顏色起一個匹配的名字。這些顏色可能看起來非常舒服，可這些名字卻令人捧腹。使用顏色名稱數據進行少量訓練之后，這個模型仍然會將「天藍色」標記為「GrayPubic」，把深綠色標記為「StoomyBrown」。
對Alexa許愿要小心，說不定一不留神就下單了
亞馬遜Alexa的虛擬助理可以使網上購物更容易。但是是不是太容易了？1月份，圣地亞哥新聞頻道CW6報道，一個六歲的女孩僅僅和Alexa說希望要一個玩具小屋，所以她就通過Alexa花了170美元買了一個玩具屋。據稱，當電視播出時，主持人重復了這個女孩的話，說：「我喜歡這個小女孩說的話，'Alexa給我買了一個玩具小屋'，」一些觀眾家里的Alexa設備再次被觸發，然后下單購買了一個玩具屋，不過這個說法的真實性仍然有待查證。