經(jīng)典科幻電影《2001：太空漫游》（2001: A Space Odyssey）可能是很多讀者的科幻啟蒙，那么這個(gè)故事的寓意是什么？在影片中，主人公發(fā)現(xiàn) HAL 9000人工智能電腦開始自主控制飛船，完全脫離宇航員的控制，同時(shí)電腦開始變得偏執(zhí)、嘗試殺死船上的所有人。顯然，這個(gè)故事表現(xiàn)了作者對(duì)自動(dòng)化科技的擔(dān)心，當(dāng)生命完全依賴于全自動(dòng)系統(tǒng)，似乎存在很多隱患。

然而，自動(dòng)化是人類不懈的追求，從簡(jiǎn)單的洗衣機(jī)、洗碗機(jī)到開始具有復(fù)雜算法的掃地機(jī)器人、智能家居設(shè)備以及目前火熱的自動(dòng)駕駛汽車，自動(dòng)化開始從更多層面影響人們的生活。但是，你真的可以把控制權(quán)完全交給機(jī)器嗎？一起來看看近期幾個(gè)典型的反面案例。

PetNet 的失敗PetNet 是發(fā)跡于眾籌平臺(tái)的一款智能寵物喂食機(jī)，通過連接到WIFI網(wǎng)絡(luò)、iOS遠(yuǎn)程控制，可以實(shí)現(xiàn)手動(dòng)分配食物，當(dāng)然，你也可以通過應(yīng)用進(jìn)行自動(dòng)化的預(yù)設(shè)。另外，它還能通過亞馬遜的Dash系統(tǒng)自動(dòng)購(gòu)買狗糧或貓糧。

聽上去，PetNet 完全可以解決很多寵物主人的麻煩，實(shí)現(xiàn)自動(dòng)化、定時(shí)定量的喂食。然而，在發(fā)售后，PetNet基于谷歌的云服務(wù)一度發(fā)生中斷，時(shí)間長(zhǎng)達(dá)10小時(shí)。也就是說，如果主人沒有發(fā)現(xiàn)，那么在這10小時(shí)里使用它的貓咪和狗狗得不到任何食物和水。雖然PetNet官方表示并沒有造成大的影響，但寵物挨餓是事實(shí)。

事后，PetNet還向用戶發(fā)送郵件，通知他們確保人工喂養(yǎng)寵物，直至問題完全解決。試想一下，一些外出度假的家庭，完全依靠PetNet來喂養(yǎng)寵物，是多么不靠譜的一件事。

Nest恒溫器崩潰作為最著名的智能家居設(shè)備，Nest恒溫器一直備受關(guān)注。然而，最近一周在美國(guó)各地，均發(fā)生了Nest恒溫器失效的情況，事實(shí)上這已經(jīng)不是第一次。Nest發(fā)布聲明，聲稱僅有很少一部分產(chǎn)品發(fā)生離線情況。

雖然沒有任何人受傷或是死亡，但是作為家庭中的溫控中樞，Nest的不穩(wěn)定無疑降低了人們的生活品質(zhì)，而他們購(gòu)買Nest的初衷，則是讓生活更方便。

特斯拉自動(dòng)駕駛死亡車禍特斯拉最近無疑處于風(fēng)口浪尖上，其自動(dòng)駕駛汽車發(fā)生車禍、導(dǎo)致司機(jī)死亡，似乎為自動(dòng)駕駛汽車的發(fā)展蒙上了一層陰影。

究其原因，目前最大的爭(zhēng)議在于其自動(dòng)駕駛模式的機(jī)制，雖然當(dāng)時(shí)環(huán)境較為特殊，強(qiáng)烈日照致使自動(dòng)駕駛系統(tǒng)和司機(jī)都沒有發(fā)現(xiàn)拖掛車的白色車身、沒有及時(shí)剎車，但從另一個(gè)角度來說，即便攝像頭失效、雷達(dá)也應(yīng)該監(jiān)測(cè)到障礙車輛。這是第一個(gè)問題：自動(dòng)駕駛的障礙監(jiān)測(cè)系統(tǒng)并不能處理任何狀況，但在駕駛這種高危環(huán)境下，一個(gè)小失誤就會(huì)造成生命損失。

顯然，特斯拉自動(dòng)駕駛汽車的傳感器部署并不完善，而在這種情況下，鼓勵(lì)用戶完全脫離駕駛的機(jī)制也是一個(gè)問題，事實(shí)上司機(jī)當(dāng)時(shí)正在汽車屏幕上玩游戲，顯然他過于相信自動(dòng)化系統(tǒng)了。

不要過于依賴全自動(dòng)化系統(tǒng)

顯然，上面三個(gè)實(shí)例告訴我們，不要過于依賴全自動(dòng)化系統(tǒng)，尤其是涉及到生命安全時(shí)。其實(shí)這是一個(gè)非常簡(jiǎn)單的道理：人會(huì)生病、產(chǎn)品會(huì)出現(xiàn)故障，你永遠(yuǎn)不能預(yù)知未來的事情?？萍及l(fā)展雖然迅猛，但即便是人工智能，也是人類所開發(fā)，而人類會(huì)犯錯(cuò)誤，任何系統(tǒng)也是一樣。

特斯拉的例子其實(shí)非常有代表性，CEO馬斯克一方面積極抵制強(qiáng)人工智能發(fā)展，認(rèn)為在眾多不確定因素下，強(qiáng)人工智能一旦具有真正的思考能力，可能會(huì)危及人類;但另一方面，他又認(rèn)為特斯拉的自動(dòng)駕駛技術(shù)并沒有問題，這顯然是矛盾的。所以，在目前這個(gè)技術(shù)橫流的時(shí)代，人類依然需要制定規(guī)則，并且始終相信，任何技術(shù)都沒有人類本身來的可靠。