無(wú)論對(duì)于人類還是AI機(jī)器人而言，忘記都是一件棘手的事情。

忘記是一件棘手的事

我們都知道忘記一些事情是怎樣的感覺(jué)。比如，忘記一個(gè)親人的生日、一段同年的記憶。但即使是能夠在不到20秒內(nèi)記住一張牌順序這樣記憶力超凡的人，仍會(huì)忘記把鑰匙放在了哪里。似乎，人們從來(lái)沒(méi)能夠完全掌控自己的記憶。

忘記是一件棘手的事，對(duì)于人類和人工智能來(lái)說(shuō)都是如此。

圖片來(lái)源：NASA / B.斯塔福德/ J.布萊爾/ R.Geeseman

目前，研究人員正在以不同的方式探索機(jī)器人的記憶概念。這不僅僅關(guān)乎技術(shù)問(wèn)題，還同樣涉及到了隱私、法律和倫理方面的問(wèn)題。試想，盡管你已經(jīng)答應(yīng)自己的配偶不再抽煙，但你的家庭機(jī)器人卻在某日目睹了你鬼鬼祟祟的抽煙全過(guò)程。又或者，如果它看到你犯了謀殺案呢？

如果有人有能力讓機(jī)器人忘記一些記憶，那將會(huì)是誰(shuí)呢？這是一個(gè)很重要的問(wèn)題。不過(guò)，首先研究人員需要找出好辦法讓AI能夠忘記一些記憶。這之前，我們需要先思考人類的記憶。

為什么人們忘記？

一個(gè)比較流行的比喻解釋了為什么人們會(huì)忘記：人們的大腦的容量會(huì)飽和，因此，我們需要忘記一些東西給大腦騰出更多的存儲(chǔ)空間。但是，對(duì)于一些患罕見(jiàn)“超憶癥”的人來(lái)說(shuō)，他們幾乎能夠記住生活中的每一個(gè)細(xì)節(jié)。這表明，上面那個(gè)比喻的解釋并不完整。

那么，如果我們忘記一些事情不是為了給新記憶騰出空間，那我們?yōu)槭裁催€會(huì)忘記呢？有一個(gè)解釋是，記憶幫助我們了解這個(gè)世界，而不僅僅是記住它。用這種方法，我們似乎保留了有用的、有價(jià)值的和相關(guān)的記憶，同時(shí)忘記了低價(jià)值的信息。

例如，一些研究表明，比起重復(fù)的信息，人們可以更好地記住有沖突的信息。其它因素還包括事件的重要性和新穎性，以及我們?cè)诮?jīng)歷一些事時(shí)所伴隨的情感和情緒。譬如，細(xì)想2001年9月11日，許多人能夠清晰地記得自己當(dāng)天在哪里，以及做了什么。

機(jī)器人如何忘記？

計(jì)算機(jī)記憶（電腦內(nèi)存）通常被描述存儲(chǔ)信息和找回信息的容量，以及存儲(chǔ)這些信息的計(jì)算機(jī)物理組件。當(dāng)計(jì)算機(jī)的某些內(nèi)存不再被任務(wù)需要時(shí)，計(jì)算機(jī)將“忘記”這些數(shù)據(jù)，釋放空間供其他任務(wù)源。

這也適用于人工智能。盡管忘記可能會(huì)使我們感到沮喪，但人類忘記的方式使得我們?nèi)匀粌?yōu)于人工智能。而且，機(jī)器學(xué)習(xí)算法尤其不知道需要什么時(shí)候保留舊信息，什么時(shí)候拋棄過(guò)時(shí)的信息。不僅如此，它還會(huì)面臨著與“遺忘”有關(guān)的幾個(gè)問(wèn)題。

舉個(gè)例子，連接者AI（AI通常使用大腦結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型）面臨著與“遺忘”有關(guān)的幾個(gè)問(wèn)題，譬如“過(guò)學(xué)習(xí)”這個(gè)問(wèn)題。“過(guò)學(xué)習(xí)”指的是當(dāng)一個(gè)學(xué)習(xí)機(jī)器存儲(chǔ)了源于以往經(jīng)驗(yàn)的過(guò)于詳細(xì)的信息時(shí)，阻礙了其概括和預(yù)測(cè)未來(lái)事件的能力。

另一個(gè)問(wèn)題是“災(zāi)難性遺忘”。 研究人員正在努力建立可以適應(yīng)新信息，又不會(huì)突然忘記以前所學(xué)知識(shí)的人工神經(jīng)網(wǎng)絡(luò)。

還有就是，有時(shí)人造神經(jīng)網(wǎng)絡(luò)的神經(jīng)元在學(xué)習(xí)過(guò)程的早期采用不良的激活模式，損害了AI的未來(lái)學(xué)習(xí)能力。

機(jī)器人存儲(chǔ)記憶的另一種方法是象征性的記憶表征，其中，知識(shí)是由邏輯事實(shí)來(lái)表示的（如“鳥飛”，“Tweety是鳥”，因此“Tweety可以飛”）。這些高度結(jié)構(gòu)化的人造表示可以很容易地刪除，就像在電腦上刪除一個(gè)文件。

這些記憶范圍包含了從原始的感覺(jué)運(yùn)動(dòng)數(shù)據(jù)（相機(jī)記錄）到存儲(chǔ)在知識(shí)庫(kù)中的邏輯事實(shí)（“圣誕節(jié)是12月25日”）的豐富內(nèi)容。

機(jī)器人應(yīng)該忘記什么？

要?jiǎng)?chuàng)造更好的人工智能，首先要了解我們的大腦在關(guān)于什么是值得記住的，什么是要遺忘的方面是如何做決定的。

就像人一樣，人工智能應(yīng)該記住重要和有用的信息，同時(shí)忘記低價(jià)值，無(wú)關(guān)緊要的知識(shí)。然而，確定什么是相關(guān)和有價(jià)值的信息，除了手頭的任務(wù)之外，可能還包括如倫理，法律和隱私問(wèn)題等因素。

聊天機(jī)器人進(jìn)行醫(yī)療診斷，智能家居設(shè)備監(jiān)控我們的一舉一動(dòng)，安全機(jī)器人使用攝像機(jī)和熱成像進(jìn)行巡視。這些都是存儲(chǔ)的數(shù)據(jù)。

例如，亞馬遜的家庭助理Echo是一個(gè)語(yǔ)音控制的免提揚(yáng)聲器，它始終監(jiān)聽命令提示符。最近，阿肯色州警方要求亞馬遜移交由Echo收集的顯而易見(jiàn)的謀殺嫌疑人回聲信息。

或者，思考一下人工智能性機(jī)器人的問(wèn)題，性機(jī)器人應(yīng)該記得或忘記她們的客戶嗎？是否要忘記這些客戶對(duì)她們做了什么？誰(shuí)可以擁有機(jī)器人的數(shù)據(jù)？而誰(shuí)又可以查看并刪除數(shù)據(jù)？

不得不說(shuō)，談到記憶，決定機(jī)器人何時(shí)忘記是人類面臨的一個(gè)深刻的挑戰(zhàn)。

編譯：梓色揚(yáng)光

原文鏈接：https://futurism.com/how-to-make-ai-forget/

來(lái)源：http://www.jianshu.com/p/db50cc04413f

本文由 @梓色揚(yáng)光 授權(quán)發(fā)布于人人都是產(chǎn)品經(jīng)理，未經(jīng)作者許可，禁止轉(zhuǎn)載。

“本譯文僅供個(gè)人研習(xí)、欣賞語(yǔ)言之用，不歡迎任何轉(zhuǎn)載及用于任何商業(yè)用途。如需轉(zhuǎn)載請(qǐng)注明作者和來(lái)源。（本譯文所涉法律后果均由本人承擔(dān)。本人同意平臺(tái)在接獲有關(guān)著作權(quán)人的通知后，刪除文章?！保?/p>

題圖來(lái)自PEXELS，基于CC0協(xié)議