AI，隱私，機器人

最近有一部叫做“愛當機”的劇火了。

全名叫做《愛，死亡和機器人》（Love, Death &Robots），每一集都是獨立的動畫短片，平均時長只有15分鐘，我特別喜歡其中幾集關於機器人的科幻短片。

套用這部劇的名稱，讓我們來聊一個現實話題：AI、隱私和機器人。

AI的燃料

AI技術與隱私保護是近年來越來越倍受關注的話題。

從來沒有哪個時代像當今一樣到處充滿了對個人隱私的侵犯，也沒有哪個時代像當今這樣對隱私看得如此之重。事實上，你的隱私將無處可藏。

數據對於AI來說，就像煤炭之於蒸汽機，電能之於燈泡，汽油之於汽車。近年來，AI這台發動機已經再次發動，只有源源不斷地喂給它更多的燃料，才能朝著遠方前進。這台發動機的能耗很高，燃燒效率有時卻不高，必須要足夠多的燃料。

汽車發動機必須在動力與節能之間尋找更高的平衡點，AI也必須在應用潛能和隱私數據保護（涉及數據的利用效率）之間尋找更適合的平衡點。

隱私的隱喻

關於隱私保護也在與時俱進，以前關注的個人隱私更多的是自身的私密性。明星在這個問題上是深受困擾的人群，整天被狗仔隊跟蹤，生怕被偷拍了不雅照片，吊詭的是，其實明星有時候更怕沒有狗仔隊跟蹤。隱私與自身利益永遠都存在著一個權衡。

隨著時代發展和進步，特別是人工智能技術的迭代演進，隱私的關注點也變得更為複雜。

AI的發展需要更多數據，每個應用APP在你第一次打開時，會給你一個巨長無比的所謂隱私保護協議，然後你看也不看就點了“接受”，當然其實看了也沒用，只是告訴你他們是匿名獲取你的隱私數據，並且你的隱私數據不會被利用。

其實，這種隱私協議的潛台詞無非就是，要麽用我們的服務、默許我們收集數據，要麽就不要用。

天天被電話騷擾的你，有時候也許不介意多接一個騷擾電話。每逢佳節，商場超市促銷時，經常有信用卡推銷或者房產中介等促銷員給你一個小禮物讓你“登記”一下個人信息，填個申請表，以得到後續他們“更優質的服務”或者得到“VIP身份”。

這裡其實更吊詭，明明是為了想要收集我們的信息，卻讓我們填“申請表”。你想了一下，反正現在每個人的信息都被大量的洩露了，也不差這點吧，反正他們都知道，無所謂，填吧，至少還能得到一個不錯的小禮物。實際上，你將“得到”更多。

這些商家線下獲客，有了聯繫方式，後面就可以推送給你優惠券、促銷券、代金券，發放更多小禮品，後面竟然連你什麽時候需要買房、買車、買奶粉都知道了，還無微不至提供各種服務，有沒有很意外，有沒有很驚喜？

也許你會問：我的隱私數據是怎麽被偷走的？

其實，不是被偷走的。只要你出門，就在洩露你的隱私，你的臉，你的聲音，你的背包的顏色，都是暴露在空氣中的隱私數據。在AI算法的眼裡，你就是一個行走的數據流。

你以為不出門就不會洩露數據了？隨著智能手機、智能家居、智能手環、智能音響、智能掃地機器人等這些高科技產品橫空出世，成為大眾娛樂的新熱點，AI應用場景甚多，數不勝數。

你又會說：哈哈，真扯！我覺得你說的這些信息還好，我身邊的人都能看到啊，沒你說的那麽隱私吧？

其實在AI時代，關於人的一切數據都是隱私。你讓身邊人知道的信息不一定願意讓更多人知道，否則你在網上的網名怎麽不用真名呢？天天帶著一張身份認證和支付用的臉出門不覺得不安全麽？隱私數據關乎的是你的個體信息，因為你是獨一無二的。

那麽，具體有哪些隱私數據呢？

基於你的個人身份數據，比如身份證號、手機號、家庭住址、工作地點，AI算法在各個社交平台上挖掘關聯關係，建立圖譜信息，可以掌握你的社交層面的信息，如朋友圈、親人圈、同事圈，關係強弱，等等各種社會屬性信息，構成一個完整的個人信息畫像，這便確定了你這個獨一無二的“社會”人。

基於你的生物特徵數據，各種應用APP收集的面部特徵、聲音特徵，智能手環收集到的心率血壓特徵、作息習慣、睡眠數據，健身應用中的體重身高、身體柔韌性、體脂含量等等，可以輕鬆被挖掘被建模，這便構成了人這個實體存在的多維空間信息。

上述兩類可獲得的數據只要足夠多，加上你的各種行為數據，AI算法甚至可以推斷出你的人格數據（或者叫心智數據）——你的思維方式，你在想什麽，你的喜好，你的性格，形成描述人精神層面的內在模型。

舉個例子，一個很著名的關於人格與人性的模型叫做大五類人格特徵模型，一般稱為OCEAN，這個模型包含了五類因素：開放性(Openness)、嚴謹性(Conscientiousness)、外向性(Extraversion)、宜人性(Agreeableness)、神經質(Neuroticism)。

機器人，另一個我

開頭說到AI、隱私和機器人科幻之間可能存在某種關聯。這種關聯源自於技術的不斷發展，科幻為技術的未來提供了某種可能性的遐想。

AI的發展需要很多數據來滿足場景建模的需要，AI算法可以通過分析每個人的各種行為數據推導出這個人的人格特徵。算法通過個人在社交網站中的點讚數據即可分析出這個人的喜好特徵，通過協同過濾算法就可以對個人進行精準廣告推送，比如給外向的人推送的廣告場景相對活躍和充滿激情，給內向的人推送的則是相對安靜和私密的場景。

同樣的分析手段甚至被用在選舉宣傳的過程，能起到影響選民決策判斷的作用。通過給不同性格或者意向動搖的選民推送不同版本的選舉廣告，或者推送對手的負面新聞，左右目標群體的決策，達到“心理操縱”的目的。

而不斷進化的人臉識別的技術能僅通過面部特徵的識別就能判斷出一個人的性取向這麽私密的信息，準備率能達到80%以上，而我們人類本身很難僅通過一張臉就能判斷出一個人的性取向。以色列的一家公司Faception聲稱可以直接通過面部特徵來識別恐怖分子、高智商的人群，分分鐘看透你的內心。

AI可以不斷地從人類的隱私數據中攫取價值，甚至能夠再現人的心智模型。有沒有想過，有一天，一旦AI掌握了人的足夠多的關鍵數據，建立更加完備的模型，不僅能做到“心理操縱”，甚至可以做到“心靈控制”。

人類的實體存在和精神存在被抽象為一個個複雜的畫像模型，或者“心靈鏡像”，這些模型和鏡像包含了我們的所有特徵，身份、性格、思維等等。只要將數據拷貝到一個機器人中，就可以生成另一個“我”來，甚至另一批“我”。

這裡的機器人可以理解為以機器為載體的AI算法和存儲機制，加上更為先進的能源和機器進化機制，託管人類只是理所當然的事情，人類的心靈鏡像只是被更為高階的AI算法利用。會發生什麽，我現在還不敢往下去想。

這或許讓你想起了《黑客帝國》《異次元駭客》這樣的科幻電影。”愛當機“（Love,Death & Robots）的第一集《桑尼的優勢(Sonnie’s Edge)》、第七集《天鷹座裂隙之外(Beyond the Aquila Rift)》和第十五集《盲點(BlindSpot)》也隱含了這樣的主題。

AI通過不斷的迭代和進化，直至讓機器人達到與人的心靈模型近乎一致，這是科學家們一直在追求的夢想，也是可怕的未知的未來。

已知的未來

AI應用的邊界、隱私數據保護的度在哪，現在還是未知。社交活動數據、零售數據、金融行為數據、醫療健康數據等被廣泛用於AI各種應用場景，的確也朝著為人類帶來更多服務的方向發展，但是對於這樣的涉及隱私數據利用的監管仍處於探索階段。

任何企業應用與隱私之間需要一個權衡。歐盟去年5月頒布的一般數據保護條例（GDPR）中有幾條關於隱私數據的保護原則，其中不僅包括隱私數據的處理過程需公正透明，使用場景和保留期限需明確限定，數據需保證完整、準確和保密等要求；而且還要求對隱私數據的獲取要滿足最小化原則，也即隻獲取必要的、相關的、限定的隱私數據。

GDPR的推出在全球關乎隱私數據的保護方面具有非常強的引領作用。在各種AI算法和模型得到越來越廣泛應用的今天，針對上述隱私數據的保護原則，尤其是最小化原則、保密性原則、透明性原則，AI公司或者與AI產品相關的公司必須考慮AI算法的發展方向。可以預見，未來滿足下面條件的算法將是主要方向：

（1）需要更少隱私數據的AI算法。這樣的算法要麽可以自己生成觀測數據，如生成式對抗網絡（GAN）；要麽通過分布式解決中心化訓練對數據量的要求，如分布式機器學習（Federatedlearning）可以實現在邊緣設備端進行模型的再訓練。

（2）基於加密數據的訓練算法。將原始隱私數據加密，並且還能通過加密後的數據進行訓練，這樣不需要減少對隱私數據的獲取，也能保證數據的保密性。這樣的算法包括差分隱私技術、同態加密以及遷移學習等方法。

（3）可解釋的AI（Explainable AI，簡稱XAI）。很多AI算法的黑箱性質讓人類擔憂。XAI致力於提高算法應用的透明度，構建“玻璃箱”模型，使人類能夠輕鬆理解AI算法，提高AI認知智能在人類活動中的可信度。這將是未來趨勢。

（作者：蘇寧金融研究院金融AI研究員李加慶；來源：蘇寧財富資訊；首圖來自壹圖網）