編譯| Halcyon
編輯 | 麻粒兒
微信 | ai_xingqiu
網址 | 51aistar.com
數字服務經常與法治相衝突（一般來說都不是很徹底的衝突）。但是，如果深度學習軟體和自執行代碼等技術處於法律決策的驅動之中，會發生什麽呢？
我們如何確保下一代“合法技術”系統不會對某些團體或個人存在不公正的偏見？律師需要提高哪些技能才能正確評估數據驅動決策帶來的司法品質？
企業家們多年來一直在關注傳統的法律程式，在他們看來，法律創新的早期主要亮點是成本削減以及他們口中的“簡化”一詞，但跟AI技術的改造潛力比起來，就顯得黯然失色了，AI技術已將算法指令寫入法律程式中，過程中很可能改變了法律本身的路線。
如果決策是通過在離散數據集上進行培訓的算法模型實現自動化，或是借由嵌入區塊鏈管理的策略流出，那麽，法律保護該如何得到保障呢？
這些問題是Mireille Hildebrandt之後參與的一個為期5年、旨在調查她稱之為“計算法”的含義的項目中即將接觸到的相關問題。Mireille Hildebrandt是一位律師、哲學家，現任比利時布魯塞爾自由大學法律、科學、技術和社會研究組的教授。
今年4月，歐洲研究委員會授予Hildebrandt250萬歐元的資助，讓其以雙重技術為焦點進行基礎研究：AI法律情報和區塊鏈的合法應用。
在與TechCrunch討論她的研究項目時，她將該項目描述為抽象與實用兼具，項目涉及人員包括律師、電腦科學家。她表示，希望通過這個項目提出一種新的法律解釋學——簡單的說，就是一個律師可用來智能化處理計算法律架構的框架；同時也希望借此了解其中的局限性和影響，並能夠提出正確的問題來對目前在評估人員情況上運用越來越廣泛的技術進行評定。
她解釋說：“此項目的初衷在於律師們與電腦科學家們一起來發現、理解他們所面臨的問題。我腦海中理想的畫面，律師們最好在分析問題上非常尖銳並對哲學感興趣，可以和電腦科學家們聚在一起，真正意義上的理解彼此的語言。
“我們不會開發一種通用語言。在我看來，這樣是行不通的。但雙方必須能夠理解一個術語在另一領域的含義，學習術語不同領域中的運用情況，最終能夠看到兩個領域的複雜性，避免簡單化應用此術語。
“在發現了複雜性之後，可以對其作出解釋，在某種意義上來說，那些真正重要的人——也就是我們的公民，可以同時在政治層面和日常生活的角度來做出決定。”
Hildebrandt說，她將AI和區塊鏈技術納入該項目的研究範圍，因為兩者提供了“兩種非常不同的計算法律學”。
當然，也有可能將兩者結合起來——在法律技術背景下創造“全新的風險和機遇”。
Hildebrandt認為，區塊鏈“凍結了未來”，她承認兩種技術中，她對區塊鏈更持懷疑態度。“一旦你把它放在區塊鏈上，之後就很難改變你的想法。如果這些規則開始自我強化，日後你想要做出改變，無論在成本方面還是精力、時間、混亂和不確定性方面的消耗都會非常高。
“你可以做一個分支，但當政府參與時，就不可行了。他們之間互必定存在聯繫。”
儘管如此，她認為，區塊鏈技術很可能在未來的某個時期因其替代機制備受關注，用以幫助各州和公司在不那麽複雜的體系下確定全球稅法規定的義務。（假設可以達成此類協定。）
鑒於互聯網平台跨國開展業務並牽涉不同司法管轄區和政治期望的複雜法律法規很可能已經存在，目前會有這樣一種觀點——一個新的應用規則系統是很有必要的，並且在區塊鏈上制定政策可能是一種打消所有混沌重疊的最好方式。
然而Hildebrandt對基於區塊鏈的法律合規體系的構想還是持謹慎態度。
下面是該項目的另一個重點——AI法律（人工智能法律），這種技術潛力很大，但同樣也存在一定風險。她說到：“AI法律意味著你可以通過機器學習來進行辯論挖掘，這樣一來你就能對很多法律文本進行自然語言處理，並可試圖檢測論證的線索。”就此觀點，她舉了需要判斷一個特定人是承包商還是雇員的例子來解釋。
“在美國和加拿大地區，這對雇主和雇員都會產生巨大的影響。如果判斷過程出現錯誤，稅務部門很可能找上門來索要一筆巨額罰金，並追回高額稅款，金額之大，很可能是他們無法承受的。”
由於該地區的判例法混亂，多倫多大學的學者開發了一個AI來試圖提供幫助——此AI技術通過挖掘大量相關法律文本生成一組功能，在特定情況下可用於審查人員是否是員工。
“他們大體上是在尋找一種數學函數，可將輸入數據（包括大量法律文本）與輸出數據相關聯，在這種情況下，無論你是雇員還是承包商，此函數都能使用。如果這個數學函數在你的數據集中始終處於正確的位置或者說幾乎所有的時候都可進行高精度計算，那麽，我們將對新的或是分散性數據進行測試，並確認該數據是否仍然非常準確。”
鑒於AI須依賴數據集來推導出用於自動判斷調用的算法模型，律師將需要了解如何處理並詢問這些技術結構以確定AI是否合法。
如果你的AI與人們的法律判斷調用有關，那麽並非由偏倚的數據集產生的高精度也不完全是好事。
將要投入使用的技術或是正在投資的合法技術都等著律師解釋最終結果——因此，不要說‘哇，準確率高達98%，勝過最好的律師！’他們應該說‘啊，好吧，請你給我看一下測試過的一組性能指標。謝謝你，請問一下，為什麽你要將這些準確率低的放到四個抽屜裡呢？你能給我展示一下你的數據集嗎？這個假設函數太空裡發生了什麽？你為什麽要過濾掉這些論點？’
“這類對話才是律師真正需要上心的，有些還能從中找到樂趣。這是一個非常嚴肅的事情，因為法律決策對人們的生活有很多的影響，最好的是，律師在解釋法律中的人工智能的結果的過程中逐漸獲得樂趣。他們應該能認真地談論自執行代碼的局限性——這也就涉及到項目的另一部分，即區塊鏈技術的合法應用。
“如果有人談及‘不可變性’，他們可能這樣說到，‘不可變性’意味著如果在將所有內容放入區塊鏈之後，你突然發現一個錯誤，且錯誤是自動執行的，想要修複它就會變得十分困難，需要耗費大量的金錢和精力。
所以你會說我們不應該相信這些機構，但可以信任不熟悉的軟體，信任各種中間人，即無權的礦工，或是在其他類型的分布式分類账中的中間商。”
“我希望律師能在其中獲得一些證據、切實的論據，並且真正的理解機器學習中的偏見意味著什麽，”她繼續指出，通過紐約AI Now Institute正在進行的研究來調查分歧與AI系統相關的影響和治療。
“這是一個具體的問題，但我認為還有更多的問題，”她補充道——算法歧視。所以這個項目的目的在於將問題集中到一起，並理解這一點。
“我認為這對於律師來說非常重要，並不是要求成為電腦科學家或是統計學家，而是需要真正掌握所發生的事情，然後才能分享這些資訊，真正為文本形式的法律方法做出貢獻。我的研究主要針對文本形式，但是，當我們有能力使用非文字法規時，我們必須做出決定。實際上在我看來，這並不是法律。
“那麽我們真正應該理解的事情是，該如何取得文本和其他律師未經培訓還無法理解的方法之間的平衡。這些方法一般公民也是不太了解的。”
Hildebrandt確實看到了AI法律爭論挖礦能用於好的用途的機會，比方說，AI可以用於評估特定法院所做決策的品質。當然她也提醒道，這類系統的設計均需經過深思熟慮。
雖然這項研究部分內容是抽象的，基礎知識牢固，Hildebrandt指出，正在研究的技術——AI（人工智能）和區塊鏈——還處在“試驗階段”，但已經在法律環境中得到應用。
而且，這是一個技術驅動的未來，各項技術無法均勻分配，風險很大。
她補充道：“歐盟和各國政府都喜歡做出嘗試，目前實驗停止了，系統已經實施，那些關於你我生活的影響力決策總是很難被大眾看到。”
她也希望由該項目開發的解釋方法將幫助律師和律師事務所正確運用法律科技（用科技改變法律服務），並將此技術作為其銷售點。
她說：“顯然，當前市面上會有很多垃圾。這是不可避免的，這將成為法律科技的競爭市場，技術最終是好是壞，很難評斷——所以我相信，通過採用這種基礎的觀點，如果你想要作出這樣的判斷，就會更容易知道你需要留意的地方。這裡涉及一種心態和了解事情的具體情況的知情心態。
“我完全讚成敏捷和精益計算。不要做那些毫無意義的事情…...我希望這個研究能幫助人們跳過基本上荒謬的方法，為其帶來一定的競爭優勢。”
香港九龍灣馬來街興發大廈15樓D室