用人工智能預防自殺是善意，但也是道德綁架？
Facebook開始采用人工智能（artificialintelligence；AI）辨識用戶偏離正常貼文的行為，并對于可能出現的輕生念頭發出警告。但這樣做合乎倫理道德嗎？
在當今高度互連的世界中，我們不斷產生和收集如此龐大的數據量，甚至已經超出人類能力所能全部過濾篩選的范圍了。確實，人工智能的應用之一就是辨識這些貼文上的意圖所表現出來的模式與偏差。因此，Facebook以這種方式運用AI，從其大數據（BigData）數據庫中擷取價值，雖然可能是出于善意的目的，但也引發對于道德感的顧慮。
為了能夠更清楚掌握這個問題，在我不斷的搜尋中，找到了一家名為運算研究的普適資料倫理（PervasiveDataEthicsforComputationalResearch；PERVADE）的組織。PERVADE組織與六所大學合作進行研究，并在今年9月取得了資金贊助，目前正致力于制訂問題并積極尋求答案。
我很快地與這家組織接觸，針對Facebook以人工智能偵測自殺信號的道德問題征詢了專家們的看法。后來有機會與該組織的一位成員MatthewBietz取得了聯系。
Bietz告訴我，參與PERVADE組織的成員們正在研究普適資料的發展后果，包括不斷地收集數據不僅從我們發布到社交媒體的貼文，還來自我們在上網時留下的數字軌跡，例如我們以Google進行搜尋或收發電子郵件。他說，物聯網（IoT）和可穿戴設備之間建立起新的聯系，進一步促進了我們所處空間的數據主體日益增加。由于這個現像相對較新，因而對于數據倫理提出了值得探索的新問題。
由于Facebook宣布不會將其自殺信號偵測工具擴展到歐盟（EU），我詢問Bietz是否因為這項計劃會違反歐盟的通用數據保護條例（GeneralDataProtectionRegulatio）？他坦言歐盟確實對于數據保護存在一些世界上最嚴格的規定，但他補充說，以GDPR的標準來看，Facebook所做的是否違法，目前還不是完全明朗。
數據偵測與歐盟
更準確的說，Facebook正冒險進入一種未真正經試驗的優勢。但我猜測他們并不想成為測試用例。
Bietz說，Facebook的服務條款使其得以查看數據，因此，這樣的行為并不會直接違反GDPR的隱私條例。但是，立法禁止公司僅根據算法或由計算機自動進行分析。
這表示，KUKA機器人維修，如果算法在沒有人為介入的情況下決定信號意義，并自行發出警告，那么這樣的行為以GDPR來看就是錯誤的。然而，他說，如果只是利用算法協助決定哪些貼文需要人們多加關照，就可能在在法規允許范圍。
道德的雷區
除了法規的問題，Bietz認為，Facebook的自殺偵測途徑設定了一種道德的雷區（Ethicalminefield），因為后果是如此的強烈。但這并不表示該公司所做的必然是不道德的，實際上還取決于他們如何處理這些資料，以及Facebook是否值得我們信任。
目前，這是個懸而未決的問題。他表示，當Facebook的營利模式是基于有選擇性的信息共享時，是否還能讓我們相信它真的將自殺信號數據用于防范自殺以及改善社會問題的目的。為了證明其出于善意，Facebook應該盡快提供信息如何分享的程度，詳細說明他們如何使用這些數據，以及如何保有其安全性。但是，Facebook的立場是我們只須要相信他們。
Bietz說，我們現在面對的一部份問題是前所未見的各種新技術及其應用。因此，庫卡機器人，目前還沒有明確的先例可用于指導道德決定。我們現正探索一個全新的領域，不只是在技術上，在倫理道德方面也是如此。此外，還必須取得一些方向來表達正確的道德問題。
問題與結果
Bietz表示，他贊成運用數據和算法來防范自殺的發生，并指出危機求救熱線（CrisisTextLine）采用該方法來優先考慮對最緊急的情況做出反應。但Facebook并未詳細說明其計劃如何防范自殺，然而，Bietz認為，該公司也不應該自行嘗試這項計劃。他說：如果我他們與來自公司外部的心理學研究人員密切合作，共同思考這些問題，庫卡機器人，我感覺會更好。
所使用的算法質量是也很重要，Bietz補充說。例如，過度謹慎可能會產生誤報。但是，Facebook并未表明其算法的性質，或是說明計劃如何處理這些熱線。它將會持續使用原始算法或隨著時間進行調整？同樣地，Facebook并未透露任何細節。
我們能夠信任Facebook是合乎倫理道德的嗎？由于社交媒體平臺能夠取得太多有關于我們的信息，現在必須提出這個問題。它不僅能從我們的歷史訊息中辨識個人行為標準的模式，還可能根據朋友的貼文推斷我們并未分享的信息。
Bietz指出，我們的社會從來沒有經歷過這種范圍縮小到個人層級的監控精確度，再加上這是一個數百萬Facebook賬號的龐大社群。如今，在這個全新的數據新世界，我們必須積極地尋找道德的界線。