使用AI技術進行圖像和視(shì)頻編輯是AI應用最廣泛和最成熟的領域之一(yī)。随着越來(lái)越多的開源軟件可以自動化(huà)完成相關(guān)的視(shì)頻圖像編輯操作(zuò)，有一(yī)天這(zhè)個(gè)技術門檻終于被徹底推倒了(le)。

1、崗位的替代

使用AI技術進行圖像和視(shì)頻編輯是AI應用最廣泛和最成熟的領域之一(yī)。随着越來(lái)越多的開源軟件可以自動化(huà)完成相關(guān)的視(shì)頻圖像編輯操作(zuò)，有一(yī)天這(zhè)個(gè)技術門檻終于被徹底推倒了(le)。

2、模型的錯誤與歧視(shì)(bias)

盡管現(xiàn)在AI技術已經很強大，但(dàn)在很多方面還沒有成熟到能(néng)夠普遍應用于商(shāng)業環境。這(zhè)裏談到的成熟，一(yī)方面是算(suàn)法适應性和技術應用本身(shēn)的可靠性，另一(yī)方面也(yě)包括産業環境中各方對于AI系統的接受度。

其中一(yī)種衆所周知的應用類型就(jiù)是自動駕駛。在AI系統全權控制車輛時(shí)，錯誤的判斷與操作(zuò)帶來(lái)的損失應該由哪一(yī)方來(lái)承擔，目前并沒有一(yī)個(gè)各方均可接受的解決方案。直到現(xiàn)在，自動駕駛技術一(yī)直在提高系統可靠性和系統失誤的責任分(fēn)擔這(zhè)兩條線上(shàng)糾結不前。

類似的問題是具有普遍意義的。今年5月(yuè)(yuè)，媒體(tǐ)披露香港某李姓億萬富豪因為(wèi)接受投資顧問的建議(yì)，采用基金(jīn)公司提供的AI策略交易系統進行對沖交易，最終導緻了(le)超過兩千萬美元的損失。目前該案已經被提交到倫敦商(shāng)業法庭，并預計于2020年4月(yuè)(yuè)進行審判。

最終的焦點還是回到了(le)“黑匣子(zǐ)”問題上(shàng)：如(rú)果人(rén)們不知道AI系統如(rú)何做出決策，那麽出現(xiàn)問題的話(huà)，誰該承擔責任？

傳統上(shàng)來(lái)說(shuō)，任何商(shāng)業行為(wèi)(商(shāng)業建議(yì))都可以追根溯源找到行為(wèi)人(rén)。但(dàn)在由AI系統掌控的商(shāng)業行為(wèi)中，往往很難找到明确的個(gè)人(rén)為(wèi)結果負責。客戶在接受聊天機器(qì)人(rén)推薦的産品時(shí)甚至無法投訴其提供誤導信息，因為(wèi)AI系統本身(shēn)不存在故意誤導(misrepresenation)的可能(néng)性。

2019年來(lái)臨的這(zhè)場(chǎng)億萬富翁與AI系統的法律争鬥預示着人(rén)工智能(néng)在融入人(rén)類生(shēng)活的方方面面之前，将要面臨什(shén)麽樣的挑戰。

類似的AI錯誤在2019年還有一(yī)些(xiē)。今年4月(yuè)(yuè)份發生(shēng)的巴黎聖母院大火(huǒ)期間(jiān)，YouTube平台上(shàng)部分(fēn)新(xīn)聞直播下(xià)方的信息欄内，出現(xiàn)了(le)有關(guān)“911恐怖襲擊”事(shì)件的說(shuō)明，但(dàn)此次大火(huǒ)的原因和恐怖襲擊并無關(guān)聯。事(shì)後，Google 承認信息欄的内容是由AI算(suàn)法自動生(shēng)成的，并表示已經第一(yī)時(shí)間(jiān)關(guān)閉了(le)這(zhè)些(xiē)直播視(shì)頻下(xià)方的信息欄。

引起AI系統錯誤的原因除了(le)算(suàn)法模型不夠精确之外，還有一(yī)個(gè)重要的因素就(jiù)是建模數據本身(shēn)的偏差導緻的模型歧視(shì)(bias)。

2018年10月(yuè)(yuè)路(lù)透社就(jiù)報(bào)道亞馬遜公司開發的AI智能(néng)招聘系統在進行簡曆篩選時(shí)存在明顯的性别歧視(shì)。AI算(suàn)法在依據候選人(rén)簡曆時(shí)對包括“婦女(nǚ)”等詞的簡曆降權處理(lǐ)，例如(rú)包含“女(nǚ)子(zǐ)國際象棋俱樂(yuè)部隊長”這(zhè)樣經曆的簡曆。AI算(suàn)法甚至還系統地降低(dī)了(le)兩所女(nǚ)子(zǐ)大學的畢業生(shēng)的等級。所有這(zhè)些(xiē)處理(lǐ)方式的原因就(jiù)是目前科技行業男性占主導地位的事(shì)實強化(huà)了(le)系統在構建AI算(suàn)法模型時(shí)的偏見。

類似的偏見無處不在。今年5月(yuè)(yuè)份皮尤研究中心發布的報(bào)告顯示，Facebook的新(xīn)聞配發的照片中，男性出現(xiàn)的次數是女(nǚ)性的兩倍。在兩性數量基本均衡的背景下(xià)，如(rú)果無差别采用Facebook的新(xīn)聞照片構建AI模型，幾乎可以肯定會出現(xiàn)性别歧視(shì)的傾向。

AI系統引起的“歧視(shì)”中最新(xīn)的案例來(lái)自于日本。就(jiù)在12月(yuè)(yuè)份，東京大學副教授大澤升平在推特上(shàng)公開宣稱：“不在自己公司錄用中國人(rén)”、“從簡曆就(jiù)篩掉中國人(rén)”。在引起中日雙方的輿論抨擊後，大澤升平在推特上(shàng)公開道歉，并表示“之前一(yī)系列推文中提及對特定國籍人(rén)士工作(zuò)能(néng)力的判斷，是本公司基于有限數據、經過人(rén)工智能(néng)(AI)分(fēn)析“過度學習’得出的結果。”這(zhè)也(yě)算(suàn)是AI系統歧視(shì)在2019年臨近結束時(shí)背上(shàng)的一(yī)口黑鍋吧(ba)。

3、潛在的濫用風(fēng)險

目前AI技術還不夠成熟，所以并沒有出現(xiàn)大規模的商(shāng)用，但(dàn)唯有少數領域例外 –例如(rú)面部識别。

2019年可以說(shuō)時(shí)面部識别技術“飛入尋常百姓家”的一(yī)年。不隻是傳統的公安部門和金(jīn)融部門，現(xiàn)在幾乎各行各業都在嘗試如(rú)何把面部識别技術嵌入到身(shēn)份認證和人(rén)群活動管理(lǐ)的功能(néng)中來(lái)。

2019年10月(yuè)(yuè)，杭州野生(shēng)動物世界因為(wèi)強制遊客“刷臉”才能(néng)入園而導緻訴訟。作(zuò)為(wèi)一(yī)個(gè)休閑娛樂(yuè)場(chǎng)所，有沒有必要強制要求遊客留下(xià)面部生(shēng)物特征信息呢(ne)？

類似的事(shì)例還有中國藥科大學在教室安裝的人(rén)臉識别系統。該系統可以通過面部識别技術識别進入教室聽(tīng)課的學生(shēng)，并全程追蹤學生(shēng)聽(tīng)講、發呆、睡覺等上(shàng)課的狀态。

面部信息是人(rén)類最重要的基本生(shēng)物特征之一(yī)，識别度極高且無法輕易改變。更重要的是，面部信息是少數可以通過遠(yuǎn)程非接觸方式進行準确識别的生(shēng)物信息。對于任何向第三方随意暴露出自己詳細面部信息的個(gè)體(tǐ)，都等于允許第三方在任何時(shí)間(jiān)和地點以非接觸方式完成自己的身(shēn)份認證。這(zhè)就(jiù)好(hǎo)(hǎo)比你把自己的姓名和身(shēn)份證信息加密印在自己的額頭上(shàng)，然後把密碼随意交給第三方。第三方甚至可以在數公裏之外遠(yuǎn)程掃一(yī)下(xià)你額頭的二維碼，就(jiù)知道你是誰，身(shēn)份證号碼多少。

如(rú)此輕易且準确的身(shēn)份識别信息當然很重要。于是各方就(jiù)趁着AI應用的東風(fēng)廣泛收集公民(mín)個(gè)人(rén)面部信息。2019年9月(yuè)(yuè)。《北京青年報(bào)》披露在網絡商(shāng)城中有17萬條“人(rén)臉數據”被公開發售，其中涵蓋了(le)兩千人(rén)的肖像，每個(gè)人(rén)約有50到100張照片。此外，每張照片還搭配有一(yī)份數據文件，描述了(le)人(rén)臉的106處關(guān)鍵識别位置，如(rú)眼睛、耳朵、鼻子(zǐ)、嘴、眉毛等的輪廓信息。可以想象，這(zhè)兩千人(rén)的面部和個(gè)人(rén)信息洩漏将導緻他們在公衆場(chǎng)合的活動近似于“裸奔”，任何獲取這(zhè)些(xiē)數據且具有面部識别功能(néng)的攝像頭都可以知道他/是誰，身(shēn)份證号多少，多大年齡。

正是因為(wèi)這(zhè)樣潛在的濫用風(fēng)險，所以各國政府在2019年開始收緊AI技術在面部識别領域的應用。

2019年5月(yuè)(yuè)，舊金(jīn)山市(shì)議(yì)會以8:1的投票(piào)結果通過禁止警方和其它政府部門使用“人(rén)臉識别技術”的決議(yì)。10月(yuè)(yuè)，加利福尼亞州州長簽署法令，禁止執法機構在未來(lái)三年内使用面部識别技術。

美國的警用設備制造商(shāng) Axon Enterprise 6月(yuè)(yuè)份表示，将不會在自己的設備上(shàng)添加人(rén)臉識别軟件。目前Axon Enterprise向包括紐約和洛杉矶警察局在内的47家美國執法機構提供随身(shēn)攝像頭。

我們不能(néng)說(shuō)美國政府在部分(fēn)公務(wù)行為(wèi)中禁止使用面部識别技術就(jiù)是對的，但(dàn)最起碼在非必要領域，如(rú)零售、娛樂(yuè)、普通服務(wù)業等應該嚴格約束商(shāng)家采集和應用面部識别技術，并制定面部數據的采集和應用合規标準，以防止2019年出現(xiàn)的面部識别技術濫用的趨勢。

需要指出的是，随着AI技術逐漸深入到商(shāng)業和家庭環境中，類似的涉嫌濫用領域隻會越來(lái)越多。從智能(néng)音(yīn)箱涉嫌監聽(tīng)客戶家庭的對話(huà)，到亞馬遜使用AI系統監控員(yuán)工工作(zuò)效率，甚至精确計算(suàn)工人(rén)消極懈怠的“工休間(jiān)隙”時(shí)間(jiān)(Time Off Task，簡稱TOT)，2019年AI商(shāng)業應用不斷豐富的背後，潛在的濫用風(fēng)險也(yě)越來(lái)越大。

4、軍事(shì)應用與對抗

AI作(zuò)為(wèi)最尖端的互聯網高科技之一(yī)，在海量信息處理(lǐ)能(néng)力和瞬時(shí)判别響應方面具有人(rén)力完全不可比拟的優勢。AI自然也(yě)是軍事(shì)部門希望快(kuài)速擁有和全面應用的技術。

美國國防部去年6月(yuè)(yuè)宣布成立聯合人(rén)工智能(néng)中心(JAIC)，以促進美國軍事(shì)工業在AI技術實際應用的能(néng)力。JAIC負責人(rén)為(wèi)美國空軍中将John N.T. “Jack” Shanahan，研究的重點領域包括：情報(bào)探知、預測性維護與供應、救災和人(rén)道主義援助、以及網絡空間(jiān)。

彭博周刊披露，2019年11月(yuè)(yuè)初，來(lái)自美國軍事(shì)工業的多位高層和智囊齊聚華盛頓討(tǎo)論AI在軍事(shì)工業的應用。其中就(jiù)有JAIC的負責人(rén)Jack Shanahan将軍，也(yě)有谷歌(gē)董事(shì)長Eric Schmidt和首席法律官Kent Walker。

而美國《防務(wù)系統》網站(zhàn)近日報(bào)道，美國算(suàn)法戰跨職能(néng)小組(Algorithmic Warfare Cross-Functional Team，簡稱AWCFT 或 "Project Maven")已經開發出四套智能(néng)算(suàn)法，預計将很快(kuài)投入實戰應用。這(zhè)個(gè)Project Maven小組就(jiù)是曾經與Google公司合作(zuò)開發基于AI圖像識别技術的無人(rén)機目标識别系統的軍方機構。

而美國國會研究處(Congressional Research Service)11月(yuè)(yuè)26日發布的“AI與國家安全”白皮書中明确指出，“人(rén)工智能(néng)已經被納入在伊拉克和叙利亞的軍事(shì)行動中。”

該白皮書的重要内容之一(yī)，就(jiù)是闡述未來(lái)的AI技術在“緻命自主武器(qì)系統”(Lethal Autonomous Weapon Systems，LAWS)領域的應用。所謂“自主武器(qì)系統”，就(jiù)是自動識别目标，自主判斷并進行攻擊的系統。該系統可以徹底擺脫人(rén)為(wèi)控制，按照AI系統的“智能(néng)”完成作(zuò)戰任務(wù)。而其中最為(wèi)人(rén)所熟悉的“自主武器(qì)系統”就(jiù)是戰鬥機器(qì)人(rén)。盡管目前的白皮書還隻是把“自主武器(qì)系統”的範圍限定在有人(rén)類操作(zuò)員(yuán)監督下(xià)運行的自動武器(qì)裝置或平台，并且該系統不能(néng)針對人(rén)類目标進行打擊，隻能(néng)用于打擊物資或設備目标，采用非緻命或摧毀其運動能(néng)力的攻擊形式，或者是各種形式的電子(zǐ)攻擊。但(dàn)大家都心知肚明，這(zhè)樣的系統如(rú)果要改造成為(wèi)真正的自動殺人(rén)武器(qì)，隻是捅破一(yī)層窗戶紙罷了(le)。

2019年，是AI技術逐漸深入社會生(shēng)活的一(yī)年，也(yě)是AI系統開始給人(rén)類帶來(lái)麻煩的一(yī)年。如(rú)何馴服AI這(zhè)個(gè)能(néng)量巨大的“怪獸”，是在大半個(gè)世紀前人(rén)類釋放(fàng)原子(zǐ)能(néng)之後面臨的又一(yī)難題。原子(zǐ)能(néng)帶來(lái)的核威懾和“冷戰”時(shí)代，會不會也(yě)是AI全面應用後的必然走向，我不知道。但(dàn)和平利用AI技術，将與和平利用原子(zǐ)能(néng)一(yī)樣，會成為(wèi)未來(lái)幾十年乃至上(shàng)百年人(rén)類需要持續面臨的挑戰。

免責聲明：此文來(lái)自與網絡空間(jiān)，如(rú)有冒犯請來(lái)電删除。