“雙面算法”圓桌論壇：AI也會作惡，科技向善應以人為本

5月17日，由搜狐科技主辦的“2021搜狐科技5G&AI峰會”在北京盛大開幕。峰會大咖齊聚，共同探討5G和AI技術的最前沿發展以及應用落地情況。

過去一年，網約車司機、外賣員被困在系統裏的話題叠起，他們的處境也受到了社會廣泛的關註。峰會下午的圓桌論壇則聚焦“雙面算法”，以《被困在算法裏的人：社會需要怎樣的AI》為主題，邀請到清華大學新聞與傳播學院教授、常務副院長陳昌鳳，商湯智能產業研究院創始院長田豐，貨拉拉CTO張浩參與討論。

在討論過程中，搜狐公司董事局主席兼CEO張朝陽也在臺下與臺上嘉賓發起互動，引發了一場AI技術善和惡的大討論。本場論壇由科技智庫甲子光年創始人、CEO張一甲主持。

怎麽去看待算法？陳昌鳳認為，算法就是為了要解決問題，並且找到決定和決策。田豐表示，算法是幫助人類進化的必需的工具和過程。張浩則稱，算法是規則的精細化，算法可以把人的意圖實現地完美無缺，它是為規則制造者服務的。

張朝陽在互動中提到，AI是一種對人類大腦的延伸，大大地提升了效率，提升之後會爆發出巨大的力量。但爆發出來以後，一定會帶來倫理問題、法律問題。“我認為目前最大的問題是個人隱私問題。”張朝陽說。他還表示，在科技非均勻地爆發式發展，尤其在突發性發展的時候，相應的倫理道德和相應的法律都要同時齊頭並進。

對於AI與科技向善的關系，陳昌鳳表示，人和技術最初的時候，是人應用技術，接著是技術成為人的延伸。她認為，應該讓善的人主導科技，向善的科技是以人為本的科技，底線原則是以人為本。

田豐則認為，現在最主要的不要把人當機器去用，所有的問題都是把人當機器，我們是不是能夠把機器當人看，賦予它的倫理觀和價值觀，提升社會的整體福祉。

此場圓桌論壇精彩紛呈，搜狐科技整理對談以饗讀者，以下為《被困在算法裏的人：社會需要怎樣的AI》的部分精彩觀點。

主持人：

科技智庫甲子光年創始人、CEO張一甲

參與嘉賓：

搜狐公司董事局主席兼CEO張朝陽

清華大學新聞與傳播學院教授、常務副院長陳昌鳳

商湯智能產業研究院創始院長田豐

貨拉拉 CTO張浩

怎麽看待算法？

張浩：算法是規則的精細化，今天人工智能還做不到對創造性的東西進行主導，但是一定規則之內，算法可以把人的意圖實現地完美無缺，這是算法的價值和邊界，算法是為規則制造者服務的。

田豐：算法只是把我們的產業功耗，人與人之間的情感倫理的價值觀數字化出來。如果未來是經濟大航海時代，肉體是一個牽絆，人必須要實現數字孿生，這是一種進步，並不一定是困擾我們。算法是幫助人類進化的必需的工具和過程。

陳昌鳳：算法就是為了要解決問題，並且找到決定和決策。就是你剛才說到的選擇。它的主要的手段應該是通過計算，利用計算去解決問題，並且找到自己決定的一個系統的過程。

張一甲：剛才的回答和人工智能都沒有關系。如果沒有人工智能，算法可能相對好理解，只是代替人做人不願意做或者懶得做的事情。不存在試錯，不存在誤差，它執行就好了，那是專家時代的算法，或者算法只是非常小的輔助作用，就像一本書也是把思想呈現給別人。

但到了人工智能之後，算法慢慢在某種意義上逐漸地進入甚至是侵蝕人類很多的腦子需要做的事情，。我相信不會有一個工程師刻意寫一套算法希望讓一個小哥出車禍。但是在AI的運行邏輯下，事實造成了惡的結果。

田豐：人類是算法的父母，因為我們不斷地餵數據。不是很完美的父母，為什麽要求孩子要特別完美呢？這是不太合理的。但是我們說到算法可能造成的負面影響，我覺得也是客觀的，不管是騎手還是消費者，如果影響到第三方利益的時候，這其實就是算法的負面影響，我們就需要糾偏。

算法是不是吞金獸？

田豐：AI倫理要滿足三個最重要的點，國家、國際規則、公民權利，這是一個平衡。我覺得大家都在嘗試全部去滿足，但是在不同時間點會有優先級，目前為止國家安全是排第一的。

陳昌鳳：我覺得田院長畫的圖是一個大數的考慮，剛才三角是同一個邏輯上面的，既然不是同一個邏輯意義上很難做二元選擇。

張浩：不管是外賣還是出行都會遇到類似的問題。其實現在我們的AI離真正到底選擇左還是右邊的問題很遠。

張一甲：今天的AI已經超過了技術中性論的過程，在此時此刻真正的技術一線從業者，你們做的事情，尤其是貨拉拉、滴滴這樣的平臺，某種意義上就是要影響很多人的福祉。

張朝陽：首先關於AI是一種對人類大腦的延伸，大大提升了效率，因為我們人類大腦的記憶能力、存儲能力、圖象識別能力是很強的，但是容量不是那麽大，或者經常忘記。AI可以把我們的圖像識別能力延伸，幫助我們大大提升效率，提升之後會爆發出巨大的力量。

但像當時的原子能被釋放出來一樣，AI一定會帶來倫理問題、法律問題。我們在今天講AI的另外一面，這是非常重要的問題。不能一味說AI多麽偉大，要大力發展，但我們自己被困住了。當前更具體的是什麽？我覺得物流領域配送員的壓榨問題，這是一個相對小的問題。我認為最大的問題是個人隱私問題。AI的技術在法律倫理上、道德上，同時在AI技術高速發展的情況下，如何解決個人隱私問題的解決，這是當前的問題。

田豐：我們提了很多建議，有些還在探討過程。第一，個人隱私數據要不要保存在有公信力的，甚至政府運營的國家數據銀行裏面，或者公共數據平臺上面？這樣所有的個人隱私，包括生物特征數據是可控的，大家可以在上面應用創新，但是可以記錄你所有區塊鏈上面的技術，你濫用的話一定能夠追溯到。

第二，對於某些分析和分類，個人的基因數據、生物特征數據是不可逆的，這種是不是需要更高強度的安全加密？未來在數據交換、共享、開放上面，更多會產生一些中間的有公信力的平臺做這個事情。像機器學習的訓練數據一樣，非常重要的是要避免算法偏見。

張一甲：真實世界的數據就是有偏見的。互聯網數據本身就不是一個好的數據池子，不是一個幹幹凈凈和公平的池子。

田豐：有人的地方就不公平，這很正常，包括安全的保護，端到端的。很多時候算法訓練出來以後是不是可解釋，現在還是人工智能早期。

陳昌鳳：人和技術之間的關系一直是很復雜，從技術層面來說，人和技術最初的時候是人應用技術，接著是技術成為人的延伸，接著技術成了我們的一部分。我們換一種思維去思考的話，可以不做二元對立，我們可以說技術是可以成為人的一部分，人不可缺少的一部分，這個時候如何讓這部分更好，讓這部分為我所用？

人和技術之間有很多變量，這些變量關系。今天在座的企業都在用算法、智能化，它們是會成為一個人和技術之間特別重要的關系的作用者。我們還是要找本質的關系，人和技術之間到底怎麽相處？我相信人類一開始之所以成為人類其中一個重要的因素就是他會使用技術，所以人類會作為一個技術的主控者。

AI能否實現科技向善？

張一甲：我自己有一個擔憂，人之所以成為是人使用技術，人有一天不再成為人，是從放棄了技術的主觀控制權開始。人現在有一個主觀地放棄數據，還有就是從大數據學習來的，不是自己做的選擇。

陳昌鳳：霍金等都認為技術對人類有很大破壞，但是仍然在開發技術，這是一個悖論。這個悖論，人類要面對現實，我們就要從悖論中間找到更適合，更利於人類的，更符合人本性的東西。

張浩：科技向善和AI並不矛盾。我自己從業的經驗可以看到很多公司在逐漸調整這方面，包括騎手困在算法之中。一開始大家希望用系統和算法提高效率，但逐漸發現當初的設想是偏差的。任何事情都需要所有的行業逐漸朝科技向善的方向努力，我們現在很多公司最開始只考慮當時當刻的效率，不考慮整體的生態、司機、用戶、群體，不僅對體系有損傷，對個體的體驗也會進一步損傷。現在很多行業做法逐漸把規則優化，算法是規則的延續。

張朝陽：科技進步不是連續的曲線，是突發性的。當時蒸汽機的發明，後面原子核能的釋放，計算機的發明，互聯網的產生，以及AI有點爆炸的狀態。但是在整個過程中，我們一定要知道，科技不一定是好的。

知道了這一點，在科技非均勻地爆發式發展，尤其在它突發性發展的時候，相應的倫理道德和相應的法律都要同時齊頭並進。科技是生產力，科技能夠更高更強更大，在科技進步過程當中，倫理、道德、法律一定要齊頭並進跟上，每個人從事科技的時候，要記住這件事情可能爆發巨大的災難。

陳昌鳳：科技作惡，實際主宰者還是人，不是科技本身在作惡。

張朝陽：但是在法律形成過程中更多是曾經性定義，未到達的水域只能通過公司發生問題，解決問題，反映到國家法律，制定法律，這是一個操作的路徑。在過程中可能某些企業，一些物流公司、配送公司出現一些問題，出現問題，解決問題，確立問題。因為你根本不知道怎麽定法律，只能通過操作型的出現問題，解決問題。當然自己首先要有良心，而且要知道道德上的指引。

陳昌鳳：只要有經濟活動就一定有工具理性和價值理性的沖突，這是必然的。這兩者的沖突恰恰需要通過外力，因為倫理或者我們的自律，人很難做到理性，這個時候需要外力，他律和法律。工具理性和價值理性的沖突，在所有的技術發展時期都有。企業肯定首先要想到效益最大化，效益最大化是工具理性的最大特征。要保護隱私，還有其它對於美的追求，信仰的追求，這種東西很可能跟你的效益最大化是沖突的。

田豐：現在特別好的進展是在細分領域已經出現了行業自律和底線，原來都是形而上的，現在在汽車領域、家居領域、公共醫療非常好地出現了。

更好的AI需要哪些行為準則？

田豐：我自己在不斷探討AI倫理的研究，但是每個企業和每個人都有認知的邊界，我們特別倡議在AI倫理研究上一定要跨界，一定邀請法律專家，高校倫理專家，甚至產業專家，大家共同多維度探討，保證到所有場景裏面的利益相關方的價值，某些一個沒有看到就可能會引爆變成導火索。人工智能是放大效應，可以放大善，也可以放大惡。我們如何在產品之前評估風險，風險的提前防範和評估，會成為後期不管是合規還是行業自律的非常重要的核心。

陳昌鳳：向善的科技應該是以人為本的科技，底線原則是以人為本。現在底線原則變成了高線原則，但是很難做到，以人為本是向善的科技的核心。

張一甲：以人為本聽起來特別簡單，但是特別難，以人為本是主語還是賓語，是用法當工具的人，還是被算法困住的人？實際某種程度並沒有解決社會公平的問題，包括信息繭房的問題，包括那些司機和外賣小哥變得很無奈，變成了被工具的人。

張浩：以人為本，我們全體社會每一個人一塊參與，我對這個事情非常有信心。

田豐：其實我覺得現在最主要的不要把人當機器去用，所有的問題都是把人當機器，我們是不是能夠把機器當人看，賦予它的倫理觀和價值觀，提升社會的整體福祉。

陳昌鳳：要讓善的人主導科技。

中國已經建成全球最大5G移動網絡，AI也正處於發展關鍵期。隨著5G&AI技術的演進，更為豐富多元的應用也將迎來爆發。

5G&AI如何為社會賦能，在自動駕駛、智慧金融、在線教育、醫藥、智能家居、智能制造等領域的應用，又會給我們的生活帶來什麽影響，這是公眾共同關註的話題。5月17日，“2021搜狐科技5G&AI峰會”邀請到業內大咖，以及中國移動、阿裏巴巴、小米等業內領先企業代表，圍繞5G&AI發展和應用話題進行探討分享。

除本篇外，搜狐科技還會通過多種方式全方位呈現此次峰會與會嘉賓關於5G&AI的戰略思考和全新觀點，為廣大讀者帶來5G&AI技術發展和實際應用的詳情報道。更多精彩內容請關註“2021搜狐科技5G&AI峰會”專題報道。

來源：搜狐