搜索右侧

您現在的位置:華發首頁>生 活 > 前 沿 >

當人工智能成為“矛”,“盾”在哪裡?

更新時間:2018-02-27 09:43來源:網絡作者:@nanncy人氣:891470

當人工智能成為“矛”,“盾”在哪裡?

這是份AI人對AI人發出的警告。

近日,OpenAI等14大知名機構聯名發份關於惡意使用人工智能的報告。該報告從技術角度出發,指出了未來5年內人工智能被濫用的風險。 

危險和騙術正在升級。

某安全管理系統的管理員在瀏覽網站,則模型火車的廣告吸引了她。她點開還下載了個小冊子。此時,攻擊開始了。小冊子旦被打開,黑客就能窺視她的電腦,獲得安全管理系統的用戶名和密碼。

至於管理員看到的廣告,則是黑客根據其個人興趣,結合人工智能精心設計的“陷阱”。

雖然這是報告中給出的假設性案例,但這個操作,點都不令人意外。

用人工智能搞破壞真不是科幻

報告名為《惡意使用人工智能:預警、防止和緩解》,它由26位作者共同完成,其中不乏人工智能技術研究者。

報告將濫用人工智能的威脅分為了物理安全、數字安全和政治安全三類。在物理安全方面,不法分子可以入侵網絡系統,將無人機或者其他無人設備變成攻擊的武器;在數字安全方面,人工智能可以被用來自動執行網絡攻擊,它也能合成人類的指紋或聲紋騙過識別系統;在政治安全方面,人工智能可以用來進行監視、煽動和欺騙,引發公眾恐慌和社會動蕩。

這些都不是危言聳聽,甚至已有實例。

2017年,浙江警方破獲了起利用人工智能犯罪、侵犯公民個人信息案。專業黑客用深度學習技術訓練機器,讓機器能夠自主操作,批量識別驗證碼。“很短時間就能識別上千上萬個驗證碼。”當時的辦案民警介紹。

北京郵電大學人機交互與認知工程實驗室主任劉偉曾見識過家人工智能公司的“聲音合成”技術,A說的話完全可以套上B的聲音,“般人識別不出來”。劉偉說,這些技術旦被別有用心的人利用,“世界可能就亂套了”。

當人工智能成為“矛”,“盾”在哪裡?

要打技術攻防戰,也要制度來規範

怎麽辦?

方面是升級技術。當攻擊方用上了導彈大炮,防禦方就不能只用“小米加步槍”。中國社科院文化法制研究中心研究員劉明說,技術帶來的問題,有時也可以用技術發展來解決。人工智能是種工具,工具的發展也許不會從根本上改變行為的性質,但會改變行為的模式和行為後果的烈度。“如果意識到自己所在行業存在人工智能帶來的威脅,自身加強防範就很重要。”

劉偉也表示,如果有種技術能將聲音模仿得惟妙惟肖,就會有另種技術來識別這聲音來自李鬼還是李逵。“這可能是場無止境的技術攻防戰。”

方面,則需要制度。

“人工智能本身沒有倫理問題,最終還是制造者、使用者、傳播者們(人)的倫理問題。”劉偉追溯“倫理”詞起源,它來自希臘文的“ethos”,是風俗和習慣的意思。東西方其實有不同的倫理觀,在劉偉看來,西方研究“人與物”的關係,東方則喜歡談“人與人”的關係。倫理具有情境性,還有文化依賴性。“人工智能倫理研究要考慮交互主體-人類的思維與認知方式,要弄清楚人的倫理中可以進行結構化處理的部分,再讓機器形成所謂的倫理。”

除了倫理框架,也需要規範甚至是法律。

“當技術即將作用於現實生活,些危險已經可以預測,從法學家的角度來看,此時我們來討論問題如何解決、責任如何分配是比較合適的。”劉明也參加過多次有關自動駕駛規範的研討會。自動駕駛已在大規模應用前夕,因此其規則研討就需要提上議事日程。但這種規則的制定也無法蹴而就,還需根據實踐中出現的真問題再度進行調整。“隨著技術的發展,對應的法律規範調整的靈活度會比以前更大,調整速度會更快。”劉明說。

劉偉認為,人工智能發展規範的制定,必須要有人文社科學者的參與。他主張不同學科、不同領域的人加強交流。政府、民間組織、科研機構和企業都可以搭建這樣的橋梁,為各行各業的人提供討論的平臺。畢竟,人工智能將要影響的,可能是所有人。

來源:科技日報

 


(來源:网络)

  • 凡本網註明"来源:華發網繁體版的所有作品,版權均屬於華發網繁體版,轉載請必須註明來自華發網繁體版,https://china168.org。違反者本網將追究相關法律責任。
  • 本網轉載並註明自其它來源的作品,目的在於傳遞更多信息,並不代表本網贊同其觀點或證實其內容的真實性,不承擔此類作品侵權行為的直接責任及連帶責任。其他媒體、網站或個人從本網轉載時,必須保留本網註明的作品來源,並自負版權等法律責任。
  • 如涉及作品內容、版權等問題,請在作品發表之日起一周內與本網聯系,否則視為放棄相關權利。

  • 1上海共享單車企業進入歐洲,混合動力自行車能走得更遠嗎?上海共享單車企業進入歐洲,混合動力自行車能走得更遠嗎?

    7月6日下午,共用單車品牌Eazymov新聞發佈會在上海舉行,正式宣佈品牌的旗艦產品——混合動力自行車於義大利與希蠟成功落地。 [詳細]

  • 2雷軍:不糾結小米是硬件還是互聯網公司,是獨一無二的新物種雷軍:不糾結小米是硬件還是互聯網公司,是獨一無二的新物種

    6月23日消息,小米終於啟動港股招股,在香港四季酒店召開全球發售新聞發佈會。此次出席的高管有,小米創始人雷軍以及聯合創始人王川、黎萬強、林斌、洪峰、劉德以及CFO周受資等董事長雷軍及高管一行在香港面基投資者和媒體。 [詳細]

  • 3海產熱到死 日本元貝皇缺貨貴三成海產熱到死 日本元貝皇缺貨貴三成

    ■今年海味供應約少三成,市民過中秋想食靚海味,荷包隨時「大出血」。全球氣候暖化,北半球多地近月備受高溫煎熬,內地東三省、日本、韓國等地錄得近攝氏40度高溫,其中盛產遼參的大連有6.8萬噸海參熱熔致死。事實上[詳細]

  • 4張曉明:不忘初心 砥礪前行張曉明:不忘初心 砥礪前行

    張曉明在講話中強調,港澳辦在新時代更好地履職盡責,需要把握好四個角色定位。國務院港澳辦網站圖片「新老港澳辦人」聚首座談成立40周年 當好「一國兩制」事業傳承人奮進者據國務院港澳辦網訊,9月13日上午,國務院[詳細]

  • 5人體冷凍、技術奇點、意識上傳……科學家有一天或會參透長生不老人體冷凍、技術奇點、意識上傳……科學家有一天或會參透長生不老

    1967年1月12日,加州格倫代爾學院(Glendale College)心理學教授詹姆斯·貝德福德(James Bedford)剛剛死於癌癥,邁出了重獲生命的第一步。那天,教授成為第一個接受低溫懸置的人,置身於-32華氏度的液氮中。[詳細]

  • 6CNN:果蠅視覺理解能力幾何?CNN:果蠅視覺理解能力幾何?

    眾所周知,黑腹果蠅(Drosophila melanogaster)生活在神秘的社交性的觸覺和氣味世界中,但他們能夠在多大程度上感知和整合靜態視覺資訊是一個備受爭議的熱門話題。一些研究人員指出黑腹果蠅光學系統的解析度是有限的,但是其他研究人員則註意到在黑腹果蠅看似[詳細]

  • 7科學家揭開“腦進水”之謎科學家揭開“腦進水”之謎

    如果再有人對妳說:“妳腦子是不是進水了?”時,妳可以明確的告訴Ta,對!不光現在進水,我們的大腦每天都在進水。近日,研究人員已經發現水從血液流向大腦的方式。 [詳細]

  • 8斯里蘭卡總理復職 結束憲政危機斯里蘭卡總理復職 結束憲政危機

    ■總理維克勒馬辛哈發表演說。 美聯社斯里蘭卡持續近兩個月的憲政危機終於落幕,10月底被總統西里塞納解職的總理維克勒馬辛哈,昨日獲西里塞納重新任命為總理,並宣誓就職。立場親印度的西里塞納於10月26日解除維克勒[詳細]

  • 9黃維樑念余光中:「他鞠躬盡瘁為文學」黃維樑念余光中:「他鞠躬盡瘁為文學」

    ■1970年代的余光中。選自《古堡與黑塔》,香港中華書局出版。著名詩人余光中日前因病逝世,文化界故友們紛紛表達哀思。香港學者、作家、原香港中文大學中文系教授黃維樑研究余光中的作品並書寫評論近五十年。曾說由[詳細]

  • 10世界上最大的“大腦”——類腦超級計算機SpiNNaker世界上最大的“大腦”——類腦超級計算機SpiNNaker

    據外媒報道,英國曼徹斯特大學計算機科學學院“激活”了世界上最大的“大腦”——一台類腦超級計算機SpiNNaker。據曼徹斯特大學官網介紹,這台計算機擁有100萬個處理器內核(processor cores),每秒可進行200萬億次運[詳細]

  • 1184%港人曾用流動支付84%港人曾用流動支付

    ■左起:HKIRC署理行政總裁秦佩文,香港互聯網協會執委宋德嘉。 香港文匯報 記者 岑健樂攝近九成小額交易 最憂私隱外洩近年流動支付宣傳攻勢浪接浪,惟有調查顯示,市民對使用流動支付既期待又怕受傷害。一項昨日公佈[詳細]

  • 12貝索斯的太空夢正照進現實貝索斯的太空夢正照進現實

    由全球首富傑夫·貝索斯所創辦的藍色起源,距離夢想的實現越來越近。 美國當地時間4月29日,藍色起源火箭成功發射,這是這家公司今年的首次發射,也是史上第八次,與之前所不同的是,此次成功發射進一步奠定了藍色起源最快在今年底實現真正將人類送上太空進行[詳細]




圖說新聞

更多>>
雷軍:不糾結小米是硬件還是互聯網公司,是獨一無二的新物種

雷軍:不糾結小米是硬件還是互聯網公司,是獨一無二的新物種


返回首頁