太聰明的機器人 人類要擔心?

機器人沒有靈魂,但也能夠思考。英國科學家羅斯·金研製了一台名叫亞當的機器人,它能夠像科學家一樣做實驗,對結果進行分析並提出假設。整個過程與人類科學家的典型科研方法非常接近

十年前,美國發明家雷·庫茲韋爾(RayKurzweil)在他的一系列預言中描述了2009年計算機的應用水平。他預言到這一年,大多數日常的商業交往,包括購買、旅行、預定,將在人和虛擬人之間進行。他還預言音樂家們會常常要跟電腦音樂家相互爭奪機會。

         羅斯·金和他的「機器人科學家」亞當。他的團隊正在製造更高級的機器人夏娃

現在,音樂家的職業危機似乎並沒有庫茲韋爾設想的這麼嚴重。而在他沒有預言到的領域,則出現了真實的「機器人科學家」。英國阿伯裡斯特維斯大學的羅斯·金(RossKing)教授和同事研製了一台名叫亞當的機器人,它是世界上第一台能夠自動發現科學新知的機器。

亞當可以在很少人為干預的情況下做酵母菌代謝的實驗,得到結果後,它會對結果進行思考,做出某種理論假設,然後進行下一步實驗來驗證自己的假設。整個過程與人類科學家的典型科研方法非常接近。金在4月3日出版的美國《科學》雜誌上發表文章稱,人工的實驗驗證了亞當確實發現了那些在酵母菌代謝中具有功能的各種酶。

雖然被稱為機器人科學家,但亞當並不是來搶科學家飯碗的,它的角色更像是一名助手。它使用基因敲除技術去尋找不同功能的酶。這是一項過程枯燥、數據量巨大的工作,就好像用每次卸掉一個零件的方式來研究一輛汽車不同的部分分別是幹什麼用的。「對於人類科學家來說這是困難且令人生厭的,但對機器人科學家來說就簡單了。」金說,亞當做實驗的水平跟一群研究生相當,但更加省錢,也更加高效。

亞當誕生於五年前,它的「思想」由三台計算機指導,當然還有一些晶片控制它的硬體。當時金在英國《自然》雜誌發表了一篇文章,稱這種自動化是必然要出現的,也是令人嚮往的。「它必然要出現,是因為需要它來處理21世紀科學中的挑戰。它令人嚮往,是因為它讓科學家們解放出來,以便讓他們做出更為突出的高水平的創造性進展。」他寫道。

人類要擔心機器人太聰明？

我們很難不擔心，創造出比人類更聰明的機器可能會產生問題。畢竟如果當初是大猩猩意外創造了人類，現在這種瀕臨滅絕的靈長類大概會後悔曾這麼做。但為何先進的人工智慧（AI）可能造成麻煩？好萊塢電影中邪惡的機器突然覺醒並指揮機器大軍屠殺人類的情節實在太扯，真正的問題是AI變得超級聰明，但其目標並非我們想要的。創立控制論的數學家維納（Norbert Wiener）在1960年說：「如果無法有效干預執行特定任務的機器，那最好確定當初交付它的目標是我們想要的。」

執意完成任務的機器還具有一種特性：試圖維護自身的存在。這是生物的本性，但機器有這種特性既非與生俱來，也非人類所賦予，而是簡單邏輯演算的結果：如果機器壞掉了，便無法達成原本設定的任務。如果我們單純派機器人去拿咖啡，它可能會有強烈的動機去破壞使自己停止的開關，甚至消滅任何妨礙它的人，以確保能成功完成任務。因此如果人類掉以輕心，未來可能會與執意完成任務的智慧機器發生衝突。

                                        資料圖

人類可能與機器發生衝突而成為輸家，這項隱憂讓電腦科學家寢食難安。有些研究人員建議我們不妨把機器鎖在某種防火牆內，需要時再利用它來回答困難的問題，但絕不允許機器影響真實世界。（當然，這就意味我們必須放棄擁有超級聰明的機器人！）不幸的是這項計畫註定會失敗，畢竟我們連建立阻擋一般人的防火牆都做不到，遑論超級聰明的機器了。

但如果我們記取維納的警告，設計出任務目標與人類一致的AI系統呢？這種想法說得比做得容易。畢竟在神燈精靈與三個願望的故事中，許願者最後一個願望通常是設法復原前兩個願望帶來的問題。但我相信如果遵守以下三項核心原則，便有可能成功：

●機器的任務目標必須是實現人類的價值觀。特別是機器不會擁有自己的目標，或自我防護的欲望。 

●機器不能完全確知人類真正的價值觀為何。這是避免維納難題的關鍵。機器能學習越來越多的人類價值觀，但永遠無法完全確知人類真正的價值觀為何。

 ●機器必須藉由觀察人類的選擇來學習人類價值觀。

根據南方週末、科學人雜誌等綜合採編【文章觀點不歸華發網官方所有】