智能制造
首頁  >  智能制造

發展人工智能 治理需跟上

2018-11-01  來源:人民網-人民日報  作者:李輝

作為新一輪產業變革的重要驅動力,人工智能正在對經濟社會發展和人類生活產生深刻影響,也帶來方方面面的挑戰。10月31日,習近平總書記在中共中央政治局第九次集體學習時強調,要整合多學科力量,加強人工智能相關法律、倫理、社會問題研究,建立健全保障人工智能健康發展的法律法規、制度體系、倫理道德。

人工智能不僅是一個技術問題,也是一道治理考題。以無人駕駛技術為例,在全球范圍內已出現多起事故,甚至造成人員傷亡,然而,并沒有法律對此作出明確規定。當人們向算法讓渡了部分決策權,也會讓歸責成為難題。在這個意義上,技術進步是一柄“雙刃劍”,一方面可以造福人類,另一方面在缺乏規范和制約的情況下,也有可能損害社會公共利益。處理好人工智能在法律、安全等方面提出的新課題,需要完善治理,讓技術創新運行在制度的軌道上。

事實上,如何對人工智能進行規范,在世界范圍內還未形成共識。在不少國家,無人駕駛領域的立法一直在討論中,看法不一;在中國,無人駕駛的汽車能否上路、是否符合道路交通安全法,也引發了一系列討論。歐盟最新發布的《通用數據保護條例》中,也沒能對人工智能涉及的隱私風險、數據保護風險做出符合大眾期待的回應。每當一種新技術出現,都會有關于舊的治理規則是否適用、是否需要升級,以及是否需要制定新的治理規則的討論。面對日新月異的人工智能技術及其引發的問題,如何用法律條文探尋最佳應對方案、凝聚對未來的共識,是一項艱巨挑戰。

完善與人工智能相關的法律法規,關鍵在于明確歸責原則:一旦問題出現,哪些是人的責任,哪些是算法的責任?歸責原則實際上就是對算法做出評價,而算法本身并不透明,如何對其進行評估?對此有三種解決方案:不用算法,使算法透明,審查算法輸出。完全避免算法不現實,除了算法,幾乎沒有其他工具可以處理大量的數據。而算法透明化則難以操作,這相當于要求普通人也能理解算法。因此,審查算法輸出是目前的最佳方案。這一方案的要義在于,不管算法的內在工作機制,只根據其結果的公正性對其進行評價。在此方案下,監管成本更低,可操作性更強,歸責原則的確定也更明確,具有立法實踐的意義。

面對科技的迅速發展,我們始終在探索人工智能的法律解決方案和治理模式,致力于形成一套務實管用、行之有效的方法。比如,相關部門對人工智能領域的新應用、新嘗試給予足夠的創新空間,但必要的監管同樣不可或缺;一旦發現安全問題、突出風險,監管力量會及時介入,甚至采取多部門聯合調查處理的方式封堵隱患、解決問題。這樣的模式,既呵護了創新,也有利于防范系統性風險,為人工智能健康發展提供了保障。

人工智能的治理問題是當前一項重大挑戰,世界各國和國際組織都參與其中,這也讓人工智能的治理成為全球治理的一部分。如果此時缺位,可能會在新一輪規則制定中陷入被動。如今,中國在人工智能領域的技術探索已處于世界前列,有些部分甚至進入了“無人區”。創新先行,治理必須跟上,如此才能充分享受創新帶來的紅利,撬動發展的未來。

關鍵詞:治理模式 算法 人工智能技術 無人區 歸責原則

游乐设备和游戏机区别?