語音播報
記者獲知,5月25日,北京智源人工智能研究院聯(lián)合北京大學、清華大學、中國科學院自動化研究所、中國科學院計算技術研究所、新一代人工智能產(chǎn)業(yè)技術創(chuàng)新戰(zhàn)略聯(lián)盟等高校、科研院所和產(chǎn)業(yè)聯(lián)盟,共同發(fā)布《人工智能北京共識》。
針對人工智能的研發(fā)、使用、治理三方面,《人工智能北京共識》提出了各個參與方應該遵循的有益于人類命運共同體構建和社會發(fā)展的15條原則。其中,研發(fā)方面,提倡要有益于增進社會與生態(tài)的福祉,服從人類的整體利益,設計上要合乎倫理,體現(xiàn)出多樣性與包容性,盡可能地惠及更多人,要對潛在倫理風險與隱患負責,提升技術水平控制各種風險,并最大范圍共享人工智能發(fā)展成果。使用方面,提倡善用和慎用,避免誤用和濫用,以最大化人工智能技術帶來的益處、最小化其風險,應確保利益相關者對其權益所受影響有充分的知情與同意,并能夠通過教育與培訓適應人工智能發(fā)展帶來的影響。在治理方面,對人工智能部分替代人類工作保持包容和謹慎態(tài)度,鼓勵探索更能發(fā)揮人類優(yōu)勢和特點的新工作,廣泛開展國際合作,共享人工智能治理經(jīng)驗。人工智能的準則與治理措施應做到適應和適度,并開展長遠戰(zhàn)略設計,以確保未來人工智能始終保持向?qū)ι鐣幸娴姆较虬l(fā)展。
人工智能倫理與規(guī)范是未來智能社會的發(fā)展基石,已經(jīng)引起了各國政府和學術界、企業(yè)界等的廣泛關注。歐盟、英國、日本等國際組織和國家,均發(fā)布了人工智能的倫理準則?!度斯ぶ悄鼙本┕沧R》關注“服務于人”,將“和諧與優(yōu)化共生”這一中國哲學和文化中的特色理念,作為尋求跨行業(yè)、跨部門、跨地區(qū)全球協(xié)作的指導思想,并強調(diào)促進人工智能相關準則的“落地”,為未來打造“負責任的、有益的”人工智能。這一共識的發(fā)布,為規(guī)范和引領人工智能健康發(fā)展提供了“北京方案”,對于實現(xiàn)人工智能“自律”“善治”“有序”具有重要意義。
另外,為降低人工智能發(fā)展過程中可能存在的技術風險和倫理隱患,北京智源人工智能研究院專門成立人工智能倫理與安全研究中心,中國科學院自動化研究所曾毅研究員任研究中心主任。
曾毅研究員介紹了人工智能倫理與安全研究中心的主要研究內(nèi)容。據(jù)介紹,該研究中心將圍繞人工智能倫理與安全的理論探索、算法模型、系統(tǒng)平臺、行業(yè)應用等開展一系列研究,目前主要包括四大方面:一是低風險機器學習模型與平臺的構建,建立機器學習模型安全性的評估體系,并結合具體領域進行驗證。二是開展符合人類倫理道德的智能自主學習模型研究,實現(xiàn)人工智能行為與人類價值觀的校準,并在模擬環(huán)境與真實場景中進行驗證。三是建設數(shù)據(jù)安全示范應用系統(tǒng),建立數(shù)據(jù)基礎設施、數(shù)據(jù)分級、權限控制、數(shù)據(jù)審計,最大限度防止數(shù)據(jù)泄密,降低風險,探索允許用戶撤銷個人數(shù)據(jù)授權的機制及計算平臺。四是構建人工智能風險與安全綜合沙盒平臺,建設自動檢測平臺,針對數(shù)據(jù)與算法的安全性、公平性、可追溯性、風險類型、影響程度與影響范圍等方面,對人工智能產(chǎn)品及應用進行風險與安全綜合檢測與評估,引導行業(yè)健康發(fā)展。
會議認為,人工智能涉及范圍極廣,應對人工智能帶來的挑戰(zhàn),不是一個領域、一個城市、一個部門、一個機構能夠獨立完成的,需要充分匯聚科學家、企業(yè)家、產(chǎn)業(yè)聯(lián)盟和社會各界的力量,多方參與、共同努力,持續(xù)推動人工智能倫理、規(guī)范方面的學術研究與成果轉化應用,并不斷強化行業(yè)自律。會議倡導北京人工智能領域廣大創(chuàng)新主體,積極踐行并不斷完善共識的內(nèi)涵,共同營造良好生態(tài),加快人工智能領域基礎研究、核心技術創(chuàng)新和高精尖產(chǎn)業(yè)發(fā)展,讓人工智能更好支撐北京高質(zhì)量發(fā)展和創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略實施,并更好造福全人類。
今后,人工智能倫理與安全研究中心將著力在算法安全評估、安全模型構建、AI綜合沙盒建設等方面盡快取得一系列創(chuàng)新性成果,為降低人工智能的風險和倫理隱患提供技術服務,促進人工智能行業(yè)的良性健康發(fā)展。
© 1996 - 中國科學院 版權所有 京ICP備05002857號-1 京公網(wǎng)安備110402500047號 網(wǎng)站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話: 86 10 68597114(總機) 86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn
© 1996 - 中國科學院 版權所有 京ICP備05002857號-1 京公網(wǎng)安備110402500047號 網(wǎng)站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話: 86 10 68597114(總機) 86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn
© 1996 - 中國科學院 版權所有
京ICP備05002857號-1
京公網(wǎng)安備110402500047號
網(wǎng)站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話:86 10 68597114(總機)
86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn