世界人工智能大會：人工智能的應用標準、體系化監管與安全倫理應當同步跟進

新華財經上海7月7日電（記者李榮）在智能社會里，如何建設數字治理生態，一直是行業的熱議話題。7日，在2023世界人工智能大會的多場相關論壇上，業內專家和研究人員認為，在人工智能的發展進程中，應用標準、體系化監管與安全倫理應當同步跟進。

“負責任”的人工智能

在上海楊浦濱江舉行的智能社會論壇上，發布了多份重量級的研究和實踐成果。同濟大學研究團隊發布了《人工智能大模型倫理規范操作指引》和《生成式人工智能風險評估框架（1.0）》兩份專題研究成果，旨在應對人工智能大模型的風險，推動倫理規范落地實施；同濟大學與百度研究團隊聯合發布了《面向新商業模式的高級別自動駕駛法律責任白皮書》，關注全自動駕駛應用場景的法律問題。

(資料圖片)

同濟大學常務副校長呂培明等專家認為，人工智能既是引領當前這一輪科技革命和產業變革的戰略性技術，也是推動城市治理生態和治理能力現代化的必由之路。應主動整合多學科力量，搭建起“技術與社會”暢通的對話交流平臺，應對智能技術發展潛在的倫理、法律和治理風險與挑戰，構建公平規范的數字治理生態，超前探索智能社會的運行模式、法律法規、標準規范、政策體系和體制機制，推動發展“負責任的人工智能”。

上海楊浦作為全國首批10個國家智能社會治理實驗綜合基地之一，正加強人工智能研發與應用活動的引導，實現人工智能產業規范與發展的動態平衡，打造智能治理的新樣板。

大模型的風險管理

推進大模型的創新和應用，同步也要加強大模型的風險管理與行業治理。在上海西岸舉行的“大模型時代的通用人工智能產業發展機遇以及風險”主題論壇上，上海市經濟和信息化委員會相關負責人表示，上海作為人工智能創新高地與“先行區”，在積極打造具有國際影響力的世界級產業集群的同時，堅持科技向善理念，持續推進人工智能健康規范發展。

據介紹，上海積極推進大模型技術的創新和應用，系統性支持技術攻關、算力供給、數據集建設和公共服務需求；布局科學智能，推進科學智能賦能生物醫藥、集成電路、高端裝備和先進材料等創新應用；提升智能機器人在復雜場景下的智能能力。

與此同時，上海正在加快完善行業治理體系，面向人工智能的關鍵領域，加快制定技術、產品、服務、行業應用、安全倫理等標準，在健全法規、標準、監管體系等方面，努力形成上海特色方案。

上海目前已經啟動高風險人工智能產品和服務清單式管理的相關研究，并積極推動大模型相關治理研究；建立健全大模型評測體系，建設大模型評測中心，探索大模型自動化評測工具；探索適應大模型特點的創新監管方式。

上海將搭建更多研討平臺，引導產業人士參與科技創新實踐；積極參與國際人工智能治理規則的制定和實施，推動人工智能倫理標準的互認和協調，共同推進人工智能造福人類。

扶持與合規并重

為打造大模型和生成式人工智能生態集聚和創新應用高地，上海徐匯此次率先推出了面向生成式人工智能的扶持政策，直面企業需求和產業關切。

15條具體舉措，聚焦技術強基支撐，支持通用大模型、垂類大模型等關鍵領域自主創新，支持具身智能、自主智能體等前沿領域布局；聚焦場景應用示范，充分發揮徐匯特色產業基礎和新賽道先發優勢，全面推動生成式人工智能技術在醫療、金融、社交、智能網聯汽車等領域融合賦能；聚焦創新生態構建，針對算力、數據、算法、融資、人才、監管等關鍵環節，強化要素支撐。

2022年，上海徐匯人工智能產業規模已近千億元，近五年年均增速達到30%以上；在大模型和生成式人工智能細分領域，已經匯聚相關企業近200家，其中核心企業30余家，成為上海乃至全國大模型的策源地之一。

在上海，智能社會治理獲得同等的關注。此次，上海楊浦揭牌成立了“人工智能合規服務中心”，將發揮同濟大學的智力與技術資源優勢與楊浦區的實踐優勢，為企業的人工智能新技術新應用，提供合規指引、咨詢和服務。

編輯：談瑞

關鍵詞：