筑牢人工智能安全防火墻

今年春節(jié)期間，深度求索人工智能基礎(chǔ)技術(shù)研究有限公司(DeepSeek)開發(fā)的生成式人工智能(AI)服務(wù)，吸睛引粉，熱議不斷。不過，也有報道指出，針對DeepSeek線上服務(wù)的攻擊烈度突然升級，其攻擊指令暴增，由此產(chǎn)生的服務(wù)中斷、數(shù)據(jù)泄露等網(wǎng)絡(luò)安全風(fēng)險不可忽視。如何通過必要的法律保障提供更安全的人工智能產(chǎn)業(yè)環(huán)境，值得探討。

在人工智能產(chǎn)業(yè)發(fā)展過程中，個人信息安全、虛假網(wǎng)絡(luò)信息內(nèi)容生成、算法歧視等問題時有發(fā)生。針對此，有關(guān)部門出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法律法規(guī)，完善優(yōu)化人工智能應(yīng)用的合法性問題。2023年7月份公布的《生成式人工智能服務(wù)管理暫行辦法》明確提出，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)等在生成式人工智能技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險防范等方面開展協(xié)作；推動公共數(shù)據(jù)分類分級有序開放，擴(kuò)展高質(zhì)量的公共訓(xùn)練數(shù)據(jù)資源。這些具體舉措，對于化解潛在技術(shù)安全風(fēng)險具有重要意義。接下來，還應(yīng)多角度施策，筑牢人工智能安全防火墻。

一方面，持續(xù)細(xì)化人工智能產(chǎn)品研發(fā)者、服務(wù)提供者以及用戶的法律義務(wù)及其責(zé)任承擔(dān)方式。從長遠(yuǎn)來看，難以控制的技術(shù)安全風(fēng)險是限制科技創(chuàng)新的阻礙。原因在于，為了確保信息服務(wù)質(zhì)量和功能穩(wěn)定性，事前控制技術(shù)風(fēng)險的經(jīng)濟(jì)效益遠(yuǎn)高于事后行政干預(yù)和矯正科技創(chuàng)新方向。而生成式人工智能服務(wù)和產(chǎn)品呈現(xiàn)出超市場預(yù)期的智能化水平，不僅是ChatGPT面世之初展現(xiàn)的高質(zhì)量文本編輯功能，還表現(xiàn)為代碼編寫、視頻制作等領(lǐng)域的高效生成。這種高度智能化特征使得網(wǎng)絡(luò)信息內(nèi)容治理實踐面臨挑戰(zhàn)，一旦被應(yīng)用于網(wǎng)絡(luò)黑灰產(chǎn)領(lǐng)域，會對公民的人身安全和財產(chǎn)安全造成極大威脅。因此，應(yīng)更加規(guī)范研發(fā)者和服務(wù)提供者的科技創(chuàng)新行為，借由事前安全風(fēng)險評估、強制性算法備案等治理措施的法治化，引導(dǎo)產(chǎn)業(yè)的良性發(fā)展。

另一方面，借由保障型條款促成科技創(chuàng)新資源的高效分配，為經(jīng)營主體營造公平公正的市場競爭環(huán)境。從技術(shù)創(chuàng)新環(huán)節(jié)來看，人工智能科技創(chuàng)新離不開算法、數(shù)據(jù)和算力三個要素，相應(yīng)的法治保障體系也應(yīng)當(dāng)圍繞其展開。因此，要基于基礎(chǔ)科技創(chuàng)新、促進(jìn)科技成果轉(zhuǎn)化、人才培養(yǎng)等角度提升算法模型的自主創(chuàng)新能力；拓展訓(xùn)練數(shù)據(jù)獲取方式的多元化，充分保障中小企業(yè)獲取訓(xùn)練數(shù)據(jù)的平等發(fā)展權(quán)。建構(gòu)算力資源供給機(jī)制，囊括算力網(wǎng)絡(luò)建設(shè)、資源調(diào)度規(guī)劃、服務(wù)交易等具體內(nèi)容。

關(guān)鍵詞：