AI監(jiān)管山雨欲來(lái)？歐洲有分歧美國(guó)在觀望，印度不管，OpenAI發(fā)聲明 天天速看料

印度政府當(dāng)?shù)貢r(shí)間4月5日表示，不打算監(jiān)管人工智能的發(fā)展，認(rèn)為該行業(yè)對(duì)該國(guó)來(lái)說(shuō)是一個(gè)“重要和戰(zhàn)略性”的領(lǐng)域。

最近幾天，眾多聲音呼吁加強(qiáng)對(duì)人工智能的審查。意大利政府3月31日對(duì)ChatGPT實(shí)施了臨時(shí)禁令，理由是擔(dān)心它違反了歐盟的《通用數(shù)據(jù)保護(hù)條例》（GDPR），此舉引發(fā)歐洲多國(guó)開(kāi)始探討是否對(duì)生成式人工智能展開(kāi)監(jiān)管措施。當(dāng)?shù)貢r(shí)間4月4日，加拿大隱私專員辦公室（OPC）宣布對(duì)ChatGPT的開(kāi)發(fā)機(jī)構(gòu)OpenAI展開(kāi)調(diào)查，涉及“OpenAI未經(jīng)同意收集、使用和披露個(gè)人信息”的指控。

(資料圖)

當(dāng)?shù)貢r(shí)間4月5日，面對(duì)一系列監(jiān)管反彈，OpenAI發(fā)布聲明《我們對(duì)人工智能安全的方法》，稱“確保人工智能系統(tǒng)安全構(gòu)建、部署和使用對(duì)我們的使命至關(guān)重要”。

印度暫不考慮立法或監(jiān)管人工智能

印度電子和信息技術(shù)部在一份書面答復(fù)中稱，該部門已經(jīng)評(píng)估了與人工智能相關(guān)的道德問(wèn)題和偏見(jiàn)與歧視風(fēng)險(xiǎn)，正在實(shí)施必要政策和基礎(chǔ)設(shè)施措施，以在該國(guó)培育一個(gè)強(qiáng)大的人工智能部門，政府沒(méi)有考慮制定法律或監(jiān)管人工智能的發(fā)展。

印度電子和信息技術(shù)部認(rèn)為，人工智能的擴(kuò)展將對(duì)印度的創(chuàng)業(yè)和商業(yè)發(fā)展產(chǎn)生“動(dòng)力效應(yīng)（kinetic effect）”?！叭斯ぶ悄苁菙?shù)字經(jīng)濟(jì)和創(chuàng)新生態(tài)系統(tǒng)的動(dòng)力提供者。政府正在利用人工智能的潛力，通過(guò)數(shù)字公共平臺(tái)提供以公民為中心的個(gè)性化和互動(dòng)服務(wù)?！?/p>

這份文件也指出，由于決策中的偏見(jiàn)和歧視、侵犯隱私、人工智能系統(tǒng)缺乏透明度以及傷害責(zé)任界定等問(wèn)題，人工智能存在道德問(wèn)題和風(fēng)險(xiǎn)。印度2018年6月發(fā)布的《國(guó)家人工智能戰(zhàn)略》（NSAI）強(qiáng)調(diào)了這些擔(dān)憂。為了解決與人工智能相關(guān)的道德問(wèn)題和潛在風(fēng)險(xiǎn)，各中央和邦政府部門和機(jī)構(gòu)已開(kāi)始努力標(biāo)準(zhǔn)化負(fù)責(zé)任的人工智能開(kāi)發(fā)，使用和促進(jìn)最佳實(shí)踐的采用。

《國(guó)家人工智能戰(zhàn)略》提議為研究和采用人工智能開(kāi)發(fā)一個(gè)生態(tài)系統(tǒng)，即#AI for ALL。為了使印度成為人工智能領(lǐng)域的全球領(lǐng)導(dǎo)者，印度電子和信息技術(shù)部已經(jīng)實(shí)施了“國(guó)家人工智能計(jì)劃”，旨在建立一個(gè)綜合計(jì)劃，利用變革性技術(shù)來(lái)促進(jìn)包容、創(chuàng)新和采用以產(chǎn)生社會(huì)影響。

盡管美國(guó)和許多發(fā)達(dá)國(guó)家市場(chǎng)對(duì)人工智能的興趣急劇上升，但印度進(jìn)入該領(lǐng)域的初創(chuàng)企業(yè)數(shù)量有限。印度的戰(zhàn)略舉措可能鼓勵(lì)有才華的人探索機(jī)會(huì)。

歐美情況復(fù)雜

上周，包括特斯拉首席執(zhí)行官埃隆·馬斯克和蘋果公司聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克在內(nèi)的上千人簽署一封公開(kāi)信，敦促所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)至少6個(gè)月。

3月31日，意大利個(gè)人數(shù)據(jù)保護(hù)局宣布從即日起禁止使用ChatGPT，限制OpenAI處理意大利用戶信息，并開(kāi)始立案調(diào)查。意大利個(gè)人數(shù)據(jù)保護(hù)局認(rèn)為，3月20日ChatGPT平臺(tái)出現(xiàn)了用戶對(duì)話數(shù)據(jù)和付款服務(wù)支付信息丟失情況。而該平臺(tái)沒(méi)有就收集處理用戶信息進(jìn)行告知，且缺乏大量收集和存儲(chǔ)個(gè)人信息的法律依據(jù)。同時(shí)，該機(jī)構(gòu)還指責(zé)，盡管根據(jù)OpenAI的條款聲稱該服務(wù)面對(duì)13歲以上的用戶，但并沒(méi)有使用任何過(guò)濾機(jī)制來(lái)驗(yàn)證用戶的年齡。

在意大利暫時(shí)禁止ChatGPT后，其他歐洲國(guó)家也開(kāi)始研究是否需要更嚴(yán)厲措施來(lái)控制聊天機(jī)器人，以及是否要協(xié)調(diào)這種行動(dòng)。

雖然歐洲議員對(duì)“歐盟人工智能法”的內(nèi)容和范圍存在分歧，但一些監(jiān)管機(jī)構(gòu)發(fā)現(xiàn)，現(xiàn)有的工具，如讓用戶控制其個(gè)人信息的《通用數(shù)據(jù)保護(hù)條例》可以適用于迅速崛起的生成式人工智能公司類別。

法國(guó)和愛(ài)爾蘭的隱私監(jiān)管機(jī)構(gòu)已經(jīng)與意大利的同行聯(lián)系，以了解更多關(guān)于禁令的依據(jù)。德國(guó)數(shù)據(jù)保護(hù)專員告訴《商報(bào)》，德國(guó)可能會(huì)跟隨意大利的腳步，出于對(duì)數(shù)據(jù)安全的考慮禁止ChatGPT。

“我們正在跟進(jìn)意大利監(jiān)管機(jī)構(gòu)?！睈?ài)爾蘭數(shù)據(jù)保護(hù)專員的發(fā)言人說(shuō)，“我們將與歐盟所有的數(shù)據(jù)保護(hù)機(jī)構(gòu)就此事進(jìn)行協(xié)調(diào)?！?/p>

瑞典的隱私監(jiān)管機(jī)構(gòu)則表示沒(méi)有計(jì)劃禁止ChatGPT，也沒(méi)有與意大利的監(jiān)管機(jī)構(gòu)進(jìn)行接觸。西班牙的監(jiān)管機(jī)構(gòu)表示，它沒(méi)有收到任何關(guān)于ChatGPT的投訴，但不排除未來(lái)會(huì)進(jìn)行調(diào)查。

雖然隱私監(jiān)管專員贊成更多的監(jiān)管，但政府卻更加寬松。意大利兼基礎(chǔ)設(shè)施與可持續(xù)交通部長(zhǎng)馬泰奧·薩爾維尼批評(píng)了本國(guó)監(jiān)管機(jī)構(gòu)的決定，稱其反應(yīng)過(guò)度，德國(guó)政府發(fā)言人表示沒(méi)有必要禁止ChatGPT。

一位消息人士說(shuō)，意大利當(dāng)局上周的舉動(dòng)旨在與OpenAI開(kāi)始對(duì)話，以解決在ChatGPT遵守歐盟數(shù)據(jù)保護(hù)規(guī)則方面提出的問(wèn)題，而不是禁止該工具。OpenAI在歐盟沒(méi)有辦事機(jī)構(gòu)。

在北美，加拿大隱私專員辦公室（OPC）宣布對(duì)OpenAI展開(kāi)調(diào)查。該機(jī)構(gòu)的一位隱私專員表示，人工智能技術(shù)及其對(duì)隱私的影響是OPC的優(yōu)先事項(xiàng)，“我們需要跟上快速發(fā)展的技術(shù)并保持領(lǐng)先，這是我作為隱私專員重點(diǎn)關(guān)注的領(lǐng)域之一?！?/p>

美國(guó)總統(tǒng)拜登當(dāng)?shù)貢r(shí)間4月4日表示，人工智能是否危險(xiǎn)還有待觀察，但科技公司有責(zé)任確保其產(chǎn)品在公開(kāi)之前安全。據(jù)《紐約時(shí)報(bào)》上個(gè)月報(bào)道，雖然一些美國(guó)立法者對(duì)人工智能表示擔(dān)憂，但很少有人積極尋求監(jiān)管。

OpenAI正在研究?jī)和?yàn)證選項(xiàng)

可能是為了回應(yīng)這些監(jiān)管風(fēng)聲，OpenAI當(dāng)?shù)貢r(shí)間4月5日發(fā)布聲明，稱OpenAI致力于保持強(qiáng)大的人工智能安全且廣泛有益。

這份聲明稱，“在發(fā)布任何新系統(tǒng)之前，我們會(huì)進(jìn)行嚴(yán)格的測(cè)試，聘請(qǐng)外部專家提供反饋，努力通過(guò)人工反饋強(qiáng)化學(xué)習(xí)等技術(shù)來(lái)改進(jìn)模型的行為，并建立廣泛的安全和監(jiān)控系統(tǒng)。例如，在我們的最新型號(hào)GPT-4完成培訓(xùn)后，我們花了6個(gè)多月的時(shí)間在整個(gè)組織中努力，在公開(kāi)發(fā)布之前使其更安全、更一致。我們認(rèn)為，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估。需要監(jiān)管以確保采用此類做法，我們與政府就此類監(jiān)管的最佳形式積極合作?！?/p>

OpenAI承認(rèn)，盡管他們努力在部署前預(yù)防可預(yù)見(jiàn)的風(fēng)險(xiǎn)，但在實(shí)驗(yàn)室里能學(xué)到的東西是有限的。所以他們認(rèn)為，隨著時(shí)間的推移，從現(xiàn)實(shí)世界的使用中學(xué)習(xí)是創(chuàng)建和發(fā)布越來(lái)越安全的人工智能系統(tǒng)的關(guān)鍵組成部分。“我們通過(guò)自己的服務(wù)和API提供我們最強(qiáng)大的模型，以便開(kāi)發(fā)人員可以直接將這項(xiàng)技術(shù)構(gòu)建到他們的應(yīng)用程序中。這使我們能夠監(jiān)測(cè)濫用并采取行動(dòng)，并不斷制定緩解措施，以應(yīng)對(duì)人們?yōu)E用我們系統(tǒng)的真實(shí)方式——而不僅僅是關(guān)于濫用可能是什么樣子的理論。”

“至關(guān)重要的是，我們認(rèn)為社會(huì)必須有時(shí)間更新和適應(yīng)越來(lái)越強(qiáng)大的人工智能，每個(gè)受這項(xiàng)技術(shù)影響的人都應(yīng)該在人工智能如何進(jìn)一步發(fā)展方面擁有重要的發(fā)言權(quán)。迭代部署幫助我們讓各種利益相關(guān)者更有效地參與到關(guān)于采用人工智能技術(shù)的對(duì)話中，而不是他們沒(méi)有這些工具的第一手經(jīng)驗(yàn)?！甭暶髑罢{(diào)。

OpenAI表示，其安全工作的一個(gè)關(guān)鍵重點(diǎn)是保護(hù)兒童，要求必須年滿18周歲，或年滿13周歲但經(jīng)父母批準(zhǔn)才能使用其人工智能工具，并正在研究驗(yàn)證選項(xiàng)。“當(dāng)用戶試圖將兒童性虐待材料上傳到我們的圖像工具時(shí)，我們會(huì)將其阻止并報(bào)告給國(guó)家失蹤和受剝削兒童中心?！甭暶鞣Q。

在作為爭(zhēng)議焦點(diǎn)的隱私方面，OpenAI稱，雖然他們采用的一些培訓(xùn)數(shù)據(jù)包括公共互聯(lián)網(wǎng)上提供的個(gè)人信息，但他們希望模型了解世界，而不是個(gè)人。因此，他們努力在可行的情況下從培訓(xùn)數(shù)據(jù)集中刪除個(gè)人信息，微調(diào)模型以拒絕對(duì)個(gè)人信息的請(qǐng)求，并回應(yīng)個(gè)人從系統(tǒng)中刪除其信息的請(qǐng)求。

OpenAI最后表示，“雖然我們等了6個(gè)多月才部署GPT-4，以便更好地了解其功能、好處和風(fēng)險(xiǎn)，但有時(shí)可能需要花費(fèi)更長(zhǎng)時(shí)間來(lái)提高人工智能系統(tǒng)的安全性。因此，政策制定者和人工智能提供商需要確保人工智能的開(kāi)發(fā)和部署在全球范圍內(nèi)得到有效管理，這樣就不會(huì)有人為了取得進(jìn)展‘偷工減料’。”

編輯：林鄭宏

關(guān)鍵詞：