美國(guó)公共政策專家：人類和公民利益才是“科技監(jiān)管”大討論的核心

美國(guó)西弗吉尼亞大學(xué)公共管理與公共政策教授法拉赫（Paolo Farah）。澎湃新聞?dòng)浾?趙昀 圖

“這是利用（社交平臺(tái)的）匿名性，對(duì)技術(shù)的濫用。這是完全的刑事犯罪行為。”

韓國(guó)總統(tǒng)尹錫悅對(duì)近期爆發(fā)的韓國(guó)數(shù)字性犯罪做出了上述表態(tài)。

根據(jù)韓國(guó)警方的數(shù)據(jù)，韓國(guó)在線深偽性犯罪數(shù)量激增。今年前7個(gè)月，韓國(guó)共報(bào)告了297起類似案件，在2021年案件總數(shù)的基礎(chǔ)上約翻了一番。2023年韓國(guó)共有180起此類案件。

科技快速發(fā)展，利弊共存，其中一個(gè)全球性難題就是監(jiān)管，韓國(guó)近期的數(shù)字性犯罪案件，就是其中一個(gè)例子。

但監(jiān)管如何在科技發(fā)展和社會(huì)之間保持平衡，同樣是一個(gè)難題。歷經(jīng)三年的多輪審議后，今年8月1日，歐盟《人工智能法案》正式生效。該法案是全球首部全面監(jiān)管人工智能的法規(guī)，標(biāo)志著歐盟在規(guī)范人工智能應(yīng)用方面邁出重要一步。但亞馬遜、Meta等公司卻認(rèn)為該法案不利于科技創(chuàng)新。

作為公共政策和法律方面的專家，美國(guó)西弗吉尼亞大學(xué)公共管理與公共政策教授法拉赫（Paolo Farah）在近期參與“中國(guó)式現(xiàn)代化與世界未來(lái)”明德戰(zhàn)略對(duì)話活動(dòng)期間，就科技監(jiān)管的話題接受了澎湃新聞（www.thepaper.cn）專訪。

法拉赫表示，或許監(jiān)管難以在科技和社會(huì)中保持平衡，但不能什么都不做。至少，各方能夠基于現(xiàn)有的經(jīng)驗(yàn)，制定本國(guó)的科技監(jiān)管政策。

科技發(fā)展，要監(jiān)管還是要?jiǎng)?chuàng)新？

澎湃新聞：您近期正在做公共政策、技術(shù)和法律方面的研究。在科技快速發(fā)展的背景下，從公共政策的角度，怎么看待保持市場(chǎng)活力、科技公司創(chuàng)新的問(wèn)題？

法拉赫：我在這方面所做的工作，特別關(guān)注技術(shù)的概念化、技術(shù)是否對(duì)各國(guó)社會(huì)總體有益等情況。

重要的是評(píng)估這些公司是否以一種透明的方式推廣技術(shù)。我不是在談?wù)撻_(kāi)放獲取或提供技術(shù)，而是（科技發(fā)展）對(duì)社會(huì)和技術(shù)帶來(lái)積極的影響，這是社會(huì)發(fā)展的基礎(chǔ)。比如，我能夠到上海來(lái)，這就是技術(shù)發(fā)展和交流的結(jié)果。

自從互聯(lián)網(wǎng)時(shí)代開(kāi)始以來(lái)，人們有了很多便于交流的機(jī)會(huì)。但現(xiàn)在，有一種看法和更多的理解是，技術(shù)確實(shí)對(duì)社會(huì)產(chǎn)生了良好的影響，但也可能對(duì)社會(huì)帶來(lái)挑戰(zhàn)和風(fēng)險(xiǎn)。想一想對(duì)人工智能（AI）的批評(píng)，AI可以是非常積極的，也可以是對(duì)所有人都有問(wèn)題的。

當(dāng)我們發(fā)現(xiàn)自己面臨著開(kāi)放市場(chǎng)的挑戰(zhàn)，讓科技公司保持創(chuàng)新，繼續(xù)投資于創(chuàng)新，這可以為人類帶來(lái)很多機(jī)會(huì)和改善。

但另一方面是，當(dāng)某些科技發(fā)展完成時(shí)，可能會(huì)給人類帶來(lái)問(wèn)題。這個(gè)時(shí)候人類會(huì)變得高度脆弱，在這種情況下該怎么應(yīng)對(duì)？難道我們不應(yīng)該在技術(shù)先進(jìn)、科技公司已經(jīng)富有之前進(jìn)行干預(yù)和監(jiān)管？所以有一種觀點(diǎn)認(rèn)為，監(jiān)管和政策每次都是在技術(shù)發(fā)展后才得以出臺(tái)，會(huì)出現(xiàn)法律和政策試圖趕上已經(jīng)實(shí)施的技術(shù)的情況。

那么我們?cè)诩夹g(shù)發(fā)展前是不是應(yīng)該做一些什么？（歐盟的）《人工智能法案》就是朝這個(gè)方向發(fā)展的，試圖在科技公司發(fā)展前預(yù)測(cè)可能會(huì)出現(xiàn)的問(wèn)題。我們這樣做，是因?yàn)槲覀儗?shí)際上在保護(hù)我們想要控制的社會(huì)中的人權(quán)和價(jià)值觀。在我們被私營(yíng)部門(mén)公司和市場(chǎng)、自由貿(mào)易、自由投資和自由技術(shù)的市場(chǎng)目標(biāo)支配之前，思考我們想要擁有什么樣的社會(huì)。

所以這是一個(gè)非常復(fù)雜的話題和討論，因?yàn)橐坏┏煌较虬l(fā)展，可能會(huì)對(duì)投資、信任、技術(shù)等產(chǎn)生重要影響。

比如Meta和亞馬遜這類美國(guó)科技公司認(rèn)為監(jiān)管有害創(chuàng)新。但從監(jiān)管的角度，不太可能考慮科技公司的這一層想法或者這些想法能不能實(shí)現(xiàn)。

當(dāng)我們看其他地方的法規(guī)，考慮一下保密性和透明度的監(jiān)管、數(shù)據(jù)和信息的傳輸。比如在新的AI法規(guī)上，（歐盟的）《通用數(shù)據(jù)保護(hù)條例》和AI監(jiān)管之間的交叉點(diǎn)是什么？我在問(wèn)我自己，這些（法規(guī)）對(duì)行業(yè)和技術(shù)是積極的還是消極的，但至少對(duì)社會(huì)是積極的，因?yàn)椋ǚㄒ?guī)）控制著（技術(shù)）。我試圖在這些領(lǐng)域研究技術(shù)對(duì)社會(huì)的影響，人類和公民是這場(chǎng)討論的中心。

澎湃新聞：您剛才提到了風(fēng)險(xiǎn)，也提到有時(shí)監(jiān)管晚于創(chuàng)新。但另一方面，您是否認(rèn)為，監(jiān)管會(huì)影響科技創(chuàng)新？

法拉赫：我確實(shí)這么認(rèn)為，這種影響可以是積極的，也可以是消極的。正如我所說(shuō)，監(jiān)管是否過(guò)于嚴(yán)格、會(huì)否就此限制技術(shù)創(chuàng)新的可能性，這才是我們要問(wèn)的核心問(wèn)題。所以，（監(jiān)管）規(guī)則是要盡可能平衡的，但有時(shí)這會(huì)很復(fù)雜。

在（科技）行業(yè)中，這些公司實(shí)際上更喜歡沒(méi)有監(jiān)管。這些公司試圖盡可能快地發(fā)展，避免法律法規(guī)在公司發(fā)展完善之前出現(xiàn)。因此，我認(rèn)為監(jiān)管會(huì)對(duì)發(fā)展、技術(shù)和創(chuàng)新產(chǎn)業(yè)帶來(lái)負(fù)面影響。

但什么都不做也不是好的?，F(xiàn)在，這種類型的技術(shù)已經(jīng)發(fā)展到了一定程度，可以影響社會(huì)，并將把社會(huì)帶向一個(gè)方向，我覺(jué)得我們對(duì)此需要加以小心控制。

在某種程度上，科技為公司提供了投資和創(chuàng)新的可能性，但同時(shí)，（公司）要負(fù)責(zé)任、透明，預(yù)估潛在的負(fù)面風(fēng)險(xiǎn)。比如，因?yàn)闅W盟的《人工智能法案》和《通用數(shù)據(jù)保護(hù)條例》，一些科技公司遭到了批評(píng)。

我們需要觀察和了解，是否會(huì)出現(xiàn)所謂的（讓歐洲在全球科技競(jìng)爭(zhēng)中保持影響力的）布魯塞爾效應(yīng)。因?yàn)闅W洲市場(chǎng)太有趣、太重要，不能完全把它排除在外，行業(yè)也可以對(duì)此感興趣。

但我意識(shí)到，（行業(yè)里）必須做些什么，保持對(duì)美國(guó)市場(chǎng)的興趣。但做什么呢？在這種情況下，來(lái)自行業(yè)和其他國(guó)家的阻力可能會(huì)迫使你改變和重新審視，我對(duì)此不太確定。這是會(huì)發(fā)生的，但我們必須觀察。

總的來(lái)說(shuō)，歐盟出臺(tái)的法規(guī)，已經(jīng)做出了一定的改變和決定，這肯定會(huì)影響行業(yè)進(jìn)行投資或決定在某些行業(yè)進(jìn)行投資的方式。

對(duì)我來(lái)說(shuō)，最重要的是，技術(shù)發(fā)展的方式，是否考慮到我們?nèi)允且粋€(gè)由人類、公民組成的社會(huì)。因此，如果這項(xiàng)技術(shù)會(huì)對(duì)人們產(chǎn)生負(fù)面影響，那么我認(rèn)為監(jiān)管應(yīng)該介入，甚至在技術(shù)被創(chuàng)造出來(lái)之前就需要進(jìn)行監(jiān)管，并努力與行業(yè)保持開(kāi)放的溝通渠道。但這并不意味著允許（行業(yè)）游說(shuō)并試圖（把發(fā)展）引入另一個(gè)方向。

不過(guò)，試著收集信息，一些小的變化可以為行業(yè)繼續(xù)發(fā)展和創(chuàng)新帶來(lái)重要的、巨大的變化。這是一個(gè)非常復(fù)雜的平衡。

美國(guó)西弗吉尼亞大學(xué)公共管理與公共政策教授法拉赫（Paolo Farah）在上海，接受澎湃新聞?dòng)浾叩膶ＴL。澎湃新聞?dòng)浾?趙昀 圖

互相借鑒經(jīng)驗(yàn)，制定更完善的政策

澎湃新聞：在類似的政策制定方面，比如歐盟還有《數(shù)字服務(wù)法案》，而其他國(guó)家也在解決類似技術(shù)帶來(lái)的問(wèn)題。您認(rèn)為不同國(guó)家在制定本國(guó)政策時(shí)，能否參考其他國(guó)家/組織已有的政策？

法拉赫：我相信是這樣的。例如，（不僅限于科技監(jiān)管），總的來(lái)說(shuō)，中國(guó)在了解美國(guó)、歐盟經(jīng)驗(yàn)的情況下，根據(jù)中國(guó)的背景，獨(dú)立制定了一些法規(guī)和政策。這可能基于競(jìng)爭(zhēng)，或者與歐盟、美國(guó)的同行進(jìn)行了多年合作交流，但這不意味著中國(guó)完全復(fù)制了他們所做的。

所以我認(rèn)為，科技方面歐盟的監(jiān)管可以是一個(gè)例子，其他國(guó)家可以參照（現(xiàn)有法規(guī)）。這是在全球法律和政策層面開(kāi)展工作的一個(gè)很好方式，比如歐盟在一個(gè)領(lǐng)域做得比較好，可以把它作為一個(gè)榜樣。這意味著（其他國(guó)家）可以從這個(gè)經(jīng)驗(yàn)中了解，為什么（歐盟）做了某些決定，以一種特定的方式制定政策。

這樣的“交換”對(duì)歐盟來(lái)說(shuō)是非常積極的，因?yàn)樵诳萍急O(jiān)管層面，同時(shí)還會(huì)有中國(guó)、美國(guó)等國(guó)家?；陬愃频谋O(jiān)管政策，比如能有利于美國(guó)公司在其他國(guó)家進(jìn)行交易、貿(mào)易等。

對(duì)我來(lái)說(shuō)，我認(rèn)為政策和法規(guī)是一體的。從某種意義上說(shuō)，有時(shí)政策是第一位的，法規(guī)是第二位的，但有時(shí)，法規(guī)先出臺(tái)，政策解釋并證明其所做的。當(dāng)我們談?wù)摲珊驼邥r(shí)，國(guó)家之間需要有很多對(duì)話和交流，理解差異，同時(shí)在特定方面密切合作。

根據(jù)特定的法規(guī)工作，并嘗試基于對(duì)全球大環(huán)境的考量，以為國(guó)家做出最佳選擇的方式，制定新的法規(guī)和政策。這就是中國(guó)多年來(lái)一直在做的事情。在此之前，中國(guó)在某些領(lǐng)域一直走在前列。

聊天機(jī)器人“并不完美”

澎湃新聞：接下去的問(wèn)題與社交平臺(tái)有關(guān)。您是否注意到，美國(guó)兩黨都通過(guò)社交平臺(tái)，正在試圖爭(zhēng)取選票的情況？

法拉赫：我認(rèn)為在奧巴馬當(dāng)選美國(guó)總統(tǒng)時(shí)，其競(jìng)選活動(dòng)就已經(jīng)廣泛使用了廣播和社交平臺(tái)，之后是特朗普的當(dāng)選。最近幾年，不僅競(jìng)選活動(dòng)中會(huì)用到社交平臺(tái)，競(jìng)選活動(dòng)外有組織和團(tuán)體也在使用這些平臺(tái)，試圖支持某一派。

我相信這在過(guò)去也發(fā)生過(guò)，但我不認(rèn)為會(huì)像現(xiàn)在這樣產(chǎn)生如此大的影響。以劍橋分析公司為例，8700萬(wàn)臉書(shū)用戶數(shù)據(jù)被不當(dāng)泄露給這個(gè)政治咨詢公司，以方便其制定策略在2016年總統(tǒng)大選時(shí)使特朗普獲勝。（臉書(shū)的首席執(zhí)行官）扎克伯格還前往國(guó)會(huì)山就此聽(tīng)證。

所以我認(rèn)為，在美國(guó)的政治環(huán)境中，這些問(wèn)題必須得到討論和明確解決，因?yàn)樗梢允惯x舉結(jié)果發(fā)生重要變化，即競(jìng)選活動(dòng)之外的參與類型。

澎湃新聞：近期（社交平臺(tái)）“X”的聊天機(jī)器人Grok，在美國(guó)總統(tǒng)拜登退選后發(fā)布了關(guān)于多個(gè)州投票截止日期的虛假信息。多個(gè)州已經(jīng)要求“X”整改，從公共政策的角度，您怎么看待？

法拉赫：這至少表明，聊天機(jī)器人或者AI在這一點(diǎn)上并不完美。很多其他的例子也證明了這一點(diǎn)：這是以一種試圖讓用戶高興的方式回復(fù)，更傾向于用戶想要的信息，但這可能是不正確的信息。如果想要傳播一些（正確的）信息，就需要進(jìn)行再次確認(rèn)。

比如，我們需要更多方面的信息，以確信某一個(gè)問(wèn)題，排除其不可能發(fā)展的方向。就像我們參加本次會(huì)議，我們互相之間需要聽(tīng)到各種聲音，才能不漏重點(diǎn)地進(jìn)行研究、取得平衡?？偟膩?lái)說(shuō)，基于這些理念，聊天機(jī)器人、AI可以是額外的幫助。

正如我現(xiàn)在所看到的，科技還在繼續(xù)發(fā)展，但我們可以選擇結(jié)束它。

比如在未來(lái)，書(shū)籍可能不再存在。網(wǎng)上的一切就是信息，現(xiàn)在的聊天機(jī)器人，也是對(duì)書(shū)本的“攻擊”，這種“攻擊”無(wú)法被控制，因?yàn)闀?shū)本可能被認(rèn)為代表過(guò)去。

我擔(dān)心的是，這可能是一種趨勢(shì)，比如人們?cè)僖矡o(wú)法接觸到過(guò)去出版的書(shū)籍，并說(shuō)這些書(shū)籍現(xiàn)在可以在網(wǎng)上找到。的確是這樣，但是你確定在線版本會(huì)和原始版本完全一樣嗎？會(huì)不會(huì)有幾頁(yè)的部分被省略了？

我只是說(shuō)，如果我們最終完全信任聊天機(jī)器人等，我們可能會(huì)出現(xiàn)（類似書(shū)本）這樣的情況。我認(rèn)為的風(fēng)險(xiǎn)是，一些強(qiáng)大的公司或者行業(yè)等，可能可以決定某些歷史事件或者情況。