【新智元導(dǎo)讀】AI智能體遍布整個(gè)網(wǎng)絡(luò)，未來(lái)如何防止被騙？如何保護(hù)隱私？OpenAI微軟MIT等25個(gè)機(jī)構(gòu)聯(lián)手提出「人格憑證」，可以證明自己是真人，還不用披露任何個(gè)人信息。
最近半個(gè)月，全網(wǎng)竟被一個(gè)OpenAI的「AI爆料人」愚弄了。
聽(tīng)到「草莓哥」@iruletheworldmo賬號(hào)，想必每個(gè)人都很熟悉，而且時(shí)不時(shí)就會(huì)刷到他的爆料帖子。
直到這周三，所有人沒(méi)有等來(lái)他預(yù)測(cè)的GPT-4o large模型，反被AI初創(chuàng)MultiOn創(chuàng)始人揭穿了身份——
「草莓哥」就是一個(gè)AI智能體。
一時(shí)間，全網(wǎng)許多平臺(tái)發(fā)起禁止「草莓哥」的相關(guān)轉(zhuǎn)帖。
Reddit子板塊r/singularity中，已置頂禁止全員提及相關(guān)內(nèi)容
甚至有的人直接「屏蔽」了@iruletheworldmo。
真正的OpenAI爆料人Jimmy Apples也曾對(duì)AI智能體說(shuō)的話(huà)信以為真
隨后，這個(gè)AI智能體還發(fā)起了在線(xiàn)投票——我是否通過(guò)圖靈測(cè)試，沒(méi)想到竟有一半多的人給出了肯定的回答。
而這僅僅是一個(gè)AI。
小扎曾說(shuō)，「未來(lái)每個(gè)人都將擁有一個(gè)AI助理，很快就會(huì)有數(shù)十億AI智能體代表我們上網(wǎng)」。
如果未來(lái)某天真的實(shí)現(xiàn)了，人們將如何一眼辨別某個(gè)社交媒體賬號(hào)，是不是機(jī)器人？如何證明自己「真人」身份，而不用提交任何個(gè)人信息？
來(lái)自O(shè)penAI、微軟、MIT、UCB等25個(gè)機(jī)構(gòu)的學(xué)者們共同提出了一種驗(yàn)證技術(shù)——「人格憑證」（Personhodd Credentials, PHC）。
PHC可以在保護(hù)用戶(hù)隱私的同時(shí)，在網(wǎng)絡(luò)上證明「你是你」，是一個(gè)真實(shí)存在的人類(lèi)而非AI。
微軟首席科學(xué)家幕僚長(zhǎng)表示，「在保持隱私的同時(shí)，在網(wǎng)上建立人類(lèi)身份，是AI時(shí)代的決定性挑戰(zhàn)之一」。
另一位網(wǎng)友表示，這項(xiàng)研究出現(xiàn)得很及時(shí)，簡(jiǎn)直發(fā)人深省。
為什么這么說(shuō)？
30億人數(shù)據(jù)泄露，隱私保護(hù)無(wú)解？
除了開(kāi)篇「草莓哥」的案例，最近，近30億人數(shù)據(jù)泄露，席卷了整個(gè)美國(guó)，堪稱(chēng)史上最大數(shù)據(jù)事件事件之一。
這其中，涵蓋了詳細(xì)的居民個(gè)人信息，比如姓名、電子郵件、地址、電話(huà)、社保號(hào)、郵件地址。
更恐怖的是，地址數(shù)據(jù)可以追溯到30年前，就連去世20多年的親屬信息，都能被挖出。
因此，一直以來(lái)，匿名是許多注重隱私的人們，采取保護(hù)自己的措施。
但有時(shí)，一些重要的驗(yàn)證，不得不將自己的個(gè)人信息交出去。
當(dāng)前，越來(lái)越強(qiáng)大的AI不斷涌現(xiàn)，不法分子欺詐、傳播虛假信息的手段更加隱蔽，隨隨便便就能擴(kuò)展到更大的傳播規(guī)模。
而且，AI門(mén)檻、成本的降低，獲取更加容易。
隨著AI生圖/視頻/聲音越來(lái)越逼真，比如在約會(huì)App上，你如何確定對(duì)方就是真人？
當(dāng)前存在的解決方案，比如驗(yàn)證碼，顯然不夠用，
這也意味著，傳統(tǒng)的人機(jī)驗(yàn)證方式，正在走向失敗。
畢竟，AI在圖像識(shí)別等領(lǐng)域的進(jìn)步，這種方法變得越來(lái)越不可靠。
而現(xiàn)在，極需要找到一種平衡，既能有效防止AI欺騙，又不會(huì)過(guò)度犧牲用戶(hù)的隱私和互聯(lián)網(wǎng)的包容性。
這也是，OpenAI、微軟等機(jī)構(gòu)的研究人員，希望通過(guò)研究最終在實(shí)際應(yīng)用中，看到的效果。
證明你是人，而非AI
正如研究員Steven Adler所述，隱私保護(hù)工具「人格憑證」（PHC），可以證明你是一個(gè)人，但不會(huì)揭示「你是哪個(gè)人」。
具體來(lái)說(shuō)，「人格憑證」由兩個(gè)AI無(wú)法偽造的元素支持：
「現(xiàn)實(shí)世界的驗(yàn)證」和「安全的加密技術(shù)」。
也就是，無(wú)論AI變得多么好，都無(wú)法逃脫這兩點(diǎn)。
總之，PHC就是一種數(shù)字憑證，可以讓用戶(hù)向在線(xiàn)服務(wù)證明，自己是真人并非AI，而且還不用披露任何個(gè)人信息。
這種憑證，可由一種可信機(jī)構(gòu)，比如政府去頒發(fā)。
而且根據(jù)作者的定義，PHC可以是本地的或全球的系統(tǒng)，不一定基于生物識(shí)別技術(shù)。
AI智能體充斥全網(wǎng)，防騙最新策略
論文的兩位合著者Nouran Soliman和Tobin South是MIT的兩名在讀研究生，他們最近在MIT News的采訪(fǎng)中簡(jiǎn)要介紹了這項(xiàng)技術(shù)，討論了其必要性、風(fēng)險(xiǎn)，以及如何以安全、公平的方式應(yīng)用PHC。
「人格憑證」的必要性
雖然一提到AI，很多公眾討論的話(huà)題都是ChatGPT這樣的聊天機(jī)器人，但人工智能的能力顯然不止于此。
互聯(lián)網(wǎng)上的AI參與表現(xiàn)出兩種特性：不可區(qū)分且可擴(kuò)展，這促使AI驅(qū)動(dòng)的欺騙行為持續(xù)增長(zhǎng)。
AI可以在社交網(wǎng)絡(luò)上創(chuàng)建帳戶(hù)、發(fā)布虛假內(nèi)容、偽裝成人類(lèi)，或通過(guò)算法大規(guī)模放大某些內(nèi)容，甚至進(jìn)行大規(guī)模攻擊，這釋放了很多風(fēng)險(xiǎn)。
這會(huì)改變我們?yōu)g覽社交媒體的體驗(yàn)，區(qū)分復(fù)雜的AI和人類(lèi)也變得越來(lái)越困難，類(lèi)似于未經(jīng)同意的「數(shù)字替身」問(wèn)題。
「人格憑證」則提供了一種潛在的解決方案，比如用于過(guò)濾網(wǎng)絡(luò)內(nèi)容、決定接收信息的信任級(jí)別。
什么是人格憑證？如何確保安全性？
正如之前所述，「人格憑證」可以證明你是人類(lèi)，但無(wú)需透露任何有關(guān)你身份的信息。
作者表示，無(wú)論AI有多么先進(jìn)，都無(wú)法做到兩件人類(lèi)能做到的事——獲得離線(xiàn)的現(xiàn)實(shí)世界中的證件，以及偽造或破解先進(jìn)的加密系統(tǒng)。
因此，「人格憑證」結(jié)合了這兩個(gè)想法——通過(guò)密碼學(xué)實(shí)現(xiàn)的安全性，以及人類(lèi)仍然擁有AI所不具備的一些能力，從而真正有力地證明你是人類(lèi)。
要獲得「人格憑證」，用戶(hù)需要與政府發(fā)生關(guān)系，比如稅號(hào)或者駕駛證，而且必須有線(xiàn)下參與的成分。
通過(guò)隱私技術(shù)，用戶(hù)可以證明這一事實(shí)，而無(wú)需共享任何有關(guān)身份的敏感信息。
「人格憑證」的實(shí)現(xiàn)會(huì)比較容易，它依賴(lài)的基礎(chǔ)設(shè)施和安全技術(shù)已經(jīng)存在了數(shù)十年，例如使用郵箱賬戶(hù)等標(biāo)識(shí)符來(lái)登錄在線(xiàn)服務(wù)。PHC可以作為這些現(xiàn)有方法的補(bǔ)充。
但是，用戶(hù)使用「人格憑證」應(yīng)該是一種可選項(xiàng)而非必選項(xiàng)，服務(wù)提供商可以讓人們選擇是否使用。
作為可選項(xiàng)就意味著，我們還無(wú)法做到讓用戶(hù)只與真實(shí)的、經(jīng)過(guò)驗(yàn)證的人類(lèi)進(jìn)行在線(xiàn)互動(dòng)，完全排除AI在互聯(lián)網(wǎng)上的參與。
但是在網(wǎng)購(gòu)或者交易協(xié)商這類(lèi)的場(chǎng)景中，想要確保另一方是人類(lèi)實(shí)體，「人格憑證」就可以派上用場(chǎng)。
有哪些風(fēng)險(xiǎn)？如何降低這些風(fēng)險(xiǎn)？
其中一項(xiàng)風(fēng)險(xiǎn)來(lái)自于如何實(shí)施。如果一個(gè)特定實(shí)體是「人格憑證」唯一的發(fā)行人，或者系統(tǒng)的設(shè)計(jì)方式是將所有權(quán)力賦予一個(gè)實(shí)體，這可能會(huì)引起一部分人對(duì)于權(quán)力過(guò)于集中的擔(dān)憂(yōu)。
如果你處在一個(gè)很艱難或危險(xiǎn)的社會(huì)政治環(huán)境中，被要求去某個(gè)線(xiàn)下地點(diǎn)才能獲得人格憑證，這會(huì)比較可怕，而且阻礙了人們?cè)诰€(xiàn)上分享信息。
一個(gè)可能的解決方案，是設(shè)置多個(gè)「人格憑證」的發(fā)行方。
我們的論文試圖鼓勵(lì)政府、政策制定者、領(lǐng)導(dǎo)者和研究人員投入更多資源，研究不同的實(shí)施方向，并探索這項(xiàng)技術(shù)可能對(duì)社區(qū)產(chǎn)生的更廣泛影響，確保能制定正確的政策和規(guī)則。
AI的發(fā)展速度非常快，遠(yuǎn)快于政府適應(yīng)的速度。因此，政府和大公司現(xiàn)在就應(yīng)該開(kāi)始考慮調(diào)整數(shù)字系統(tǒng)，以便準(zhǔn)備好證明某個(gè)用戶(hù)是人類(lèi)，同時(shí)做到保護(hù)隱私和安全，這樣我們才能為AI更先進(jìn)的未來(lái)做好準(zhǔn)備。
技術(shù)介紹
「人格憑證」這項(xiàng)技術(shù)究竟如何實(shí)現(xiàn)？這篇63頁(yè)的論文能夠給出我們非常詳盡的答案。
論文地址：https://arxiv.org/pdf/2408.07892
首先，「人格憑證」以數(shù)字方式存儲(chǔ)在持有者的設(shè)備中。為了保證可信度和隱私，PHC系統(tǒng)需要滿(mǎn)足兩個(gè)前提：
- 每個(gè)人只能持有一份「人格憑證」，需要定期重新驗(yàn)證，以防被盜用
- 持有PHC的用戶(hù)與與服務(wù)提供商進(jìn)行匿名交互。即使PHC發(fā)行商和服務(wù)提供商串通，也無(wú)法追蹤用戶(hù)的數(shù)字活動(dòng)，更不能將用戶(hù)在各個(gè)平臺(tái)上的活動(dòng)連接在一起。
PHC系統(tǒng)的注冊(cè)和使用流程如圖3所示：
用戶(hù)提出請(qǐng)求后，只需向發(fā)行方提供最少量的必要信息。發(fā)行方負(fù)責(zé)驗(yàn)證是否為人類(lèi)，并確定用戶(hù)之前沒(méi)有在此注冊(cè)過(guò)PHC。此外，發(fā)行方有撤回或恢復(fù)PHC的權(quán)利。
用戶(hù)在使用第三方數(shù)字服務(wù)時(shí)，可以提供PHC并經(jīng)過(guò)「零知識(shí)證明」，即可完成身份驗(yàn)證。
除了PHC之外，服務(wù)提供商不能獲取其他額外信息。每次證明僅限于特定應(yīng)用程序，因此不同平臺(tái)無(wú)法通過(guò)PHC鏈接到同一個(gè)用戶(hù)。
論文提出，為PHC系統(tǒng)設(shè)計(jì)多個(gè)發(fā)行方是比較理想的實(shí)施方案。用戶(hù)可以從多個(gè)發(fā)行方中任意選擇來(lái)注冊(cè)PHC，但每個(gè)發(fā)行方只能獲取一份證書(shū)，在減少大規(guī)模欺騙行為的同時(shí)保證用戶(hù)隱私。
這種PHC系統(tǒng)有3方面的預(yù)期優(yōu)勢(shì)：
- 減少「傀儡」用戶(hù)的影響，實(shí)現(xiàn)真實(shí)人類(lèi)的在互聯(lián)網(wǎng)上大規(guī)模的真實(shí)輸入和參與
- 緩解機(jī)器人攻擊
- 讓AI助手真正成為值得信賴(lài)用戶(hù)的代表，而非被惡意用戶(hù)操縱
與此同時(shí)，要讓PHC以公平、安全的方式在現(xiàn)實(shí)生活中實(shí)施，還必須面對(duì)以下4個(gè)方面的挑戰(zhàn)：
公平獲取
頻繁的PHC驗(yàn)證可能導(dǎo)致使用過(guò)程中的摩擦和挫敗感，影響對(duì)技術(shù)不熟悉的用戶(hù)，尤其是老年人的使用。還需要確保沒(méi)有PHC的用戶(hù)依舊可以使用數(shù)字服務(wù)。
自由表達(dá)
用戶(hù)可能會(huì)擔(dān)心PHC將他們的數(shù)字活動(dòng)與線(xiàn)下真實(shí)身份相關(guān)聯(lián)，從而降低在網(wǎng)絡(luò)上表達(dá)真實(shí)觀(guān)點(diǎn)的意愿。
權(quán)力檢查
PHC生態(tài)系統(tǒng)面臨的一項(xiàng)重大挑戰(zhàn)是權(quán)力集中于少數(shù)機(jī)構(gòu)，尤其是PHC發(fā)行者和大型服務(wù)提供商，他們有關(guān)PHC使用的決策將產(chǎn)生重大影響。
抵御攻擊和錯(cuò)誤的穩(wěn)健性
與任何數(shù)字系統(tǒng)一樣，PHC系統(tǒng)容易受到多方面的攻擊和利用，比如證書(shū)發(fā)行方、服務(wù)提供商和惡意用戶(hù)?？梢钥紤]使用網(wǎng)絡(luò)安全領(lǐng)域先前的最佳措施，比如DoS防御，以及阻止攻擊者訪(fǎng)問(wèn)敏感記錄。
論文的最后，作者提出了下一步應(yīng)該采取的措施。
首先，適應(yīng)現(xiàn)有的數(shù)字網(wǎng)絡(luò)體系，為人工智能的影響做好準(zhǔn)備。
更具體地說(shuō)，我們要重新思考，AI將如何改變互聯(lián)網(wǎng)和通信。
其次，優(yōu)先考慮將「人格憑證」作為亟需解決的一種方案。
最后一張圖，總結(jié)了這篇論文的所有要點(diǎn)。
值得一提的是，為了防止互聯(lián)網(wǎng)平臺(tái)以「實(shí)名制」為由過(guò)度收集信息，公安部和網(wǎng)信辦最近推出了「網(wǎng)絡(luò)身份證」。
只需要一部有NFC功能的手機(jī)，進(jìn)行身份證識(shí)別和人臉識(shí)別并關(guān)聯(lián)手機(jī)號(hào)之后，就能得到一張?zhí)摂M的「網(wǎng)絡(luò)身份證」。
上面的「網(wǎng)號(hào)」由字母和數(shù)字組成，不含明文的身份信息，可以直接用于淘寶、微信等app的實(shí)名認(rèn)證，不需要再輸入姓名、身份證號(hào)等信息。
在保護(hù)個(gè)人隱私方面，大家覺(jué)得有什么更好的解決方案？