50693 微軟們掉進(jìn)大模型安全漩渦
服務(wù)熱線(xiàn):400-858-9000 咨詢(xún)/投訴熱線(xiàn):18658148790
國內專(zhuān)業(yè)的一站式創(chuàng )業(yè)服務(wù)平臺
微軟們掉進(jìn)大模型安全漩渦
06/24
大模型奔向市場(chǎng)時(shí)的安全問(wèn)題悄然顯現。
本文來(lái)自于微信公眾號“鋅產(chǎn)業(yè)”(ID:xinchanye2021),作者:山竹,投融界經(jīng)授權發(fā)布。

大模型的安全問(wèn)題正在悄悄逼近。

就在全球都在因大模型而狂歡時(shí),大模型的安全問(wèn)題也隨之來(lái)臨。

不過(guò),科技發(fā)展向來(lái)是一個(gè)不可逆的過(guò)程。

即便在GPT-4發(fā)布后不久,就有上千位科學(xué)家、科技大佬在去年3月簽署了警惕AI發(fā)展的公開(kāi)信,之后又有OpenAI、DeepMind、Anthropic三大大模型團隊掌門(mén)人聯(lián)合300多位科學(xué)家再度署名發(fā)布警惕AI發(fā)展的公開(kāi)信,但這并沒(méi)有改變AI大勢。

2023年全球科技領(lǐng)域的關(guān)鍵詞是“百模大戰”,2024年這一關(guān)鍵詞已經(jīng)是“大模型降價(jià)”。

前者揭示了關(guān)于大模型的技術(shù)競爭水深火熱,后者則預示著(zhù)大模型產(chǎn)業(yè)落地已經(jīng)正式啟航。

然而,就在科技巨頭大模型產(chǎn)品發(fā)布最集中、連在大模型領(lǐng)域研究略顯滯后的蘋(píng)果也上車(chē)了大模型的這個(gè)月里,大模型奔向市場(chǎng)時(shí)的安全問(wèn)題悄然顯現。

01

微軟“延畢”AI核心功能

還記得在前不久的微軟Build大會(huì )上,微軟用來(lái)硬剛蘋(píng)果Mac的“Copilot+PC”嗎?

當時(shí)在發(fā)布會(huì )上關(guān)于人工智能最亮眼的一項功能是一個(gè)名為“Recall”的,查找你之前在電腦上的任意操作的功能。

Recall的工作原理是,在用戶(hù)授權后,PC通過(guò)本地的端側大模型以快照形式記憶用戶(hù)每天電腦的使用情況,并在你想要回溯的時(shí)候,通過(guò)滾動(dòng)時(shí)間軸找到當時(shí)的操作頁(yè)面。

有點(diǎn)類(lèi)似辦公軟件中的歷史版本回溯功能,不同之處在于,基于大模型,現在你可以對任意軟件、任意時(shí)間點(diǎn)進(jìn)行快速回溯。

從后來(lái)微軟官方博客中公布和外媒曝出的消息來(lái)看,微軟這一功能此前是在內部秘密研發(fā),正式發(fā)布時(shí)甚至只在微軟內部進(jìn)行了測試,沒(méi)有在Windows Insider進(jìn)行公測。

Windows Insider計劃是微軟2014年10月為Windows 10推出的一個(gè)公測計劃,這一計劃一直被微軟沿用至今,發(fā)展成了微軟Windows系統功能更新的一個(gè)公測社區。

或許是AI PC勢頭太猛,微軟有些著(zhù)急,本該先在Windows Insider公測的Recall功能,在今年的Build大會(huì )上直接被微軟拿來(lái)做壓軸功能,甚至官宣了要在6月18日隨“Copilot+PC”一并上線(xiàn)。

微軟們掉進(jìn)大模型安全漩渦

微軟Build大會(huì )舉辦于今年5月,意外發(fā)生在6月13日。

這一天,美國眾議院國土安全委員會(huì )召開(kāi)了一場(chǎng)關(guān)于網(wǎng)絡(luò )安全的聽(tīng)證會(huì ),微軟是出席單位之一,微軟總裁Brad Smith稱(chēng),“微軟安全未來(lái)計劃(SFI)是比公司在人工智能布局更重要的工作?!?/span>

值得注意的是,微軟SFI計劃的提出是在2023年11月,而Recall立項是在微軟安全改革計劃SFI提出之前,這就讓Recall陰差陽(yáng)錯地跳過(guò)了SFI,秘密研發(fā)了下去,直到最終發(fā)布。

不過(guò),人工智能的安全問(wèn)題早在2023年年初就已經(jīng)在硅谷得到了重視,甚至已經(jīng)上升為一個(gè)重要的社會(huì )議題,Recall功能在官宣發(fā)布后,外媒關(guān)于Recall帶來(lái)的隱私安全問(wèn)題進(jìn)行了頗多質(zhì)疑。

這就有了微軟6月13日在官方博客上表示,Recall將不會(huì )隨“Copilot+PC”在6月18日上線(xiàn),而是先進(jìn)入到Windows Insider公測階段。

微軟推遲Recall正式上線(xiàn),嚴格意義上來(lái)說(shuō),算是微軟一次在功能上線(xiàn)前的緊急叫停,而接下的公測,一方面可以讓微軟看到這一功能是否存在安全漏洞,另一方面也可以通過(guò)公測看到社會(huì )層面對于這一功能的真實(shí)反饋。

要知道,在Recall出現之前,AI PC稱(chēng)得上“大模型”的功能還是智能語(yǔ)音、協(xié)同辦公,以及系統層面的改善,沒(méi)有一個(gè)拿得出手、顛覆用戶(hù)觀(guān)感的新功能。

美國社會(huì )和政府層面給微軟的壓力,讓微軟對這一功能的隱私安全問(wèn)題再次有了擔憂(yōu),“延畢”Recall,成了緩解壓力的一個(gè)折中的手段。

02

蘋(píng)果AI不敢進(jìn)歐盟

同樣遭受到質(zhì)疑的,還有美國另一家科技巨頭,蘋(píng)果。

蘋(píng)果原本在大模型的領(lǐng)域研發(fā)上并不激進(jìn),甚至略顯滯后,在今年WWDC 2024上官宣啟用大模型,搞出一個(gè)Apple Intelligence時(shí),還是借了OpenAI的助力。

與微軟類(lèi)似的是,蘋(píng)果也是在大模型上線(xiàn)之前,官宣拿到緊急撤退自查。

就在蘋(píng)果對外發(fā)布iOS 18及Apple Intelligence后不久,有消息傳出,Apple Intelligence今年或將不會(huì )在歐盟地區上線(xiàn)。

隨后,蘋(píng)果證實(shí)了這一消息,并稱(chēng),之所以如此,是因為對歐盟DMA要求蘋(píng)果允許第三方公司與其服務(wù)可以進(jìn)行互聯(lián)互通、互操作的擔憂(yōu)。

這就意味著(zhù),要想進(jìn)入歐盟,蘋(píng)果就無(wú)法完全將Apple Intelligence的隱私安全性掌握在自己的手中,這是蘋(píng)果所不能容忍的。

這里值得一提的是歐盟的DMA。

DMA,即《數字市場(chǎng)法案》,是歐盟在2024年3月7日正式落地生效的、用于狙擊科技巨頭壟斷問(wèn)題的一項法案。

該項法案將蘋(píng)果、谷歌、微軟、亞馬遜等一眾科技巨頭定義為“gatekeeper”,要求這些科技巨頭在數據訪(fǎng)問(wèn)、數據共享、隱私保護在內的22項核心產(chǎn)品與服務(wù)上進(jìn)行整改。

蘋(píng)果此前曾允許將第三方瀏覽器設置為默認瀏覽器,正是為了應對這一法案做出的調整。

嚴格意義上來(lái)說(shuō),DMA針對的是科技巨頭的壟斷問(wèn)題,但蘋(píng)果一直賴(lài)以維系的是閉環(huán)生態(tài)為硬件產(chǎn)品帶來(lái)的干凈體驗,類(lèi)似默認瀏覽器這類(lèi)權限的逐步開(kāi)放,意味著(zhù)蘋(píng)果閉環(huán)生態(tài)在歐盟將被打開(kāi)一個(gè)缺口。

尤其是今年蘋(píng)果將大模型提上日程,Apple Intelligence進(jìn)入落地階段,在首限DMA的同時(shí),歐盟還有著(zhù)全球最嚴格的數據保護條例GDPR。

在此之前,包括蘋(píng)果、谷歌、微軟等一眾科技巨頭,都曾在歐盟因數據安全和隱私問(wèn)題遭受過(guò)數億,乃至數十億歐元的巨額罰款。

就在今年3月,谷歌就曾在法國因違規使用當地新聞和出版機構的數據訓練大模型,拿到了一張2.5億歐元(約19.7億元)的罰單。

Apple Intelligence今年不進(jìn)歐盟,除了受限DMA法案,顯然也有著(zhù)隱私安全因素的考量。

03

高效、安全難兼得

一個(gè)全新業(yè)態(tài)到來(lái)之時(shí),初期的野蠻生長(cháng)往往是一種必然,大模型當然也不例外。

從以深度學(xué)習為計算范式的人工智能,到如今以生成式AI、大模型為計算范式的人工智能,我們看到了人工智能已經(jīng)是一個(gè)不可逆的趨勢。

然而,隨著(zhù)大模型進(jìn)入產(chǎn)業(yè),尤其是在進(jìn)入消費市場(chǎng)時(shí),面對數億十億計、沒(méi)有專(zhuān)業(yè)的隱私安全分析能力的普通消費者,如何在標準、規范,乃至政策監管層面為普通消費者擋去這一時(shí)代洪流下的安全隱患,就成了一個(gè)最具挑戰的任務(wù)。

從這個(gè)角度來(lái)看,無(wú)論是微軟Recall在美國社會(huì )層面遭受到的安全質(zhì)疑,還是蘋(píng)果Apple Intelligence進(jìn)入歐盟受到的阻力,都算是一件好事。

最近還有另外兩件事兒,鋅產(chǎn)業(yè)從中看到了企業(yè)對于大模型的隱私安全在技術(shù)側和產(chǎn)品側的主動(dòng)防御。

其一是前OpenAI聯(lián)合創(chuàng )始人、首席科學(xué)家Ilya Sutskever最近離職創(chuàng )業(yè)了,做了一家名為Safe Super intelligenceinc(SSI)的公司。

此前,OpenAI內部一直分為激進(jìn)派和保守派兩大派系,激進(jìn)派認為應該通過(guò)資本手段全力推進(jìn)大模型產(chǎn)品迭代演進(jìn),保守派則認為更應關(guān)注大模型的安全性和可解釋性。

Ilya是OpenAI保守派的代表人物,在去年那場(chǎng)宮斗大戲后,Ilya最終在今年5月官宣離職,隨后如愿拉團隊單獨成立了一個(gè)聚焦大模型安全的公司,Ilya稱(chēng),新團隊將只關(guān)注安全的超級智能。

由這一理念驅動(dòng)的大模型技術(shù)研究路徑,以及未來(lái)可能由SSI或受SSI影響的其他團隊創(chuàng )造出的、將隱私安全貫徹到超級智能體中的方法論,將會(huì )成為大模型未來(lái)產(chǎn)業(yè)化過(guò)程中的一項配套基礎設施。

其二是在今年HDC 2024上,華為官方提到了搭載盤(pán)古大模型的純血鴻蒙系統的一個(gè)安全理念——從以往的授權應用權限,調整為授權數據權限。

以某個(gè)APP注冊時(shí)需要使用用戶(hù)的圖庫權限,現在在純血鴻蒙上則只需要提供某一張圖片的權限,提供這張圖片的使用權。

另外,在分享某個(gè)文件給好友時(shí),通過(guò)加密,這一文件將只有被分享好友可以看到,二次轉發(fā)后,其他人也無(wú)法看到文件內容。

作為新一代生產(chǎn)力工具,大模型帶來(lái)的高效性和便利性已經(jīng)不言而喻,對于這一技術(shù)的學(xué)習、應用,也成了一種“不得不”。

微軟和蘋(píng)果遇到的困境為所有人提了個(gè)醒,如何兼顧大模型的高效性和安全性,將會(huì )是這個(gè)時(shí)代接下來(lái)一個(gè)永恒的主題。

微軟 大模型 安全
評論
還可輸入300個(gè)字
專(zhuān)欄介紹
鋅產(chǎn)業(yè)
18篇文章
用技術(shù)范式,給未來(lái)一個(gè)解釋。
+關(guān)注
400-858-9000
免費服務(wù)熱線(xiàn)
kefu@trjcn.com
郵箱
09:00--20:00
服務(wù)時(shí)間
18658148790
投訴電話(huà)
投融界App下載
官方微信公眾號
官方微信小程序
Copyright ? 2024 浙江投融界科技有限公司(www.thepeninsulapress.com) 版權所有 | ICP經(jīng)營(yíng)許可證:浙B2-20190547 | 浙ICP備10204252號-1 | 浙公網(wǎng)安備33010602000759號
地址:浙江省杭州市西湖區留下街道西溪路698號15號樓509室
浙江投融界科技有限公司trjcn.com版權所有 | 用戶(hù)協(xié)議 | 隱私條款 | 用戶(hù)權限
應用版本:V2.7.8 | 更新日期:2022-01-21
 安全聯(lián)盟
在線(xiàn)客服
手機APP
微信訂閱