訂閱
糾錯(cuò)
加入自媒體

當(dāng)AI侵入你的手機(jī),他們打開了“上帝之眼”

 當(dāng)我半躺在沙發(fā)上,終于克服了自言自語的羞恥感,對(duì)著手機(jī)AI助手喊了一句:“黃燜雞米飯”,新買的手機(jī)屏幕上頁面緩緩翻動(dòng),像真人的手指在滑動(dòng)漸次打開了外賣軟件的店鋪。我呆眼注視大約5秒鐘,有幾家附近的門店供我挑選。

它還能幫我做的更多。比如寫小紅書文案、盡管文才實(shí)在平平;還能翻看我的微信聊天記錄設(shè)置日程;試圖記憶我的習(xí)慣,幫我推薦各種功能。

水哥倍感神奇之余,卻突然意識(shí)到,我在手機(jī)的全部信息,在廠商面前全部赤裸了,我操作的習(xí)慣,在各種APP留下的信息,都被手機(jī)盯著,然后它根據(jù)我的信息猜測我要什么,雖然功能還很弱智,但信息抓取的范圍越來越大,且信息被大模型抓取后去向不明。更讓人不禁寒毛倒豎。

在以前不是這樣的,手機(jī)廠商是不能這樣干的。

無論蘋果IOS還是安卓系統(tǒng)都內(nèi)置了“App沙箱隔離機(jī)制” 阻止各個(gè)App相互讀取數(shù)據(jù);以及 “權(quán)限控制框架” 約束手機(jī)廠商也不能在未經(jīng)用戶同意的情況下獲取敏感信息。不過,手機(jī)企業(yè)的自家手機(jī)自帶的AI助手,卻借助一項(xiàng)系統(tǒng)級(jí)權(quán)限——無障礙服務(wù)權(quán)限,悄悄打開了自家AI的上帝之眼,開始跨應(yīng)用的模擬操控,啟用“上帝模式”。

而無障礙服務(wù)是一項(xiàng)專對(duì)殘障人士開發(fā)的高度敏感權(quán)限,讓他們可以借助屏幕閱讀器,“聽”到屏幕信息,利用自動(dòng)點(diǎn)擊,減少手動(dòng)操作。

這個(gè)權(quán)限為手機(jī)企業(yè)的AI助手,迅速打開了應(yīng)用場景,但也讓用戶手機(jī)后門大開,隱私數(shù)據(jù)、資金安全最后的圍欄,可能已經(jīng)被強(qiáng)行突破。

為什么這些手機(jī)企業(yè)要冒天下之大不韙,把手悍然伸入用戶的禁地?

新機(jī)市場持續(xù)萎縮,類似谷歌的新玩家,類似魅族、中興手機(jī)重新回歸的老玩家,有增無減,生存焦慮、洗牌風(fēng)險(xiǎn)持續(xù)加大。

也有危機(jī)感來自于AI技術(shù)極強(qiáng)的顛覆性,“5年后手機(jī)和APP都沒了”,未來,所有交互由AI實(shí)時(shí)生成、預(yù)測與完成,馬斯克最新暴論,更是讓整個(gè)移動(dòng)產(chǎn)業(yè)打了個(gè)冷顫。

另外,通過無障礙通道打開了上帝模式的AI助手,讓手機(jī)企業(yè)有更多操縱軟件生態(tài)實(shí)現(xiàn)貨幣化的手段。比如,流量分發(fā)等。

在這種危機(jī)感和利益誘惑面前,在定制系統(tǒng)權(quán)限給予的方便面前,很多手機(jī)廠商不甘本分,終于選擇了鋌而走險(xiǎn),而用戶基本上沒有選擇。

手機(jī)企業(yè)打開 “上帝模式”

從應(yīng)用生態(tài)到資本市場,AI已經(jīng)深刻改變今天互聯(lián)網(wǎng)產(chǎn)業(yè)的面貌。

AI算力成本大降,每百萬token的成本,從年初的上百美金,被Deepseek打到了幾塊錢人民幣的白菜價(jià),在這個(gè)基礎(chǔ)上,AI進(jìn)程全面加速,以AI重構(gòu)應(yīng)用、功能,以及硬件的創(chuàng)新更是層出不窮。

OpenAI推出了AI視頻生成應(yīng)用Sora,還做起了瀏覽器,字節(jié)忙著讓豆包AI“上鏈接”,阿里的夸克進(jìn)軍AI眼鏡。

手機(jī)廠商也不甘人后,紛紛推出了自己的AI手機(jī),試圖從硬件、系統(tǒng)到應(yīng)用層面,以AI創(chuàng)新重構(gòu)產(chǎn)品,甚至重構(gòu)整個(gè)移動(dòng)產(chǎn)業(yè)價(jià)值鏈的價(jià)值分布。

“一句話操作”正成為手機(jī)廠商主推的營銷亮點(diǎn),只需要一句話,手機(jī)智能體就能在多個(gè)App之間完成訂票、點(diǎn)餐、取消續(xù)費(fèi)等復(fù)雜任務(wù)。 

從產(chǎn)品發(fā)布的演示和宣講來看,AI交互包裝成的想象力成為新賣點(diǎn),通過無摩擦設(shè)計(jì)款,構(gòu)筑了一層靜態(tài)屏幕感知的智能,實(shí)現(xiàn)多步推理、把握上下文和跨平臺(tái)操作。

但是實(shí)際落地很多時(shí)候,AI幻覺帶來的低準(zhǔn)確率和“讀取屏幕”模擬點(diǎn)擊的操作時(shí)延,讓這種操作效率大打折扣,但是帶來的安全風(fēng)險(xiǎn)卻不打折扣。

如果從原理上去看,目前的AI助手很多功能都是通過使用安卓系統(tǒng)原本給殘障人士開發(fā)的“無障礙通道”來實(shí)現(xiàn)的。當(dāng)你點(diǎn)一杯咖啡的時(shí)候,手機(jī)把你默認(rèn)為是殘障人士,它通過讀取你手機(jī)屏幕的信息,代替你的手,來一步步點(diǎn)擊。當(dāng)你做工作日程的時(shí)候,它讀取你在各種應(yīng)用的信息,直接交給大模型分析操作。

對(duì)這種無障礙通道的利用,我看到有網(wǎng)絡(luò)安全專家發(fā)出提醒——無障礙功能主要賦予了手機(jī)智能體三種能力:首先,讀取屏幕上的所有內(nèi)容——包括銀行卡信息、特殊密碼鍵盤和聊天記錄,而不僅僅是某個(gè)特定數(shù)據(jù)。接著,模擬操作點(diǎn)擊、滑動(dòng)、輸入等一系列交互動(dòng)作的能力,使其可以像人類手指一樣操作手機(jī)。最后,跨應(yīng)用控制。無障礙功能相當(dāng)于一張萬能門禁卡,可以繞過不同App之間的隔離,跨程序調(diào)用所需內(nèi)容。

這種能力被稱為“上帝模式”。

有時(shí)候這些權(quán)限開通甚至不會(huì)通知用戶。根據(jù)權(quán)威機(jī)構(gòu)媒體的實(shí)測,手機(jī)AI智能體有眾多復(fù)雜的服務(wù)協(xié)議,其中,vivo等廠商并未明確寫明,哪些AI功能會(huì)調(diào)用無障礙權(quán)限。

OPPO在個(gè)人信息保護(hù)政策中明確表示,小布識(shí)屏?xí){(diào)用無障礙服務(wù),且開啟權(quán)限前不詢問,用戶也不可關(guān)閉權(quán)限。

而且,第三方大模型企業(yè)也嗅到了其中的商機(jī),智譜推出的“云手機(jī)”——AutoGLM,上面搭載的大量App,登陸這些應(yīng)用后,一句話即可操作抖音、小紅書、美團(tuán)、京東等40余款應(yīng)用,可能會(huì)繼續(xù)擴(kuò)大在終端廠商濫用無障礙權(quán)限的風(fēng)險(xiǎn)。

在AI侵入個(gè)人空間的關(guān)鍵節(jié)點(diǎn),缺乏透明度地大規(guī)模引入強(qiáng)大的“侵入式AI”,難免讓人擔(dān)心,長期以往將損害用戶的長期利益以及信任。

侵入式AI的數(shù)據(jù)黑箱

“蘋果公司的隱私政策,只有用戶明確同意的情況下,蘋果公司才能共享用戶的信息。”這種對(duì)用戶隱私的充分尊重,讓蘋果的用戶得到了安全,讓蘋果得到了用戶。

對(duì)用戶隱私、應(yīng)用生態(tài)的輕忽,其實(shí)互為因果。前述端側(cè)AI都有一個(gè)共性,未經(jīng)三方授權(quán),侵入第三方App,讀取和使用其用戶信息,帶來巨大的隱私和數(shù)據(jù)安全風(fēng)險(xiǎn),可統(tǒng)稱為——侵入式AI。

這種侵入式AI,帶來的AI識(shí)屏、AI輔助操作,涉及的風(fēng)險(xiǎn)本質(zhì)是AI應(yīng)用需要解決兩大關(guān)切——數(shù)據(jù)從哪里來,數(shù)據(jù)會(huì)到哪里去。 

數(shù)據(jù)流轉(zhuǎn)的鏈路越長,泄漏的風(fēng)險(xiǎn)越大。

從數(shù)據(jù)流轉(zhuǎn)層面看,由于端側(cè)模型的算力限制,使得數(shù)據(jù)上云成為必然,但是,在缺乏妥善方案前將大量讀屏數(shù)據(jù)上云,無異于數(shù)據(jù)裸奔。

而且,數(shù)據(jù)通常還需與第三方大模型企業(yè)共享,第三方隱私政策往往更寬松,進(jìn)一步放大了敏感信息泄露的風(fēng)險(xiǎn)。

馬斯克就曾直接指出:“若蘋果在操作系統(tǒng)中整合OpenAI,公司將禁止使用蘋果設(shè)備。這被視為不可接受的安全違規(guī)行為。”

可以看出,這種侵入式AI打破了傳統(tǒng)的隱私保護(hù)和數(shù)據(jù)安全秩序。相關(guān)安全責(zé)任應(yīng)當(dāng)如何劃分、由誰承擔(dān)?侵入式AI應(yīng)用、被侵入的應(yīng)用,還是第三方大模型企業(yè)?

這種入侵風(fēng)險(xiǎn)其實(shí)已經(jīng)逐漸顯山露水。新華社今年3月報(bào)道了一則真實(shí)案例,“中銀會(huì)議”“抖音會(huì)議”等詐騙軟件,就是通過“屏幕共享”功能,看到事主在手機(jī)上的所有操作,看到事主輸入的銀行卡賬號(hào)、密碼、驗(yàn)證碼等,甚至能夠直接操控事主的手機(jī),最終完成轉(zhuǎn)賬詐騙。

另外,我在小紅書上看到一位用戶也發(fā)帖稱:脊背發(fā)涼,用AI屏幕共享輔導(dǎo)小外甥女寫作文。AI潤色的作文里居然有自己的小區(qū)名字!該博主以為是靈異事件,研究半天,后來發(fā)現(xiàn)自己群名里有這個(gè)信息,只能說幸好泄露的不是其他信息。

另外,我在搜索無障礙權(quán)限的時(shí)候,一些大學(xué)生群體在社交平臺(tái)吐槽學(xué)校要求使用的一款運(yùn)動(dòng)APP,就需要授權(quán)無障礙模式,以“領(lǐng)取福利”,結(jié)果是無盡的廣告,還有用戶在下面留言稱,看著自己的手機(jī)屏幕,半夜自己在操作!

這些風(fēng)險(xiǎn)如果蔓延開去,只會(huì)耽誤我們AI產(chǎn)業(yè)的進(jìn)程,讓所謂捷徑,變成彎路。

交互方式的演進(jìn)不可逆轉(zhuǎn),但是它也有很多從硬件、軟件到標(biāo)準(zhǔn)的基礎(chǔ)設(shè)施需要逐步搭建,下苦功夫,去建立起兼顧用戶安全與行業(yè)生態(tài)的行業(yè)協(xié)同標(biāo)準(zhǔn),才是長遠(yuǎn)之計(jì)。

從歐美市場看到,AI應(yīng)用之間的交互,并非只有走無障礙通道的模式,以MCP代表的協(xié)議模式,實(shí)際上提供了更安全的思路,通常使用權(quán)責(zé)明確的框架協(xié)議、明確的工具集成和清晰的行動(dòng)范圍進(jìn)行沙盒化,可能才是一種對(duì)用戶與產(chǎn)業(yè)更負(fù)責(zé)任的創(chuàng)新路徑。

亡羊補(bǔ)牢,未為晚也,今年春季開始,國內(nèi)對(duì)智能體“讀屏操作”規(guī)則開始密集推進(jìn)。在風(fēng)險(xiǎn)尚未大規(guī)模擴(kuò)散的今天,正是未雨綢繆的窗口期。

手機(jī)企業(yè)“貨幣化”,用戶買單

在硬件低價(jià)廝殺中,很多手機(jī)企業(yè)選擇在用戶生態(tài)中尋找利潤空間。很多廠商早已經(jīng)把手伸到了軟件生態(tài)當(dāng)中,預(yù)裝、渠道分成,廣告,甚至消費(fèi)金融。

入侵式AI,不過是手機(jī)企業(yè)對(duì)移動(dòng)互聯(lián)網(wǎng)生態(tài)進(jìn)行貨幣化的一種新手段。一旦把挖空心思給用戶賣流量作為主要利潤來源,手機(jī)廠商,與自己的手機(jī)生態(tài),處在了對(duì)立面。

既當(dāng)裁判員,又當(dāng)運(yùn)動(dòng)員。這種左右互搏,也導(dǎo)致手機(jī)企業(yè)過度依賴生態(tài)牟利,而非品牌溢價(jià),系統(tǒng)體驗(yàn)長期難以提升。

強(qiáng)行貨幣化的手段,還有擾亂從應(yīng)用到AI服務(wù)的分發(fā)。

很多用戶下載APP會(huì)經(jīng)常遇到,從手機(jī)自帶的應(yīng)用商店中下載一路暢通,但若從第三方應(yīng)用平臺(tái)如360手機(jī)助手、應(yīng)用寶、TAGTAG、豌豆莢等下載時(shí),就會(huì)頻繁遭遇“風(fēng)險(xiǎn)提示”,讓消費(fèi)者面臨“想要的軟件下載不了,不想要的軟件頻繁推薦”的困境,此類“系統(tǒng)攔截”在信息層面對(duì)用戶進(jìn)行流量劫持,侵害消費(fèi)者的自主選擇權(quán)。

這種在應(yīng)用分發(fā)的過度漁獵,也引來了應(yīng)用開發(fā)者的斷臂式硬剛。

近日,有不少網(wǎng)友發(fā)帖反映OPPO渠道服多款網(wǎng)易游戲停服,早在去年11月,網(wǎng)易旗下的《陰陽師:妖怪屋》曾發(fā)布OPPO渠道版本停運(yùn)公告,隨后多款網(wǎng)易游戲紛紛跟進(jìn)。進(jìn)入2025年,又有多款游戲相繼在OPPO停服。

有行業(yè)人士分析,這或許與游戲行業(yè)傳統(tǒng)安卓渠道“高分成”模式有關(guān),分成比例最高可達(dá)50%,顯著高于國際主流的30%。

而在海外中小開發(fā)者也曾飽受蘋果稅的困擾,但是這一狀況正在悄然轉(zhuǎn)變,歐盟對(duì)蘋果的處罰,打破了蘋果AppStore與谷歌GooglePlay的長期壟斷,一年間歐盟第三方應(yīng)用商店數(shù)量激增至47家。

反觀國內(nèi),AI一日千里,讓國內(nèi)手機(jī)廠商有了對(duì)軟件生態(tài)進(jìn)一步貨幣化的籌碼。

多家手機(jī)廠商自家的AI,已經(jīng)擠進(jìn)了AI原生APP用戶規(guī)模增量TOP10,AI的出現(xiàn),不但被他們看作硬件市場決勝的關(guān)鍵先生,也被他們當(dāng)成了對(duì)改變軟件生態(tài)格局,從中漁利的超級(jí)入口。

蘋果、華為、vivo、OPPO都已推出各自的意圖框架,但是,原子化服務(wù)能否被調(diào)用、調(diào)用順序如何,取決于廠商的合作關(guān)系與利益分配,而非服務(wù)質(zhì)量,從一開始已經(jīng)扭曲了AI生態(tài)應(yīng)用創(chuàng)新的激勵(lì)機(jī)制,難免劣幣驅(qū)逐良幣。

畢竟里面利益巨大,前述大學(xué)生吐槽的開啟無障礙模式的跑步軟件,之后廣告彈窗就沒停過,電量和流量耗得非常非常快。這里面都是利潤的來源。

手機(jī)的端側(cè)AI,從無障礙功能濫用中,獲取了巨大的競爭優(yōu)勢,這些都會(huì)轉(zhuǎn)化為服務(wù)、流量分發(fā)的廣告來源,以及商業(yè)優(yōu)勢。

作為底層系統(tǒng)掌控者,手機(jī)企業(yè)一方面利用系統(tǒng)級(jí)底層權(quán)限,強(qiáng)勢推進(jìn)入侵式AI,一方面通過攔截三方App導(dǎo)流的動(dòng)作,收窄三方App獲客的通道,使得中小應(yīng)用生存空間遭受系統(tǒng)性擠壓。

更重要的是,用戶的隱私權(quán),以及“自主選擇應(yīng)用獲取渠道”的正當(dāng)權(quán)利,也遭到了悍然侵犯。

手機(jī)企業(yè)應(yīng)該找準(zhǔn)自己的生態(tài)位置,如果硬件低價(jià)廝殺,指望圈住用戶過度運(yùn)營,從戰(zhàn)略上看,就已經(jīng)失焦了。再因?yàn)槎唐诶,侵犯用戶隱私,把自己軟件開發(fā)生態(tài)攪亂,應(yīng)用體驗(yàn)的競爭力從何談起。

這種不甘心本分,伸手太長的事,還是少做。

就如喬幫主所言,我們應(yīng)該有“免于被某些程序侵犯隱私的自由,免于被某些程序浪費(fèi)電池的自由”。我們也應(yīng)該有免于被選擇應(yīng)用、免于被選擇服務(wù),免于被這種充斥著利益交換的入侵式AI,侵犯我們隱私甚至資產(chǎn)安全的自由。

只有當(dāng)這些自由,得到尊重、正視,才能讓AI的新世界,建立在寬厚、堅(jiān)實(shí)的大地之上,而非架于流沙之上,最后白忙一場。

       原文標(biāo)題 : 當(dāng)AI侵入你的手機(jī),他們打開了“上帝之眼”

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請輸入評(píng)論內(nèi)容...

請輸入評(píng)論/評(píng)論長度6~500個(gè)字

您提交的評(píng)論過于頻繁,請輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評(píng)論

暫無評(píng)論

    人工智能 獵頭職位 更多
    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)