科技日?qǐng)?bào)記者 王姍姍
只需向手機(jī)發(fā)出“幫我點(diǎn)一杯咖啡”指令，手機(jī)便根據(jù)時(shí)間、空間、行為、習(xí)慣等信息識(shí)別出用戶的品牌、口味、冰熱偏好，再自主打開常用的外賣APP，完成點(diǎn)單、填寫配送地址、付款等操作，全程可實(shí)現(xiàn)無人為輔助操作。這樣的便利的生活場(chǎng)景已經(jīng)成為現(xiàn)實(shí)。
近期，許多手機(jī)廠商推出自研或接入第三方大模型的手機(jī)智能體，如超級(jí)小愛、藍(lán)心智能、Bixby等。這些智能體在大模型和人工智能技術(shù)支撐下，可化身用戶“貼身助理”，自主完成點(diǎn)咖啡、群發(fā)微信紅包等操作。
“享受手機(jī)智能體帶來便利的同時(shí)，也要認(rèn)識(shí)到，此種便利是讓渡個(gè)人隱私數(shù)據(jù)換來的?！北本┬畔⒖萍即髮W(xué)計(jì)算機(jī)學(xué)院信息安全系主任、網(wǎng)絡(luò)空間安全學(xué)科副教授劉慧勇告訴科技日?qǐng)?bào)記者，當(dāng)AI開始接管手機(jī)，“用隱私換便利”這一老問題便在新的技術(shù)應(yīng)用場(chǎng)景中再次出現(xiàn)，如何回應(yīng)用戶的隱私期待，是手機(jī)智能體健康發(fā)展所無法回避的議題。
開啟“無障礙功能” 手機(jī)變“貼身助理”
記者從多個(gè)手機(jī)智能體發(fā)布會(huì)的公開信息發(fā)現(xiàn)，此類智能體多以人工智能技術(shù)為核心，整合語音識(shí)別、自然語言處理以及多模態(tài)感知能力，能提供信息查詢、AI寫作、草圖變圖片、視頻鎖屏等功能，實(shí)現(xiàn)了從基礎(chǔ)問答到主動(dòng)服務(wù)的跨越，手機(jī)儼然成為了用戶“貼身助理”。其中，少部分手機(jī)廠商通過內(nèi)置本地化端側(cè)大模型的方式，進(jìn)一步提升了人機(jī)交互的自然流暢度。
“手機(jī)智能體的使用，是建立在大量的數(shù)據(jù)收集和使用基礎(chǔ)上的，且往往需要用戶開啟‘無障礙功能’，繼而實(shí)現(xiàn)AI讀屏以及模擬點(diǎn)擊?！敝貞c大學(xué)計(jì)算機(jī)學(xué)院副教授李瑞遠(yuǎn)告訴說。
他解釋道，“無障礙功能”是安卓系統(tǒng)為殘障人士打造的一項(xiàng)專屬功能，包括了讀屏、放大屏幕、自動(dòng)點(diǎn)擊、增強(qiáng)音頻、更改字幕等便捷操作，旨在讓殘障人士和普通人一樣使用智能手機(jī)。手機(jī)智能體要實(shí)現(xiàn)“接管”手機(jī)，需要用戶授權(quán)開啟無障礙服務(wù)權(quán)限，再借助AI讀屏功能，訪問手機(jī)全部應(yīng)用，并像人一樣獲取、理解、分析屏幕界面元素，包括銀行卡信息、特殊密碼鍵盤和聊天記錄。最終，再模擬人的手指在手機(jī)上完成線上購物、轉(zhuǎn)賬、下載軟件等操作。
劉慧勇進(jìn)一步表示，一旦開啟“無障礙功能”，相當(dāng)于給手機(jī)安裝了一張萬能門禁卡，用戶在使用語音助手、智能推薦等功能時(shí)，手機(jī)智能體可無限制地獲取地理位置、應(yīng)用使用頻率、微信消息等隱私數(shù)據(jù)。部分手機(jī)智能體還會(huì)在用戶不知情的情況下，自動(dòng)開啟無障礙權(quán)限，“默默”收集用戶隱私數(shù)據(jù)。
對(duì)于通訊錄、短信記錄、通話記錄等敏感信息的獲取，劉慧勇表示，操作系統(tǒng)通常設(shè)有權(quán)限保護(hù)機(jī)制，必須經(jīng)過用戶顯式授權(quán)后才能訪問。但用戶若通過手機(jī)智能體完成語音發(fā)微信、一鍵發(fā)紅包等需要跨應(yīng)用捆綁授權(quán)的特定操作時(shí)，短信或微信權(quán)限則會(huì)被開放。
多方發(fā)力 避免“用隱私換便利”惡性循環(huán)
“技術(shù)的便利性與隱私風(fēng)險(xiǎn)，是一對(duì)天然的矛盾體。而行業(yè)標(biāo)準(zhǔn)和法律法規(guī)又常常滯后于技術(shù)應(yīng)用?！眲⒒塾抡J(rèn)為，當(dāng)前，手機(jī)智能體所收集使用的數(shù)據(jù)流轉(zhuǎn)于手機(jī)終端廠商、智能體開發(fā)者、云服務(wù)商等多個(gè)主體間，其所有權(quán)、使用權(quán)和控制權(quán)歸屬難以界定。一旦發(fā)生數(shù)據(jù)泄露，追責(zé)鏈條長、難以有效溯源。
劉慧勇舉例說，部分安全性不高的手機(jī)智能體，可能借助“無障礙功能”，在微信群中自動(dòng)發(fā)送紅包并誘導(dǎo)他人點(diǎn)擊，將資金轉(zhuǎn)入不法分子賬戶，造成用戶財(cái)產(chǎn)損失；抑或是將收集到的各類信息出售給第三方公司，造成“算法歧視”等?！暗捎诩夹g(shù)規(guī)范和防護(hù)機(jī)制的缺乏，用戶往往難以獲得挽回?fù)p失的有效渠道?！彼f。
對(duì)此，劉慧勇建議，手機(jī)廠商與系統(tǒng)平臺(tái)應(yīng)形成行業(yè)自律、完善技術(shù)創(chuàng)新，改善用戶數(shù)據(jù)處置流程的合法合規(guī)性，構(gòu)建更加智能化的內(nèi)部防御系統(tǒng)，防止智能體技術(shù)演進(jìn)過程中出現(xiàn)隱蔽的數(shù)據(jù)濫用問題。
此外，李瑞遠(yuǎn)建議手機(jī)廠商應(yīng)盡量提供支持端側(cè)AI功能的手機(jī)智能體應(yīng)用。云側(cè)AI雖然能提供更強(qiáng)的性能，但用戶數(shù)據(jù)須頻繁上傳云端，隱私暴露風(fēng)險(xiǎn)較大。端側(cè)AI支持?jǐn)?shù)據(jù)在手機(jī)等終端設(shè)備上進(jìn)行計(jì)算和處理，最大限度地減少數(shù)據(jù)傳輸，是一種“更私密”的解決方案。
西南政法大學(xué)民商法學(xué)院講師任龍龍表示，技術(shù)的落地離不開法律法規(guī)的約束。當(dāng)前，《中華人民共和國民法典》，以及《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個(gè)人信息保護(hù)法》等特別法，包括今年1月1日生效的《網(wǎng)絡(luò)數(shù)據(jù)安全管理?xiàng)l例》等法規(guī)，都對(duì)數(shù)據(jù)、個(gè)人信息、生成式人工智能等新興技術(shù)都進(jìn)行了相關(guān)規(guī)定。但手機(jī)智能體作為一種新的技術(shù)應(yīng)用，仍存在一些法律模糊地帶。
任龍龍建議，職能部門應(yīng)積極出臺(tái)相關(guān)政策、加大法律規(guī)制和監(jiān)管力度，通過更細(xì)膩的法律規(guī)則，細(xì)化數(shù)據(jù)分類與權(quán)責(zé)劃分，規(guī)避因惡意授權(quán)導(dǎo)致隱私泄漏事件的發(fā)生。
“在技術(shù)和法規(guī)尚未給出解法之前，用戶應(yīng)自行提高警覺?！比锡堼埍硎荆谑褂檬謾C(jī)智能體時(shí)，個(gè)人應(yīng)謹(jǐn)慎開啟“無障礙功能”，關(guān)閉智能體免密支付授權(quán)功能，定期查看手機(jī)隱私報(bào)告，及時(shí)發(fā)現(xiàn)并處理智能體操作異常行為。
