當(dāng)手機(jī)里住進(jìn)“超級(jí)管家”

　　◎本報(bào)記者 張蓋倫

　　“幫我對(duì)比一下各大外賣(mài)平臺(tái)上哪家的肯德基漢堡更便宜�！痹谟啥拱�和中興合作開(kāi)發(fā)的手機(jī)上，這種工作可以由其搭載的豆包手機(jī)助手絲滑完成。

　　人工智能（AI）助手先理解用戶(hù)需求，然后模擬點(diǎn)擊、滑動(dòng)和輸入等動(dòng)作，選定優(yōu)惠力度最佳的那家外賣(mài)平臺(tái)。用戶(hù)可以繼續(xù)讓手機(jī)助手下單，只需在付款時(shí)確認(rèn)。

　　12月1日，豆包手機(jī)助手預(yù)覽版剛一發(fā)布，便引起廣泛關(guān)注，爭(zhēng)議和疑慮隨之而來(lái)。

　　手機(jī)里住進(jìn)了一個(gè)“超級(jí)管家”，在對(duì)它說(shuō)一聲“歡迎光臨”之前，還有哪些事情需要考慮？

　　權(quán)限升級(jí)是把“雙刃劍”

　　其實(shí)，在豆包手機(jī)助手之前，AI助手已經(jīng)出現(xiàn)于多種手機(jī)里，這些助手也就是所謂的智能體。

　　北京漢華飛天信安科技有限公司總經(jīng)理彭根介紹，這類(lèi)智能體經(jīng)常會(huì)調(diào)用手機(jī)的無(wú)障礙服務(wù)權(quán)限，這原本是手機(jī)為殘障人士和老年人提供的輔助功能，通過(guò)讀取屏幕內(nèi)容、模擬點(diǎn)擊、監(jiān)聽(tīng)通知等幫助視障、聽(tīng)障、運(yùn)動(dòng)障礙等用戶(hù)使用手機(jī)�，F(xiàn)在，無(wú)障礙權(quán)限從“能力補(bǔ)全”升級(jí)為“能力增強(qiáng)”，搭配智能體后成為人類(lèi)的“自動(dòng)化助手”。

　　在此次豆包和中興合作推出的手機(jī)里，智能體調(diào)用的權(quán)限更為高級(jí)，它叫注入事件。

　　技術(shù)從業(yè)人員分析認(rèn)為，這種權(quán)限意味著手機(jī)方用自己的系統(tǒng)私鑰簽名，將豆包手機(jī)助手設(shè)置成了操作系統(tǒng)的一部分。正是有了“注入事件”，才有了絲滑、無(wú)感的跨應(yīng)用操作體驗(yàn)。

　　無(wú)論是注入事件式權(quán)限還是無(wú)障礙權(quán)限，均屬于一種系統(tǒng)級(jí)權(quán)限。彭根分析，智能體調(diào)用系統(tǒng)級(jí)權(quán)限其實(shí)帶來(lái)了兩大核心風(fēng)險(xiǎn)。一是權(quán)限的無(wú)邊界擴(kuò)張。傳統(tǒng)權(quán)限具有單一性和規(guī)定性，一把鑰匙開(kāi)一間屋子的鎖，但如果調(diào)用無(wú)障礙權(quán)限或者進(jìn)程注入權(quán)限，擁有的是整棟大樓的鑰匙。二是行為主體的模糊化。AI成為實(shí)際操作主體，其操作速度也遠(yuǎn)超人類(lèi)反應(yīng)速度，用戶(hù)可能失去對(duì)設(shè)備的直接控制。

　　彭根介紹，部分黑產(chǎn)已經(jīng)利用無(wú)障礙權(quán)限實(shí)現(xiàn)驗(yàn)證碼自動(dòng)采集、搶票購(gòu)物自動(dòng)化等操作，這類(lèi)AI操作路徑擬人化程度極高，傳統(tǒng)反制手段難以識(shí)別。

　　大多情況需要雙重授權(quán)

　　不過(guò)，豆包方面也表示，豆包手機(jī)助手需要用戶(hù)主動(dòng)授權(quán)，才可以調(diào)用注入事件權(quán)限。對(duì)該權(quán)限的使用，其也在權(quán)限清單中進(jìn)行了明確披露。豆包手機(jī)助手也不會(huì)代替用戶(hù)進(jìn)行相關(guān)授權(quán)和敏感操作。

　　已經(jīng)有了用戶(hù)授權(quán)，還需不需要平臺(tái)授權(quán)？用戶(hù)將大樓鑰匙交了出去，第三方應(yīng)用可以“閉門(mén)謝客”嗎？

　　對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)法學(xué)院教授、數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可介紹了發(fā)生在美國(guó)的Perplexity案。

　　該案中，被告Perplexity是一家AI公司，其通過(guò)亞馬遜付費(fèi)會(huì)員賬號(hào)幫助用戶(hù)購(gòu)物，被亞馬遜指控違法并給自身造成商業(yè)損失。Perplexity則主張自己是“用戶(hù)授權(quán)的代理人”，認(rèn)為亞馬遜的指控是一種霸凌。

　　許可指出，該案核心爭(zhēng)議反映了一種法律困境：AI助手聲稱(chēng)是用戶(hù)權(quán)利延伸，但平臺(tái)認(rèn)為其行為破壞了商業(yè)生態(tài)和安全秩序。

　　他打了個(gè)比方：假設(shè)你是銀行的客戶(hù)，把錢(qián)存在銀行保險(xiǎn)柜里。如果第三方拿著槍代表你到保險(xiǎn)柜里取錢(qián)，此時(shí)銀行有權(quán)拒絕他，因?yàn)楸M管有用戶(hù)授權(quán)，銀行還是不放心這個(gè)擁有強(qiáng)大能力的第三方。

　　“在很多情況下，用戶(hù)權(quán)益和平臺(tái)權(quán)益都需要考慮，需要雙重授權(quán)甚至多重授權(quán)�！痹S可說(shuō)。

　　不過(guò)，也要區(qū)分兩種智能體形態(tài)：純粹的“代理人”（行為完全限定在用戶(hù)授權(quán)范圍）和“中介合作者”（可能存在自身利益訴求）。有法律專(zhuān)家指出，如果是純粹執(zhí)行用戶(hù)指令的非競(jìng)爭(zhēng)行為，可以適用更簡(jiǎn)易的授權(quán)流程。

　　亟待建立科學(xué)的制度規(guī)范

　　清華大學(xué)電子工程系信息系統(tǒng)研究所副所長(zhǎng)王鉞認(rèn)為，當(dāng)前智能體治理的核心困境在于未將其視為獨(dú)立行為主體。它們仿佛數(shù)字“幽靈”，頂著用戶(hù)的名義在互聯(lián)網(wǎng)空間持續(xù)交互。

　　王鉞提出，應(yīng)賦予智能體獨(dú)立身份，建立區(qū)分于自然人的數(shù)據(jù)通路——例如為智能體單獨(dú)設(shè)計(jì)接口，這樣既能發(fā)揮其增值服務(wù)價(jià)值，又能實(shí)現(xiàn)有效管控。他主張建立技術(shù)系統(tǒng)對(duì)智能體進(jìn)行評(píng)價(jià)，讓智能體像人一樣建立信用、形成聲譽(yù)，而不是僅僅用強(qiáng)監(jiān)管的思路去處理。

　　許可指出，法律和技術(shù)市場(chǎng)的關(guān)系很復(fù)雜，具體到智能體的治理來(lái)說(shuō)，事后基于個(gè)案的規(guī)則調(diào)整會(huì)比事前一刀切的行為設(shè)定更重要。王鉞也認(rèn)為，事前確定復(fù)雜規(guī)則很難適應(yīng)未來(lái)變化，也難以落地執(zhí)行。為了方便進(jìn)行事后救濟(jì)和調(diào)整，還應(yīng)在技術(shù)層面實(shí)現(xiàn)操作的“留痕”，強(qiáng)調(diào)智能體行為的“可回溯”。

　　“應(yīng)在包容審慎的框架下，平衡發(fā)展需求與安全需求，建立起合理且負(fù)責(zé)任的制度規(guī)范�！痹S可說(shuō)，隨著智能經(jīng)濟(jì)的來(lái)臨，我們必須超越舊有框架，摒棄“人—機(jī)—平臺(tái)互害”的零和博弈，構(gòu)想一幅“人—機(jī)—平臺(tái)共生”的新圖景。