对于手机厂(chang)商而言，隐(yin)私保护与数据安全是摆在眼前的必(bi)答题。日前，在对外经贸大学举办的“边缘计算新纪元：端(duan)侧大型语言模型的应用、风险与治理前瞻”研(yan)讨会上(shang)，多(duo)位专家学者分享(xiang)了对这(zhe)一主(zhu)题的看法。
南(nan)都记(ji)者注意到，AI变身“贴心助(zhu)理”的同时，如何回应用户的隐(yin)私期待，是不少专家关心的问题。有专家建议，需建立严格的双(shuang)重授(shou)权与合(he)理期待机制来平衡技术发展与风险防范。还有研(yan)究者呼吁，构建以信任为核心的交互边界(jie)框架，充分敬重用户的知情权，为用户提供(gong)“不用于模型训练优(you)化”等选择，提升用户对数据使用的理解和控(kong)制。
另一个(ge)备受(shou)关注的议题是，数据安全责(ze)任分配。当AI智能体成为新的流量入口，用户数据的控(kong)制权也在发生(sheng)转移，终端(duan)厂(chang)商掌握了更多(duo)的主(zhu)动权。一旦AI智能体能无(wu)缝(feng)访问各(ge)类App，那(na)么App服务提供(gong)者将失去与用户的直(zhi)接(jie)接(jie)触点，这(zhe)也使得(de)数据安全和隐(yin)私保护的责(ze)任边界(jie)变得(de)复杂模糊。
端(duan)侧大模型的隐(yin)私挑(tiao)战：
用户期待与实际风险有差距
当AI接(jie)管手机，是什么样的场景？
理想状态下，通过一句话指令，AI手机可以帮你打开一众App，实现点咖啡、发微(wei)信消息等自动操作(zuo)。但AI提供(gong)便(bian)捷和贴心服务的前提，建立在大量的数据收集(ji)和使用基础上(shang)。为了让(rang)AI“更懂你”，用户需要让(rang)渡更多(duo)的个(ge)人隐(yin)私数据。过程中，如何避免数据隐(yin)私泄(xie)露问题至关重要。
北京大学法学院(yuan)副院(yuan)长、长聘副教授(shou)戴昕认为，端(duan)侧大模型治理的核心难题在于，绝大多(duo)数用户缺乏(fa)与“个(ge)人助(zhu)理”互动的经验，无(wu)法准确形成在这(zhe)一场景中有关个(ge)人信息使用的合(he)理预期。
中国人民(min)大学法学院(yuan)教授(shou)、未来法治研(yan)究院(yuan)副院(yuan)长丁晓(xiao)东也提到，端(duan)侧大模型对个(ge)人信息保护构成重大挑(tiao)战，主(zhu)要体现在用户期待与实际风险之间的巨大差距。大模型部署在硬件(jian)层面要实现智能化，必(bi)然需要调用相关信息作(zuo)为支(zhi)撑。比如，部分手机厂(chang)商调用了无(wu)障(zhang)碍(ai)权限。
南(nan)都此前测评发现，部分手机厂(chang)商调用了无(wu)障(zhang)碍(ai)服务、一键识屏、模拟点击等高敏感权限，这(zhe)使得(de)用户手机屏幕上(shang)的所有内容都有可能被读取——包括文字、图片、聊天记(ji)录、交易信息等。测评还发现，在用户可能不知情的情况下，个(ge)别AI手机智能体自动调用开启了无(wu)障(zhang)碍(ai)权限。
“普通用户可能把手机视为一个(ge)上(shang)锁的笔记(ji)本，而无(wu)障(zhang)碍(ai)权限的开启相当于将所有抽屉一次(ci)性全部打开，这(zhe)远超出了用户的合(he)理预期。”丁晓(xiao)东说。
为应对端(duan)侧大模型带来的隐(yin)私与数据安全挑(tiao)战，丁晓(xiao)东认为，需建立严格的双(shuang)重授(shou)权与合(he)理期待机制来平衡技术发展与风险防范。具体而言，第(di)一重授(shou)权是应用厂(chang)商层面。端(duan)侧大模型必(bi)须首先获得(de)应用厂(chang)商的明(ming)确授(shou)权或许可。第(di)二重授(shou)权是用户层面，且应采用“选择加入”而非“默认启用”的机制。此外，还需要建立合(he)同之外的保障(zhang)，通过合(he)理信赖、侵权防范或个(ge)人信息保护机制建立用户合(he)理期待。
还有多(duo)位专家提及，应赋(fu)予用户更多(duo)的控(kong)制权。清华大学人工智能国际治理研(yan)究院(yuan)助(zhu)理研(yan)究员(yuan)宋雨鑫认为，智能体实行过程具有一定自主(zhu)性和随机性，使个(ge)人信息收集(ji)使用最小必(bi)要原则的适(shi)用面临困难。
为此，她(ta)建议构建以信任为核心的交互边界(jie)框架。在安全交互层面上(shang)，更强调用户权益保护，为用户提供(gong)更多(duo)数据使用选择权，如限制第(di)三方分享(xiang)、敏感信息搜集(ji)确认、删除对话数据、不用于模型训练优(you)化等。
AI与App争夺流量入口，
数据安全责(ze)任边界(jie)尚待厘清
当用户依靠AI手机智能体调用其他(ta)App时，预示着流量入口的迁移。一些(xie)App厂(chang)商担心，一旦AI代理能够无(wu)缝(feng)访问各(ge)类应用，那(na)么它们将失去与用户的直(zhi)接(jie)交互点。
此前有业内人士(shi)告诉南(nan)都记(ji)者，AI智能体的自动化操作(zuo)，可能会波及第(di)三方App的停留时长、广告推荐等获利模式，将原本的流量入口从App迁移至智能体，减少用户关注和使用App的频率。
AI与App争夺流量入口的背后，不仅关乎利润分配和商业模式的重构，也涉及数据权责(ze)分配问题。中国信通院(yuan)互联网法律研(yan)究中心主(zhu)任何波认为，AI手机在为用户带来便(bian)捷智能体验的同时，改(gai)变了移动互联网时代的数据生(sheng)态，打破了应用间数据相互隔离的格局，强化了终端(duan)厂(chang)商和模型服务提供(gong)商对数据的控(kong)制能力，多(duo)元主(zhu)体竞争博弈下数据安全和隐(yin)私保护的责(ze)任问题变得(de)更加复杂模糊。
在何波看来，多(duo)主(zhu)体数据收集(ji)和处理会引发责(ze)任认定困境。在端(duan)云协同的技术路线下，数据流转涉及手机厂(chang)商、应用开发者、第(di)三方服务提供(gong)商等多(duo)个(ge)主(zhu)体，任何单一主(zhu)体都难以完全掌握和控(kong)制整个(ge)服务链条上(shang)的数据处理情况。
而当前，各(ge)方在数据收集(ji)、使用、共享(xiang)过程中尚未形成明(ming)确的责(ze)任边界(jie)。中国社会科学院(yuan)法学研(yan)究所副研(yan)究员(yuan)唐林垚认为，在端(duan)云协同生(sheng)态中，终端(duan)厂(chang)商、应用开发者和云服务商都属于数据处理者，风险出现时可能相互推诿(wei)。他(ta)建议细化权限分类和动态告知义务，出台明(ming)确的端(duan)侧数据安全标准，并通过细腻度更高的法律规则实现责(ze)任划分。
安全和发展是一体两翼。南(nan)都记(ji)者注意到，在探(tan)讨数据治理挑(tiao)战的同时，与会专家也肯定了端(duan)侧大模型在提升处理能力、改(gai)善用户体验方面的积极价值。何波认为，大模型的快速发展为智能终端(duan)产业注入了新的活力。近一年以来，AI手机、AI PC密集(ji)发布，大模型在终端(duan)侧的部署应用已(yi)成为新的发展趋(qu)势(shi)。AI终端(duan)正处在“渗透(tou)初期”，随着技术的不断(duan)完善，AI终端(duan)将驱动消费电子新一轮的增长曲线。
在确保安全的前提下，如何促进AI手机行业健康持(chi)续发展？何波建议，统筹近期和中远期的关系(xi)，综合(he)运用技术和制度政策等多(duo)种手段促进规范发展。
具体而言，他(ta)认为近期可针对已(yi)暴(bao)露的突出问题（如数据隐(yin)私保护），通过开展专项检测行动，将端(duan)侧大模型纳入现有个(ge)人信息保护监测体系(xi)、加强安全测评等技术手段进行治理。中远期则可考虑通过立法方式，对端(duan)侧大模型的功能发展进行规范，包括制定新法和修订现有法律。
端(duan)侧大模型所带来的既是“充满光明(ming)的未来”，也面临“布满荆棘的路途”。对外经济贸易大学法学院(yuan)教授(shou)张欣(xin)提到，2024年被誉为“AI手机元年”，这(zhe)一背后体现的是产业技术与应用的跨越(yue)式发展。如何共同探(tan)索端(duan)侧大模型在移动智能终端(duan)的未来发展方向(xiang)，厘清各(ge)种技术路径(jing)的潜在收益与风险，凝(ning)聚产业生(sheng)态共识，备受(shou)关注。
采写：南(nan)都记(ji)者李玲