뀣电子杂志
년车辆查询

端侧大模型应用风险与治理前瞻研讨会举行

 

IMG_257

图为“边缘计算新纪元：端侧大型语言模型的应用、风险与治理前瞻”研讨会现场。    尹丽 摄

 

近日，“边缘计算新纪元：端侧大型语言模型的应用、风险与治理前瞻”研讨会在对外经济贸易大学举行。来自北京大学、清华大学、中国社会科学院、北京航空航天大学、华东政法大学、同济大学等高校的学者，中国信息通信研究院的专家以及人工智能行业从业者等三十余人参会，共同探讨端侧大模型应用的风险与治理议题。

AI（人工智能）向终端普及的前提是拥有足够轻量化的端侧语言大模型（On-Device LLMs），AI手机就是一个典型的应用。而支撑端侧语言大模型的技术力量，正是来自边缘计算这种分布式计算模式。

本次会议由对外经济贸易大学法学院教授、博士生导师张欣主持。会议设置4个专题讨论单元，国务院发展研究中心企业研究所跨国企业研究室主任马晓白，中央财经大学法学院副院长、教授刘权，中国科协创新战略研究院研究员武虹，南都数字经济治理研究中心负责人李玲分别担任各个讨论单元的主持人。

第一单元聚焦“端侧大模型的技术演进与智能移动终端产业全景探析”，北京汉华飞天信安科技有限公司董事长兼总经理、315信息安全技术实验室技术专家彭根和21世纪经济报道合规新闻部副主任、中国计算机行业协会（CCIA）数据安全工作委员会专家王俊分享了各自的专业见解。第二单元围绕“AI手机应用中的数据隐私保护与安全治理”展开，北京大学法学院副院长、长聘副教授戴昕，北京航空航天大学法学院副教授赵精武，中国社会科学院法学研究所副研究员唐林垚进行了深入阐述和观点交流。第三单元探讨“AI手机的安全风险评估与治理”，中国人民大学法学院教授、未来法治研究院副院长丁晓东，中国信通院互联网法律研究中心主任何波，同济大学法学院助理教授、上海市人工智能社会治理协同创新中心研究员朱悦以及中国信通院人工智能研究所高级业务主管呼娜英带来了各自领域的前沿思考。第四单元聚焦“AI手机应用中的人机交互范式与伦理边界”问题，华东政法大学法律学院副教授、华东政法大学数字法治研究院副院长韩旭至和清华大学人工智能国际治理研究院助理研究员宋雨鑫贡献了精彩的学术观点。

端侧大型语言模型正以突破性的技术创新和广泛的应用场景重塑智能计算的未来。2024年被业界称为“AI手机元年”，反映了产业在技术创新与应用场景上的跨越式发展。相关数据统计，2024年中国市场AI手机出货量已达到3700万台，2027年将达到1.5亿台，新一代AI手机所占市场份额将超过50%。从Meta的LLaMA、Microsoft的Phi系列，到DeepSeek-R1的亮相，端侧大模型正快速迈向轻量化、高性能与低功耗。DeepSeek的开源特性不仅降低了产业准入门槛，更促进了AI手机从高端旗舰向大众市场的普及。自去年起，众多国内手机厂商已积极布局，移动智能终端生态即将迎来新格局。

然而，大模型技术迅速演进的同时也带来了一系列治理挑战。与会专家指出，端侧大模型在移动终端部署时面临算力、内存和电池性能的硬性制约。目前AI手机与第三方应用的交互主要遵循两条技术路线：与开发商合作实现系统级API（即应用程序编程接口。其能令开发者通过提供一组预定义的接口，方便地实现特定的功能，而无需深入了解底层程序的实现细节）调用，或采用无障碍权限读屏。后者虽无需第三方授权，但需调用高敏感权限，可能读取用户手机上的所有内容，包括文字、图片、聊天记录和交易信息等。因此，专家强调，现阶段AI手机技术路线下的隐私数据泄露、系统控制权劫持和权限滥用隐蔽化等风险值得关注。在端云结合模式下，数据上云风险增大、厂商间配合复杂、数据流向不明等问题构成治理挑战。此外，当前AI手机应用还面临多主体责任认定困难和权限滥用等法律风险。

与会专家建议，应完善用户授权机制，避免一揽子授权，提升数据链路透明度，建立细化的权限分类、动态告知义务与全流程风险防控体系。可适当借鉴域外行业实践中数据透明化的经验，规范数据处理行为，平衡技术创新与隐私安全的关系。

伦理规范层面，与会专家指出：人工智能时代，人机交互正从传统指令响应模式向基于自然语言的智能体交互转变，机器从被动工具向具有自主性的“伙伴”演进。智能体的自主性引发了隐私保护、数据安全、用户自主权和情感操纵等新伦理风险，其决策边界和责任归属也对现有法律框架构成挑战。应从信任角度构建交互边界，通过可控、安全和透明的机制保护用户权益。

此次研讨会深入探讨了端侧大模型在移动终端应用中的风险与治理挑战，为构建负责任的人工智能产业生态提供了积极的理论探索。专家们认为，如何平衡技术创新与隐私安全，如何兼顾用户体验与数据安全，如何构建负责任的产业生态，将是AI手机智能体发展的关键。（来源：《法治周末》尹丽 薛佳乐）

 

发布时间：2025年3月21日
ꁖ浏览量：10280
ꂃ前一个： 无
ꁹ后一个： 无
首页  ꄲ  “警察与法治”研究中心  ꄲ  研究动态  ꄲ  端侧大模型应用风险与治理前瞻研讨会举行

热门新闻

编辑部邮箱：1198414617@qq.com  |  监督电话：13167582913    010-63268854  


 Copyright 2018@by policelawnews.cn  All Rights Reserved  |  技术支持：天润智力