数日前,腾讯研究院发布了《2021数字科技前沿应用趋势》,介绍了14项数字科技的最新热门应用方向。本文选取了其中六项,就可能涉及刑事法律风险或问题与相关行业从业者以及律师同行们做一个闲聊。
一、深度学习走向多模态融合
多模态融合的深度学习在人脸识别、工业视觉和视频内容理解等应用领域大踏步前进,逐步从语言、文字、图像的单模识别向多模态融合认知分析拓展。这种发展趋势对法律合规风险(包括刑事法律风险)的提升是比较显著的。 一是更加拟真的数字虚拟人和更好的人际互动体验带来的潜在违法犯罪风险。例如在民事方面,“僵尸粉”、“机器人”会更拟人,“更好”实现“水军机械化、智能化”,在不正当竞争领域“大显身手”;“羊毛党”也可能获得越来越好使的“自动薅羊毛神器”,分析鉴别的难度和成本提升;刑事方面,电信诈骗、网络传销等领域更高度拟真的虚假账号会“节约”诈骗的人工成本,提升诈骗信息传播的速度和广度。 二是对姿态、表情的高度拟真可能带来的违法犯罪。去年ZAO的换脸技术引发一大波恐慌,其中之一就是担心自己的肖像(形态)被移植于色情影片等。这种担心其实已经是现实而要阻碍这种应用并不容易。上述类似行为轻则民事侵权,情节严重则可能有侮辱、寻衅滋事、强制猥亵等犯罪嫌疑(当然,这对刑法解释也构成新的挑战,此处不表);此外就是诈骗犯罪,老太深信靳东要向自己求婚而离家出走的新闻去年年底已经成为热点,更好的姿态、表情拟真无疑将是诈骗(包括民事和刑事的广义)分子的“利器”。 而对于开发技术的相关企业来说,如何避免“中立技术”被应用于违法犯罪而带来的法律风险,也将是企业将要面对的合规治理问题。 二、沉浸式媒体向体验和场景的纵深演进 这个问题让我们再次把目光投向腰部以下。三维重建、压缩传输、近眼显示、渲染处理、交互感知等沉浸式体验在研发之初就持续受到(合法的)色情产业的关注,这是当然的。而在我国这个问题就更加微妙,例如近年引起巨大争议的“成人体验馆”(即租赁性爱玩偶的场地)。依照现行法:性爱玩偶或自慰器是可以合法售卖但色情影片等音像制品却是不能够合法销售的。因此,将二者组合的“沉浸式体验”的性爱玩具如何定性,甚至利用这些产品提供一种变相的“性服务”的经营场所如何看待? 再说一个远一些的话题,随着沉浸式体验产品或者虚拟现实产品的质量的提高,一些以前不曾考虑的问题可能逐渐暴露。例如,随着显示技术的发展,一种通称“光敏性癫痫”的不明确症状被越来越多地观察到。著名的1997年《宝可梦》片尾红蓝光闪烁引起多人癫痫病发的事件让这一问题受到关注,以至于如今很多影视、音像制品的片头均插入了癫痫警告。那么未来的沉浸式体验产品是否可能诱发更多、更严重的人身安全问题?是否可能使得民事侵权行为类型增加甚至最终导致【生产、销售不符合安全标准的产品罪】的内涵和外延的重新解释,都是值得进一步思考和观察的。 三、产业区块链推动数据要素市场化 产业区块链的应用需要资产数字化和数据资产化两方面的共同进步。资产数字化带来对IOT设备的需求和资产真实性、可校验的要求。在这一过程中,法益蒙受损失或受到侵害的空间非常大,民事领域自不待言,刑事领域对“诈骗”、“侵占”、各类计算机犯罪“行为”的认定与理解也会极大扩展。这是一个可以专门叙述的话题。反观数据资产化,会涉及到更多“法律问题”,而这些问题的核心当然是数据资产的确权和交易。 这里我们从IOT设备上稍作展开,谈两个如今已经大量使用的物联网应用中可能带来的法律疑难问题。第一是智能门锁,通常指通过生物识别信息或/和智能设备连接控制开关的新型锁具。一个有趣的问题就是:如果破坏智能门锁的生物识别或网络连接,将门锁打开并取得屋内财产,应该如何定罪?这里我们考虑是否将智能门锁视为一种计算机系统。从字面意义上说,智能门锁属于计算机系统的可能性是存在的。那么根据《最高人民法院 最高人民检察院关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》第四条的规定,“破坏计算机信息系统功能、数据或者应用程序违法所得五千元以上或者造成经济损失一万元以上的”即属于“情节严重”,要处五年以下有期徒刑;而违法所得两万五千元以上就属于“情节特别严重”,要处五年以上有期徒刑。这比入室盗窃两万五千元要重得多。如此一来,破坏计算机系统罪的立法意图和法律条文的表述之间的矛盾就被凸显出来了。门锁是用来保护门内的财产(和安宁)的,可破坏门锁的罪行却比入室窃取财产还重,不得不说有一些不协调。同步存在的问题就是对研发和提供破解智能门锁的工具的行为的认定,将其视为提供侵入、非法控制计算机信息系统程序、工具还是视为盗窃罪的共犯,也将导致迥异的量刑。第二谈一下智能表计,这应该是目前应该得最广泛的物联网设备之一。智能表计的第一个问题也是盗窃与破坏计算机系统竞合所产生的。在我国,采取一定手段规避电力计费的“偷电”行为定性为盗窃罪已经是通行做法,在理论和实践中都没有障碍。那么如果采取干扰和破坏物联网智能表计系统正常运行,从而实现“偷水”、“偷电”、“偷气”的行为,又如何在两罪之间进行定性并保持罪、责、刑相适应呢?另一个是保护公民个人信息的问题。一个家庭的用水、用电、用气或停车情况是“反映特定自然人活动情况”的信息吗?这可能是值得争议的。但是考虑以下两点,我们可能更倾向于得出肯定的结论:(1)单纯的手机号码在司法实践中被有些法院最终认定为公民个人信息,理由是目前移动电话卡采用实名制,手机号码可以关联到特定自然人(虽然笔者反对这种意见)。那么物联网卡尤其智能表计关联着实名的账户,如果依照同样思路,则可以认定为关联着特定自然人。(2)智能表计安装在特定位置,尤其是安装于居民家庭中的表计,可能是认为指向特定个人的。如此一来,智能表计产生的数据的采集、利用、提供,就要受到公民个人信息保护的限制。 四、数字生物标记照亮居家慢病诊疗 数字生物标记意指将生物标记物释放的信号数字化,形成可量化、可临床解释的标准,用于解释和预测疾病。此类应用最明显的刑事风险来自个人数据保护和计算机系统安全领域。我国刑法目前将健康生理信息都视为敏感程度第二档的个人信息予以保护,非法获取或销售500条以上即构成犯罪。一套数字生物标记的传感系统也能够解释为典型的计算机系统。而从单位经营的角度考虑,数字生物标记的记录除了对于医疗机构具有巨大价值之外,对于健康行业相关企业也具有无与伦比的诱惑力。由此巨大的经济价值带来的违法甚至犯罪冲动简直是“秃子头上的虱子——明摆着”。医疗机构和数字生物标记系统提供商在内防家贼,外防侵入两方面都需要巨大投入。 另一方面,如何合法地利用这些数字生物标记记录也是一个值得思考的问题。根据实时健康信息推送一些医疗制品和医疗服务当然也是具有积极意义的——无论对于患者还是健康行业而言。但这涉及到精细的伦理和法律问题。例如:作为医疗这种特殊服务提供者,其获取和使用个人信息的授权的“自愿性”总是存在一些疑问。(类似的,我国刑法修正案十一对于处于特殊的监护、监管、管理关系下的男女发生性行为的年龄做出了特殊规定,即对特殊条件下的“自愿性”表达出疑虑)。而“自愿授权”又在我国目前个人信息的保护和利用的法律法规中处于核心地位,是相关活动合法性的最主要来源。那么在这种“自愿性”的充分程度可能不完全的情况下,法律上如何允许或限制个人数据的利用,是一个立法机关、司法机关需要考虑的大问题。而在相关法律法规不明晰、不健全的情况下(无疑这一情况会长期存在),相关企业如何自处,平衡数据价值和法律风险,将合规治理与业务经营有机统一,设计和采取有效的合规措施,也是一个充满挑战的领域。 五、基于5G-V2X的“人车路网云”体系加速形成 车联网又是一项将给现行法的解释带来大量挑战的技术应用。以刑法为例做一些观察,基于道路交通涉及公共安全的考虑,我国规定了一些关于交通运输的专门条款。例如:第一百一十六条 【破坏交通工具罪】破坏火车、汽车、电车、船只、航空器,足以使火车、汽车、电车、船只、航空器发生倾覆、毁坏危险,尚未造成严重后果的,处三年以上十年以下有期徒刑。第一百一十七条 【破坏交通设施罪】破坏轨道、桥梁、隧道、公路、机场、航道、灯塔、标志或者进行其他破坏活动,足以使火车、汽车、电车、船只、航空器发生倾覆、毁坏危险,尚未造成严重后果的,处三年以上十年以下有期徒刑。这两条罪状如果造成严重后果,还能够判处直到死刑的最严厉刑罚。关于电信系统,有第一百二十四条 【破坏广播电视设施、公用电信设施罪】破坏广播电视设施、公用电信设施,危害公共安全的,处三年以上七年以下有期徒刑;造成严重后果的,处七年以上有期徒刑。关于计算机系统,我国有第二百八十五条 第一款【非法侵入计算机信息系统罪】、第二款【非法获取计算机信息系统数据、非法控制计算机信息系统罪】、第三款【提供侵入、非法控制计算机信息系统程序、工具罪】和第二百八十六条的 【破坏计算机信息系统罪】。那么对于车联网系统的入侵究竟应该如何定罪量刑?例如如果破坏的是埋设于“智慧道路”上的物联网通信模块,那么应该是破坏交通设施、破坏公用电信设施还是破坏计算机系统,或者仅仅只是故意毁坏财物?如果破坏的是具有自动驾驶功能(当然同时必然具有人工驾驶功能)的智能汽车上的通信模块,是属于破坏交通工具、破坏计算机系统还是故意毁坏财物?又如关于产品质量,我国有第一百四十六条 【生产、销售不符合安全标准的产品罪】、第一百四十条 【生产、销售伪劣产品罪】等规定。那么车联网行业的企业一旦制造生产了不合格的软硬件设备,现行法的解释和适用就需要适当扩张和调整。 上述新领域的法律问题除了定性之外,同时还需要考虑罪、责、刑相适应和各罪之间的平衡和协调的问题。相信车联网领域的法律问题是理论界和实务界都值得关注的。 六、新一代数字地图迈向实时智能泛在 数字地图伴随着自然资源、规划、城市、社会、经济等多源数据的丰富和无线通信网络(尤其是多样态的宏微结合的网络形态)的发展将进一步迈向实时化和全覆盖。人、车、路、地、物等要素的实时追踪、指示、更新变得可能。相关产品运营企业首先要面对的就是个人信息保护的挑战。行踪轨迹作为我国刑法最为重视的敏感信息,通常情况下非法获取或提供五十条即构成犯罪(并且如果是在提供服务中获取的,数量要求减半,即二十五条以上构成犯罪);如果被用于犯罪,则一条即构成犯罪;是《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》中入罪数量门槛最低的。 这里我们举例一项应用:为老年人、失智人群等提供保护的“追踪服务”。原理非常简单,一般是在马甲或手环等随身衣物、配饰中加入一个GPS/北斗追踪器,再通过无线网络(从经济性考虑可能采用2G或NB网络)传输实时位置。如此一来,万一发生特殊群体迷失等意外事件,监护人或其他有监护权力、监护职责的人就可以及时追踪。这种服务如今已经展开,作为智慧城市为弱势群体提供安全保障的善举,既有私营机构开发运营相关业务,也有公立机构以社会服务的考量提供带有公益性质的帮助。但是,这种服务被用于违法犯罪的可能性也是很明显的,例如(不法的)债权人可以购买相应服务并要求债务人穿着或佩戴相关服饰,如此就可以简单实现对债务人的人身自由的监控和限制。又或者犯罪分子可以利用与相关运营企业、机构人员的勾结串通,非法获取特定人员的位置信息,从而实施违法犯罪。如果发生这样(其实不可能完全杜绝)的情形,那么首当其冲的就是相关追踪服务的运营商,它们必然需要有充分、有力的合规措施证实自己在犯罪中无责。而追踪设备提供商,高精度、智能化的电子地图提供商也难以完全超脱于这个因果关系链之外,需要事先进行适当的刑事合规工作而在企业和涉事主体之间形成“隔离带”。 因为技术的落地尤其是商业化的广泛应用尚需时日,而法律的滞后性注定相关法律法规是模糊不清甚至不能预料的。本文只能是提一些“话头”,让我们持续共同关注、观察。 作者:上海靖予霖律师事务所 、辩护技能研究部副主任、辩论队教练 刘笛