AI+电子取证，网安企业须谨慎

　　2024北京网络安全大会正如火如荼地展开，飒姐团队注意到其中这样一项会议议程：电子取证论坛。毫无疑问，在数字经济迅猛发展和网络技术快速进步的今天，网络犯罪手段不断升级，而电子取证技术也在人工智能的加持下不断迈出新的突破。

　　面对这一形势，已有不少网安企业为有效侦测和打击新型网络犯罪、保障网络的空间安全性和可靠性作出了建设性的贡献。然而，尽管人工智能应用于网络犯罪侦查的潜力巨大，但其中不可避免地会因为人工智能的特性而涉及到各方问题，进而影响到侦查工作的合法性、透明度和伦理性，甚至可能会对人工智能侦查技术造成反噬。乃至于在网安企业运用人工智能技术提供服务的过程中，也可能会陷入犯罪的漩涡。

　　今天，飒姐团队就想基于此与大家共同探讨人工智能技术在网络犯罪的案件侦查中，可能会涉及何种法律问题和挑战。

　　(一)数据采集可能侵犯他人隐私权?

　　人工智能在应用过程中必然会访问、收集海量的数据，并基于此生成海量数据，这就对人工智能技术对于海量数据的管理和使用提出了重大挑战，而挑战背后则带来的是相应的法律风险。

　　一一方面，在人工智能侦查技术的开发和提供过程中，网安企业所面临的一个主要问题就是职责和权限的不明确。这种模糊性在数据收集和处理环节尤为突出，这在一定程度上给网安企业带来了相当的法律风险。首先，人工智能侦查技术通常涉及大量的数据收集，包括但不限于个人行为数据、通信记录、社交媒体活动等。这些数据的收集可能触及到隐私权、数据保护和信息安全等问题。然而，由于缺乏明确的法律规定，网安企业在收集这些数据时可能会面临合法性质疑。其次，收集到的数据需要进行处理和分析，以便用于侦查目的。这一过程可能涉及到数据的存储、传输和共享。在这个环节，不同网安企业在数据管理方面可能会采取不同的标准和措施，这就导致数据保护水平的不一致。此外，人工智能侦查技术的应用还涉及到数据的使用。网安企业需要确保其技术的应用不会侵犯个人权利，同时也要保证技术的有效性和公正性。然而，由于职责和权限的不明确，网安企业在决定如何使用这些数据时可能会面临道德和法律的双重困境。

　　另一方面，数据在收集以后的使用、管理环节，也面临着诸多风险，其中包括数据泄露、滥用风险以及来自第三方的攻击。当发生上述情况时，网安企业需要合理规避风险，提升自身的抗风险能力以及风险应对能力。

　　为了解决这些问题，飒姐团队认为，我们不仅需要从法律层面对人工智能侦查技术的开发和应用进行规范，更需要企业加强自律，建立相应的数据管理合规机制，确保技术的应用既符合法律法规，也符合社会道德标准。

　　(二)权责问题

　　当人工智能系统做出错误的决策或犯下错误时，随之而来的权责问题变得尤为突出。这不仅是网安企业在开发人工智能产品时需要首先考虑的问题，而且是一个涉及道德和法律的复杂议题。这一问题不仅关系到技术本身，更与法律规范和社会进步紧密相连。

　　在技术层面，人工智能系统的开/发/者、维护者或算法工程师是否需要对系统中的错误或偏见负责，是一个需要深入探讨的问题。随着人工智能技术的不断发展，这些技术决策者的责任范围和责任程度需要被明确界定。他们需要确保系统的设计和实施能够最/大/程/度地减少错误和偏见，同时也需要对可能出现的问题负责。

　　在法律层面，随着人工智能技术的广泛应用，司法体系也需要适应这些新技术的发展。例如，通过人工智能生成的证据或其他相关数据是否能在法庭上被采纳使用，需要有明确的法律规定。此外，司法系统还需要考虑如何评估人工智能系统的决策过程，以及如何确保这些决策过程的公正性和透明度。

　　同时，即使人工智能系统做出的决策在技术上是合法的，它们仍然可能引发/伦理问题。这些问题可能包括但不限于数据隐私、算法透明度、决策公平性等。这些伦理道德风险需要被认真对待，并且需要有明确的主体对其负责。这可能涉及到技术开发者、企业、监管机构甚至整个社会。

　　为了应对这些挑战，网安企业、法律界和社会需要共同努力，建立一个全面的框架来指导人工智能系统的责任归属、伦理规范和法律应用。这包括制定明确的技术标准、法律责任和伦理准则，以及建立相应的监督和评估机制。通过这些措施，我们可以确保人工智能技术的发展既符合技术进步的要求，也符合法律规范和社会道德的期望。

　　(三)不可忽视的“帮信罪”

　　对于网安企业而言，技术是立身之本，人工智能技术的加入无疑极/大程度推进和丰富了网安企业的技术手段，但技术服务的同时也应警惕帮信罪的风险。

　　帮信罪，即帮助信息网络犯罪活动罪，是指我国刑法第287条之二规定的“明知他人利用信息网络实施犯罪，为其提供互联网接入、服/务/器/托/管、网络存储、通讯传输等技术支持，或者提供广/告/推/广、支付结算等帮助，情节严重的行为。”近年来随着AI、大数据等技术的突破性进展，各类犯罪活动逐渐在网络/空间中泛滥。其直接后果便是使得帮信罪的数量急速上升，已经位列“3甲”。

　　在帮信罪的大背景下，“技术中立”的语言不复存在，网安企业在提供技术服务的过程中稍有不慎便会落入帮信罪的泥沼。究其根本，在于“帮信罪”的成立仅要求“明知他人利用信息网络实施犯罪”。

　　对此，尽管《关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》第十一条规定，“为他人实施犯罪提供技术支持或帮助，具有下列情形之一的，可以认定为明知他人利用信息网络实施犯罪，但是有相反证据的除外：(一)经监管部门告知后仍然实施有关行为的;(二)接到举报后不履行法定管理职责的;(三)交易价格或者方式明显异常的;(四)提供专门用于违法犯罪的程序、工具或者其他技术支持、帮助的;(五)频繁采用隐蔽上网、加密通信、销毁数据等措施或者使用虚假身份，逃避监管或者规避调查的;(六)为他人逃避监管或者规避调查提供技术支持、帮助的;(七)其他足以认定行为人明知的情形”，因此并非所有客观上帮助他人实施犯罪的行为均涉及犯罪，但是司法实践中，对于明知的认定却有泛化和扩大的倾向，并因此导致不少技术企业高管锒铛入狱。

　　由此，对于网安企业而言，融合AI技术提供网安服务固然重要，但也需要仔细甄别所服务的甲方是否有犯罪嫌疑——事前的主动合规远比事后的被动弥补更为有效。

　　写在后面

　　科技的发展为网络安全提供了更多的机会，也提出了更多的挑战。在未来，飒姐团队会持续关注网安行业内的新动态、技术革新和实践策略，为网安企业把好法律的关卡!
      文/肖飒律师团|