刑事辩护律师告诉你：警惕生成式AI带来的新型犯罪风险

在律所，偶尔会有当事人问：“叶律师，我这个案子跟现在新闻里那些AI诈骗、AI造谣比起来，是不是简单多了？”说实话，每当听到这种对比，我心里都会咯噔一下。技术的影子已经悄然投射到刑事法律的领域，带来了一连串我们过去难以想象的新难题。

技术“升级”下的犯罪“变种”

生成式AI就像一把异常锋利的“双刃剑”。它强大的内容生成能力，在坏人手里，就成了实施犯罪的“高效工具”。过去骗一个人，可能需要编很久的故事、打很多电话。现在，利用深度伪造技术，可以生成逼真的虚假视频、音频进行诈骗或诽谤；利用AI模型，可以批量制造难以辨别的虚假信息进行传播。这类行为的危害性和规模，可能远超传统犯罪模式。我翻阅了不少专业资料，也和一些技术专家交流过，深感传统法律在面对这些“技术黑箱”时，有时会显得力不从心。行为的实施主体模糊了，到底是研发者、使用者，还是算法本身？取证的难度也陡然增加，这对我们刑事辩护律师来说，意味着审查证据链条需要投入更多精力，去理解技术背后的逻辑。

责任认定的“罗生门”困境

当一起利用AI技术实施的案件发生后，最棘手的问题往往是：责任该由谁来担？是开发这个AI模型的公司，还是具体操作的使用者？或者是提供数据、服务的中间平台？这不像传统的共同犯罪，分工相对明确。在AI犯罪的链条里，责任常常是分散和模糊的。比如，某科技公司开发了一个具有文本生成功能的模型，被不法分子用来编写大量诈骗话术，骗走了当事人一笔不小的资金。那么，这个科技公司是否需要承担责任？它可能辩称自己只是提供了“工具”，就像卖菜刀的不需要对持刀伤人负责。但关键在于，这个“工具”是否在设计之初就存在被用于犯罪的明显风险，而开发者又没有采取合理的防范措施。在现行的法律框架下，要清晰地划定这条责任边界，对侦查机关、检察机关乃至我们辩护律师，都是一个全新的挑战。团队开会讨论这类案子时，常常会陷入对责任链条的反复推演中。

我们该如何面对与准备

面对这些新挑战，作为法律从业者，我们也在学习和适应。对于普通公众和企业的管理者而言，更需要提高警惕。首先，要对利用AI技术实施的新型犯罪手法有所认知，特别是涉及资金往来、重大决策时，对信息的真伪要保持审慎，多一层验证。其次，对于研发或使用AI技术的企业来说，建立内部合规与风险防控机制变得前所未有的重要，这不仅是商业伦理，也可能在未来成为厘清法律责任的关键依据。

从法律规制的角度看，未来势必会朝着更精细化的方向发展。比如，可能会根据AI应用场景的风险高低（如医疗、金融就属于高风险），设定不同的安全标准和责任要求。在司法程序中，如何审查AI生成的证据、如何保障当事人对涉及自身算法决策的知情与质疑权利，都是需要逐步建立规则的新课题。

说到底，技术本身没有善恶，但它放大了人性的贪婪与侥幸。法律的任务，就是给狂奔的技术套上缰绳，划清赛道。无论犯罪工具如何进化，其侵害法益的本质不变，法律的评价与规制也会紧随其后。对于我们每个人，保持清醒、保持警惕，就是在保护自己。而对于我们律师而言，不断学习、理解新技术背后的法律逻辑，才能在未来更好地为当事人厘清事实、辨明责任。

叶斌律师，刑事辩护律师，浙江允道律师事务所主任，创始合伙人，执业十八年以来，专注刑事辩护领域，带领团队办理刑事案件超2000件,成功帮助上千名当事人争取到取保候审、不起诉、缓刑及罪轻判决。在诈骗罪、非法经营罪、开设赌场罪及卖淫类犯罪，销假类犯罪，性侵类犯罪，毒品犯罪等各类刑事案件有极其丰富的办案经验。团队承诺专业服务、追求有效辩护，在杭州有良好的口碑。