人工智能与刑事责任:借助人工智能实施的犯罪

本页为葡萄牙语原文的译文，仅供参考，内容涉及巴西法律。如有出入，以葡萄牙语版本为准。 阅读葡萄牙语原文

利用人工智能实施犯罪,引出了前所未有的刑事责任问题,要求法律迅速适应这一新的技术现实。

现状:当人工智能沦为犯罪工具

当下,技术与犯罪之间的关系正在发生深刻变革。人工智能有望给医疗、教育和交通等领域带来革命性变化,但与此同时,它也被越来越多地用作实施犯罪的精密工具。本文探讨的这一现象,正在挑战巴西乃至国际刑法的传统根基:利用人工智能系统作为手段,实施各种性质的犯罪行为。

在已经借助人工智能实施的犯罪行为中,值得特别指出的有:制作深度伪造(deepfake)内容,用于敲诈勒索、诽谤或制作非法材料;利用算法大规模自动化实施金融诈骗;使用聊天机器人进行社会工程攻击,非法获取个人数据;以及操纵自动化决策系统,谋取不正当利益。每一种做法都有各自的特点,使得罪名认定变得复杂,尤其是考虑到人工智能系统的自主程度各不相同。

借助人工智能实施的犯罪与传统犯罪的区别,首先在于规模和精密程度。仅凭一个行为人,利用人工智能工具,就可以生成成千上万条个性化的欺诈信息,制作几乎与真实内容无法区分的虚假内容,或者以超出人类的速度操纵金融市场。人工智能的这种放大能力,给刑事司法体系带来了前所未有的挑战。

刑事责任与人工智能犯罪中的行为人认定问题

巴西刑法以罪责原则为基础,即只有出于故意(dolo)或过失(culpa)而行为的人,才应承担刑事责任。在分析借助人工智能实施的犯罪时可以看到,人的行为与损害结果之间的因果链条明显更为复杂。法律体系必须回答的核心问题是:当人工智能系统被用作犯罪工具时,究竟应由谁来承担责任?

原则上,至少可以确定三类可能承担责任的行为人。第一类是最终用户,即故意把人工智能当作犯罪工具的人。这种情况下,刑事责任相对清晰,因为人工智能系统只是一种单纯的工具,与实施犯罪所用的其他任何工具类似。例如,制作深度伪造内容来敲诈被害人的用户,属于直接故意,可以适用现有的罪名。

第二类涉及人工智能系统的开发者和供应商。这里的分析就更为微妙。开发者是否应承担刑事责任,取决于能否证明他知道(或应当知道)自己的工具会被用于犯罪目的,却仍然没有采取合理的保障措施。在这一背景下,我们适用风险理论中的容许风险:开发人工智能技术本身是一项合法活动,但如果存在作出行为的法律义务,故意不设置安全机制,则可能构成不纯正不作为形式的共同犯罪。

第三类争议最大,涉及人工智能系统高度自主运行,并产生了人类操作者未曾预见(或无法完全预见)的损害结果的情形。在这些情形中,现行法律体系存在明显的空白,因为传统的故意与过失概念是为人的直接行为而构建的,而不是针对由具备学习和适应能力的系统所介入的行为。

将犯罪事实支配理论适用于人工智能

我们认为,应对这些问题的一种有前景的思路,是对犯罪事实支配理论(teoria do domínio do fato)加以调整后适用。按照这一观点,控制犯罪事件因果进程的人,就掌握着对事实的支配。在人工智能犯罪的语境下可以看到,这种支配可以分散行使:编写明知危险功能的开发者、为非法目的配置系统的操作者,以及启动工具的最终用户,都可能以各自的方式,对损害结果行使一部分控制。

人工智能本身不会犯罪,但它会成倍放大那些怀着犯罪意图使用它的人的危害能力,这要求刑法作出与这一新现实相称的回应。

这种理解使得责任可以在链条的不同层级上得到追究,同时尊重个人罪责原则。这并不是无过错责任(刑法禁止无过错责任),而是要在每个具体案件中,识别哪一个自然人对由人工智能介入的犯罪行为掌握着相关的控制权。

现有罪名与立法更新的必要性

审视巴西的立法框架可以发现,许多借助人工智能实施的犯罪,理论上可以适用现有罪名。例如,诈骗罪(《刑法典》第171条)涵盖以任何方式实施的欺诈,包括使用人工智能的情形。同样,当深度伪造内容被用来损害他人名誉时,可以构成侵害名誉类犯罪(诬告陷害、诽谤和侮辱)。因此,《刑法典》及其他单行刑事立法提供了一个不容小觑的规范基础。

然而,仍存在需要立法关注的重要空白。首先是缺乏针对特定行为的专门罪名,这些行为只是在人工智能出现之后才成为可能,例如为非法目的制作超逼真的深度伪造内容,或对自动化决策系统进行算法操纵。尽管在某些情况下可以对现有罪名作扩张解释,但这种做法受到刑法严格罪刑法定原则(nullum crimen sine lege)的限制。

第二个空白涉及加重情节。我们认为,将人工智能用作扩大犯罪规模或提高犯罪效果的工具,应当被视为加重刑罚的情节,类似于在某些犯罪中使用枪支的情形。人工智能能够使犯罪行为自动化、规模化和精密化,这就足以说明对其应采取更为严厉的刑事处理。

人工智能法律框架及其刑事影响

关于人工智能监管的讨论正在巴西国会推进,相关立法提案力求建立一个全面的监管框架。就刑事领域而言,值得强调的是,这一监管应当包括:明确界定人工智能开发者和操作者的注意义务(违反该义务可以成为追究过失或间接故意刑事责任的依据);对恶意使用人工智能的特定行为设定罪名;对借助智能系统实施的犯罪规定加重情节;以及建立国际合作机制,用于侦查和追诉涉及人工智能的跨国犯罪。

可以看到,国际经验能够提供宝贵的参考。欧盟通过《人工智能法案》(AI Act,即《人工智能条例》),按风险等级对人工智能系统进行分类,并为每一类别设定了相应的义务。尽管欧盟条例的重点主要在行政层面,但其定义和分类可以为巴西法律体系构建更为精确的罪名提供启发。

取证与侦查方面的挑战

除了实体法问题之外,借助人工智能实施的犯罪还带来了相当大的程序和侦查挑战。下面分析三个值得刑事追诉机关和法律从业者特别关注的方面。

第一个挑战是确定行为人。人工智能系统可以通过多层匿名化手段远程操作,使得很难把行为归于某个特定的自然人。可以看到,传统的数字侦查技术需要辅以专门针对人工智能系统的取证分析方法,以便追溯这些系统的训练、配置和启动过程。

第二个挑战涉及电子证据的保存与分析。人工智能系统的输出内容(生成的文本、合成图像、自动化决策)可能转瞬即逝,事后难以复现。此外,这些系统在技术上十分复杂,需要接受过人工智能专门训练的鉴定人,而这种能力在警察系统和检察机关(Ministérios Públicos)中仍然匮乏。

第三个挑战,我们认为尤为重要,即主观要件的证明。要证明行为人在利用人工智能系统实施犯罪时具有故意(犯罪意图),就需要分析各类证据,例如向系统输入的指令(prompt)记录、所做的配置、事先的测试,以及能够显露其意图的行为人通信内容。在追究责任的过失案件中,则必须证明行为人在使用或开发人工智能时违反了客观注意义务。

未来展望:预防与共担责任

本文的结论是:应对借助人工智能实施的犯罪,需要采取多方面的思路,不能仅限于刑事上的惩治性回应。我们主张建立共担责任的模式,即人工智能的开发者、操作者、监管者和用户,各自在自己的领域内,就预防犯罪性使用作出具体承诺。

对开发者而言,这意味着从系统设计之初就纳入”安全设计”(safety by design)原则,建立有力的机制来防范恶意使用。对于部署人工智能解决方案的操作者和企业,则意味着要采用内部治理政策并持续进行监测。对国家而言,则需要投入资源,提升公共安全人员和司法系统的能力,并推动前文所述的立法更新。

可以看到,刑法就其最后手段(ultima ratio)的性质而言,不应当是应对人工智能相关风险的第一种(更不是唯一一种)回应。我们认为,有效的行政监管、行业自律机制、国际合作,再加上与时俱进且符合比例的刑法,相结合才是保护社会免受人工智能相关犯罪风险的最合适路径,同时又不会抑制正当且有益的技术发展。

随着人工智能系统日益精密、也越来越容易获得,借助其实施的犯罪很可能会更加多样化,也更加严重。让法律体系为这一现实做好准备,不只是技术问题,更是一项紧迫的需要,以确保技术进步与基本权利保护和社会安全并行不悖。

As informações deste artigo são de caráter informativo e não substituem consulta jurídica individualizada. Cada caso possui particularidades que exigem análise específica.