要闻速览｜新加坡最高院发布《关于法院用户使用生成式人工智能工具指南》
2024年9月23日，新加坡最高法院发布的《关于法院用户使用生成式人工智能工具指南》（2024年第9号注册官通告）提供了法院用户在法律程序中使用生成式人工智能工具的原则和指导。该指南自2024年10月1日起生效，适用于新加坡的所有法院，包括小额索赔法庭、雇佣索赔法庭、社区纠纷解决法庭和家事法院。
该指南适用于所有与法院程序相关的人员，包括检察官、律师、自行辩护者（无律师代理的当事人）和证人。对“人工智能”“法院”“法院用户”“法院文件”“生成式人工智能”“自行辩护的人”等进行了明确的定义。
法院不禁止使用生成式人工智能工具编写法院文件，但使用者需遵守指南，必须承担其输出内容的全部责任。律师和自行辩护者需确保所有提交的信息准确且经过独立验证。除非法院要求，否则无需事先声明是否使用了生成式人工智能工具。
生成式人工智能工具通过大型语言模型（LLM）生成看似与用户输入相关的内容。该指南强调，生成式人工智能并非搜索引擎，其生成的输出可能看似智能，但无法保证准确性，且可能会“幻觉”，即编造案例、法规等，因此不能依赖其提供法律建议。
因为使用者须对法院文件内容完全负责，应评估生成式人工智能工具输出的适用性，确保准确、相关且不侵犯知识产权，不能用其生成证据；要遵守现有要求；确保准确性需进行事实核查、校对、编辑、验证引用等；要准备好识别使用人工智能生成内容的部分并向法院解释验证情况；要尊重知识产权，确保不泄露机密或敏感信息；如法院怀疑用户在文件中使用了人工智能生成的内容，可能会要求其解释如何验证生成的输出内容，并证明其符合该指南的要求。
未遵守该指南可能导致罚款、文件被忽视或减少证据效力，甚至可能对律师采取纪律处分。
这份指南为生成式人工智能工具在司法领域的使用设定了清晰的边界，既促进了技术的应用，也维护了法律程序的公正和专业性。同时，它对人工智能生成内容的可靠性、知识产权保护以及使用者的责任提出了严格要求，以确保生成式人工智能工具不会影响法院的公正性和效率。
该指南明确允许在法院程序中使用生成式人工智能工具，但对其使用提出了责任要求。这有助于司法人员和当事人在合法的框架内高效使用技术，降低工作负担，同时保证法律程序的严谨性。
指南强调，用户必须对人工智能生成的内容进行事实核对，并确保其准确性。这将促使使用者更严谨地检查人工智能工具生成的内容，避免由于误用生成式人工智能导致法律文件中出现不准确或虚假的信息。
对于律师，指南特别强调他们有专业义务确保提交给法院的文件独立验证且真实准确。这种责任加强意味着，即使律师使用人工智能工具，仍需对生成内容的正确性负全部责任，确保专业标准不因技术使用而降低。
指南明确禁止使用生成式人工智能工具生成或篡改证据。这有助于维护法院程序的公正性，防止技术被滥用于伪造或修改事实证据。
由于生成式人工智能工具可能产生“幻觉”，即生成不存在的案例或法律规定，指南提醒用户不可完全依赖人工智能提供的法律建议或内容。这一提醒可以帮助法律专业人员和当事人认识到人工智能的局限性，避免因过度依赖技术而导致法律错误。
指南强调，使用生成式人工智能时要注意保护知识产权和个人隐私，防止泄露机密信息。这可能促使法院用户更加关注如何在使用人工智能工具时处理敏感信息，从而确保合规性。
如果用户未遵守指南，法院可能会采取严厉措施，如判决其支付费用、减少其提交的证据的证明力，甚至对律师采取纪律处分。这些潜在后果将迫使法律从业者更加审慎地使用人工智能工具，确保严格遵守指南要求。
（来源于https://mp.weixin.qq.com/s/SN-0o1lT7fWg8XubLhXKLg）
