ChatGPT面临的法律风险

新一轮人工智能技术的革命已经到来，但AI生成内容蕴含着哪些法律风险？

近日，ChatGPT引发了各行业的广泛关注。本质上，ChatGPT是一种AIGC应用（Artificial Intelligence Generated Content，人工智能生成内容），是利用人工智能技术自动生成文本、图像、音视频等内容的生产方式，也是推动元宇宙发展的重要工具。

针对这一新应用存在的风险，ChatGPT创造者 Open AI创始人的Sam Altman说：“我们还需要足够的时间弄清楚该怎么做。法规将是至关重要的，并且需要时间来弄清楚：尽管当前一代的人工智能工具并不十分可怕，但我认为我们离潜在的可怕工具可能并不遥远。”拥抱变化，享受探索，谨慎使用。本文中，笔者将分析使用ChatGPT或类似AIGC产品存在的法律风险，并提出若干建议。

不对准确性负责

OpenAI曾警告说，ChatGPT可能产生“不准确、不真实或误导”的输出，而且有时它会使答案产生准确的“幻觉”。OpenAI的使用条款和服务条款也明确排除了对其输出内容准确性及使用目的的任何责任。对输出内容承担最终责任的始终是使用ChatGPT的“人”。此外，OpenAI在前述条款中明确其责任上限是以下二者孰高者：(1) 100美元；或（2）用户在过去12个月内向其支付的费用。

输入内容泄露风险

根据OpenAI的使用条款和服务条款，用户授权提供商使用用户输入的内容及输出的内容。尽管ChatGPT使用和占有这些数据并非不受任何限制，且用户可以通过邮件明确撤回上述授权，但OpenAI仍有权处理、使用用户输入、输出的内容来“训练”ChatGPT，且不受保密条款的限制。这意味着，如果用户（尤其是中国境内的商业用户）未审慎对待其输入的信息，可能会导致个人信息、隐私或商业秘密泄露，而负有保密义务的输入者，则需要就此承担法律/合同责任。

输出内容侵权风险

由于ChatGPT需要不断“喂养”海量内容，而“喂养”ChatGPT的内容也是受著作权法保护的，因此ChatGPT输出内容可能与“喂养”内容相同或相似，进而对于输出内容的使用可能侵犯原作品的著作权。不仅ChatGPT提供商本身会存在该风险，且使用其输出内容的用户也可能侵权。

数据及算法合规风险

尽管根据OpenAI的使用条款和隐私政策，“ChatGPT有权提取用户个人信息（包括交流信息、登录信息、用户使用数据等），该等信息可以被用于产品和服务的维护、升级、分析、行为测试和研发新产品等，且该等数据可能被提供给任何第三方，并在美国境内传输和处理。”

然而，由于用于训练ChatGPT的信息或用户输入的内容本身可能包含个人信息、敏感信息、政务信息、涉军涉密信息等，内容输入者需遵守其所在法域的相关法规。例如，根据中国《个人信息保护法》，个人信息处理者需取得个人信息主体的同意或具备其他合法性基础，方可处理其个人信息。根据《互联网信息服务深度合成管理规定》, 深度合成服务提供者和技术支持者训练数据包含个人信息的, 应当遵守个人信息保护的有关规定，特别是对于敏感信息需取得个人的单独同意。

此前，已有不少相关国外监管AIGC提供商的案例，如意大利个人数据保护局已在2023年2月3日宣布取缔了一款由Luka开发的“Replika”程序。这款由人工智能驱动的聊天机器人，涉及非法收集、处理个人数据，违反了欧盟《通用数据保护条例》。此外，韩国人工智能聊天机器人Lee Luda因违反韩国《个人信息保护法》超目的使用和收集个人信息、个人信息的删除销毁、敏感信息处理的限制等多项法规被韩国个人信息保护委员会处罚1亿330万韩元。

在一篇《基督邮报》的报道中，加尔文大学的副校长兼首席信息官Brian Paige说：“人工智能也许能够写出神学上准确，甚至美学上优美的祈祷文，然而，如果这不是参与者发自内心的祈祷，就仍然只是文字。 ”

AIGC不是法外之地。我们在享受前沿科技带来的便利与裨益的同时，应运用经验与智慧，又不至于成为其受害者。

彭越是浩风律师事务所律师。她的联系方式是电话+86 10 8896 1850以及电邮ypeng@haofenglaw.com; April Zhao是浩风律师事务所高级顾问。她的联系方式是电话+86 10 8896 1850以及电邮april@haofenglaw.com
合伙人白洋铭对本文亦有贡献