以ChatGPT为代表的生成式人工智能技术，在全球范围掀起人工智能投资和创业热潮，也引发越来越多的讨论。微软公司创始人比尔·盖茨甚至表示，ChatGPT是自1980年图形用户界面以来，他所见过的最具革命性的技术进步。
在国内，包括百度、阿里巴巴、腾讯等公司都在积极布局生成式人工智能技术，其中百度文心一言同时具备文学创作、商业文案创作、数理推算、中文理解和多模态生成等功能。阿里云旗下大模型产品通义千问则刚刚面世，阿里CEO张勇透露，未来阿里所以产品都将接入通义千问大模型，进行全面改造。
当我们惊叹于生成式AI功能愈发完善强大之际，围绕其是否带来潜在威胁和如何监管的讨论不绝于耳。4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《意见稿》），这也是国内有关生成式人工智能的第一个管理条例。
网信办迅速出台《意见稿》，反映出对于生成式人工智能技术的高度重视。笔者研读后发现，相较于鼓励规范和发展新技术，这份《意见稿》着重于从安全风险、知识产权隐患和保障数据真实准确性等方面，对生成式AI产品以及提供方做出限制要求，来保障合规性。整体来看，对正在崛起的新技术而言，是较为严格的监管意见了。
具体来看，《意见稿》第四条第4点提到，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。了解AI大模型的朋友们知道，语言模型的推理生成过程本身具有一定的概率性和创作性，无法完全保证生成结果的准确性和稳定性，即使通过RLHF（基于人类反馈的强化学习）以及搜索增强等方式可以尽可能提高输出内容准确率，仍无法达到100%。就比如用户去生成一幅画或者创作一部小说，结果本身就是虚构和再加工的，无法保证真实性。
再比如第五条提到，利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人，包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任。
这一条其实是经典的“销售菜刀要为菜刀伤人负责”的议题。在笔者看来，由于生成内容在不同的场景使用可能会产生不同的影响，提供方是无法确定使用者的具体用途，倘若不正当用途（比如版权问题等）产生的影响，应当由使用方负责，而非提供方。
此外，《意见稿》第十五条指出， 对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。
如前文所述，语言模型原理上是根据历史的语料及语料中的文字概率分布来生成内容。通过规则干预能够过滤掉已知的badcase，对未知badcase可以通过模型进一步优化能够一定程度降低出现概率，但无法100%保证不出新的badcase。也就是说，这条要求从技术手段无法实现，是提供方想为而不可为的。
在笔者看来，应该充分肯定《意见稿》的指导意义，让法规成为保障科技创新发展的助推器，避免新技术的野蛮生长和滥用。从《意见稿》中我们看到，监管部门高度强调对知识产权、个人数据和信息的保护，这是用户和平台方都喜闻乐见的。在国外就已经出现，用户可以绕过OpenAI设置的内容安全策略，从而对ChatGPT上的用户信息和聊天内容进行滥用的案例。
但与此同时，在生成式人工智能服务方兴未艾的阶段，倘若对平台方和提供者们提供过高的合规义务，无形中大大增加了新技术发展的成本，也捆住了自己的手脚。当前，国内的AI算力与美国本来就有一定的差距，我们应该对于人工智能新技术有更多的信心，面对新事物，更应该用发展的眼光去看待问题，在发展过程中解决问题，而非在发展之初就为其带上“紧箍咒”。
需要指出的是，此次出台的是《生成式人工智能服务管理办法（征求意见稿）》，而非定稿。监管部门也是希望收到社会各界的多种反馈和建议，尤其是服务提供方应该积极给予回应，提供有实践指导意义的建议，来辅助监管部门和专家团队更好的完善管理办法，促进国内生成式人工智能服务的规范和发展。
人工智能的技术浪潮已经不可阻挡，国内多家技术公司正摩拳擦掌希望迅速追赶美国，创造更大的产业价值和社会价值。笔者也期待，监管部门对于新事物、新技术可以给予一定的耐心和包容，推动其良性发展，给国内人工智能产业规划一条平稳向上的轨迹。
免责声明：此文内容为第三方自媒体作者发布的观察或评论性文章，所有文字和图片版权归作者所有，且仅代表作者个人观点，与极客网无关。文章仅供读者参考，并请自行核实相关内容。投诉邮箱：editor@fromgeek.com。
免责声明：本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时，应及时向本网站提出书面权利通知或不实情况说明，并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后，将会依法尽快联系相关文章源头核实，沟通删除相关内容或断开相关链接。
