• 中国台湾网移动版

    中国台湾网移动版

生成式人工智能 有规范才有好未来

2023-04-17 08:48:00
来源:经济日报
字号

  原标题:有规范才有好未来

  近日,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见,引起业界关注。生成式人工智能,即AIGC,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。近来火爆出圈的ChatGPT等应用就属于AIGC范畴。对希望参与AIGC大潮的企业来说,征求意见稿透露了哪些玄机?

  首先是明确了发展前景。AIGC争议颇多。人工智能生成的各种假新闻照片在网上流传,人们一边惊诧于AIGC技术的进步之快,一边担心这些过于逼真的假照片假视频会不会让人真假难辨。ChatGPT用户数据泄露事件也一再发生,部分国家已经对ChatGPT数据安全问题进行调查,甚至下达使用禁令。但AlGC技术具备广泛应用前景和发展潜力,禁用不是问题最好的解决方案,一禁了之更像是泼洗澡水的时候连孩子一起倒掉。

  对AIGC这样快速发展的新技术新应用来说,各类风险显而易见,入局企业尤其担心重金投入后遭遇政策风险导致投资损失。首个AIGC管理办法公开征求意见,本身就是一个重大信号,说明我国非常重视此轮AI发展所引领的科技变革,期待促进AIGC技术的健康发展。

  其次是明确了合规重点。目前中国市场上多家科技巨头企业正相继入局AIGC,选择此时发出规范管理的信号,体现了政府提前研判介入监管、防患于未然的工作思路,有助于企业及早构建合规解决方案、布局必要的合规机制和工具,可以有效降低内容生成领域“先污染后治理”的社会风险。

  征求意见稿的具体细则,体现了我国从权益保护、数据治理、内容治理等多个维度进行综合治理的初衷。细则强调了安全评估和算法备案的前提性和必要性,明确了数据安全和个人信息保护的责任承担方和相关处罚措施,也为新技术开发保留了必要的容错空间。比如出现不合规的生成内容时不会一棒子打死,平台除采取内容过滤等措施外,应在3个月内通过模型优化训练等方式防止问题再次发生。有了这些明确规范,产品开发方就可以探索在规范的框架下设计更加安全和可解释的AIGC,从技术层面降低潜在违规风险。

  此外,征求意见稿中也明确了相关法律权益。比如,AIGC令人惊叹的内容生成能力是被海量人类作品“喂养”出来的,过去这些训练数据很多都未经原创者授权,侵犯了他们的知识产权。征求意见稿要求提供者对AIGC产品的预训练数据、优化训练数据来源的合法性负责,明确了版权方内容资源在AIGC产品训练中的法律权益,显然是对版权方的重大利好,IP及内容、数据产业将获得分享AIGC红利的机遇。

  当然,与新技术开发几乎同步的监管规范,必将随着技术发展和时代变迁而更新调整。此次AIGC管理办法的征求意见稿是开局的第一步,它将促进AIGC产业健康可持续发展。无规矩不成方圆,AIGC有规范才有美好未来。

[责任编辑:李丹]