来源:
近日，新闻/媒体联盟(News/Media Alliance，简称“NMA”)代表近2000家平面和数字媒体出版商，正式发布了生成性AI的监管原则。
据悉，AI监管原则包括知识产权、透明、问责、公平、安全和设计六个部分，适用于文本、视频、图片和音频等其他格式的AI生成内容。这也是美国首个权威机构正式发布的生成式AI监管原则。
这种监管原则对AI厂商、知识产业和用户来说都是双赢的。在此原则指导下，AI厂商可以定义产品安全优化目标；新闻、媒体等行业的知识产权得到了有效保护，原生态不会被生成式AI打破；用户在使用ChatGPT等生成式AI产品时，可以进一步降低安全风险。(文件地址:https://www.newediaalliance.org/ai-principles/)
为什么要发布AI原理？
NMA表示，随着ChatGPT等生成型AI在全球的流行，其用户群呈指数级增长，这对传统新闻和媒体行业产生了巨大影响。
比如传统出版商需要投入大量的时间、金钱和人力来完成文字内容的制作，而像ChatGPT这样的生成式AI产品，两分钟就可能生成1000字的内容，严重破坏了知识产业竞争的生态。
另外，ChatGPT的训练数据是基于传统出版社的内容，存在知识产权侵权。在生成的内容方面，也存在大量虚假、暴力、歧视等违法内容。
因此，NMA发布了这一监管原则，并要求文本、视频、图片和音频等其他AI制造商根据这一原则开发和优化他们的产品。但是，随着AI技术的发展，监管原则也会发生变化。
下面“AIGC开放社区”为大家介绍AI监管原则的内容。
知识产权
生成式人工智能的开发者和部署者必须尊重创作者对其内容的权利:这些权利包括版权、向内容创作者和所有者提供的所有其他法律保护，以及出版商对访问和使用其内容或通过其在线服务条款施加的合同限制。
开发者和部署者，以及参与起草生殖人工智能法律和政策的立法者和监管者，必须坚定不移地尊重这些权利，并认识到创作者专有内容的价值。
开发者和部署者不应该未经许可使用人类作者的IP(知识产权)。如果使用人类作者的知识产权，需要公平的补偿。
专业新闻因其高度的可靠性、准确性、一致性和时效性，可以提高生成性AI产品的内容输出质量。一个生成型AI厂商未经许可使用这些IP，是一种盗窃。
使用发行商的IP需要明确的许可:大部分发行商的条款不授权生产AI产品，使用发行商的内容进行培训、展示和商业化。
生成式AI系统的开发者和部署者在没有明确授权的情况下，不得抓取、摄取或使用人类作者的专有内容，需要与出版商签署正式的使用协议。
应建立行业标准，允许自动检测权限，以区分爬取或抓取内容的潜在用途。这些标准和使用协议还可以解决其他问题，如所有权、货币化、责任和衍生品使用。
版权法必须保护而不是伤害内容创作者:合理使用原则并不能证明生成性AI产品未经授权使用出版商的内容、文件和数据库是正当的。未经明确许可，以前或现在使用此类内容都违反了版权法。
文本和数据挖掘的版权保护例外应严格调整为有限的非盈利和研究目的，不会损害出版商或成为未经授权的使用方式，否则需要获得许可。
美国也在该领域做出了国际法承诺，以保护其跨多个部门的基于知识产权的业务，这些承诺必须在其AI方法中得到维护。
透明度
Producer AI厂商应该对出版商透明:出版商有权知道谁拥有他们的内容，以及他们使用这些内容的目的。NMA呼吁制定强有力的法规和政策，在出版商行使权利所需的范围内实施透明度要求。
出版商有合法的权利来决定他们的哪些内容已经在生产人工智能系统中使用。生成性AI厂商必须明确披露用于第三方开发的非盈利、研究、教育、数据集或商业应用，不得用于逃避透明义务或版权责任。
生成式AI厂商应该对用户透明:用户和发布者之间的关系对新闻媒体和信息内容部门的可持续性至关重要。用户需要清楚地知道信息的来源，比如哪些文本内容是AI自动生成的，并向用户展示原始的数据来源。
此外，生成式AI产品的透明性也有助于防止误用以及错误和虚假信息的传播。同样，它可以帮助生成性AI评估偏见、歧视、低俗等内容。
问责制度
生成型AI厂商应该对自己的产品负责:生成型AI厂商对竞争、新闻和创意内容的完整性以及公众对新闻和创意内容的信任构成风险。AI应用生成的内容，将虚假或不准确的信息归咎于发布者，是不负责任的行为。因此，不应免除生成性AI的部署者对其输出的责任，这将使生成性AI产品获得传统出版商无法竞争的不公平优势，增加不受约束的权力，从而对公众和机构造成危险。
公平的
生成性人工智能厂商不应通过承担风险来创造不公平的竞争结果:监管机构应确保生成性人工智能产品的设计、部署和使用符合竞争法和原则。开发人员和部署人员也应该尽最大努力确保生成式人工智能模型不被用于反竞争目的。
生成性AI厂商在未经内容所有者明确许可的情况下，将其内容用于训练生成性AI产品，应视为违反竞争法的证据。监管机构应该警惕生殖型人工智能产品的其他反竞争用途。
安全的
生成式AI产品要安全，尊重用户隐私:生成式AI产品(包括模型)的设计要尊重用户隐私。早期迹象表明，生成式人工智能产品将加剧数字平台收集大量用户隐私数据的趋势。
在生成式AI系统的设计、训练和使用中，应尽可能减少个人数据的收集和使用，并以易于理解的方式向用户披露，以便用户对如何用其数据交换AI服务做出知情的判断。用户应被告知并有权阻止出于培训或收集个人数据的目的。
设计
上面讨论的所有原则都应该作为设计的一个重要元素纳入到生成式人工智能产品和模型的设计中。并不是第三方提出索赔，才被认真对待来弥补。
关于NMA
新闻/媒体联盟是一个非营利组织，总部设在美国华盛顿。在过去的100年里，该组织通过合并美国新闻协会和美国杂志媒体协会而不断壮大。目前，有近2000家不同的印刷和数字出版商。
本文来源为NMA。如有侵权，请联系删除。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"美国NMA正式发布ChatGPT等生成式AI监管原则"：http://www.guoyinggangguan.com/qkl/154504.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
