资料来源:科技创新委员会期刊。
编辑:邱
以ChatGPT为代表的AI大模型正在掀起一场科技革命，各种下游应用百花齐放。然而，在人们惊叹于AI带来的生产力变革的同时，不完善的监管体系却是即使各种乱象滋生。
近期，一批新型人工智能电信诈骗案件受到公众广泛关注。4月底，一名受害人10分钟内被艾骗走430万元；紧接着，5月22日，又有一名受害人在9秒内被骗走245万元。
与此同时，“死灵”的直播也引发了争议。有的主播用AI变脸技术变成当红女星播货；在股市，AI技术也掀起了一场血雨腥风。5月24日，科大讯飞的股价暴跌。根据其官方回应，股价下跌是由生成性AI写的虚假短文造成的。
诈骗的百万，虚假“死灵”的滥用，各种杂文和谣言，让AI技术站在了风口浪尖。一时间，质疑和讨伐的声音不绝于耳。如何阻止人工智能继续“作恶”，成为亟待解决的问题。
各国加速出台人工智能监管法规
5月25日，日本* *称，七国集团(G7)官员将于下周召开会议，讨论ChatGPT等生成性AI工具带来的问题，包括知识产权保护、虚假信息以及如何管理AI技术。
目前各国对人工智能的态度不一。
欧洲是支持人工智能监管的先锋。欧盟委员会执行副主席兼竞争专员玛格丽特·维斯特格(margrethe Vesta ger 4)4月24日接受采访时表示，欧盟希望最快在今年就ChatGPT等生成性AI的监管规则达成一致。此外，早在4月初，欧盟内部市场专员和工业与信息产业负责人就已经公开表示，欧盟将要求所有生成的AI内容标明出处。
在美国，5月4日，白宫宣布拨款1.4亿美元，研究制定指导AI监管的准则。日本的态度相对宽松，支持在公共事业和行业采用人工智能技术，同时监控其风险。
上个月，我国有关部门发布了《生成式人工智能服务管理办法(征求意见稿)》(以下简称“征求意见稿”)，旨在促进生成式人工智能技术的健康发展和规范应用。
在公司层面，站在暴风眼中心的人工智能公司OpenAI于5月25日宣布拨款100万美元，分成10份等额奖金，鼓励外部AI治理方案的提出。该公司首席执行官山姆·奥尔特曼(Sam Altman)在国会听证会上表示，希望当局(美国)成立一个专门机构来监管人工智能。
AIGC防伪技术的重要性凸显。
建立人工智能治理计划和监管体系固然重要，但要最大程度地防止AI“作恶”，相关防范技术同样不可或缺。
文章开头提到的案例中，AI变脸造假、带货、生成假论文等现象，都是由于AIGC的假货识别技术的缺失造成的。总的来说，随着AI生成的文字、图片、视频的增多，以及DeepFake技术的成熟，我们需要一种技术或产品来判断哪些样本是AI生成的，从而避免违法事件的发生。
目前，数字水印可能是一种比较可行和乐观的技术。数字水印可以将识别信息嵌入到数字载体中，通过隐藏在载体中的信息，可以确认和判断载体是否被篡改。
在海外，OpenAI此前曾表示会考虑在ChatGPT中加入水印，以减少模型滥用带来的负面影响；谷歌在今年的开发者大会上表示，将确保公司每一张AI生成的图片都嵌入水印，肉眼无法识别，但谷歌搜索引擎等软件可以读取，并显示为标签，提醒用户图片是AI生成的；Shutterstock和Midjourney等AI应用程序也将支持这种新的标记方法。
转眼间，Tik Tok于5月9日发布了人工智能生成内容的平台规范和行业倡议。提出所有生成式人工智能技术的提供者都应明确标识生成的内容，以供公众判断。前述《意见稿》还提出，对于生成式人工智能产品，提供者需要按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
随着AIGC生成的图片和视频保真度越来越高，AI被滥用的现象屡见不鲜，相关法律制度和防伪技术亟待完善。正如百度创始人李彦宏所说:“在人工智能技术飞速发展的过程中，确实可能出现对人类不利的发展方向。为了防止它失控，拥有先进人工智能技术的国家需要共同努力，从人类共同未来共同体的高度制定规则。”
本网站声明:网站内容来源于网络。如有侵权，请联系我们，我们会及时处理。
温馨提示：注：内容来源均采集于互联网，不要轻信任何，后果自负，本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权，请给我们来信(j7hr0a@163.com)，我们会及时处理和回复。
原文地址"AI“作恶”案件频发 潘多拉魔盒已打开 数字水印会是那顶紧箍吗？"：http://www.guoyinggangguan.com/qkl/146467.html。
微信扫描二维码关注官方微信
▲长按图片识别二维码
