原始来源:
图像来源:生成者
距离OpenAI首次将ChatGPT带给大众用户已经过去了半年,但毕竟再好的东西也有“保质期”,所以随着时间的推移,大众对大AI模式的热情逐渐消退,其阴暗面也开始被大量讨论。且不说早已摆上台面的AI大模型生成的内容可能存在版权风险,AI的伦理道德等话题也太过虚无缥缈。仅仅是窃取用户隐私就足以吸引外界对大模型的关注。
近日,美国一家律师事务所向加州北区联邦法院提起集体诉讼,指控OpenAI和微软在使用互联网抓取的信息训练ChatGPT时,严重侵犯了大量用户的版权和隐私,并要求后者赔偿30亿美元。在这份长达157页的诉状中,原告指控OpenAI和微软在未经许可的情况下收集、存储、共享和披露包括账户信息、姓名、联系方式、支付信息和聊天记录在内的私人数据。
如果说律所指责OpenAI和微软更抢眼,那么网络安全公司Home Security Heroes发布的一份研究数据可能更实用。在该公司对苹果应用商店的研究中,发现四分之三的人工智能相关应用程序与第三方共享用户数据。在被调查的159个应用中,发现有64%的应用会追踪用户的个人数据,其中监控用户数据比例最大的AI应用是Brainly(一种数学求解应用)。
此外,谷歌助手与第三方共享了超过35.71%的用户数据,而语言教育应用Duolingo、图像生成应用AI Arta and DaVinci、AI医疗应用K Health分别与第三方共享了高达28.57%的用户数据。据家庭安全英雄称,总体而言,54%的AI应用程序会跟踪用户数据。
毫无疑问,这样一组数字是相当惊人的。毕竟App Store应该是目前最严格的应用商店,苹果也是对用户隐私保护最强的消费电子公司。所以可以想象,在Android生态系统中,AI应用大概率窃取用户数据的情况只会更加严重。
事实上,自Meta的“剑桥门”以来,与第三方共享用户数据一直是整个行业的禁忌,也很容易让用户认为公司本身对个人隐私漠不关心,所以这也是近年来各大应用商店不得不防范的一点。
例如,苹果在App Store的审查指南中明确写道“从应用程序收集的数据不能与第三方共享,不能用于与改善用户体验和软件/硬件性能无关的功能。自助服务广告必须遵守苹果开发者计划许可协议”。既然与第三方分享用户数据是苹果禁止的行为,为什么大量的AI应用会选择愚弄苹果的审核人员,冒着被App Store下架的风险?
其实这是因为AI应用对数据有着几乎无止境的渴求,它们像饕餮一样吞噬数据来训练自己的模型。AI的智能是以数据为支撑的,机器学习/深度学习技术的基础是大量的数据,即著名AI科学家吴恩达教授倡导的以数据为中心的AI,这是一种以数据为中心的人工智能理念,强调数据在人工智能发展和应用中的重要性。
传统的建立AI模型的方法主要以迭代模型为主,数据相对固定,通常以几个基准数据集为中心,然后设计各种模型来提高预测精度。但是,这种模式的缺陷也非常突出。精度高的模型只能保证“拟合”数据,并不一定意味着在实际应用中会有好的表现。现在已经被边缘化了。目前,用更大规模、更高质量的数据来训练AI已经成为主流。
以OpenAI的GPT模型为例,从GPT一号到ChatGPT,再到GPT四号,使用的训练数据大体经历了以下变化:小数据规模数据-大规模数据-更大、更高质量的数据-以人类为标志的大规模高质量数据。说到底,所谓的语言模型训练和学习,就是从大量的数据中学习复杂的上下文关系。为了获得更多的数据,OpenAI更是咄咄逼人。例如,它以每年200万美元的价格获得Twitter tweet数据。
如果没有持续的数据输入,ChatGPT是不可能完成向GPT-4的“进化”的,而两者的一个显著区别是,ChatGPT的数据只到2021年结束,2022年之后就没有数据了。是的,随着AI大模型概念的流行,AI相关的公司现在已经成为数据交易市场的大买家。
正是因为这个事实,现阶段数据本身的价格就上涨了,掌握了数据来源的企业开始哄抬价格。以前段时间引起不小风波的Reddit为例,12000美元让第三方抓取5000万次内容的价格显然偏高。
由于对数据的渴求和数据本身的价格,AI应用的开发者自然有强烈的动机从应用中收集用户数据并与第三方分享。对于目前绝大多数的AI应用来说,卖数据可能是他们现阶段能找到的最可行的赚钱方式。而且目前会下载AI应用的用户基本都是对AI感兴趣的人。如何让这部分用户的价值更大,显然开发者没有理由不动心。
事实上,肆意挖掘用户隐私的猖獗现象已经对尚不成熟的AI生态本身造成了极大的伤害,因此有识之士也纷纷站出来呐喊。谷歌DeepMind首席商务官科林·默多克(Colin Murdoch)表示,敦促人工智能开发者专注于建立一个“强大而负责任”的社区。我只是想遏制AI应用的开发者非法挖掘用户数据,我还得加强app store里的审核。
温馨提示:注:内容来源均采集于互联网,不要轻信任何,后果自负,本站不承担任何责任。若本站收录的信息无意侵犯了贵司版权,请给我们来信(j7hr0a@163.com),我们会及时处理和回复。
原文地址"无视用户隐私,大量ai应用正在共享你的数据怎么办,ai共享平台":http://www.guoyinggangguan.com/qkl/140915.html。
![](/skin/images/r_wechat_img.jpg)
微信扫描二维码关注官方微信
▲长按图片识别二维码