南财合规周报(第143期):56家出版社联合抵制京东618大促,欧盟理事会正式批准《人工智能法案》

21世纪经济报道记者冯恋阁 广州报道

本周(5.20-5.26),合规领域动态不断。

数字经济及平台监管方面,警方通报“胖猫”事件调查情况;抖音快手微信公布微短剧相关备案细则;56家出版社联合抵制京东618大促。

数据安全与个人信息保护方面,特斯拉或将在国内收集数据用于自动驾驶系统开发;微软AI PC新功能引发了隐私争议。

人工智能方面,好莱坞巨星指控ChatGPT模仿其声音;OpenAI与新闻集团达成合作;国内大模型掀起降价潮;OpenAI宣布解散公司超级对齐团队。

目光转向海外,人工智能首尔峰会举办;欧盟理事会正式批准了《人工智能法案》。

数字经济及平台监管

1、警方通报“胖猫”事件调查情况

5月19日,重庆警方发布“胖猫”事件调查情况。通报显示,“胖猫”与谭某存在真实恋爱关系,谭某未实施虚构事实或隐瞒真相、以恋爱为名骗取“胖猫”财物的行为,不构成诈骗犯罪。“胖猫”姐姐刘某曝光谭某个人信息、选择性截取聊天记录、购买流量炒热度等行为,导致谭某被网民攻击辱骂,网络出现多起威胁谭某人身安全的言论,严重影响谭某正常生活,并造成网络空间秩序混乱。

调查过程中,刘某认识到自己行为的违法性并认错,警方将根据进一步的调查情况依法作出处理。针对个别网民为蹭流量、博眼球,编造谣言、寻衅滋事,各地警方依法开展查处。

南财点评:将热点事件利用虚构、炮制的方式传播耸人听闻的信息,是典型的违法违规行为。平台应以问题为导向精准施策。热搜、热榜属于高曝光区,平台应加强管控力度,将这些关键节点作为治理抓手,进行常态化的流量监测,及时进行干预。

同时,平台应进一步畅通网暴受害方投诉、举证的渠道,并限制对相关争议事件的进一步传播,如在有证据的情况下降低推荐、采取管控措施等,避免网暴规模扩大,对受害方造成更广的负面影响。

2、抖音快手微信公布微短剧相关备案细则

微短剧监管趋严正在成为行业共识。近日,抖音、快手、微信三大平台公布了微短剧备案细则。微信要求,从5月27日起,制作成本低于30万元的微短剧需提交成本配置比例报告,经审核后获得备案号。抖音和快手则要求,6月1日起上架的微短剧一律实行审核备案。

4月起,多地广电主管部门、短剧制作公司收到《微短剧备案最新工作提示》相关通知,根据该提示,从今年6月1日起,未经审核且备案的微短剧不得上网传播。

不同微短剧按总投资额度被分为三类,采取分类分层审核:投资额度在100万元以上的“重点微短剧”归广电总局管理,30万元到100万元之间的“普通微短剧”归省级广电部门管理,30万元以下的“其他微短剧”归平台管理。

南财点评:当前我国微短剧市场处于高速增长阶段,提供了新的商业业态以及更多的就业机会,但同时也出现了一系列不容忽视的问题。一是内容质量有待提升,大部分的微短剧缺乏逻辑性和艺术性。二是题材同质化竞争激烈,比如穿越、重生等等,大多以“爽”为内核,出现大量“土味”、“狗血”剧情。三是从业者版权保护意识淡薄,抄袭、盗版现象严重,侵害了原创作者的正当权益。

过去微短剧制作门槛低、耗时短,有些公司会为了追求流量选择制作内容低俗的作品来“抓眼球”,行业迫切需要规范引导。备案制度的落地,虽然短期内可能会增加制作方的合规运营成本,但长远来看,有利于提升微短剧整体的内容质量,推动行业规范健康发展。

3、56家出版社联合抵制京东618大促

近日,两份出版行业发布“联合声明告知函”引发热议。这两则声明由清华大学出版社、北京大学出版社、中国人民大学出版社等北京10家出版社和上海出版经营管理协会代表上海46家会员单位发出。

告知函中提到,针对江苏圆周电子商务有限公司提出的618促销活动方案,出版社不参与,也不承担活动期间产生的任何返利费用。出版商在声明函中表示,此举是为了“维护市场的长期健康发展”“维护图书市场的稳定与繁荣,反对无序竞争”。

据了解,江苏圆周电子商务有限公司为京东图书的关联公司。该公司法定代表人为姚彦中,目前为京东集团高级副总裁、京东零售大商超事业部总裁。

数据安全与个人信息保护

1、特斯拉或将在国内收集数据用于自动驾驶系统开发

近日,据媒体报道,多名知情人士透露特斯拉计划在中国收集数据,并在中国境内建立数据中心用于数据处理和训练其自动驾驶算法(FSD)。

4月,特斯拉CEO马斯克开启了中国之行。有观点认为,这是FSD将在国内全面落地的信号。同期,马斯克在X(原推特)回复中国网友的相关提问时表示,(FSD在中国完全落地)可能很快会成为现实。

同样在4月,中国汽车工业协会发布的《关于汽车数据处理4项安全要求检测情况的通报》显示,特斯拉、比亚迪、蔚来、理想、路特斯、合众新能源、蔚来等6家企业的76款车型符合汽车数据安全4项合规要求。

2、微软AI PC新功能引发了隐私争议

近日,微软推出专为 AI 设计的新型 Windows PC,即“Copilot+ PC”,其中一项名为“Recall”的新功能引发了隐私争议。

据悉,“Recall”功能通过每隔几秒截取一张截图快照,来跟踪人们在电脑上的操作行为,帮助用户快速找到要找的东西,实现“照相记忆”。用户可以滚动时间轴来查找自己曾经浏览的文件、使用的应用、访问过的网页等等,以回忆起自己当时在做些什么。

这一功能引发了部分用户对隐私安全的担忧。

虽然微软表示“Recall”功能数据仅存储在用户设备本地,并使用加密技术进行保护,微软或任何没有设备访问权限的人员都无法访问。但其同时提示,“Recall”功能不执行内容审核,不会隐藏密码或金融账号等信息。这些数据可能以快照的形式存储在用户的设备上,尤其是当网站不遵循标准的互联网协议(如隐藏密码输入)时。

英国数据监管机构ICO正在对此进行调查,以获取有关该产品安全性的更多信息。该机构希望微软和其他科技公司在将产品投放市场之前,能严格评估并减轻对人们权利和自由的风险。

人工智能

1、好莱坞巨星指控ChatGPT模仿其声音

近日,在《Her》中饰演萨曼莎的演员斯嘉丽约翰逊指控OpenAI新产品中的其中一个声音与她的声音太过相似,让她感到“震惊、愤怒和难以置信”。

OpenAI近期发布的GPT-4o在音频交互功能中提供了Breeze、Cove、Ember、Juniper和Sky五种声音。斯嘉丽约翰逊认为Sky与她的声音太过相似。OpenAI 发文回应,表示五个语音都是来自合作的配音演员,而 Sky 的声音没有刻意模仿斯嘉丽·约翰逊。目前OpenAI已经暂停使用“Sky”模式的声音。

南财点评:AI产品不能肆意地搭名人的“顺风车”。如果使用了和名人比较像的人的声音进行训练,又利用了名人演过的电影营销,有“擦边”之嫌。

保障AI产业中个人权益不被侵害的关键在服务提供者和研发者:其一是使用他人声音肖像进行训练需要获得授权,其二是,生成的内容应当标注由人工智能生成。此外,就我国目前法律规章来看,人工智能服务商具有对平台生成内容的审查义务。

2、OpenAI与新闻集团达成合作

5月22日,OpenAI宣布与新闻集团(News Corporation)达成多年协议,新闻集团的新闻内容应用于OpenAI。

新闻集团旗下媒体包括《华尔街日报》《巴伦周刊》《MarketWatch》《投资者商业日报》《FN》《纽约邮报》《泰晤士报》《太阳报》等。除了提供内容外,新闻集团还将分享新闻专业知识,以帮助确保在OpenAI的产品中达到最高的新闻标准。

此前,OpenAI宣布和有“美国贴吧”之称的社交平台Reddit合作,OpenAI可访问Reddit数据API(应用程序编程接口)的实时内容,把Reddit的内容引入ChatGPT等产品中。

3、国内大模型“疯狂”大降价

近期,国内大模型厂商掀起一轮降价潮。

5 月 21 日,阿里云宣布9款通义千问大模型集体降价,其中 GPT-4 级主力模型 Qwen-Long,API 输入价格从 0.02 元/千tokens降至0.0005元/千tokens,直降 97%;同日,百度宣布ERNIE Speed、ERNIE Lite免费。

5月22日,腾讯云公布全新大模型升级方案。其主力模型之一混元-lite模型,价格从0.008元/千tokens调整为全面免费。其最高配置万亿参数模型混元-pro,API 输入价格从0.1元/千tokens降至0.03元/千tokens,降幅达70%。同日,科大讯飞宣布讯飞星火API能力正式免费开放,讯飞星火Lite API永久免费开放,顶配版Spark3.5 Max的API价格为0.21元/万Tokens。

4、OpenAI宣布解散其人工智能对齐团队

近日,OpenAI 联合创始人Ilya Sutskever(伊利亚·苏茨基弗)和OpenAI 超级对齐团队的负责人Jan Leike(扬·莱克)两位高管相继官宣离职。随后OpenAI宣布解散了专注于人工智能长期风险的超级对齐团队,团队成员正在被重新分配到公司内的其他团队中。

OpenAI的人工智能对齐团队于去年宣布成立, 超级对齐团队在OpenAI的主要职能之一就是为AI风险把关,负责对研发的AI进行评估并监督。当时,OpenAI表示将在四年内将其20%的计算能力用于该计划。

海外合规风云

1、人工智能首尔峰会举办

5月21-22日,人工智能首尔峰会(AI Seoul Summit)在韩国举办。峰会分为21日的首脑会议和22日的部长级会议。

据媒体报道,本届峰会参与方包括七国集团成员国以及新加坡、澳大利亚等国的政府人员,联合国、经合组织等国际机构,以及微软、OpenAI、三星等科技企业。

首脑会议结束后,与会各方发布了包含“安全、创新、包容”三大原则的人工智能《首尔宣言》和《关于人工智能安全科学的国际合作首尔意向书》。同日,OpenAI、亚马逊、谷歌微软、智谱AI等16 家公司就 AI 开发的安全承诺达成一致,共同签署了前沿人工智能安全承诺,包括以下要点:确保前沿人工智能安全的负责任治理结构和透明度;基于人工智能安全框架,负责任地说明将如何衡量前沿人工智能模型的风险;建立前沿人工智能安全模型风险缓解机制的明确流程。

2、欧盟理事会正式批准《人工智能法案》

当地时间5月21日,欧盟理事会正式批准了《人工智能法案》(简称《AI法案》)。两个月前,欧洲议会以压倒性优势通过了该法案。这意味着该法案终于通过欧洲议会主席、欧盟理事会主席签署,未来几天将公布于官方公报,刊宪20天后法案生效。

《AI法案》基于风险分类分级的方法,将AI系统划分为不同等级,对社会带来危害的风险越高,监管规则就越严格。

将AI运用于自动驾驶汽车、医疗系统、招聘领域、面部识别技术等数据高风险用途。高风险人工智能系统的开发人员需要注册AI系统、达到风险和性能评估等一系列义务才能进入欧盟市场。

ChatGPT等大语言模型,属于《AI法案》定义的通用人工智能(GPAI)。大部分GPAI只需要披露训练方式,满足透明度要求即可。只有达到了一定浮点运算的阈值(FLOPs)时,《AI法案》才可能认为GPAI构成“系统性风险”,并采取更严格的事前监管措施。