小编：Kamakailan lamang、“eksklusibong mga Recipe ng pagbaba ng timbang”na inirerekomenda ngtinatawag na“mga eksperto sa nutrisyon”ay lumitaw sa ilang mga platform sa lipunan。许多买家相信他们并互相下订单。
近日，多个社交平台上出现了所谓“营养专家”推荐的“独家减肥食谱”。许多买家相信他们并下订单购买。那么，这些表面上的权威真的来自于专家本人吗？这背后到底隐藏着什么秘密？
科普视频中出现名医
涉案人员并不知情
在一段假的人工智能视频中，专家说得好，说交易者是北京协和医院临床营养科主任于康教授。他是中国营养与健康领域的权威专家。
记者在小红书、微信视频账号上发现不少于康教授介绍和推广减肥秘方的科普视频。记者随后联系北京协和医院进行调查核实。于康教授澄清，他本人从未参与过此类视频的录制。
于康，迪雷北京协和医院临床营养科主任：我几乎每天都会收到好朋友和各种人发来的信息，上面有联系方式。有疑问和提醒。经常出现的词是“这是你吗？” “这是于康吗？”当我看到完全是我的形象时，声音的相似度完全超出了我的想象。今天，技术已经可以达到这个水平。一方面，令人难以置信。另一方面，感觉后面就像一个小孩子，有点吓人。
图像篡改、科普歪曲、货物运输混乱是有害的。
在科普视频中，商家不仅歪曲了康教授的形象，还介绍了毫无根据、未经科学证明的营养知识。
北京协和医院临床营养科主任于康：他通过我嘴说的好像有一定程度的但他却利用其销售大量虚假产品、广告、虚假信息，包括但不限于虚假产品。当人们相信这些信息并放大它时，其影响不是针对我个人，而是针对数百万观众。
于康教授更担心视频中的虚假信息会让社区社区的努力变得毫无意义。
北京协和医院临床营养科主任于康：由于这些事情的影响，有一些混乱。也可以说，过去的一些争议已经回流或恶化。这比对我个人的影响更糟糕。
利用AI技术生成假视频
医院的医生们受了很多苦
记者注意到，这些短视频来自多个自媒体账号。除了于康教授的形象外，另一个共同的特点是虚拟背景的使用。
不是只有于康教授有这些问题，北京协和医院临床营养科的马芳教授也遇到了同样的情况。在某平台网店链接中，视频中的“马教授”分享了自己的减肥经历。
据北京协和医院介绍，马鲁尔知名专家被人工智能变脸，用于“保健”、“减肥”等虚假宣传。甚至还有不法商家利用人工智能生成假医生，打着协和医院的旗号销售各类产品，误导消费者。医院和医生深受其害。
北京协和医院临床营养科主任于康：有相当多的网站实际上并不是在宣传营养，而是扩大所谓的宣传，增加他产品的销量。他之所以使用我的形象，是因为我在社会上有很好的声誉。科学的营养传播在每个人心中。我们讲的是事实、证据和科学，所以人们相信我。被祝福他拥有了它，让一切看起来都很容易。
AI模拟流行主机
直播间虚假营销
随着虚假人工智能视频泛滥，司法部门和监管部门已查处多起案件。记者在调查中发现，不少公众人物的图片未经许可被用于商业宣传。
今年年初，北京市海淀区市场监管局接到消费者和广播电台举报称，一种鱼油产品具有医疗作用。在该账号发布的一段短视频中，出现了中央广播电视台主持人李子萌的形象。
记者注意到，发布假主播李子萌短视频的账号名为“广州白云深海鱼油厂”，粉丝点赞数超过80万。记者进入直播间后看到，这款鱼油三瓶售价为59.9元，页面显示已售出17.7万单。
北京市海淀区市场监管局海淀街道市政监管室办事员李新荣：它的执行标准属于糖果，包装上并没有像保健品那样有小蓝帽标识。它不是药物，也未被批准作为药物。在直播或短视频中宣传普通食品具有医疗功能或使用医学术语是严格违法的。
经中央广播电视总台核实，北京市海淀区市场管理部门最终确认，主持人李子萌并未代言该鱼油产品，也未允许利用其形象进行宣传。
市公安局海淀街道市政监察室科员 李新荣北京市海淀区市场监管局：最终，涉案人员承认，该短视频中李子萌的形象是其员工收集李子萌在网络上播放的片段，未经许可通过人工智能技术对这些片段进行编辑处理，最后在没有推荐视频推荐的情况下编译而成。
AI打造假明星主持人
半月工艺品价值6万多元
市场管理人员调取销售记录发现，该短视频上线半个月内，商户通过短视频链接销售鱼油订单超过1100单，销售额达6万多元。
北京市海淀区市场监管局海淀街道市政监察室办事员李新荣：擅自在短视频中利用人工智能技术对李子萌等知名主播形象进行编辑处理，构成发布虚假广告，违反《中华人民共和国劳动合同法》规定。《中华人民共和国广告法》第二十八条规定。最终，我局综合其违法情节和其他决策情况，最终决定对其处以20万元的行政处罚。
记者调查发现，利用人工智能技术进行非法营销的现象越来越多。主要原因是相关工具非常容易获得。而且，如果是换脸或者拟声的话，操作起来也很简单。让我们继续记者的调查吧。
Tags: 发现消息称，各大手机应用商店里充斥着大量换脸器或小程序，其中大部分可以免费使用。记者是由应用程序随机选择的，只需上传一些面部照片即可将目标视为一个人。视频中的著名专家都换成了自己的面孔。
除了换脸、拟声词之外，有些App还可以提供AI对口型等多种功能ng、AI文胜视频、AI电商。记者体验了“文森视频”功能：在对话框中输入关键词：北京协和医院，女医生，坐在诊室的桌子上，介绍病人的病情，不到30秒就生成了一段女医生形象的短视频。您还可以选择“不添加人工智能生成的单词”。记者随后进入减肥产品效果文案，选择“主播配音”，生成了一段“北京协和医院女医生宣传减肥产品”的营销视频。
中央财经大学法学院教授刘双舟：Intigal利用AI生成技术生成营销内容。主要表现是虚假宣传，生成一些不切实际的文字图像，没有添加AI标识，误导消费者。
AI假货带货传播虚假信息，不仅损害了人的个人名誉，侵犯了消费者的权益，还严重破坏了市场生态。各行各业都在积极探索解决方案来应对这个行业带来的新问题，但管理过程中仍存在诸多挑战。
目前，人工智能造假相关维权难度很大，在技术鉴定、证据处理、监控追责等方面存在较大阻力。
北京市海淀区市场监管局海淀街道市政监察室副主任石建英：深度造假视频识别难度大、成本高。肉眼很难识别，需要专业的技术支持。但此类侵权违法行为的造假成本较低。另一方面，大量人工智能生成的假视频出现n 电子商务平台。权利人本身不知情、不知情，维权周期长、程序复杂。一些权利人选择放弃维权或配合度较低。
深受AI造假困扰的专家表示，要杜绝AI造假乱象，需要通过制度设计加强防护。
北京协和医院临床营养科主任于康：我心里很难受，但又无能为力。我只能用不同的努力来进行个别的宣传和澄清。但我发现这种个人宣传与这种有害的欺骗相比只是杯水车薪，没有任何作用。所以我觉得还是要依靠国家层面的保护。这种保护不仅是对个别专家的保护，也是对专家群体的保护，也是整个国家的良心保护。旧社会。这称为资源校正。一是保护科学素养，二是尊重和保存真知识。当发现此类问题时，我们必须及时采取相关措施。否则，人工智能对每个人的负面影响可能会超过正面影响。这是相当不舒服的。
新监管规则
AI内容必须被标记
《关于对人工智能生成的合成内容进行标注的建议》于9月1日正式实施，明确要求利用人工智能技术生成合成的文字、图像、音频、视频、虚拟场景等信息必须依法添加相应的声明标签。
中央财经大学法学院教授刘双舟：这个文件出来之后，显然需要对AI生成合成的内容进行标记，必须添加这两种方法。表面识别。一方面，有明确的识别性，即公众可以通过识别内容来判断它是人工智能生成的内容。还需要将一些隐式标识符添加到元数据中，以指示数据的来源、目的以及生成者。
记者调查发现，在一些人工智能合成的视频中，发布者使用了意想不到的字体或隐藏在屏幕的角落。一些二级出版商甚至隐藏他们的标志。
中央财经大学法学院教授刘双舟：国家有具体规定鼓励人工智能技术的应用，但要求是必须规范使用，不能违规使用。目前，对于如何控制人工智能技术的营销滥用，一个部门无法解决问题。我个人的看法是应该由多个部门共同管理或者说社会共治南斯。可以发布处理人工智能生成技术的指南，以统一执法机构的理解和标准。
平台必须加强审查人工智能生成内容的责任
专家表示，各类社交平台作为人工智能视频发布的主要渠道，应更加灵活，在平台政策、内容审核等方面出台相关措施。
中央财经大学法学院教授刘双舟：平台应建立生成内容的审核机制，加强对人工智能生成内容的审核。例如，对于逃避AI识别的内容，可以采取删除、限流等措施。
从冒充专家“带货”，到冒充知名主持人“推荐菜谱”，AI假明星营销狂潮暴露了技术被滥用的危险。
AI处理图形信息信息
隐私泄露风险
近期，网信部门严厉查处了多个违法账号，同时鼓励平台重点整改。清理违法信息8700余条，处理违法账户11000余个。
网信部门表示，将继续压实网站平台主体责任，对利用人工智能引入公众号进行直播营销保持高压严控，发现、处理、曝光一批恶意营销账号。
随着大型模型在各行业的广泛应用，其安全风险更加复杂。网络专家指出，大规模人工智能模型的安全涵盖数据、基础设施和模型本身三个层面，其中个人使用的数据安全风险尤为突出。看似简单的mga照片、文字信息等帐篷可以通过AI处理泄露个人身份信息、人际关系等敏感内容。
网络安全专家李虎：可能我只是上传了一张合影。我认为它只是使用人工智能来使其变得更好或对其进行特殊处理。但其实是可以曝光的，因为照片上传后，其实可以通过图像识别技术，提取出人物的身份，然后根据人物之间的关系，比如亲密程度，可以预测出人物之间的关系，是朋友关系还是家人关系等等，然后这些数据被抓到之后就可以被更多的利用，比如通过诈骗。
从未知来源连接到 Wi-Fi
谨防信息泄露
除了大规模AI模型的使用带来的数据安全之外，公共场所不明来源的不当Wi-Fi连接也可能导致敏感信息泄露。网络安全专家王媛媛：这种无需密码的免费Wi-Fi连接，不法分子就可以利用漏洞设置假基站，怂恿大家连接。连接后，您的个人信息可能会被拦截。
据网络安全专家介绍，只要连接上犯罪分子已知的Wi-Fi，使用手机等电子设备时的一些操作就可以被拦截，包括输入用户名、密码等个人隐私信息。
网络安全专家建议个人用户应加强安全意识，优先选择以下大平台机型和正规渠道安装应用程序；此外，在连接Wi-Fi时应警惕无密码热点，以免落入网络钓鱼陷阱。那么，我们在日常上网时应该采取哪些预防措施，才能避免泄露个人隐私信息呢？
不要张贴您的火车票票证、机票、登机牌或车牌
发布火车票、飞机票、登机牌、车牌等含有个人信息的车票，可以被有其他目的的陌生人获取，导致个人隐私泄露；
不要发布您的身份证照片
身份证、护照、驾照、结婚证等文件含有重要个人隐私，请勿随意发布到网上；
不要分享您的位置信息
尽量不要发送您自己的位置信息。这些信息很容易泄露您的真实个人地址，并可能造成不必要的麻烦和危险；
请勿发布有关成人和儿童的信息
避免发布成人和儿童的照片和姓名，防止犯罪分子利用这些信息进行非法活动。建议与亲戚分享。
现代技术必须以诚信为基础。只有通过指定才能让AI在上面运行法治轨道才能净化市场生态、生态，真正服务社会。
制造商丨张平王静
主编丨毕德辉
记者丨高杰张刚
编辑丨仓丽丽
摄影丨刘刚 黄一尘 刘苏
当前网址：https://www.hrbyhgm.com//a/keji/1116.html
