夜深人静时，有人找它线上聊天、获取慰藉；视频带货时，有人用它快速生成营销文案；同学聚会时，有人用它现场作诗助兴……它，就是很多人眼中的“生活好帮手”“工作好搭子”——人工智能（AI）大模型。
近期，多款大模型产品横空出世、风靡全球，再次掀起人工智能热潮。但与此同时，也有一些人利用人工智能生成合成虚假内容，或为吸引眼球、赚取流量，或试图以假乱真、造谣诈骗等，带来一定风险和隐患，引发社会关注。
近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称《办法》）。《办法》聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，将于2025年9月1日起施行。
如何让人工智能生成合成内容“亮明身份”，不再“真假难辨”？如何破解人工智能安全治理难题？记者就此进行了采访。
小猫小狗随着音乐跳起舞蹈，家中“萌娃”大战公鸡……在短视频平台上，人们不时会刷到类似视频。其实，一些传播量、点赞量都很大的“神奇视频”并非是真实的，而是由人工智能生成合成的。
所谓人工智能生成合成内容，是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。
近年来，人工智能技术快速发展，为生成合成文字、图片、音频、视频等信息提供了便利工具，海量信息得以快速生成合成并在网络平台传播，在促进经济发展、丰富网上内容、便利公众生活的同时，也带来生成合成技术滥用、破坏网络生态等问题，引发社会各界的关注。
“一些喜欢我参演的影视剧的观众，被AI换脸视频骗得很惨，这个性质非常恶劣。”一位演员说，希望能建立更好的规范。实际上，不少公众人物都遭遇过类似问题。
公安部数据显示，近两年来，全国共发生“AI换脸”类诈骗案近百起，累计造成的经济损失高达2亿元。
“人工智能生成合成内容日益逼真，也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险，并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯说。
中国电子信息产业发展研究院副总工程师刘权认为，人工智能大模型本身存在不可解释性问题。大模型运作机制不透明，产生的“黑箱”属性导致不可解释性。这种不可解释性降低了可信度，使得输出的内容可能存在事实性错误和偏差，特别是在医疗、金融等领域，难以满足严苛的可信要求。
中国社会科学院大学互联网法治研究中心主任刘晓春表示，通过人工智能生成合成技术降低了内容“伪造”“造假”等的时间成本，尤其在图片、音频、视频等领域，从早期引起广泛关注的“换脸”工具，到伪造人声、通话视频的诈骗活动，再到“被压在废墟下的小男孩”等热点事件，人工智能技术带来的深度伪造、虚假信息、不良信息、抄袭侵权等问题，对包括内容治理在内的网络空间秩序构成挑战，对治理工具、方式和手段也提出了更新更高的要求。
数据显示，截至2024年底，共302款生成式人工智能服务在国家网信办完成备案，其中当年新增238款备案。
“当前，大模型能够生成高真实感的文本、人像、场景、音频，普通民众不借助检测工具往往很难辨别内容真伪。”中国科学院计算技术研究所数字内容合成与伪造检测实验室主任、研究员曹娟认为，随着生成式人工智能技术在各个行业落地应用，生成合成内容的数据规模快速增长，对生成内容进行全面检测成本太高。生成合成内容适用场景大幅扩展，助长了欺骗场景多样化。
在山东青岛某中学举行的科技节活动中，学生们观看机器狗表演。光明图片张鹰摄
《办法》的推出是我国推进人工智能领域安全治理、促进产业规范健康发展、引导技术向善的重要举措，标志着我国在生成式人工智能领域迈出了构建安全可信生态的关键一步。
国家互联网信息办公室有关负责人介绍，《办法》重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。
针对服务提供者，《办法》明确，应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识。
IM电竞,IM电竞官网,IM电竞注册,电竞投注平台,电竞博彩,英雄联盟竞猜
针对互联网应用程序分发平台，《办法》提出在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务，并核验其生成合成内容标识相关材料。
针对用户，《办法》提出，用户使用网络信息内容传播服务发布生成合成内容的，应当主动声明并使用服务提供者提供的标识功能进行标识。
此外，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。
“《办法》以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。”该负责人说。
中国政法大学数据法治研究院教授张凌寒认为，人工智能生成内容标识制度具备独特制度价值。标识能够有效区分出人工智能生成合成的信息，防范虚假信息的传播利用；标识能够帮助用户快速了解生成式人工智能产品和服务的相关属性或参数信息；标识能够协助监管部门对生成式人工智能产品或服务实施评估、追溯等监管，推进人工智能生成合成内容合法合规发展。
张凌寒表示，目前，人工智能生成合成内容标识制度主要关注“是否机器生成”的形式判断。随着标识技术的进步与发展，未来标识制度能够发挥更为丰富的功能，从形式判断逐渐转向“是否足够可靠”的质量判断，进一步促进行业健康发展。
为推动《办法》落地实施，强制性国家标准《网络安全技术人工智能生成合成内容标识方法》同步发布，更好地指导相关主体规范开展标识活动。
“当前，人工智能安全治理已从危害探讨进入实际执法的深水区。”曹娟说，大模型生成技术迭代更新很快，平均两个月就会出现新的里程碑模型，提升针对新生伪造方法的泛化能力至关重要，需要摒弃“来一个打一枪”的事后思维，构建AI鉴伪底座模型，提高鉴伪模型的泛化适用性能。
曹娟表示，要研究精准化对抗鉴伪技术，防范恶意逃避风险。同时，降低对无害生成内容传播的影响，兼顾生成内容应用的发展与治理，打造全民化伪造检测工具，推动人人可用鉴伪。
“可以预见，我国人工智能安全执法将延续重点事项监管、促进产业有序发展的方向。”公安部第三研究所副所长金波说，伴随标识管理与算法备案、安全评估等机制逐步实现有机衔接，生成合成内容标识合规或将成为相关部门开展人工智能监督检查、专项行动的重点关注领域。在此进程中，如何平衡好发展与安全、创新与责任，提升执法的专业化、精细化、智慧化水平，从而培育出安全、开放、公平的人工智能产业生态环境，还需要深入探究。
“此外，‘人的因素’应融入人工智能标识管理的全过程。”金波表示，要着重提升公众对信息内容真实性、来源可追溯性的评估能力，积极培育公众的人工智能素养，确保人工智能技术成果普惠共享。
在陈纯看来，《办法》的落地离不开全社会凝心聚力和协同配合。地方主管部门、高校、科研机构、企业可共同参与，形成标识工作先行的多点协同内容治理网络，推动标识工作行稳致远。此外，有必要建立全国性的内容标识公共服务平台，以可视可交互的实际操练形式，促进公众和产业深入理解标识工作。
“生成式人工智能促使信息技术从普通工具属性向‘思维伙伴’型高智能化工具属性进化，带来颠覆性发展机遇，未来势必成为我们的必备技能，这要求我们在使用时切实正确理解并管理人工智能。”陈纯说。
实验室是科技创新的重要摇篮，但里边有不少危险而又昂贵的设备，可能对科研工作者人身和财产安全造成威胁。如何织密安全防护网？
中国科学技术大学俞书宏院士团队成功开发出一种可闭环生物回收的纤维素基介电薄膜，能够提高电子器件的循环利用率，从而减少电子废弃物。
日前，济南量子技术研究院团队与深圳国际量子研究院团队合作，在可见光集成光学领域取得重要进展：成功研制出一套新型可见光矢量光谱分析仪。
中国林科院林业所林木细胞遗传研究组近日提出了研究裸子植物生长停滞可塑性的独特模型。这一成果填补了人们对裸子植物发育可塑性认识的空白。
8月6日，揽月月面着陆器着陆起飞综合验证试验在位于河北省怀来县的地外天体着陆试验场圆满完成，此次试验是我国首次进行载人航天器地外天体着陆起飞试验。
近日，中国科学院大连化学物理研究所研究员吴凯丰团队采用胶体量子点溶液作为增益介质，通过法布里-珀罗谐振腔耦合及双脉冲泵浦设计，开发出连续稳定工作10天以上、能量转化效率大于17%的量子点液体激光器。
近日，中国农业科学院农业基因组研究所的研究团队深入解析了中亚野猪种群在跨越欧亚大陆百万年的迁徙历程中适应环境的独特遗传密码，为理解大型哺乳动物如何应对环境变化提供了全新视角。
无论是钢琴家指尖流淌出的动人旋律，还是外科医生在显微镜下的精准操作，甚至是母亲为孩子系鞋带时的温柔细致……
月球，地球最亲密的邻居，它的“婴儿期”是什么样的？为破解这个谜题，中国地质大学（北京）科学研究院王水炯教授团队和中国科学院地质与地球物理研究所李秋立研究员团队合作
近日，国务院常务会议讨论并原则通过了《中华人民共和国耕地保护和质量提升法（草案）》（以下简称《草案》），决定将《草案》提请全国人大常委会审议。
长期以来，石油衍生塑料的污染问题，特别是微塑料对食物和水源的有害影响，一直困扰着人类。研究人员设计了利用恶臭假单胞菌等菌株，将二氧化碳、木质素和食物垃圾等废物转化为生物塑料的方法。
南方科技大学地球与空间科学系副教授林玉峰与合作者揭示了地球磁场发电机对地核流体黏度的不变性，并发现早期地球模型可产生与现今观测高度相似的地磁场结构和强度。
中国工程院院士、中国农业科学院作物科学研究所研究员万建民表示，纹枯病是威胁全球水稻生产的重大病害，年均造成产量损失10%至30%。
近年来，受全球气候变化影响，灾害性天气的突发性、极端性、不确定性愈加明显，特别是进入汛期，突破历史纪录和传统认知的灾害频繁发生。
农业农村部、生态环境部日前联合发布《中国渔业生态环境状况公报（2024）》，公布2024年中国渔业水域水质、沉积物、浮游生物等18项指标的生态环境监测情况。
林炳亮：基孔肯雅病毒不会通过日常接触引发人际传播，也不会通过咳嗽、打喷嚏等传播。林炳亮：基孔肯雅热和登革热的传播途径一样，都是由伊蚊传播，因此防控措施也一样。基孔肯雅热的治疗尚无特效药物，以对症治疗为主，并做好防蚊隔离。
黄皮、龙宫果、嘉宝果、蛇皮果……不少爱吃水果的消费者发现，无论是在线下超市里，还是在线上购物软件里，市面上出售的新奇小众水果越来越多了。泰国的榴莲、山竹都是很热门的水果，我们在泰国采购过程中发现，当地的榴莲果园里会混种一些龙宫果的树木。
近30年来，程芳琴带领团队聚焦煤、电、冶等产业中产生的工业固废处理处置问题，致力于工业固废的低碳化、高值化利用和无害化处置。通过“预处理活化—资源化利用—无害化处置”的技术链条，让工业固废逐步从环境负担转化为可利用资源，促进循环经济发展。
物理学家利用一种仅几千克重的装置从核反应堆中捕获了中微子，这种装置的重量比标准的中微子探测器小几个数量级。Scholberg的COHERENT探测器首次利用了一种名为相干散射的现象，即中微子与整个原子核发生“散射”，而不是与构成原子的粒子发生散射。
