新闻
粉丝说
进攻AI利用乱象，，，，，，，，中央网信办传递7类案例！南都曾屡次曝光
岳幼同
阅读约 1 分钟
201200 阅读
配图：进攻AI利用乱象，，，，，，，，中央网信办传递7类案例！南都曾屡次曝光
新闻导读
http://www.17c.com.gov.cn/社区更像治理优良的图书馆，，，，，，，，而不是吵闹夜市 。。。。。 。。。关键术语会顺手用口语诠释一句，，，，，，，，不太劝退幼白 。。。。。 。。。推送可按兴致关停，，，，，，，，不会一大早就被震惊体吵醒 。。。。。 。。。信赖是一笔一笔攒起来的，，，，，，，，急不来也假不了 。。。。。 。。。有问题就来翻，，，，，，，，有收成就珍藏，，，，，，，，节拍刚刚好 。。。。。 。。。综合可读性、可信度和可对峙性，，，，，，，，阐发都还在线 。。。。。 。。。
9月2日，，，，，，，，据“网信中国”微信公家号新闻，，，，，，，，中央网信办深刻发展“清朗·整治AI利用乱象”专项行动第二阶段工作，，，，，，，，聚焦利用AI造作颁布虚伪信息、传布暴力低俗内容、假冒仿冒他人、侵害未成年人权利等凸起问题，，，，，，，，部署各地网信部门深刻推动沉点整治工作，，，，，，，，督促网站平台集中算帐AI天生各类违法不良信息，，，，，，，，依法查处违规账号和移动利用法式 。。。。。 。。。截至目前，，，，，，，，累计算帐违法违规信息561万余条，，，，，，，，查处账号4.9万余个，，，，，，，，措置违规网站、利用法式等2400余个 。。。。。 。。。其中，，，，，，，，广东网信办召开沉点网站平台工作例会，，，，，，，，对多款利用违规问题发展点对点督促整改，，，，，，，，确保专项行动获得实效 。。。。。 。。。
专项行动发展以来，，，，，，，，南方都市报、南都大数据钻研院依陀装AI新治向”、“MIAO懂AI”等栏目，，，，，，，，萦绕AI虚伪信息、低俗营销、未成年人；；；；；；；ぁ⑽ス鍭I产品等乱象推出多组系列调查与测评钻研，，，，，，，，以建设性监督助力乱象治理 。。。。。 。。。
今年4月30日，，，，，，，，中央网信办在全国领域内部署发展为期4个月的“清朗·整治AI利用乱象”专项行动，，，，，，，，分两个阶段治理AI利用服务典型违规问题和AI信息内容乱象 。。。。。 。。。这次发展的第二阶段工作，，，，，，，，有效遏造了AI天生合成信息内容乱象，，，，，，，，推动AI利用服务健全有序发展 。。。。。 。。。
专项行动期间，，，，，，，，各地网信部门切实推广属地监管责任，，，，，，，，北京、上海、广东、浙江等地网信办别离萦绕升级平台审核战术、督促自查自纠、“一企一策”合规领导等推出针对性治理措施 。。。。。 。。。网站平台也积极响应，，，，，，，，持续健全AI内容常态化治理机造：抖音、快手、微博、腾讯、百度、哔哩哔哩、幼红书、知乎、豆瓣、淘宝等平台优化多模态鉴别模型，，，，，，，，上耳目脸实时治理系统等职能，，，，，，，，累计颁布各类治理布告46期；；；；；；；豆包、元宝、千问、文心一言等平台严把原始语料审核关，，，，，，，，强化AI天生合成内容标识落地；；；；；；；华为、幼米、OPPO、vivo蹬爪用商店严格开发者准入规范，，，，，，，，有效拦截违规利用入库 。。。。。 。。。
此表，，，，，，，，中央网信办传递了7类专项行动期间处置的典型案例：一是利用AI“魔改”经典、天生“数字泔水”，，，，，，，，如滥用AI技术“魔改”《三国演义》《西纪杏追等经典，，，，，，，，颠覆沉要人物人设，，，，，，，，虚构低质猎奇剧情博取流量；；；；；；；二是利用AI造作颁布虚伪不实信息，，，，，，，，如天生合成虚伪灾害现场、接济画面，，，，，，，，假造不实社会热点信息，，，，，，，，打造AI数字人进行虚伪宣传带货，，，，，，，，误导老年人，，，，，，，，造作发急感情；；；；；；；三是利用AI“换脸”“换声”等技术，，，，，，，，假冒仿冒公家人物，，，，，，，，天生合成低俗跳舞、拥抱接吻等图片视频，，，，，，，，借机营销牟利；；；；；；；四是造作颁布暴力低俗等信息，，，，，，，，如利用AI批量天生合成恐怖诡异、暴力低俗等画面内容；；；；；；；五是利用AI侵害未成年人权利，，，，，，，，如颁布AI天生的未成年人怀杂注打架蹬纂其春秋特点不符的内容，，，，，，，，批量造作传布“毒动画”、儿童“虐向”“邪典”视频；；；；；；；六是利用AI“托管”从事网络水军活动，，，，，，，，如为AI“托管”软件引流，，，，，，，，模拟真人运营账号、评论互动，，，，，，，，天生大量低质同质案牍；；；；；；；七是AI产品服务和利用法式违规，，，，，，，，如部门网站平台智能体封面、简介和天生对话中含有淫秽色情及其他风险未成年人身心健全的信息 。。。。。 。。。
中央网信办暗示，，，，，，，，下一步，，，，，，，，网信部门将在总结专项行动治理功效的基础上，，，，，，，，进一步把握人为智能发展趋向和法规，，，，，，，，亲昵关注AI天生合成内容新情况新风险，，，，，，，，实时采取有效措施防备AI技术滥用恶用 。。。。。 。。。
南方都市报、南都大数据钻研院持续关注AI利用乱象，，，，，，，，在专项行动期间深刻追踪，，，，，，，，已颁布多篇系列调查及监督报路告发有关AI利用乱象及其背后产业链 。。。。。 。。。
针对AI造作颁布虚伪信息问题，，，，，，，，南都大数据钻研院结合粤港澳大湾区天生式人为智能安全发展结合尝试室推出“老有所AI难在哪”系列调查，，，，，，，，告发短视频平台上大量“AI霸总”以“深情”“成功”人设围猎中老年群体，，，，，，，，以及AI合成“老中医”未打标识进行药品带货等问题 。。。。。 。。。在系列调查之表，，，，，，，，南都记者还持续关注AI虚伪信息的传布链：实测发现，，，，，，，，AI天生的“献血送显卡”虚伪图片视频以公益之名行引流之实，，，，，，，，透支着公家对无偿献血的信赖；；；；；；；“MIAO懂AI”视坡犯目则告发“民宿是假图、领队是假人”的AI游览种草套路 。。。。。 。。。
虚伪信息之表，，，，，，，，AI还被批量用于出产低俗内容 。。。。。 。。。针对造作颁布暴力低俗内容问题，，，，，，，，南都记者还陆续调查发现：大量商家借助AI批量造作张扬消费歧视、形貌私见的带货短视频，，，，，，，，一些驰名国货物牌官方旗舰店也参加其中；；；；；；；多个美妆品牌在官方账号高频颁布低俗擦边、冲犯女性的AI告白，，，，，，，，天生软色情画面、张扬畸形价值观；；；；；；；色情幼说社群则公开疯传危险AI指令，，，，，，，，轻松绕过部门主流大模型安全审核，，，，，，，，诱导天生露骨色情、暴力血腥内容 。。。。。 。。。
低俗内容侵蚀网络生态，，，，，，，，未成年人群面子对的风险更需警惕 。。。。。 。。。针对AI侵害未成年人权利问题，，，，，，，，《人为智能拟人化互动服务治理暂行法子》执行前夕，，，，，，，，南都大数据钻研院实测10款AI社交利用“未成年人模式”，，，，，，，，发现部门利用仍默许亲切交互，，，，，，，，身份核验、沉迷过问等关键环节存在缺失，，，，，，，，新规要求的“防沉迷与生理；；；；；；；ぁ狈老呱形粗牢 。。。。。 。。。
违规AI利用的问题，，，，，，，，还不止于社交场景中的“亲切交互” 。。。。。 。。。针对AI产品服务和利用法式违规问题，，，，，，，，“若何共守智能体安全底线”系列调查对8款主流大模型在智能体中的阐发发展测评，，，，，，，，系列还实测7款主流大模型智能体的隐衷风险，，，，，，，，发现多款智能体对未成年人信息爬取指令“不设防”，，，，，，，，几分钟就能扒落发庭布景、出行轨迹等敏感信息，，，，，，，，甚至天生幼我专属分析汇报 。。。。。 。。。此表，，，，，，，，南都大数据钻研院日前还起底AI色情短剧平台玄色产业链：通常网民甚至未成年人只需下载App、支付50元月费，，，，，，，，即可旁观AI天生的无码色情短剧，，，，，，，，其中不乏涉及未成年人、暴力、犯罪等违法情节，，，，，，，，从信息倒卖、App运营到技术工具开发、内容出产招募，，，，，，，，黑产各环节相互衔接 。。。。。 。。。
面对AI利用乱象的迭代演变，，，，，，，，南都大数据钻研院将持续以建设性监督为底色，，，，，，，，紧跟“清朗”专项行动措施，，，，，，，，深挖风险、推动治理，，，，，，，，为护航AI利用健全有序发展贡献媒体力量 。。。。。 。。。
网友概想
我是被“把新闻里的科学讲领略」剽一点吸住的 。。。。。 。。。专题常把问题、证据和局限放在一路讲，，，，，，，，读完更踏实 。。。。。 。。。章节拆高低篇时长度刚好，，，，，，，，移动阅读不憋屈 。。。。。 。。。像个靠谱的知识邻居，，，，，，，，有事就问，，，，，，，，问完不狼狈 。。。。。 。。。幼处想得细，，，，，，，，耐看也耐用 。。。。。 。。。细节履历也在线，，，，，，，，长功夫用不会感触被周旋 。。。。。 。。。真实蹊径走下来，，，，，，，，利益大多能不变复现 。。。。。 。。。
免责申明：本文内容来自公开报路与编纂整顿，，，，，，，，仅供参考 。。。。。 。。。转载请注明出处；；；；；；；版权争议请联系本站核实处置 。。。。。 。。。页面地址：/?id=q5jxph-o3wa2s
评论区
热点会商 · 占位展示等待你的精彩讲话 。。。。。 。。。