英国政府当地时间4日宣布，将与微软、科研学者及行业专家携手开发一套在线深度伪造(deepfake）内容检测系统，同时该国正着手制定相关标准，以应对这类由人工智能生成的有害、具有欺骗性的内容。
尽管经过篡改的内容在网络上传播已有数十年，但随着ChatGPT等生成式人工智能聊天机器人的推出，这类技术被快速普及应用，也让人们对深度伪造内容的传播规模、逼真程度的担忧持续加剧。
英国近期已将制作非自愿私密图像的行为列为刑事犯罪，此次该国还在打造一套深度伪造检测评估框架，为各类检测工具和技术的效果评估设立统一标准。英国科技大臣莉兹·肯德尔在声明中表示：“犯罪分子正将深度伪造技术当作违法工具，实施针对公众的诈骗、侵害女性和女童权益的行为，还在不断动摇人们对所见所闻信息的信任。”
英政府称，该深度伪造检测评估框架将针对性虐待、诈骗、身份冒充等现实中的违法犯罪威胁，对各类检测技术开展实战化测试，以此评估相关技术如何识别、分析并检测有害深度伪造内容——且检测范围将不受内容来源限制。
英政府表示，这一框架能帮助政府和执法部门精准掌握当前深度伪造检测技术仍存在的技术短板，同时也将为各行业制定清晰、统一的深度伪造检测标准要求。
英政府公布的数据显示，2025年网络上传播的深度伪造内容预估达800万条，而2023年这一数字仅为50万条，两年间呈现爆发式增长。
生成式人工智能技术发展日新月异，各国政府和监管机构均难以跟上其发展步伐；而今年埃隆·马斯克旗下的Grok聊天机器人被曝出可生成包含儿童在内的非自愿性化图像，这一事件直接推动各国政府加快出台应对举措。
目前，英国通信监管机构和隐私监管机构正分别对Grok聊天机器人展开相关调查。
海量资讯、精准解读，尽在新浪财经APP
责任编辑：刘明亮
蚂蚁配资提示：文章来自网络，不代表本站观点。
