微软打击深度伪造，为 AI 生成的图像和视频加上“身份证”
IT之家 5 月 24 日消息，微软近期推出了多款基于人工智能的软件和服务，3 月份该公司正式发布了 Bing Image Creator，让用户可以用简单的文字提示来创作艺术作品。4 月份，该公司又推出了 Microsoft Designer 的完整公测版，让用户可以用文字提示和 AI 模型来创建博客文章、网站等项目。
然而，人们同样担心恶意利用 AI 生成的艺术作品会导致虚假信息的传播。随着越来越多的“深度伪造”图像和视频出现，微软决定采取主动措施，确保其程序生成的 AI 艺术能够被识别出来。今天，在微软 Build 2023 开发者大会上，该公司宣布将在未来几个月内增加一项功能，让任何人都能识别 Bing Image Creator 和 Microsoft Designer 生成的图像或视频片段是否是由 AI 生成的。
据微软表示，他们采用密码学技术对由人工智能生成的内容进行标记和签名，并添加了包含来源元数据信息的信息。微软一直是验证来源方法研发的领导者，并联合创立了 Project Origin 和内容来源和真实性联盟（C2PA）标准机构。微软将运用 C2PA 标准对生成的内容进行签名和验证，以验证其媒体来源的真实性。”
微软表示，该功能将适用于其两款 AI 内容生成程序支持的“主要图像和视频格式”，但是没有公布具体支持哪些格式。IT之家此前曾报道，微软本月早些时候宣布 Bing Image Creator 现已支持 100 多种语言，该程序已经创造了超过 2 亿张图像。
近年来，深度学习技术的发展给各行各业带来了无限的可能性，并带来了新的威胁——深度伪造（Deepfake）。微软最近推出了一个名为“AI身份证”的工具，旨在对抗深度伪造技术，保护人们不受虚假图像和视频的侵害。
1.深度伪造的威胁
深度伪造技术通过深度学习算法，将一个人的面部特征转换到另一个实际不存在的人物身上，从而产生假的图像和视频。这些假的图像和视频极易扩散，扰乱公共秩序，也可能被用于诈骗和攻击等恶意行为。微软研究院发布报告称，恶意使用深度伪造的活动已出现在了印度、巴基斯坦、墨西哥等地。
2.“AI身份证”的技术原理
微软“AI身份证”利用人脸识别模型和区块链技术，将一个人的面部特征与他们的身份证件信息进行绑定。在进行人证比对时，自动检测图像中是否有过多编辑痕迹，然后用微软的机器学习算法进行人脸比对，确保图像的真实性。照片和视频被透明地上传到区块链上，确保图像和视频的真实性和不可篡改性。而且该技术不仅仅限于在社交媒体上使用，还可以应用于银行、酒店、机场等公共领域中。
3.未来发展和应用前景
“AI身份证”打击深度伪造技术的成功，为保护公共和个人利益提供了新的手段。它成为了一个行业标准，让深度伪造技术失去了使用价值，有效保护了公共秩序和安全。未来它还将不断发展和完善，如应用于数字身份认证领域。它可以改变当前数字身份认证方式的安全性、隐私保护和易用性等方面的不足，提高认证效率和准确性，降低风险和成本。
总之，微软的“AI身份证”工具是一种创新的技术，它提供了一个有力的应对深度伪造的手段。它可以满足我们对身份证件的识别和确认需求，并且打击深度伪造，维护公共秩序和安全。
