上交提出TrustGAIN，提出6G网络中可信AIGC新模式！

作者 | Axe_越

4月16日至18日，2024全球6G技术大会在南京召开。会上，全球移动通信标准制定组织3GPP（第三代合作伙伴计划）的3位联席主席分享了3GPP6G标准时间表：

2024年9月，启动6G业务需求研究；

2025年6月，启动6G技术预研；

2027年上半年，启动6G标准制定；

2029年，完成6G基础版本标准，即Rel-21版本标准。

6G时代的脚步已经越来越近，而我们当下如火如荼的AIGC（Artificial Intelligence Generated Content，生成式人工智能）在6G时代又将面临哪些挑战？下面推荐的这篇文章，或许能为您提供一些解答。

论文标题:
Trustworthy AI-Generative Content in Intelligent 6G Network- Adversarial, Privacy, and Fairness

论文链接:
https://arxiv.org/pdf/2405.05930.pdf

AIGC增强的6G网络

随着人工智能生成内容（AIGC）模型的广泛应用，如扩散模型（Diffusion Model）和大语言模型（LLM），在文本、图像和视频生成领域都取得了迅速进展，而未来的6G技术则是为未来AIGC移动服务应用提供平台的理想选择。

6G网络将包括前所未有的新场景，如智能制造、元宇宙、智慧医疗等（如下图所示），这对AI技术的赋能，特别是基础生成模型的强大生成能力提出了更高的要求。然而，随着网络异质性的加深和网络规模的迅速扩张，网络中存在的安全和隐私问题日益严重。同时，AIGC模型本身的问题在未来智能网络中也被放大了。

在6G中，信任和智能是两个主要元素，由生成模型赋能的6G网络系统必须适应各种安全标准，以维护异构网络的安全性和可靠性。尽管已经取得了一些进展，但仍有很多问题有待解决，例如将通用信任框架和基础智能模型整合到6G生态系统中。本文旨在填补这一空白，确保AIGC增强的未来网络可信度。

与传统网络相比，这种值得信赖的AIGC增强网络具有多重优势。首先，它提供了更强大的AI，允许更多的终端用户使用更强大的多模态AIGC服务，并通过微调AIGC模型提供个性化服务。同时，它提供了更可靠的安全保障，细化了智能网络系统安全保障的要素，并能提供更可靠的隐私保护和公平智能服务。

6G网络中AI生成内容的安全挑战

在6G网络中，AIGC面临多种安全挑战，这些挑战主要包括对抗性攻击、隐私泄露和公平性保证。

1. 对抗性攻击：对抗性攻击尝试通过操纵输入数据或模型行为来破坏AI模型的完整性和可靠性，从而产生错误的输出。这些攻击的形式多样，包括投毒攻击、模型中心攻击和提示注入攻击。例如，攻击者可能通过污染或操纵部分训练数据源来实现控制模型的目的，这在扩散模型和语言模型中尤为有效。

2. 隐私泄露：由于处理和分析大规模数据，AIGC模型或训练数据集中可能会发生大规模敏感信息泄露。隐私提取攻击和模型反转攻击是两种主要针对隐私的攻击类型，它们可以从模型中提取私人信息，而无需了解训练数据集。例如，由于其记忆能力，LLM已在多个案例中被反馈发生有关其训练数据的信息泄露。

3. 公平性保证：在预处理、生成和后处理阶段，偏见可能导致AI生成的内容丧失公平性原则。例如，文本到图像生成模型如DALLE-v2和稳定扩散（stable diffusion）已显示出严重的职业偏见。为了减少由AIGC放大的不公平性，可以采用多种方法，包括在数据预处理、模型训练和内容生成后处理中实施公平性措施。

总体而言，6G技术的发展，一方面为用户提供了便利，一方面也增加了数据泄露和隐私侵犯的风险。确保6G网络架构中的隐私安全至关重要，同时也需要在AIGC服务中实施高级的加密协议和区块链技术，以确保数据传输的完整性和保密性。

TrustGAIN

TrustGAIN是本文提出的一个概念框架，旨在提升6G网络中AIGC的可信度。TrustGAIN框架突出显示了在包括智慧医疗、工业平台和元宇宙和等领域中的应用，并且明确了可信网络与不可信网络之间的鲜明对比。

在医疗领域，TrustGAIN支持AI驱动的医学实验（如增强手术过程预测）并促进个性化数据生成；

在工业应用中，它通过AIGC能力进一步增强了6G支持的工业物联网（IoT）环境中的每一次交互的信任，不仅使工业操作更智能，还能保护它们免受传统漏洞和隐私侵入的威胁；

在元宇宙中，TrustGAIN提供LLM辅助的内容创作和安全访问，与无AI监控且存在大量私人信息泄露的不可信虚拟现实形成强烈对比。

如图所示，TrustGAIN框架旨在解决以下四个面临的主要挑战：

• 针对AIGC的对抗性攻击：通过识别针对AIGC系统的各种形式的攻击，包括毒化攻击、对抗模型攻击和提示注入攻击。
• AIGC的隐私问题：通过强大的加密方法和保护隐私的协议来保护用户数据免受未经授权的访问和利用。
• AIGC的公平性：通过算法确保不同人群和地理位置之间公平且无偏见的内容生成。
• 特定应用中的安全性：该部分讨论了在各种应用中部署AIGC的情况，如边缘计算、元宇宙和车联网（IoV）。它强调了安全AIGC实施的重要性，这些实施能够抵御外部和内部威胁，确保广泛网络中应用的完整性和安全。

实验分析

本研究将GPT-3和GPT-3.5 turbo作为LLM代表用于生成，并采用了一个经过微调的GPT-2模型以检测虚假新闻和生成的内容。

本文在假新闻数据集和代码生成数据集上进行了实验，这些数据集代表了LLM被广泛滥用的场景。新闻数据集包括由text-davinci-003生成的500篇新闻文章和在互联网上发布的500篇真实新闻；而代码数据集包括500个由GPT-3.5 turbo生成的代码块，形式包括函数、文档字符串和测试代码等。

下图展示了不同输入新闻/代码长度下，模型的检测能力。在新闻数据上，本文发现在更长的输入上可以获得更高的检测性能，但在代码数据上却获得了相反的结论，表明还需要在更多不同类型的数据集上做进一步的检测和验证。

结论与展望

结论

本文探讨了TrustGAIN架构在提升智能6G网络中AIGC可信度方面的潜力。TrustGAIN通过整合对抗性、鲁棒性、隐私保护和公平机制来应对重大的伦理和安全挑战。在模拟环境中的测试表明，TrustGAIN能够有效地使用先进LLM来检测恶意或虚假生成的内容。与现有的网络解决方案相比，TrustGAIN架构的优势在于它能够提供更安全、更私密、更公平的AIGC服务。

未来展望

• 可信AIGC的定义：明确对可信AIGC的定义，以便更好地聚焦于智能6G系统中的关键方面。以公平性为例，由于涉及多个维度，如性别、年龄和地理等，不同情况下对公平性的看法不同，整合公平性的定义仍然是一个挑战。

• 6G网络中AIGC的可解释性：在智能6G网络领域，提高AI生成内容的可解释性对于提升可信度至关重要。未来的研究应该集中于开发可解释的AI框架，确保在对抗性防御、隐私保护和公平机制方面的透明度。这可能包括创建系统，使其做出决策并为这些决策提供清晰、可理解的原因。

• AIGC网络服务的公平性挑战：某些群体更容易获得强大的AIGC网络服务，而对另外群体来说却并非如此。这可能导致AIGC利益的不公平分配，加剧社会不平衡。由于技术和资源的不均匀分布，某些地区或群体可能更容易受到不公平内容的影响，确保利益的公平分配是一个难题。

这些未来研究方向将有助于进一步发展和完善TrustGAIN范式，以应对智能6G网络中AIGC应用的复杂和挑战。