随着基于大模型和大数据的人工智能的广泛运用，公民和国家重要数据外泄的风险骤然上升，安全风险由此陡增。当前，新一代的人工智能是以大数据为基础开展深度学习和运转的，人工智能在深度学习中对大量敏感数据的交互使用，不仅使人类隐私暴露在人工智能之下，也极大地削弱了政府对数据信息的监管能力，个人信息泄露引发的政治安全问题很大程度也已经超越了传统安全领域。从政府层面看，国家政府能够通过使用ChatGPT来快速提高信息收集和决策效率，但这就要求政府为ChatGPT“投喂”相关文件和数据，使其能作出更符合实际发展的决策，而这无疑加剧了国家数据被盗取的风险：一方面，ChatGPT的工作机制仍是一个“黑箱”，不能排除其在运作过程中会存储与传递相关数据的可能；另一方面，ChatGPT的功能使得其能够在短时间内通过自监督学习能力充分理解数据之间的关系。在2023年5月的功能更新中，OpenAI公司已经解禁了ChatGPT互联网连接能力上的限制，允许其通过特定的第三方软件作为跳板“知晓”最新的信息。尽管它仍然不能访问某些被“安全保护”的网站，但联网能力的解禁强化了ChatGPT拥有的数据深度检索与串联能力。ChatGPT及类似的生成式人工智能通过关键词提醒等方式进行具有针对性大范围的数据收集与联想，对某些事件或计划进行“画像”制作。例如，一国政府可以借助该技术有针对性地收集部分国家的港口运输、重要资源转移情况等，“管中窥豹”地动态感知他国国内状况，从而提前预警可能的战争行为，这将大幅降低政府行为的机密性和安全性。若无特定反制措施，科技弱国将对科技强国单方面透明，科技强国将始终持有策略和战略主动性，国家之间的权力结构将变得更加不平衡，形成国际权力领域的“马太效应”。

从用户信息交流层面看，用户与ChatGPT进行的对话不仅是人工智能自我强化学习的过程，更是用户个人信息泄漏的过程。当用户使用ChatGPT进行信息查询时，都能通过信息交流得知用户的言语特征、当下关注重点甚至身份。在网络化信息社会中，每个公民的思想状态、行为习惯和特点都能够通过对其公开言论、网络行为的实时监控等数据的收集与处理获得。而公众与ChatGPT的不断交流，实际上也给予了人工智能对群体用户画像展开深度分析的机会。语言模型不仅提供了生产出更低成本宣传的潜力，还可以通过针对特定群体来调整宣传质量，以提高宣传效能，因而可以成为国家间开展认知战的内容生成器与传播器，国家得以通过群体深度画像“对症下药”，基于目标群体更熟悉和更具好感的宣传模式开展意识形态的颠覆行动，实现颠覆活动从“无差别投送”向“精确且有差别”方向的转变，意识形态渗透活动效能与效率大幅提高。除对群体画像的刻画外，ChatGPT也赋予人类精准刻画精英画像的能力。当前，人工智能系统已能实现对作为博弈对手的他国政治精英个人形象的精准刻画。人工智能可以根据政治领导人在不同场合下对外演讲的材料，分析与把握领导人的性格特质，甚至能够基于语言材料预测政治领导人的语言特点，这使对领导人认知的针对性攻击将会变得更加难以防御。

“网络数据时代,我们的底裤都被扒光”像之前个人行业等信息被非法获取、泄露、交易的情况在人工智能的时代要不被允许，想象我们大部分人的数据行为习惯都被人工获取和监控将会是一种什么样的境况，你和你的家人在人工智能面前毫无隐私，利用人工智能进行恶意的活动一旦被执行，他可以假冒你的家人，复制你的身份，控制你家的联网设备。所以针对人工智能建立防护防御机制、专业防火墙，数据信息加密保护等非常有必要。