生成式模型未来可能会制造很多错误虚假的信息，加上未来脑机接口的出现，虚实交叠，可能会导致正法更加难以普及...技术被何方势力利用及利用方向是非常重要的话题之一 。
目前的生成式模型已经发展到能处理多种复杂的多模态场景。预计在未来，我们会面临由这些模型产生的大量定制化虚假内容。同时，现有的声波全息图技术协同生成式模型已经能够激发大脑活动，诱导出类似于清醒梦的体验。因此，正视生成式模型内容对用户意识和思维的潜在影响，是未来科技发展中亟待关注的议题之一。
Halo是一个脑机接口带，一款非侵入式的可穿戴头带设备，由Prophetic与Card79合作开发，Card79正为马斯克的脑机接口公司Neuralink设计和制造硬件。Halo可以通过人工智能技术“引发并稳定清醒梦”，该公司称其可以实现人们想要的任何梦境。Halo的核心是Prophetic公司研发的基于大脑数据训练的多模态人工智能模型"Morpheus-1"。它是一个 1.03 亿参数的 Transformer 模型，在 8 个 GPU 上训练了 2天，不是生成文字，而是生成超声波全息图。这款模型通过运用超声波全息图技术刺激大脑的前额皮质部分，从而诱发清醒梦。简单来说，用户只需在睡眠时戴上这款设备，当Halo检测到用户进入深度睡眠快速眼动阶段——即我们做梦的阶段时，就会自动将这些特制的全息图信号发送到大脑中，进而诱发梦境。
Sora 是 OpenAI 的一个文本生成视频的大模型，可以根据简单的文本描述，生成高质量的视频。Sora模型与GPT模型类似，都基于Transformer架构，这使得Sora具有极强的扩展性。Transformer是一种基于自注意力机制的神经网络架构，它能够同时处理输入文本中的所有位置信息，使得模型能够捕捉到全局的上下文信息。这样的架构使得Sora在生成视频时能够更好地理解文本描述。Sora模型在生成视频的过程中，注重保持视频质量和逼真度。通过采用Transformer架构和扩散模型的方法，Sora能够生成更加连贯、且具有很高逼真度的视频场景。这使得Sora在应用领域具有广泛的潜力，比如可以用于影视制作、游戏开发等方面。
虽然Sora对于某些物理模拟和数据噪声处理有所欠缺，但综合现有技术，不提未来，现阶段生成式模型生成的视频已足矣达到虚实交叠的情况，这类技术的潜在后果可能是使用者对于现实和虚拟的混淆。未来新技术或将可以模拟某些感官的觉受，结合两项技术，将会打造虚拟和现实更加难以区分的效果。虽然这类技术对于增强创造力和治疗某些疾病上可能带来希望，但同时这类技术也令人担忧。很显然，未来一段时期内，会有部分使用者为了更加振奋和新奇的体验从而增强各类参数或尝试新的调试手段，这将为此类技术的发展蒙上一层未知的面纱。
随着脑机接口技术在未来的发展和普及，确保个人生物识别数据的保密性和完整性变得至关重要。大脑和生物标识数据的私密性远远超出了传统意义上对隐私权的理解，因为它们代表了个人最深层次的思想和感受。为此，可能需要修订法律法规来特别处理这类数据。例如，可能需设立特定的数据加密要求，确保脑电波数据的私密性和本地化，确保用户对自己的数据享有决定权，并坚决禁止在任何情况下的未经授权使用等等。此外，潜在的错误配置和技术故障风险提醒我们需要对脑机接口设备进行严格的安全标准测试和强制性的安全审查，以防止对用户的意外伤害。