V神批评代理人工智能，呼吁可编辑模型和神经科技整合

以太坊联合创始人V神于周一在X (前Twitter)上发声，反对当前对所谓“自主”人工智能系统的急速追求，这些模型旨在在最小人类监督下自主行动。他还呼吁支持那些让人类能够在过程中引导和编辑的模型。“回应最近安德烈·卡帕斯基所说的，我确实感到沮丧，因为很多人工智能的发展试图做到尽可能‘自主’，”V神写道。

他补充道，增加人类输入的渠道不仅改善了输出，而且“更安全”。这位以太坊的联合创始人表示，他“对具有良好编辑功能的开放权重人工智能模型比那些仅用于从头开始创建的模型更感兴趣”，甚至勾勒出了一个中期愿望：“一些花哨的脑机接口技术，可以在生成过程中实时向我展示事物，并实时检测我对每个部分的感受并相应调整。”

这篇文章直接呼应了Andrej Karpathy最近的言论，他在一次备受瞩目的主题演讲和随后的采访中警告不要将大型语言模型视为无懈可击的自主代理，并敦促开发者将AI“拴在链子上”，强调人类监督、谨慎提示和逐步发展仍然是必不可少的。

为什么这现在很重要

V神的评论出现在一个主要实验室公开转变其对开放性和用户控制立场的时刻。8月初，OpenAI让许多人感到惊讶，发布了一系列开放权重模型，gpt-oss-120b和gpt-oss-20b，可以被外部开发者下载、检查和微调，这一举动被一些人视为朝着民主化强大AI工具的一步。支持者表示，开放权重使得构建定制的人本工作流程和检查模型安全问题变得更容易；批评者警告说，广泛分发的强大模型存在被滥用的风险。

Buterin 对“编辑功能”的公开偏好与行业中一个新兴的主题相关：许多研究人员希望能够让人类在生成过程中进行干预的接口，而不是要求模型生成完成的作品然后再退回。通过实时修剪、纠正或引导输出，支持者认为这减少了幻觉，让人类牢牢掌控意图，并生成更符合人类口味和安全约束的作品。Karpathy 最近的演讲同样强调了更紧密的人类参与工作流程的必要性。)

BCI + 生成性人工智能

V神随意提到的脑机接口(BCI)的愿望，能够在内容生成时感知情感反应，并不是纯粹的幻想。今年见证了一系列切实的BCI进展：从Neuralink到Synchron以及一批初创公司正在推出人类试验、较少侵入性的植入物和基于脑电图的可穿戴设备，旨在实时解码注意力和情感状态。

基于EEG的情感检测和“情感计算”的学术研究也有所进展，这表明能够标记用户何时喜欢、不喜欢或对某事持中立态度的设备越来越有可能。然而，完全可靠的消费级情感解码，特别是非侵入式的，仍然是一个活跃的研究挑战。

辩论揭示了什么

综合来看，这些信号指向人工智能发展的两个同时趋势。一种趋势推动更具自主性的系统，这些系统可以在几乎没有人类监督的情况下运行复杂任务；另一种趋势，由卡帕西等人提出，现在也得到了V神的呼应，主张采用工具使人类与模型行为紧密结合，无论是通过更好的编辑用户界面、人机协作验证，还是通过神经技术反馈。

对于行业观察者来说，这些方法之间的平衡将影响产品设计、监管和公众信任。开放权重的发布使独立团队更容易尝试以人为中心的编辑层，但它们也扩大了强大模型的分布，这使监管机构和安全研究人员担心可能会增加误用。

与此同时，随着BCI和情感检测的逐步进展，新接口确实可能让创作者以比输入提示更丰富的信号来“推动”模型，这引发了关于隐私、同意以及内在状态如何被测量和存储的新问题。V神的推文更像是一种价值声明，而不是技术蓝图：更好的输出和更安全的系统源于将人和人类偏好的复杂、细微信号置于AI工作流程的中心。

无论未来是通过可编辑的开放模型今天到来，还是通过脑机接口明天到来，讨论已经开始从纯粹的自主权转向更丰富的人机协作。正如V神在他的帖子中所说，他宁愿看着某样东西诞生并能够引导它，而不是完全交出控制权。