V神批評代理人工智能，呼籲可編輯模型和神經科技整合

以太坊聯合創始人V神於周一在X (前Twitter)上發聲，反對當前對所謂“自主”人工智能系統的急速追求，這些模型旨在在最小人類監督下自主行動。他還呼籲支持那些讓人類能夠在過程中引導和編輯的模型。“回應最近安德烈·卡帕斯基所說的，我確實感到沮喪，因爲很多人工智能的發展試圖做到盡可能‘自主’，”V神寫道。

他補充道，增加人類輸入的渠道不僅改善了輸出，而且“更安全”。這位以太坊的聯合創始人表示，他“對具有良好編輯功能的開放權重人工智能模型比那些僅用於從頭開始創建的模型更感興趣”，甚至勾勒出了一個中期願望：“一些花哨的腦機接口技術，可以在生成過程中實時向我展示事物，並實時檢測我對每個部分的感受並相應調整。”

這篇文章直接呼應了Andrej Karpathy最近的言論，他在一次備受矚目的主題演講和隨後的採訪中警告不要將大型語言模型視爲無懈可擊的自主代理，並敦促開發者將AI“拴在鏈子上”，強調人類監督、謹慎提示和逐步發展仍然是必不可少的。

爲什麼這現在很重要

V神的評論出現在一個主要實驗室公開轉變其對開放性和用戶控制立場的時刻。8月初，OpenAI讓許多人感到驚訝，發布了一系列開放權重模型，gpt-oss-120b和gpt-oss-20b，可以被外部開發者下載、檢查和微調，這一舉動被一些人視爲朝着民主化強大AI工具的一步。支持者表示，開放權重使得構建定制的人本工作流程和檢查模型安全問題變得更容易；批評者警告說，廣泛分發的強大模型存在被濫用的風險。

Buterin 對“編輯功能”的公開偏好與行業中一個新興的主題相關：許多研究人員希望能夠讓人類在生成過程中進行幹預的接口，而不是要求模型生成完成的作品然後再退回。通過實時修剪、糾正或引導輸出，支持者認爲這減少了幻覺，讓人類牢牢掌控意圖，並生成更符合人類口味和安全約束的作品。Karpathy 最近的演講同樣強調了更緊密的人類參與工作流程的必要性。)

BCI + 生成性人工智能

V神隨意提到的腦機接口(BCI)的願望，能夠在內容生成時感知情感反應，並不是純粹的幻想。今年見證了一系列切實的BCI進展：從Neuralink到Synchron以及一批初創公司正在推出人類試驗、較少侵入性的植入物和基於腦電圖的可穿戴設備，旨在實時解碼注意力和情感狀態。

基於EEG的情感檢測和“情感計算”的學術研究也有所進展，這表明能夠標記用戶何時喜歡、不喜歡或對某事持中立態度的設備越來越有可能。然而，完全可靠的消費級情感解碼，特別是非侵入式的，仍然是一個活躍的研究挑戰。

辯論揭示了什麼

綜合來看，這些信號指向人工智能發展的兩個同時趨勢。一種趨勢推動更具自主性的系統，這些系統可以在幾乎沒有人類監督的情況下運行復雜任務；另一種趨勢，由卡帕西等人提出，現在也得到了V神的呼應，主張採用工具使人類與模型行爲緊密結合，無論是通過更好的編輯用戶界面、人機協作驗證，還是通過神經技術反饋。

對於行業觀察者來說，這些方法之間的平衡將影響產品設計、監管和公衆信任。開放權重的發布使獨立團隊更容易嘗試以人爲中心的編輯層，但它們也擴大了強大模型的分布，這使監管機構和安全研究人員擔心可能會增加誤用。

與此同時，隨着BCI和情感檢測的逐步進展，新接口確實可能讓創作者以比輸入提示更豐富的信號來“推動”模型，這引發了關於隱私、同意以及內在狀態如何被測量和存儲的新問題。V神的推文更像是一種價值聲明，而不是技術藍圖：更好的輸出和更安全的系統源於將人和人類偏好的復雜、細微信號置於AI工作流程的中心。

無論未來是通過可編輯的開放模型今天到來，還是通過腦機接口明天到來，討論已經開始從純粹的自主權轉向更豐富的人機協作。正如V神在他的帖子中所說，他寧願看着某樣東西誕生並能夠引導它，而不是完全交出控制權。