イーサリアムの共同創設者ビタリックブテリンは、月曜日にX (旧Twitter)に投稿し、いわゆる「エージェンティック」AIシステム、すなわち最小限の人間の監視で自律的に行動するように設計されたモデルへの現在の急速な流れに反対の意を示しました。彼はまた、人間が進行中に操縦し、編集できるモデルの重要性を主張しました。「アンドレイ・カルパティが最近言ったことを反響させると、多くのAI開発ができるだけ「エージェンティック」になろうとしていることに、私は本当に苛立ちを感じます」とブテリンは書きました。彼は、人間の入力の経路を増やすことは出力を改善するだけでなく、「安全性にも優れている」と付け加えました。イーサリアムの共同創設者は、「最初から作成するだけのものよりも、優れた編集機能を持つオープンウェイトのAIモデルに対して『はるかに興奮している』」と言い、中期的な願望を描きました。「生成される過程を示し、各部分に対する自分の感情をリアルタイムで検出し、それに応じて調整するような、何か素晴らしいBCIのことです。」この投稿は、アンドレイ・カルパティの最近の発言を直接反映しており、彼は高名な基調講演とその後のインタビューで、大規模言語モデルを完全無欠な自律エージェントのように扱うことに対して警告し、開発者にAIを「リードでつなぐ」ように促し、人間の監視、慎重なプロンプティング、段階的な開発が依然として不可欠であることを強調しました。なぜ今これが重要なのかブテリンのコメントは、大手ラボがオープン性とユーザーのコントロールに対する立場を公に変えている時期に到着しました。8月初旬、OpenAIは多くの人々を驚かせて、外部の開発者がダウンロード、検査、ファインチューニングできるオープンウェイトモデルのファミリー、gpt-oss-120bおよびgpt-oss-20bをリリースしました。この動きは、強力なAIツールの民主化に向けた一歩と見なされることもあります。支持者は、オープンウェイトがカスタムで人間中心のワークフローを構築し、安全性の問題を検査するのを容易にすると言いますが、批判者は広く配布された強力なモデルの悪用リスクについて警告しています。ブテリンの「編集機能」に対する公の好みは、業界で浮上しているトピックに結びついています。モデルに完成した作品を生成させた後、引き下がるのではなく、多くの研究者は生成中に人間が介入できるインターフェースを求めています。これにより、出力をリアルタイムで剪定、修正、またはガイドすることが可能になります。支持者たちは、これにより幻覚が減少し、人間が意図をしっかりとコントロールできるようになり、人間の好みや安全基準により合った成果物を生むと主張しています。カーパシーの最近の講演でも、より厳密な人間とループのワークフローの必要性が強調されていました。)BCI + ジェネレーティブAIブテリンの脳コンピュータインターフェース(BCI)に対する軽い願望は、コンテンツが生成される際の感情反応を感知するものですが、純粋なファンタジーではありません。今年は、ニューロリンクからシンクロン、そして一連のスタートアップまで、具体的なBCIの進展が相次いでいます。これらの企業は、人間の試験、より少ない侵襲性のインプラント、注意と感情状態をリアルタイムで解読することを目的としたEEGベースのウェアラブルデバイスを展開しています。EEGに基づく感情検出と「感情コンピューティング」に関する学術研究も進展しており、ユーザーが何かを好む、好まない、または中立であるときにフラグを立てることができるデバイスがますます現実的であることを示唆しています。それでも、完全に信頼できる消費者向けの感情デコーディング、特に非侵襲的なものは、依然として活発な研究課題です。議論が明らかにすること総じて、これらの信号はAI開発における二つの同時進行の流れを指し示しています。一つの流れは、人間の監視がほとんど不要または全くなしで複雑なタスクを実行できるよりエージェント的なシステムを推進するものです。もう一つは、カルパティや現在はビタリックブテリンによって反響される人物たちによって表明され、人間をモデルの行動に密接に結びつけるツール、つまりより良い編集UI、人間による検証、あるいは神経技術フィードバックを通じてのものを主張しています。業界の観察者にとって、これらのアプローチのバランスが製品設計、規制、そして公共の信頼を形成することになるでしょう。オープンウェイトのリリースは、独立したチームが人間中心の編集レイヤーを試験するのを容易にしますが、同時に強力なモデルの配布を広げるため、規制当局や安全研究者はその悪用が増加する可能性を懸念しています。一方、BCI（脳-コンピュータインターフェース）と感情検出が徐々に進展する中で、新しいインターフェースは、クリエイターがタイプされたプロンプトよりもはるかに豊かな信号でモデルを「押し込む」ことを実現するかもしれず、プライバシー、同意、内面的な状態がどのように測定され保存されるかに関する新たな疑問を提起しています。ビタリックブテリンのツイートは、技術的な設計図というよりも価値の声明です：より良い出力と安全なシステムは、人々と人間の好みの複雑で微妙な信号をAIワークフローの中心に置くことから生まれます。その未来が今日の編集可能なオープンモデルを通じて到来するのか、明日の脳に結びついたインターフェースを通じて到来するのかにかかわらず、会話はすでに純粋な自律性からより豊かな人間とAIのコラボレーションへと移りつつあります。ブテリンが彼の投稿で述べたように、彼は何かが生まれるのを見守り、それを操る方が、完全に舵を渡すよりも好むでしょう。
ビタリックブテリンがエージェントAIを批判し、編集可能なモデルと神経技術の統合を求める
イーサリアムの共同創設者ビタリックブテリンは、月曜日にX (旧Twitter)に投稿し、いわゆる「エージェンティック」AIシステム、すなわち最小限の人間の監視で自律的に行動するように設計されたモデルへの現在の急速な流れに反対の意を示しました。彼はまた、人間が進行中に操縦し、編集できるモデルの重要性を主張しました。「アンドレイ・カルパティが最近言ったことを反響させると、多くのAI開発ができるだけ「エージェンティック」になろうとしていることに、私は本当に苛立ちを感じます」とブテリンは書きました。
彼は、人間の入力の経路を増やすことは出力を改善するだけでなく、「安全性にも優れている」と付け加えました。イーサリアムの共同創設者は、「最初から作成するだけのものよりも、優れた編集機能を持つオープンウェイトのAIモデルに対して『はるかに興奮している』」と言い、中期的な願望を描きました。「生成される過程を示し、各部分に対する自分の感情をリアルタイムで検出し、それに応じて調整するような、何か素晴らしいBCIのことです。」
この投稿は、アンドレイ・カルパティの最近の発言を直接反映しており、彼は高名な基調講演とその後のインタビューで、大規模言語モデルを完全無欠な自律エージェントのように扱うことに対して警告し、開発者にAIを「リードでつなぐ」ように促し、人間の監視、慎重なプロンプティング、段階的な開発が依然として不可欠であることを強調しました。
なぜ今これが重要なのか
ブテリンのコメントは、大手ラボがオープン性とユーザーのコントロールに対する立場を公に変えている時期に到着しました。8月初旬、OpenAIは多くの人々を驚かせて、外部の開発者がダウンロード、検査、ファインチューニングできるオープンウェイトモデルのファミリー、gpt-oss-120bおよびgpt-oss-20bをリリースしました。この動きは、強力なAIツールの民主化に向けた一歩と見なされることもあります。支持者は、オープンウェイトがカスタムで人間中心のワークフローを構築し、安全性の問題を検査するのを容易にすると言いますが、批判者は広く配布された強力なモデルの悪用リスクについて警告しています。
ブテリンの「編集機能」に対する公の好みは、業界で浮上しているトピックに結びついています。モデルに完成した作品を生成させた後、引き下がるのではなく、多くの研究者は生成中に人間が介入できるインターフェースを求めています。これにより、出力をリアルタイムで剪定、修正、またはガイドすることが可能になります。支持者たちは、これにより幻覚が減少し、人間が意図をしっかりとコントロールできるようになり、人間の好みや安全基準により合った成果物を生むと主張しています。カーパシーの最近の講演でも、より厳密な人間とループのワークフローの必要性が強調されていました。)
BCI + ジェネレーティブAI
ブテリンの脳コンピュータインターフェース(BCI)に対する軽い願望は、コンテンツが生成される際の感情反応を感知するものですが、純粋なファンタジーではありません。今年は、ニューロリンクからシンクロン、そして一連のスタートアップまで、具体的なBCIの進展が相次いでいます。これらの企業は、人間の試験、より少ない侵襲性のインプラント、注意と感情状態をリアルタイムで解読することを目的としたEEGベースのウェアラブルデバイスを展開しています。
EEGに基づく感情検出と「感情コンピューティング」に関する学術研究も進展しており、ユーザーが何かを好む、好まない、または中立であるときにフラグを立てることができるデバイスがますます現実的であることを示唆しています。それでも、完全に信頼できる消費者向けの感情デコーディング、特に非侵襲的なものは、依然として活発な研究課題です。
議論が明らかにすること
総じて、これらの信号はAI開発における二つの同時進行の流れを指し示しています。一つの流れは、人間の監視がほとんど不要または全くなしで複雑なタスクを実行できるよりエージェント的なシステムを推進するものです。もう一つは、カルパティや現在はビタリックブテリンによって反響される人物たちによって表明され、人間をモデルの行動に密接に結びつけるツール、つまりより良い編集UI、人間による検証、あるいは神経技術フィードバックを通じてのものを主張しています。
業界の観察者にとって、これらのアプローチのバランスが製品設計、規制、そして公共の信頼を形成することになるでしょう。オープンウェイトのリリースは、独立したチームが人間中心の編集レイヤーを試験するのを容易にしますが、同時に強力なモデルの配布を広げるため、規制当局や安全研究者はその悪用が増加する可能性を懸念しています。
一方、BCI（脳-コンピュータインターフェース）と感情検出が徐々に進展する中で、新しいインターフェースは、クリエイターがタイプされたプロンプトよりもはるかに豊かな信号でモデルを「押し込む」ことを実現するかもしれず、プライバシー、同意、内面的な状態がどのように測定され保存されるかに関する新たな疑問を提起しています。ビタリックブテリンのツイートは、技術的な設計図というよりも価値の声明です：より良い出力と安全なシステムは、人々と人間の好みの複雑で微妙な信号をAIワークフローの中心に置くことから生まれます。
その未来が今日の編集可能なオープンモデルを通じて到来するのか、明日の脳に結びついたインターフェースを通じて到来するのかにかかわらず、会話はすでに純粋な自律性からより豊かな人間とAIのコラボレーションへと移りつつあります。ブテリンが彼の投稿で述べたように、彼は何かが生まれるのを見守り、それを操る方が、完全に舵を渡すよりも好むでしょう。