شارك مؤسس إثيريوم المشارك Vitalik Buterin على X (الذي كان يعرف سابقًا بتويتر) يوم الاثنين للرد على الاندفاع الحالي نحو ما يُسمى أنظمة الذكاء الاصطناعي "الوكيلية"، النماذج المصممة للعمل بشكل مستقل مع الحد الأدنى من الإشراف البشري. كما حث على تقديم الحجج للنماذج التي تسمح للبشر بتوجيه وتحرير العمليات أثناء تقدمها. "م echoing شيء قاله Andrej Karpathy مؤخرًا، ي frustrate me كيف أن الكثير من تطوير الذكاء الاصطناعي يحاول أن يكون "وكيلًا" بقدر الإمكان،" كتب Buterin.
وأضاف أن زيادة المسارات لإدخال الإنسان لا تحسن النتائج فحسب، بل هي "أفضل من حيث السلامة". قال أحد مؤسسي إثيريوم إنه "متحمس أكثر بكثير لنماذج الذكاء الاصطناعي ذات الأوزان المفتوحة مع وظائف تحرير جيدة بدلاً من تلك التي تستخدم فقط لإنشاء من الصفر"، وحتى رسم أمنية متوسطة المدى: "شيء فاخر من واجهة الدماغ الحاسوبية حيث يظهر لي الشيء أثناء إنشائه ويكتشف في الوقت الحقيقي كيف أشعر تجاه كل جزء منه ويعدل وفقًا لذلك."
المقالة تعكس مباشرة التعليقات الأخيرة من أندريه كارباثي، الذي، في كلمة رئيسية بارزة ومقابلات لاحقة، حذر من التعامل مع نماذج اللغة الكبيرة كعملاء مستقلين لا يخطئون وحث المطورين على إبقاء الذكاء الاصطناعي "مقيدًا"، مؤكدًا أن الإشراف البشري، والتحفيز الدقيق، والتطوير التدريجي لا يزالون ضروريين.
لماذا هذا مهم الآن
تأتي تعليقات بوتيرين في لحظة تقوم فيها المختبرات الكبرى بتغيير موقفها علنًا بشأن الانفتاح والتحكم من قبل المستخدمين. في أوائل أغسطس، فاجأت OpenAI الكثيرين بإصدار مجموعة من النماذج ذات الأوزان المفتوحة، gpt-oss-120b و gpt-oss-20b، التي يمكن تنزيلها وفحصها وتعديلها من قبل المطورين الخارجيين، وهي خطوة أُطُرِحت من قبل البعض كخطوة نحو ديمقراطية أدوات الذكاء الاصطناعي القوية. يقول المؤيدون إن الأوزان المفتوحة تجعل من الأسهل بناء سير عمل مخصص يركز على الإنسان وفحص النماذج لمشكلات السلامة؛ بينما يحذر النقاد من مخاطر سوء الاستخدام للنماذج القوية الموزعة على نطاق واسع.
تتعلق تفضيلات بوتيرين العامة لـ "وظائف التحرير" بخيط ناشئ في الصناعة: بدلاً من مطالبة النماذج بإنتاج عمل نهائي ثم الابتعاد، يريد العديد من الباحثين واجهات تسمح للبشر بالتدخل أثناء عملية الإنتاج، مثل التقليم، التصحيح، أو توجيه المخرجات في الوقت الحقيقي. يجادل المؤيدون بأن هذا يقلل من الهلوسات، ويحافظ على السيطرة الإنسانية بشكل قوي على النية، وينتج عن ذلك مصنوعات تتناسب بشكل أفضل مع الأذواق البشرية والقيود الأمنية. كما أكد حديث كارباتي الأخير على الحاجة إلى سير عمل أكثر تماسكًا يتضمن الإنسان في الحلقة.)
BCI + الذكاء الاصطناعي التوليدي
رغبة بوتيرين العفوية في واجهة الدماغ-الكمبيوتر (BCI) التي تستشعر الاستجابات العاطفية أثناء إنشاء المحتوى ليست خيالًا بحتًا. لقد شهد هذا العام تدفقًا من التقدم الملموس في واجهات الدماغ-الكمبيوتر: حيث تقوم شركات من Neuralink إلى Synchron ومجموعة من الشركات الناشئة بإجراء تجارب بشرية، وزرع أقل تدخلاً، وأجهزة قابلة للارتداء تعتمد على تخطيط كهربائية الدماغ تهدف إلى فك تشفير الانتباه والحالات العاطفية في الوقت الحقيقي.
لقد تحسنت الأعمال الأكاديمية المتعلقة بكشف العواطف المستند إلى EEG و"الحوسبة العاطفية" أيضاً، مما يشير إلى أن الأجهزة القادرة على الإشارة عندما يحب المستخدم أو يكره أو يكون محايداً تجاه شيء ما أصبحت أكثر احتمالاً. ومع ذلك، فإن فك الشفرات العاطفية القابلة للاعتماد عليها بشكل كامل، خاصة بطريقة غير تدخُّلية، لا يزال يمثل تحدياً بحثياً نشطاً.
ما يكشفه النقاش
تشير الإشارات مجتمعة إلى تيارين متزامنين في تطوير الذكاء الاصطناعي. يدفع أحد التيارين نحو أنظمة أكثر وكالتها يمكنها تنفيذ مهام معقدة مع القليل أو بدون إشراف بشري؛ بينما يجادل الآخر، الذي عبر عنه شخصيات مثل كارباتي والآن يردده بوتيرين، من أجل أدوات تبقي البشر مرتبطين بشكل وثيق بسلوك النماذج، سواء من خلال واجهات تحرير أفضل، أو تحقق من وجود البشر في الحلقة، أو حتى تغذية راجعة من التكنولوجيا العصبية.
بالنسبة لمراقبي الصناعة، فإن التوازن بين هذه الأساليب سيشكل تصميم المنتجات والتنظيم والثقة العامة. الإصدارات ذات الأوزان المفتوحة تسهل على الفرق المستقلة تجربة طبقات التحرير التي تركز على الإنسان، لكنها أيضًا توسع توزيع النماذج القوية، وهو ما يقلق المنظمين وباحثي السلامة الذين يخشون من زيادة إساءة الاستخدام.
في غضون ذلك، مع تحقيق تقدم تدريجي في الكشف عن التأثير وBCI، قد تتيح الواجهات الجديدة بالفعل للمبدعين "تحفيز" النماذج بإشارات أغنى بكثير من المطالبات المكتوبة، مما يثير تساؤلات جديدة حول الخصوصية والموافقة وكيفية قياس وتخزين الحالات الداخلية. تغريدة Vitalik Buterin أقل من أن تكون مخططًا تقنيًا، بل هي بيان قيمي: تأتي المخرجات الأفضل والأنظمة الأكثر أمانًا من الحفاظ على الأشخاص وإشارات التفضيل البشرية الفوضوية والمعقدة في مركز سير عمل الذكاء الاصطناعي.
سواء كانت تلك المستقبلات تأتي من خلال نماذج مفتوحة قابلة للتعديل اليوم أو واجهات مرتبطة بالعقل غدًا، فإن المحادثة تتحول بالفعل بعيدًا عن الاستقلالية الخالصة نحو تعاون أغنى بين الإنسان والذكاء الاصطناعي. كما قال بوتيرين في منشوره، إنه يفضل مشاهدة شيء يولد والقدرة على توجيهه بدلاً من تسليم القيادة بالكامل.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
فيتاليك بوتيرين ينتقد الذكاء الاصطناعي الوكالي، ويطالب بنماذج قابلة للتعديل ودمج تكنولوجيا الأعصاب
شارك مؤسس إثيريوم المشارك Vitalik Buterin على X (الذي كان يعرف سابقًا بتويتر) يوم الاثنين للرد على الاندفاع الحالي نحو ما يُسمى أنظمة الذكاء الاصطناعي "الوكيلية"، النماذج المصممة للعمل بشكل مستقل مع الحد الأدنى من الإشراف البشري. كما حث على تقديم الحجج للنماذج التي تسمح للبشر بتوجيه وتحرير العمليات أثناء تقدمها. "م echoing شيء قاله Andrej Karpathy مؤخرًا، ي frustrate me كيف أن الكثير من تطوير الذكاء الاصطناعي يحاول أن يكون "وكيلًا" بقدر الإمكان،" كتب Buterin.
وأضاف أن زيادة المسارات لإدخال الإنسان لا تحسن النتائج فحسب، بل هي "أفضل من حيث السلامة". قال أحد مؤسسي إثيريوم إنه "متحمس أكثر بكثير لنماذج الذكاء الاصطناعي ذات الأوزان المفتوحة مع وظائف تحرير جيدة بدلاً من تلك التي تستخدم فقط لإنشاء من الصفر"، وحتى رسم أمنية متوسطة المدى: "شيء فاخر من واجهة الدماغ الحاسوبية حيث يظهر لي الشيء أثناء إنشائه ويكتشف في الوقت الحقيقي كيف أشعر تجاه كل جزء منه ويعدل وفقًا لذلك."
المقالة تعكس مباشرة التعليقات الأخيرة من أندريه كارباثي، الذي، في كلمة رئيسية بارزة ومقابلات لاحقة، حذر من التعامل مع نماذج اللغة الكبيرة كعملاء مستقلين لا يخطئون وحث المطورين على إبقاء الذكاء الاصطناعي "مقيدًا"، مؤكدًا أن الإشراف البشري، والتحفيز الدقيق، والتطوير التدريجي لا يزالون ضروريين.
لماذا هذا مهم الآن
تأتي تعليقات بوتيرين في لحظة تقوم فيها المختبرات الكبرى بتغيير موقفها علنًا بشأن الانفتاح والتحكم من قبل المستخدمين. في أوائل أغسطس، فاجأت OpenAI الكثيرين بإصدار مجموعة من النماذج ذات الأوزان المفتوحة، gpt-oss-120b و gpt-oss-20b، التي يمكن تنزيلها وفحصها وتعديلها من قبل المطورين الخارجيين، وهي خطوة أُطُرِحت من قبل البعض كخطوة نحو ديمقراطية أدوات الذكاء الاصطناعي القوية. يقول المؤيدون إن الأوزان المفتوحة تجعل من الأسهل بناء سير عمل مخصص يركز على الإنسان وفحص النماذج لمشكلات السلامة؛ بينما يحذر النقاد من مخاطر سوء الاستخدام للنماذج القوية الموزعة على نطاق واسع.
تتعلق تفضيلات بوتيرين العامة لـ "وظائف التحرير" بخيط ناشئ في الصناعة: بدلاً من مطالبة النماذج بإنتاج عمل نهائي ثم الابتعاد، يريد العديد من الباحثين واجهات تسمح للبشر بالتدخل أثناء عملية الإنتاج، مثل التقليم، التصحيح، أو توجيه المخرجات في الوقت الحقيقي. يجادل المؤيدون بأن هذا يقلل من الهلوسات، ويحافظ على السيطرة الإنسانية بشكل قوي على النية، وينتج عن ذلك مصنوعات تتناسب بشكل أفضل مع الأذواق البشرية والقيود الأمنية. كما أكد حديث كارباتي الأخير على الحاجة إلى سير عمل أكثر تماسكًا يتضمن الإنسان في الحلقة.)
BCI + الذكاء الاصطناعي التوليدي
رغبة بوتيرين العفوية في واجهة الدماغ-الكمبيوتر (BCI) التي تستشعر الاستجابات العاطفية أثناء إنشاء المحتوى ليست خيالًا بحتًا. لقد شهد هذا العام تدفقًا من التقدم الملموس في واجهات الدماغ-الكمبيوتر: حيث تقوم شركات من Neuralink إلى Synchron ومجموعة من الشركات الناشئة بإجراء تجارب بشرية، وزرع أقل تدخلاً، وأجهزة قابلة للارتداء تعتمد على تخطيط كهربائية الدماغ تهدف إلى فك تشفير الانتباه والحالات العاطفية في الوقت الحقيقي.
لقد تحسنت الأعمال الأكاديمية المتعلقة بكشف العواطف المستند إلى EEG و"الحوسبة العاطفية" أيضاً، مما يشير إلى أن الأجهزة القادرة على الإشارة عندما يحب المستخدم أو يكره أو يكون محايداً تجاه شيء ما أصبحت أكثر احتمالاً. ومع ذلك، فإن فك الشفرات العاطفية القابلة للاعتماد عليها بشكل كامل، خاصة بطريقة غير تدخُّلية، لا يزال يمثل تحدياً بحثياً نشطاً.
ما يكشفه النقاش
تشير الإشارات مجتمعة إلى تيارين متزامنين في تطوير الذكاء الاصطناعي. يدفع أحد التيارين نحو أنظمة أكثر وكالتها يمكنها تنفيذ مهام معقدة مع القليل أو بدون إشراف بشري؛ بينما يجادل الآخر، الذي عبر عنه شخصيات مثل كارباتي والآن يردده بوتيرين، من أجل أدوات تبقي البشر مرتبطين بشكل وثيق بسلوك النماذج، سواء من خلال واجهات تحرير أفضل، أو تحقق من وجود البشر في الحلقة، أو حتى تغذية راجعة من التكنولوجيا العصبية.
بالنسبة لمراقبي الصناعة، فإن التوازن بين هذه الأساليب سيشكل تصميم المنتجات والتنظيم والثقة العامة. الإصدارات ذات الأوزان المفتوحة تسهل على الفرق المستقلة تجربة طبقات التحرير التي تركز على الإنسان، لكنها أيضًا توسع توزيع النماذج القوية، وهو ما يقلق المنظمين وباحثي السلامة الذين يخشون من زيادة إساءة الاستخدام.
في غضون ذلك، مع تحقيق تقدم تدريجي في الكشف عن التأثير وBCI، قد تتيح الواجهات الجديدة بالفعل للمبدعين "تحفيز" النماذج بإشارات أغنى بكثير من المطالبات المكتوبة، مما يثير تساؤلات جديدة حول الخصوصية والموافقة وكيفية قياس وتخزين الحالات الداخلية. تغريدة Vitalik Buterin أقل من أن تكون مخططًا تقنيًا، بل هي بيان قيمي: تأتي المخرجات الأفضل والأنظمة الأكثر أمانًا من الحفاظ على الأشخاص وإشارات التفضيل البشرية الفوضوية والمعقدة في مركز سير عمل الذكاء الاصطناعي.
سواء كانت تلك المستقبلات تأتي من خلال نماذج مفتوحة قابلة للتعديل اليوم أو واجهات مرتبطة بالعقل غدًا، فإن المحادثة تتحول بالفعل بعيدًا عن الاستقلالية الخالصة نحو تعاون أغنى بين الإنسان والذكاء الاصطناعي. كما قال بوتيرين في منشوره، إنه يفضل مشاهدة شيء يولد والقدرة على توجيهه بدلاً من تسليم القيادة بالكامل.