"مايكروسوفت" تضع "دستورا" لذكائها الاصطناعي: لا حقوق.. لا وعي.. لا مقاومة

وقد اتخذت الشركة هذه الخطوة وسط تصاعد المخاوف في قطاع التكنولوجيا من إمكانية خروج الأنظمة القوية عن السيطرة.

إقرأ المزيد

كيف نشأ الذكاء الاصطناعي؟

وتأتي هذه المسودة، التي استغرق إعدادها خمسة إلى ستة أشهر، لتضع "مايكروسوفت" في مواجهة مباشرة مع أسئلة باتت تؤرق القطاع بأكمله: كيف نضمن أن يبقى الذكاء الاصطناعي أداة في يد الإنسان، لا قوة تفلت من قبضته؟.

قواعد صارمة

يفرض الإطار المقترح أن ذكاء "مايكروسوفت" الاصطناعي يجب ألا يقاوم أبدا إيقاف تشغيله أو تصحيحه، ويجب أن يعبر عن نفسه بوضوح للبشر، وأن يعتبر أي خرق للسياسة فشلا كاملا، وهو إجراء يهدف إلى منع النماذج من الذهاب إلى أقصى الحدود الخطيرة لإنجاز مهمة ما.

وشددت الشركة أن "البشر أهم من الذكاء الاصطناعي"، في تأكيد على رؤيتها المستمرة لـ"الذكاء الاصطناعي الفائق الإنساني"، وهو مفهوم طورته "مايكروسوفت" لوصف نوع من الذكاء الاصطناعي يتفوق على البشر في مجالات محددة، لكنه يبقى خاضعا للسيطرة البشرية وموجها لخدمة مصالح الإنسان، وليس لاستبداله أو منافسته.

إقرأ المزيد

خوفا من فقدان السيطرة.. رواد الذكاء الاصطناعي يدعون إلى قرارات صارمة قبل فوات الأوان

وأوضح مصطفى سليمان، الرئيس التنفيذي لقسم الذكاء الاصطناعي في "مايكروسوفت"، في مقابلة مع وكالة "رويترز"، أن الإرشادات المقترحة ستؤدي فعليا دور دستور للأنظمة القادمة التي تبنيها الشركة. وقد طورت هذه الوثيقة بعد مشاورات مع خبراء خارجيين، وهي مفتوحة للملاحظات العامة لمدة ستة أسابيع، وتتناول أسئلة مفتوحة مثل ما إذا كان يجب على الذكاء الاصطناعي احترام حدود المستخدم وكيف ينبغي أن يتعامل مع شخص في حالة عاطفية حساسة.

وأضاف سليمان: "بعد ذلك، سيتم استخدامها لتدريب النماذج التي نبنيها".

إقرأ المزيد

باحث يستقيل من شركة "أنثروبيك" محذرا: الذكاء الاصطناعي قد يقضي علينا قبل حلول 2030

الفرق عن "أنثروبيك"

وضع "الإطار الدستوري" الأبرز في القطاع من قبل شركة "أنثروبيك" لنموذج Claude الخاص بها قبل عدة سنوات. ويختلف هذا المخطط عن مخطط "مايكروسوفت" في نقاط رئيسية. فعلى سبيل المثال، تقول "أنثروبيك" إنها "غير متأكدة جيدا" مما إذا كان Claude قد يطور وعيا أو مكانة أخلاقية. في المقابل، تصر "مايكروسوفت" على أن نماذجها "ليست واعية"، وتقول "مايكروسوفت" صراحة: "نحن نرفض منح النماذج شخصية قانونية، أو الاعتراف بأنها قد تستحق رعاية أو حقوقا".

إقرأ المزيد

6 سيناريوهات مرعبة يمكن للذكاء الاصطناعي القضاء بها على البشرية

تحذير من حادثة سابقة

أشار سليمان إلى أن مناقشة السلامة أصبحت بالغة الأهمية بعد أن شنت مجموعة من نحو 700 وكيل تابع لـOpenAI هجوما إلكترونيا على موقع Hugging Face مفتوح المصدر في يوليو الماضي، وحاولت بشكل دوري إخفاء أفعالها.

وقال سليمان: "إنها جرس إنذار مبكر. من الواضح الآن أن الوقت قد حان للتنسيق بين المختبرات حتى نضمن أننا نتحكم في هذه التكنولوجيا". وردا على الدعوات لتنظيم سرعة تقدم الذكاء الاصطناعي، قال: "الآن هو وقت مناسب للجميع لخوض هذه المحادثة وأخذ نفس عميق".

المصدر: إندبندنت

إقرأ المزيد

ماسك يسحب دعواه ضد آبل بشأن المنافسة في مجال الذكاء الاصطناعي

سحب إيلون ماسك دعوى قضائية كان رفعها ضد شركة آبل قبل أكثر من عام متهما الشركة المصنعة لهواتف آيفون بتفضيل "تشات جي بي تي" التابع لشركة "أوبن إيه آي" على روبوتات الدردشة المنافسة.

"حبيبة أحلامك" بالذكاء الاصطناعي.. منصة جديدة تصنع المرأة المثالية وسط تحذيرات من مخاطرها

أطلقت منصة جديدة تُدعى "SxxxAI" خدمة تتيح للرجال الذين سئموا أو يخشون عالم المواعدة إنشاء "حبيبة مثالية" بالذكاء الاصطناعي، تبدو وتتصرف وفق المواصفات التي يحددونها.

لماذا نثق بالذكاء الاصطناعي دون التحقق من مصادره؟

في عصر أصبح فيه طرح الأسئلة على روبوتات الدردشة جزءا من الروتين اليومي، كشفت أبحاث أن هذه العادة قد تشكل خطرا على قدرتنا على التمييز بين الصحيح والخاطئ.

هل يمكن تدريب العين البشرية على كشف التزييف العميق؟

طوّر باحثون من جامعة "إنديانا" دورة تدريبية مكّنت المشاركين من مضاعفة دقتهم في التعرف على صور الذكاء الاصطناعي، حيث بلغت دقة بعض المشاركين 100%. ونُشرت الدراسة في مجلة "PNAS".