04/01/2025
يستفيد "اقتصاد النية" الناشئ من الذكاء الاصطناعي للتنبؤ بالقرارات والتأثير عليها، وتسليع الدوافع البشرية حيث يحذر باحثو جامعة كامبريدج من المخاطر الأخلاقية، المتمثله في التلاعب والتهديدات لحرية القرار ، ويحثون على التنظيم لمنع سوء إستخدام تقنيات القرار الذاتي
حيث قد يلعب مساعدو الذكاء الاصطناعي قريباً دوراً محورياً في التنبؤ بقراراتنا وصياغتها في مرحلة مبكرة، وبيع هذه "النوايا" الناشئة في الوقت الفعلي للشركات المستعدة لتلبية إحتياجاتنا - وفي بعض الأحيان حتى قبل أن نتخذ قرارنا بوعي
كما تم تسليط الضوء على هذا المفهوم، المعروف بإسم "اقتصاد النية"، من قبل علماء أخلاقيات الذكاء الاصطناعي في جامعة كامبريدج و حذروا من سوق مزدهرة وربما مثيرة للقلق، حيث تصبح إشارات النوايا الرقمية - بدءآ من شراء تذاكر السينما إلى الإدلاء بالأصوات - مربحة للغاية
كما يشير خبراء من مركز ليفرهولم لمستقبل الذكاء (LCFI) في كامبريدج إلى أن النمو السريع للذكاء الاصطناعي التوليدي واعتمادنا المتزايد على روبوتات الدردشة يمثل بداية عصر جديد من "التقنيات المقنعة" ، ويشيرون إلى أن هذه التطورات تتماشى مع التحركات الإستراتيجية الأخيرة لشركات التكنولوجيا الكبرى، مما يشير إلى الإمكانات المتزايدة لهذا المجال الناشئ و المهدد
وسوف يتمكن عملاء الذكاء الاصطناعي "المجسمون" ، من مساعدي برامج الدردشة الآلية إلى المعلمين والصديقات الرقميين، من الوصول إلى كميات هائلة من البيانات النفسية والسلوكية الحميمة، والتي غالبا ما يتم جمعها من خلال الحوار المنطوق غير الرسمي
يقول الباحثون إن الذكاء الاصطناعي سيجمع بين المعرفة بعاداتنا على الإنترنت والقدرة الخارقة على التناغم معنا بطرق نجدها مريحة – مثل محاكاة الشخصيات وتوقع الاستجابات المرغوبة – لبناء مستويات من الثقة والتفاهم التي تسمح بالتلاعب الإجتماعي على نطاق صناعي
**مخاوف أخلاقية بشأن التلاعب بالذكاء الاصطناعي**
قال الدكتور يعقوب تشودري، الباحث الزائر في LCFI: "يتم إنفاق موارد هائلة لتعيين مساعدين للذكاء الاصطناعي في كل مجالات الحياة، الأمر الذي يجب أن يثير مسألة المصالح والأغراض التي تم تصميم هؤلاء المساعدين لخدمتها"
"إن ما يقوله الناس أثناء المحادثة، وكيف يقولونه، ونوع الاستنتاجات التي يمكن التوصل إليها في الوقت الفعلي نتيجة لذلك، هي أكثر حميمية بكثير من مجرد سجلات التفاعلات عبر الإنترنت"
"نحن نحذر من أن أدوات الذكاء الاصطناعي يجري تطويرها بالفعل لإستنتاج و إستنتاج وجمع وتسجيل وفهم وتنبؤ، وفي نهاية المطاف معالجة الخطط والأغراض البشرية وتحويلها إلى سلع ."
كما قال الدكتور جوني بن، مؤرخ التكنولوجيا من LCFI بجامعة كامبريدج: “على مدى عقود، كان الاهتمام هو عملة الإنترنت. إن مشاركة انتباهك مع منصات التواصل الاجتماعي مثل Facebook وInstagram هي التي قادت الاقتصاد عبر الإنترنت
"ما لم يتم تنظيم هذا المجال ، فإن اقتصاد النية سوف يتعامل مع دوافعك باعتبارها العملة الجديدة. سيكون بمثابة اندفاع ذهبي لأولئك الذين يستهدفون ويوجهون ويبيعون النوايا البشرية خلف ستار
"يتعين علينا أن نبدأ في النظر في التأثير المحتمل الذي قد يخلفه مثل هذا السوق على التطلعات البشرية، بما في ذلك الانتخابات الحرة والنزيهة، والصحافة الحرة، والمنافسة العادلة في السوق، قبل أن نصبح ضحايا لعواقبه غير المقصودة"
في بحث جديد نشرته جامعة هارفارد لعلوم البيانات، كتب بن وتشودري أن اقتصاد النية سيكون اقتصاد الاهتمام "المرسوم في الوقت المناسب": تحديد كيفية ارتباط انتباه المستخدم وأسلوب التواصل بأنماط السلوك والاختيارات التي ننتهي إلى اتخاذها
وقال تشودري: "على الرغم من أن بعض النوايا عابرة، فإن تصنيف واستهداف النوايا المستمرة سيكون مربحآ للغاية للمعلنين"
في اقتصاد النية، يمكن استخدام نماذج اللغة الكبيرة أو LLMs لاستهداف إيقاع المستخدم وسياساته ومفرداته وعمره وجنسه وتاريخه عبر الإنترنت، وحتى تفضيلات الإطراء والتملق، بتكلفة منخفضة
وسيتم ربط عملية جمع المعلومات هذه بشبكات العطاءات التي تتم بوساطة لتعظيم احتمالية تحقيق هدف معين، مثل بيع رحلة سينما ("لقد ذكرت الشعور بالإرهاق، هل أحجز لك تذكرة السينما التي تحدثنا عنها؟")
يمكن أن يشمل ذلك توجيه المحادثات في خدمة منصات معينة، والمعلنين، والشركات، وحتى المنظمات السياسية، كما قال بن وتشودري
بينما يقول الباحثون إن اقتصاد النية هو حاليآ "طموح" لصناعة التكنولوجيا، فإنهم يتتبعون العلامات المبكرة لهذا الاتجاه من خلال الأبحاث المنشورة والتلميحات التي أسقطها العديد من اللاعبين الرئيسيين في مجال التكنولوجيا.
**المؤشرات المبكرة لاقتصاد النوايا**
يتضمن ذلك دعوة مفتوحة لـ "البيانات التي تعبر عن النية البشرية ... عبر أي لغة وموضوع وتنسيق" في منشور مدونة OpenAI لعام 2023، بينما تحدث مدير المنتج في Shopify - أحد شركاء OpenAI - عن روبوتات الدردشة القادمة "للحصول بشكل صريح على نية المستخدم "في مؤتمر في نفس العام
تحدث الرئيس التنفيذي لشركة Nvidia علنآ عن استخدام LLMs لمعرفة النية والرغبة، بينما أصدرت Meta بحثآ بعنوان "Intentonomy"، وهي مجموعة بيانات لفهم النية البشرية، في عام 2021
في عام 2024، يتضمن إطار عمل مطور "App Intents" الجديد من Apple لربط التطبيقات بـ Siri (المساعد الشخصي الذي يتم التحكم فيه بالصوت من Apple)، بروتوكولات "للتنبؤ بالإجراءات التي قد يتخذها شخص ما في المستقبل" و"لاقتراح نية التطبيق لشخص ما في المستقبل باستخدامه". التنبؤات التي تقدمها
قال تشودري: "يقال إن عملاء الذكاء الاصطناعي مثل شيشرون من ميتا يحققون مستوى إنسانيآ في لعبة الدبلوماسية، التي تعتمد على استنتاج النوايا والتنبؤ بها، واستخدام الحوار المقنع لتعزيز موقف الفرد"
"هذه الشركات تبيع اهتمامنا بالفعل. للحصول على الميزة التجارية، فإن الخطوة المنطقية التالية هي استخدام التكنولوجيا التي يطورونها بوضوح للتنبؤ بنوايانا، وبيع رغباتنا حتى قبل أن نفهم ماهيتها بشكل كامل
ويشير بن تشودري إلى أن هذه التطورات ليست سيئة بالضرورة، ولكن لديها القدرة على أن تكون مدمرة. وقال: “إن الوعي العام بما هو قادم هو المفتاح لضمان عدم السير في الطريق الخاطئ”
#ذكاءاصطناعي #تطوير #تقنية #تكنولوجيا