موظفو Meta يرصدون مخاوف من خلط Muse محادثات الحسابات وكشف بيانات خاصة
الحقائق الرئيسية
أثار موظفون في Meta مخاوف من أن وكيل الذكاء الاصطناعي Muse يخلط بين محادثات حسابات مختلفة ويكشف بيانات خاصة، وفق تقرير لرويترز نُشر في 18 نوفمبر واستند إلى منشورات داخلية في الشركة. وتناولت الخلاصة المنشورة في موجز الأخبار القضية في 19 نوفمبر، وهو التاريخ الذي حدده الخبر في المسودة. وظهرت المخاوف مع توسع الشركة في الرهان على وكيل ينفذ مهام نيابة عن المستخدمين. وقال موظفون إنهم واجهوا رسائل ومعلومات بدت مرتبطة بأشخاص أو طلبات لا تخصهم. لكن رويترز لم تثبت أن الأرصدة البنكية التي ظهرت في بعض الحالات تعود بالفعل إلى مستخدمين آخرين.
وشملت الأمثلة التي أوردها الموظفون معلومات عن طلب رعاية أطفال لم يقدموه، ونصيحة مهنية لم يطلبوها، وطلبات شراء منتجات لم ينفذوها، إضافة إلى أرصدة بنكية قالوا إنها ليست لهم. وقالت إحدى الموظفات إن Muse ذكّرها بالرد على رسالة من أختها عبر تطبيق Signal. وتضع هذه الوقائع المخاوف في نطاق يتجاوز الإجابات غير الدقيقة، إذ تتعلق بظهور معلومات شخصية أو رسائل تبدو كأنها تخص حسابًا آخر. ومع ذلك، لا تثبت الأمثلة وحدها أن بيانات مستخدم بعينه انتقلت إلى مستخدم آخر. ولم تتمكن رويترز من تحديد ما إذا كانت الأرصدة المعروضة تخص أشخاصًا آخرين أم أن Muse اختلقها.
وقالت رويترز إنها راجعت أكثر من 24 منشورًا داخليًا تناولت تصرفات غير مرغوبة منذ إطلاق Muse. واستند التقرير إلى المنشورات بوصفها مؤشرات على قلق داخل الشركة، لا إلى حسم منشأ كل معلومة ظهرت في رسائل الوكيل. وللتحقق من إحدى الحالات، تعاونت رويترز مع موظفين في Signal ومعهد AI Now لإعادة اختبار وصول Muse إلى رسائل Signal. وأشارت نتائج الاختبارات إلى أن المشكلة ما زالت قائمة، وإلى احتمال تأثر مستخدمين آخرين. وأعادت هذه النتيجة التركيز إلى حدود وصول الوكيل إلى التطبيقات والبيانات التي يربطها المستخدمون به.
ورد متحدث Meta بأن الأمثلة تمثل «حوادث منفردة»، وقال إن الشركة تجري اختبارات داخلية وتحدّث منتجاتها لتحسين الحماية. وأضاف أن Muse لا يصل إلى التطبيقات الأخرى إلا عبر أذونات يمنحها المستخدم صراحة. كما قال إن كثيرًا من رسائل الخلط كانت هلوسات، وإن الشركة عالجتها. ويضع هذا الرد تفسير الشركة للوقائع في إطار أخطاء مولدة من النظام، مع إقرارها بأن تحسين الحماية يتطلب اختبارات وتحديثات مستمرة. أما تقرير رويترز، فذكر استمرار المشكلة في الاختبارات التي أعادها، ولم يحسم ما إذا كانت الأرصدة البنكية التي أوردها الموظفون بيانات حقيقية لمستخدمين آخرين.
وفي شرحها الفني للأمان، قالت Meta إن التصميم الحالي لا يمنع الشركة من الوصول إلى البيانات عند الضرورة لدعم الخدمة أو تأمينها أو تشغيلها. وأضافت أن جهاز Muse السري يهدف إلى منع هذا الوصول تشفيريًا. ويعني ذلك أن هدف الجهاز، كما وصفته الشركة، هو فرض حاجز تقني على وصولها إلى البيانات، بينما يقر الشرح بأن التصميم القائم لا يحقق المنع الكامل في كل الظروف. ويتعلق هذا الجانب بإدارة بيانات الخدمة لدى Meta، فيما تركز مخاوف الموظفين على ما قد يعرضه الوكيل للمستخدمين عند التعامل مع حسابات وتطبيقات متعددة. وتبقى الأذونات التي يمنحها المستخدم وضوابط التعامل مع المعلومات جزءًا من النقاش حول حماية الخصوصية في المنتج.
وأقرت Meta في شرح الأمان بأن Muse ليس محصنًا من الهجمات، وأن حقن الأوامر ما زال مشكلة مفتوحة في القطاع، وأن الوكيل قد يرتكب أخطاء. ويضيف هذا الإقرار سياقًا تقنيًا إلى الوقائع التي رصدها الموظفون، من دون أن يحدد سبب كل حالة أو يثبت حدوث تسريب بين حسابين. وتجمع القضية بذلك بين مخاطر وصول الوكيل إلى تطبيقات المستخدم، وإمكان إنتاجه معلومات خاطئة، وحدود وسائل الحماية التي تصفها الشركة. وقالت Meta إنها تختبر النظام وتحدّثه، فيما أشارت اختبارات رويترز إلى استمرار مشكلة الوصول إلى رسائل Signal. ولم يورد التقرير موعدًا محددًا لتحديث لاحق أو نتيجة نهائية للتحقيق في منشأ الأرصدة التي ظهرت للموظفين.