تم الكشف عنها في هذا التقرير الحصري:
- اختتام تحقيق سناب في روبوت الدردشة الآلي "My AI" الخاص ب Snap، مع دروس مستفادة لصناعة التكنولوجيا
- مخاوف ICO بشأن خصوصية الأطفال: كيف عالجها Snap
- أهمية التقييمات الاستباقية للمخاطر لأدوات الذكاء الاصطناعي التوليدي
- الضمانات الصارمة التي أوصى بها مكتب الاتصالات الدولي (ICO) لتطورات الذكاء الاصطناعي المستقبلية
- استكشاف دور الأدوات التي تركز على الخصوصية مثل تطبيق متصفح التصفح المتخفي
هيئة مراقبة حماية البيانات البريطانية تنهي التحقيق في خصوصية روبوت الدردشة الآلي GenAI الخاص بشركة Snap، لكنها تحذر الصناعة
في تطور مهم، اختتمت هيئة مراقبة حماية البيانات في المملكة المتحدة تحقيقها الذي استمر لمدة عام تقريبًا في روبوت الدردشة التفاعلي الخاص بشركة Snap، My AI. وقد أفادت التقارير أن Snap قد عالجت المخاوف بشأن المخاطر التي تهدد خصوصية الأطفال، مما أرضى مكتب مفوض المعلومات (ICO). ومع ذلك، أصدر مكتب ICO تحذيرًا صارمًا لصناعة التكنولوجيا الأوسع نطاقًا بشأن ضرورة تقييم المخاطر التي تهدد حقوق الأشخاص قبل إطلاق أدوات الذكاء الاصطناعي التوليدي.
إن الذكاء الاصطناعي التوليدي (GenAI)، الذي يركز غالباً على إنشاء المحتوى، هو ما يدعم روبوت الدردشة الآلي الخاص بـ Snap. تسمح هذه التقنية للبوت بالرد على المستخدمين بطريقة شبيهة بالبشر من خلال الرسائل النصية واللقطات، مما يتيح التفاعل الآلي مع المستخدم. يستخدم روبوت الدردشة الآلي الخاص بالذكاء الاصطناعي في Snap روبوت الدردشة الآلي الخاص بـ OpenAI's ChatGPT، ولكن Snap أدرجت العديد من الضمانات، بما في ذلك إرشادات البرمجة والقيود العمرية افتراضيًا، بهدف إبعاد الأطفال عن المحتوى غير المناسب. كما تم دمج أدوات الرقابة الأبوية في المنصة.
وقد كتب ستيفن ألموند، المدير التنفيذي للمخاطر التنظيمية في مكتب ICO: "يجب أن يكون تحقيقنا في "ذكائي الاصطناعي" بمثابة تحذير للصناعة". وأكد على أن المؤسسات التي تطور أو تستخدم الذكاء الاصطناعي التوليدي يجب أن تعطي الأولوية لحماية البيانات منذ البداية من خلال التقييم الصارم للمخاطر التي تهدد حقوق الأشخاص وحرياتهم والتخفيف من حدتها قبل طرح المنتجات في السوق. لا تزال هيئة الرقابة التنظيمية الدولية ملتزمة بمراقبة تقييمات المخاطر وستستخدم سلطاتها التنفيذية، بما في ذلك الغرامات، لحماية الجمهور من الأضرار المحتملة.
في أكتوبر الماضي، أصدرت ICO إشعار إنفاذ أولي من منظمة ICO إلى شركة Snap بشأن المخاوف المتعلقة بمخاطر الخصوصية المرتبطة بـ My AI. ويبدو أن هذا الإشعار قد حث Snap على إجراء تغييرات كبيرة. أعلن مكتب ICO يوم الثلاثاء أن Snap قد اتخذت "خطوات مهمة" لمراجعة شاملة للمخاطر التي يشكلها My AI ونفذت إجراءات التخفيف المناسبة استجابةً للمشكلات التي أثيرت.
يؤكد هذا التدقيق التنظيمي على الحاجة الماسة إلى تدابير خصوصية قوية في مجال التكنولوجيا. بينما تعمل شركات مثل Snap على الامتثال، يمكن للمستخدمين الأفراد اتخاذ خطواتهم الخاصة لتعزيز الخصوصية على الإنترنت. ويصبح فهم معنى متصفح التصفح المتخفي أمراً بالغ الأهمية مع مشاركة المزيد من البيانات الشخصية على الإنترنت. يمكن أن يوفر استخدام أدوات مثل تطبيق مت صفح التصفح المتخفي طبقة إضافية من الأمان من خلال منع التتبع وحماية البيانات الحساسة أثناء التفاعلات عبر الإنترنت.
غالبًا ما يقتصر معنى وضع التصفح المتخفي على منع تسجيل السجل المحلي، ولكن مع تطبيقات الخصوصية المتقدمة مثل متصفح التصفح المتخفي يمتد إلى حظر آليات التتبع المتطورة عبر الإنترنت. يساعد تطبيق متصفح التصفح المتخفي المستخدمين على الحفاظ على الخصوصية من خلال الحد من البيانات التي تلتقطها مواقع الويب وأجهزة التتبع الخارجية، وبالتالي يتماشى مع المبادئ الأساسية التي تؤكد عليها هيئات مراقبة حماية البيانات مثل ICO.
على الرغم من استيفاء متطلبات ICO، إلا أن Snap لم تكشف عن إجراءات التخفيف المحددة التي طبقتها بعد التدخل التنظيمي. يخطط مكتب ICO لمواصلة الإشراف على طرح My AI وكيفية إدارة المخاطر الناشئة.
أعرب ممثل لشركة Snap عن رضاه عن استنتاجات ICO. وقال المتحدث الرسمي: "نحن سعداء بقبول مكتب ICO أننا وضعنا تدابير مناسبة لحماية مجتمعنا عند استخدام My AI". "نحن نرحب باستنتاج مكتب ICO بأن تقييمنا للمخاطر متوافق تمامًا مع قوانين حماية البيانات في المملكة المتحدة."
نظرًا لأن الذكاء الاصطناعي التوليدي لا يزال يمثل أولوية إنفاذ بالنسبة لمكتب الاتصالات الدولي، فإنه ينصح المطورين باتباع إرشاداته بشأن قواعد الذكاء الاصطناعي وحماية البيانات. مع استمرار المشاورات حول كيفية تكييف قوانين الخصوصية مع نماذج الذكاء الاصطناعي التوليدية، يجب على الشركات أن تظل يقظة.
في حين أن روبوت الدردشة الآلي My AI الخاص بشركة Snap قد نجح في التغلب على التحديات التنظيمية بنجاح، إلا أنه يأتي مع تذكير على مستوى الصناعة: الحماية الاستباقية للبيانات والتقييمات الشاملة للمخاطر أمر بالغ الأهمية. بالنسبة للمستخدمين اليوميين، يمكن أن يكون دمج الأدوات التي تركز على الخصوصية مثل متصفح التصفح المتخفي بمثابة استراتيجية فعالة لتعزيز الأمن عبر الإنترنت وسط تطور المشهد التكنولوجي. مع تشديد الأطر التنظيمية حول الذكاء الاصطناعي، يجب على كل من قادة الصناعة والمستخدمين الأفراد إعطاء الأولوية للخصوصية - وهو مسعى بالغ الأهمية للحفاظ على الثقة في عصر الابتكار الرقمي هذا.
