في العصر الرقمي، نتفاعل مع الذكاء الاصطناعي بشكل متكرر أكثر فأكثر، ولدى الذكاء الاصطناعي مجموعة واسعة من التطبيقات في مختلف المجالات، من المنازل الذكية إلى تطبيقات الهاتف المحمول. من بينها، تم الترحيب بـ chatbot من قبل الجمهور لخصائصه المريحة والفعالة، وأصبح مجالًا ساخنًا للاهتمام.
سواء كان ChatGPT من OpenAI، أو Bard من Google، يتم تدريب روبوتات الدردشة هذه وتتفاعل مع المستخدمين باستخدام كميات هائلة من البيانات من الإنترنت.
ومع ذلك، هل فكرت يومًا أنه بينما تتواصل بسعادة وسهولة مع برنامج الدردشة الآلي، فقد يكون يتجسس بهدوء على أسرارك؟
كيف تستنتج روبوتات الدردشة المدعمة بالذكاء الاصطناعي معلومات المستخدم؟
وجدت دراسة حديثة أجراها علماء الكمبيوتر في ETH Zurich أن روبوت الدردشة يمكنه استنتاج معلومات شخصية عن المستخدم، مثل المكان الذي يعيش فيه، والعرق، والجنس، وغير ذلك، بناءً على محتوى محادثاته. وعلى الرغم من أن الدراسة لم تخضع لمراجعة النظراء، إلا أنها تثير مخاوف جديدة بشأن الخصوصية على الإنترنت.
قدرة LLMs على الحكم وتوليد النتائج من تعقيد بيانات التدريب والخوارزميات. تم تدريب النموذج على كمية كبيرة من البيانات المتاحة للعامة، بما في ذلك النصوص والصور والصوت والمزيد من الإنترنت. خلال التدريب، تعلموا كيفية استخراج المفاتيح من البيانات وتصنيف النصوص الجديدة والتنبؤ بها بناءً على تلك المفاتيح.
استخدم فريق البحث نصًا من منشورات Reddit حيث اختبر المستخدمون ما إذا كان بإمكان حاملي الماجستير في القانون أن يستنتجوا بدقة المكان الذي يعيشون فيه أو من أين أتوا. وجد فريق البحث، بقيادة مارتن فيتشيف من ETH Zurich، أن هذه النماذج لديها قدرة مذهلة على تخمين معلومات دقيقة عن المستخدمين بناءً على الإشارات السياقية أو اللغوية وحدها. في قلب الإصدار المدفوع من Open AI ChatGPT، تتميز GPT-4 بالدقة المدهشة في التنبؤ بالمعلومات الخاصة للمستخدم بنسبة 85 إلى 95 بالمائة من الوقت.
على سبيل المثال، عندما يذكر المستخدم "أنا أنتظر دائمًا المنعطف عند تقاطع ما" عند التواصل مع chatbot، يمكن أن يستخدم chatbot هذه المعلومات لاستنتاج المكان الذي يعيش فيه المستخدم، حيث أن المنعطف هو إجراء مروري فريد من نوعه إلى ملبورن. على سبيل المثال، إذا ذكر أحد المستخدمين في محادثة أنه يعيش في مطعم بالقرب من مدينة نيويورك، فيمكن لبرنامج الدردشة الآلي تحليل التركيبة السكانية للمنطقة واستنتاج أنك على الأرجح أسود.
ومع ذلك، فإن هذا الاستنتاج ليس دقيقًا دائمًا، حيث أن لغة كل مستخدم وسلوكه فريدان. ولكن يكفي أن نظهر أن نماذج الذكاء الاصطناعي، المدربة على البيانات الضخمة، قادرة بالفعل على العمل مثل المحققين، حيث تستنتج المعلومات الأساسية من بعض القرائن التي تبدو غير ذات أهمية.
على الرغم من أن العديد من الخبراء يدعون إلى ضرورة اهتمام مستخدمي وسائل التواصل الاجتماعي بأمن المعلومات وعدم مشاركة الكثير من معلومات الهوية عبر الإنترنت، إلا أن المستخدمين العاديين غالبًا ما لا يدركون أن كلامهم وأفعالهم اليومية غير الرسمية قد تكشف خصوصيتهم.
ما الذي يجب إتمامه؟
في حين أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي توفر لنا الراحة، فإنها تجعل حماية الخصوصية أكثر تعقيدًا أيضًا. نحن بحاجة للرد على مستويات متعددة:
أولاً، يجب على المطورين إعطاء الأولوية لحماية الخصوصية ومراعاة حقوق خصوصية المستخدم بشكل كامل عند تصميم روبوتات الدردشة وتطويرها. على سبيل المثال، الحد من نطاق جمع واستخدام بيانات المستخدم، واعتماد تقنيات التشفير وإخفاء الهوية لحماية بيانات المستخدم، ويمكن للمطورين تقديم خوارزميات حماية الخصوصية للحد من قدرة روبوتات الدردشة على استنتاج معلومات المستخدم.
ثانيًا، يجب على الحكومة والجهات التنظيمية تعزيز الرقابة على سياسة الخصوصية لروبوتات الدردشة. التأكد من امتثال الشركات للقوانين واللوائح ذات الصلة عند جمع بيانات المستخدم واستخدامها ومشاركتها، وتزويد المستخدمين بسياسة خصوصية شفافة وقابلة للتفسير ويمكن الوصول إليها.
وأخيرًا، كمستخدمين، نحتاج إلى زيادة وعينا بحماية الخصوصية. عند استخدام chatbot، احرص على عدم الكشف عن الكثير من المعلومات الشخصية في المحادثة.
لقد جلب لنا تطوير روبوتات الدردشة المدعمة بالذكاء الاصطناعي الراحة والمتعة، ولكنه جلب أيضًا تهديدات جديدة للخصوصية. وإذا عملت جميع الأطراف معا، فنيا وأخلاقيا، فسوف نتمكن من تعظيم فوائد الذكاء الاصطناعي مع تقليل مخاطره المحتملة.
وربما بعد هذه "الصدمة"، سنكون أكثر حذرا بشأن عصر الذكاء الاصطناعي هذا المليء بالتغيرات والفرص، حتى يتمكن العلم والتكنولوجيا من خدمة الإنسان حقا.
