يمكن أن تشير الأسماء الأولى وأسماء العائلات إلى الأصل والانتماء الديني؛ هذا ما ورد في مسودة مشروع قانون أعدته الحكومة الألمانية بشأن “إدارة الهجرة بالذكاء الاصطناعي”. وتبرر الحكومة بهذه الحجة ضرورة تدريب أنظمة الذكاء الاصطناعي المخصصة لمعالجة إجراءات اللجوء باستخدام بيانات شخصية غير مجهولة الهوية في بعض الحالات.
في المقابل، حذرت 37 منظمة، من بينها “ألغوريثم ووتش” (AlgorithmWatch)، ومنظمة العفو الدولية (Amnesty International)، ومنظمة “برو أزول” (Pro Asyl)، في نداء مشترك من مخاطر جسيمة، مبدية مخاوفها من وقوع حالات تمييز، وانتهاكات لحماية البيانات، وصدور نتائج خاطئة. ومن المقرر أن تناقش لجنة الشؤون الداخلية في البرلمان الألماني (البوندستاغ) مشروع القانون المقترح الأسبوع المقبل وفقاً لموقع ميغاتزين.
وبموجب المشروع، تعتزم الحكومة الألمانية السماح للسلطات باستخدام ملفات اللجوء القائمة لتطوير أنظمة الذكاء الاصطناعي، بحيث تتعلم هذه التقنية -من بين أمور أخرى- تحديد البيانات ذات الصلة بقرارات اللجوء وكيفية التحقق منها. ولتحقيق ذلك، قد تُعالَج معلومات بالغة الحساسية تتعلق بالاضطهاد السياسي، أو الدين، أو التوجه الجنسي، أو التعرض للعنف.
تجارب غير مشجعة
علاوة على ذلك، يُفترض أن يُسمح للمكتب الاتحادي للهجرة واللاجئين (Bamf)، في حال وجود شكوك مبررة، بمطابقة بيانات طالبي اللجوء آلياً مع المعلومات المتاحة للعموم على الإنترنت، بما في ذلك المنشورات على شبكات التواصل الاجتماعي. وتُعول الحكومة الاتحادية على هذه الخطوة لتسريع الإجراءات وتحسين جودتها، مؤكدة أن البتّ في طلبات اللجوء سيظل بيد العنصر البشري.
غير أن المنظمات الحقوقية ترى في هذه النقطة تحديداً مكمن الخطر؛ إذ قد يفرط الموظفون في الثقة بالنتائج الآلية الخاطئة ويتبنونها. وتُظهر التجربة البريطانية أن مثل هذه الأخطاء واردة بالفعل؛ حيث تُستخدم أنظمة الذكاء الاصطناعي هناك لتلخيص جلسات استماع طالبي اللجوء، وخلال عملية لمراقبة الجودة، أخفق 45 ملخصاً من أصل 203 خضعت للمراجعة، بينما تم إعادة التدقيق في 19 ملخصاً.
إشكالية الحماية القانونية
وترى المنظمات أن الحماية القانونية تمثل إشكالية بالغة التعقيد؛ فعلى الرغم من توفر إمكانيات مبدئية للاطلاع على الملفات والمراجعة القضائية، فإن مشروع القانون لا يُلزم السلطات صراحةً بإبلاغ المعنيين بشكل شامل بنتائج الذكاء الاصطناعي المستخدمة ومدى تأثيرها على القرارات الصادرة بحقهم.
ولذلك، تطالب المنظمات بضمان حقوق إلزامية في الحصول على المعلومات، وفرض رقابة مستقلة، وإتاحة الفرصة لتصحيح الأخطاء قبل صدور القرار النهائي؛ إذ إن من يجهل المعلومات التي جمعتها الآلة عنه أو قيّمتها، لن يتمكن عملياً من الاعتراض عليها.