كيف تتصدى سويسرا لخطر التزييف العميق بواسطة الذكاء الاصطناعي؟

يتعرّض مستخدمو الإنترنت ومستخدماتها لضغوط متزايدة؛ بسبب مقاطع الفيديو المنشأة بتقنية التزييف العميق، الهادفة إلى التشهير أو التضليل أو بثّ البلبلة بين الناس.

وتُعدّ سويسرا واحدة من دول عديدة تسعى لاحتواء هذه المشكلة المتنامية.

أدّت أدوات الذكاء الاصطناعي الحديثة إلى توسعة نطاق تقنية التزييف العميق، وعمّقت تأثيرها.

وبسهولة، تتيح أحدث النماذج لأي شخص إنشاء صور أو مقاطع فيديو أو محتوى صوتي مزيّف، وهو في منزله، دون الحاجة إلى مهارات عالية أو تخصّص.

وتشمل الأمثلة الحديثة على انتشار تقنية التزييف العميق المُسمّى بتطبيقات “التعرّي” المولِّدة لصورٍ عارية للأشخاص، بمن فيهم القاصرون والقاصرات.

ويستغلّ المحتالون والمحتالات مقاطع فيديو لمشاهير يُتَلَاعَب بها لإظهارهم “يروّجون” لمخطّطات استثمارية وهمية، لخداع الناس وسلب أموالهم.

كيف تغيّر عمليات “التزييف المتقنة” نظرتنا للواقعتم نشر هذا المحتوى على مسألة مثيرة للقلق: نتيجة التطوّرات التقنية المتسارعة، أصبح من الصعب على عين الإنسان المجردة التفريق بين ما هو حقيقي وما هو مزيّف.

طالع المزيدكيف تغيّر عمليات “التزييف المتقنة” نظرتنا للواقعويتزايد لجوء السياسيين والسياسيات إلى تقنية التزييف العميق للترويج لصورهم أو مهاجمة خصومهم.

وقد تزايد القلق إزاء استخدام دول أجنبية، مثل روسيا، لهذه التقنية المُولّدة بالذكاء الاصطناعي لزعزعة الأنظمة الديمقراطية في الدول الغربية.

وأعلنت شركة الأمن السيبراني، “ديب سترايك” (DeepStrike)، ارتفاع عدد الحالات المكتشفة من 500 ألف حالة في عام 2023 إلى أكثر من ثمانية ملايين حالة في العام الماضي.

وقد رصدت المنصّة السويسرية، clickandstop.

ch، هذه الحالات.

وكشفت الهيئة المُنشأة لتسجيل حالات التنمّر الإلكتروني والاعتداء الجنسي على الأطفال، زيادة بنسبة 63% في الحالات المبلّغ عنها العام الماضي.

وأضافت المنصّة، المدعومة من قبل منظّمات، مثل “حماية الطفل في سويسرا”، قائلة: “يتزايد عدد الأشخاص المتقدّمين بشكاوى أيضًا لأن صورهم العارية أُنشئت باستخدام الذكاء الاصطناعي ونُشرت على منصات عامة”.

ولا تكفي الإحصاءات المجرّدة وحدها لقياس معاناة الضحايا الأفراد، أو تآكل ثقة الجمهور في الحقيقة، أو التهديد المواجِه للديمقراطيات، على سبيل المثال.

وكشف تحقيق أجرته صحيفة “تاغس أنتسايغر” عن انتشار مقاطع فيديو جنسية مزيفة، وصور عارية لعدد من النساء، منهنّ مؤثّرات على مواقع التواصل الاجتماعي، في منتديات عامّة على تطبيق تيليغرام.

وقد زادت هذه الحالات من حدّة الدعوات لتسريع وتيرة العمل وتركيزه، لمواجهة هذه المشكلة المتفاقمة.

وفي مقال رأي، كتبت الصحيفة: “كمجتمع، إذا تقاعسنا عن العمل، فسنرسل رسالة كارثية مفادها أنّ من المقبول، بطريقة أو بأخرى، تحويل النساء الحقيقيات إلى آلات جنسية افتراضية”.

لكن في حين يوجد اعتراف واسع النطاق بضرورة تصدّي القانون للتهديد الذي تشكله تقنية التزييف العميق على سلامة الأفراد، وتماسك المجتمع، ينقسم المشرّعون والمشرعات في سويسرا، وغيرها من الدول، حول خطة العمل.

ينقسم المسؤولات والمسؤولون السويسريون حول اتجاه التغييرات اللازمة في القانون ووتيرتها ومداها لمواجهة تقنية التزييف العميق.

ففي العام الماضي، رفض البرلمان السويسري اقتراحًا قدمه النائب عن حزب الخضر، رافائيل ماهايم، لسنّ قوانين لمكافحة تقنية التزييف العميق.

لكن في يونيو من هذا العام، وافقت الحكومة، ومجلس النواب، على اقتراح لاحق منه، يستهدف مقاطع الفيديو المزيفة ذات الطابع الجنسي تحديدًا.

وجاء هذا الاقتراح عقب فضيحة مقاطع الفيديو المزيفة التي تُظهر عُريًا وأنتجتها منصّة الذكاء الاصطناعي “غروك”، المدمجة في منصة التواصل الاجتماعي X.

ويدعو الاقتراح الثاني الذي قدّمه ماهايم، إلى وضع قواعد تجبر منصّات الذكاء الاصطناعي على “إجراء تقييمات للمخاطر والأضرار” المتعلقة بالمحتوى الجنسي المزيف، “وتنفيذ تدابير وقائية” إذا لزم الأمر.

كما يدعو الاقتراح إلى إنشاء هيئة رقابية مخوّلة بفرض عقوبات على المنصّات غير الممتثِلة للقوانين.

كيف يحاول العلماء السويسريون رصد الوسائط المفبركة باستخدام تقنية “ديبفيك”؟تم نشر هذا المحتوى على في مختبر الكمبيوتر التابع للحرَم الشاسع للمعهد التقني الفدرالي العالي بلوزان، يتأمل فريق صغير من المهندسين في صورة رجل مبتسم، وردي البشرة، شعره أسود مجعّد، ويرتدي نظارة.

“نعم، هذا واحد من الأعمال الجيّدة”، كما يقول الباحث البارز توراج إبراهيمي، الذي يحمل تشابهاً عابراً مع مؤسس تسلا إيلون موسك، الظاهرة صورته على الشاشة.

قام الفريق بطريقة حرَفية بالتلاعب بصورة رأس إبراهيمي وإسقاطه على صورة على الإنترنت لهذا الرجل، لابتكار صورة رقمية ومقاطع فيديو مفبركة من خلال الذكاء الاصطناعي.

إنها واحدة من الأمثلة المزيفة – وبعضها ما هو أكثر واقعية من غيرها من الصور- والتي قام فريق إبراهيمي بالتعاون مع شركة الأمن الإلكتروني “كوانتوم إنتغريتي” Quantum Integrity (QI) بفبركتها أثناء تطوير برنامج يمكنه اكتشاف الصور التي تم التلاعب بها، بما فيها تلك التي تم تلفيقها باستخدام تقنية “ديبفيك”.

ويعمل البرنامج على معرفة الفوارق بين الأصلي والمزور باستخدام تقنية التعلم الآلي، وهي نفس التقنية الكامنة وراء إنشاء “المقاطع بالغة الزيف” أو “ديبفيك”: فهناك “مبتكر” يغذي البرنامج بصور مزيفة، ويحاول “كاشف” العثور عليها بعد ذلك.

“مع الكثير من الإعداد والتدريب، يمكن للآلات أن تساعد في اكتشاف عمليات التزوير بالطريقة نفسها التي قد يلجأ إليها الإنسان”، كما يوضح إبراهيمي.

ويضيف قائلاً: “كلما زاد استخدام هذه الآلات، كلما جاءت النتائج أفضل.

” والجدير بالذكر، أن الصور ومقاطع الفيديو المزيفة موجودة منذ ظهور الوسائط المتعددة، لكن تقنيات الذكاء الاصطناعي الحديثة، لم تسمح للمزيفين سوى بتغيير الوجوه في مقطع فيديو، أو جعل شخص يبدو وكأنه يقول شيئاً، لم يقله مطلقاً.

وخلال السنوات القليلة الماضية، فاقت سرعة انتشار تقنية “ديبفيك”، توقع معظم الخبراء.

وفقاً لمجلس الحوكمة الدولية للمخاطر في المعهد التقني الفدرالي العالي بلوزان، فقد أصبح تصنيع مقاطع فيديو، بتقنية “ديبفيك” و”بشكل تصاعدي، أسرع وأسهل وأرخص”، وذلك بفضل توزيع أدوات برمجية سهلة الاستخدام، وتقديم خدمات وتطبيقات ذات صلة، مدفوعة عبر الإنترنت.

“ولأن تطوّرها يجري بسرعة كبيرة تحديدا، بتنا نحتاج إلى معرفة حدود هذا التطور – وما هي القطاعات والمجموعات والبلدان التي قد تتأثر به” بحسب قول نائب مدير المركز، أنجوس كولينز.

وعلى الرغم من أن الكثير من مشاكل تقنية “ديبفيك” الخبيثة، تتعلق باستخدامها في إنتاج المواد الإباحية، فإن هناك حاجة متزايدة إلى الاستعداد لكشف الحالات التي يتم فيها استخدام هذه التقنيات، من أجل التلاعب بالرأي العام.

مجال يتطوّر بسرعة عندما بدأ الإبراهيمي، منذ ثلاث سنوات، العمل مع “كوانتوم إنتغريتي” Quantum Integrity لأول مرة على برنامج الكشف، لم تكن قضايا المقاطع المزيفة بعمق، على جدول أعمال معظم الباحثين.

في ذلك الوقت، كان عملاء قلقين بشأن الصور التي تم تزييفها والتلاعب بها، والمستخدمة عند الحوادث، في مطالبات تعويضات التأمين على السيارات وعلى المنازل.

ولكن، بحلول عام 2019، عندما وصلت التقنية المستخدمة إلى مستوى متقدّم من التطور، تم اتخاذ القرار بتكريس المزيد من الوقت لهذه القضية.

يقول أنتوني ساحاكيان، الرئيس التنفيذي لشركة “كوانتوم إنتغريتي”: “أنا مندهش، لأنني لم أعتقد أنها [التقنية] ستتطوّر بهذه السرعة الكبيرة”.

لقد رأى ساحاكيان بشكل مباشر إلى أي مدى حققت تقنيات “ديبفيك” نتائج بدت واقعية، وكان آخرها تبديل صوَر الوجوه على جواز سفر، بطريقة تركت جميع أختام المستندات سليمة.

والواقع، أن التحسينات في تقنيات التلاعب بالصور والفيديوهات ليست وحدها موضع اهتمام الخبراء من أمثاله، بل أعدادها المتزايدة؛ حيث وصل عدد مقاطع الفيديو المزيّفة بعمق على الإنترنت إلى الضعف تقريباً، وذلك خلال فترة تسعة أشهر، فبلغت 14678 بحلول سبتمبر 2019، وفقاً لتقديرات شركة أمن الإنترنت الهولندية “ديب تريس” Deeptrace.

مواطن الخطر تستهدف معظم عمليات التزييف العميقة التي تم القيام بها على الإنترنت بغرض الإيذاء، النساء اللواتي تم نقل وجوههن إلى أخريات يظهرن في لقطات أو صور إباحية.

ووفقاً لتقديرات شركة أمن الإنترنت الهولندية “ديب تريس” Deeptrace، فإن هذا النوع من الاستخدام استحوذ في عام 2019، على 96 % من مقاطع الفيديو التي استخدمت فيها تقنية “ديبفيك” والموضوعة على الإنترنت.

ويظهر البعض من هذه الفيديوهات أو الصور، على مواقع إباحية مخصصة بإنتاج المقاطع بالغة الزيف، بينما ينضوي نشر البعض الآخر منها، تحت ما يسمّى بـ ” الانتقام الإباحي” الذي يهدف إلى الإساءة إلى سمعة الضحايا.

يقول كولينز: “الابتزاز والتنمّر عبر شبكة الإنترنت هي من المواضيع المتكررة”.

في المقابل، تعد الحالات التي استخدمت فيها تقنية “ديبفيك”، من أجل ارتكاب عمليات احتيال، وتمّ التفطّن إليها، قليلة.

وقد اتخذت معظم هذه الحالات شكل انتحال صوتي لشخص يعرفه الضحايا، لتحويل أموالهم إلى المزور.

من ناحية أخرى، ما يزال قطاع الأعمال في مرحلة تدوين الملاحظات لأخذ كل هذه الأخطار بعين الاعتبار.

وقد أرسلت بعض الشركات ومن يبنها شركة زيورخ للتأمين و شركة “سويس ري Swiss Re ” للتأمين وإعادة التأمين ومصرف “بي إن بي باري با BNP Paribas “، ممثلين لها إلى ورشة عمل نظمها مجلس الحوكمة الدولية للمخاطر حول مخاطر تقنية “ديبفيك”.

ويقول ساحاكيان إن الاستخدام المحتمل لمقاطع فيديوهات مفبركة باستخدام هذه التقنية في مطالبات تعويضات الحوادث، على سبيل المثال، هو مصدر قلق في أوساط شركات التأمين، التي يعمل معها.

ويضيف: “إن التكنولوجيا الآن موجودة لجعل عملية KYC [أعرف عميلك] بائدة وعديمة الجدوى”، في إشارة منه، إلى عملية التحقق من هوية العملاء ونواياهم، التي تتبعها المؤسسات التجارية، من أجل تجنب إمكانية وقوعها ضحية الاحتيال.

كما أدى تنامي انتشار تقنية “ديبفيك” أيضاً إلى بروز مخاوف حول إمكانية استخدامها للتدخل في العمليات السياسية.

وقد تأكدت هذه المخاوف عندما ظهر شريط فيديو تم التلاعب به، تبدو فيه نانسي بيلوسي رئيسة مجلس النواب الأمريكي، لتشويه خطابها.

كانت التكنولوجيا المستخدمة في التلاعب بالفيديو ذات نوعية منخفضة، أو ما يسمى بـ”التزييف الرخيص”.

ولكن كما يقول إبراهيمي، “إنها علامة على ما يمكن القيام به، والنوايا التي تكمن وراء هذا النوع من التلاعب بالإعلام.

” التكيف مع واقع رقمي جديد ومع ذلك، يحذر خبير المخاطر كولينز من أن استخدام وسائل الإعلام الاصطناعية في السياسة يجب أن يوضع في سياقه.

ويحذر قائلاً: “من المحتمل أن تلعب تقنية “الديبفيك” دوراً في زعزعة نتائج الانتخابات، لكنني أتوخّى الحذر من التشديد المفرط على خطر هذه التقنية، لأنك بذلك تُخاطر بتجاهل الصورة الكاملة”.

ويقول إن ما تفعله “الديبفيك” هو “الفجوة المحتملة الناشئة بين سرعة تطور النظام الإيكولوجي للمعلومات الرقمية وقدرة المجتمع على التكيّف معه”.

ولإعطاء مثال على هذا، يعود كولينز إلى استخدام تقنية “الديبفيك” كأداة للتنمّر الإلكتروني؛ فيقول: “هذا الأمر يثير أسئلة حول مدى استجابة النظم القانونية للأذى الفردي عبر الإنترنت”.

ويضيف: “كيف يمكنك التخلّص من المحتوى الرقمي المسيء بعد مجرد ابتكاره، وكيف تجد مبتكره الأصلي أو تتخذ بحقه أية إجراءات قانونية، خاصة إذا كان يخضع لسلطة قضائية أخرى؟ ”.

يمكن أن تساعد تقنية “الديبفيك” أيضاً في حملات التضليل، مما يؤدي إلى تآكل حلقة الوصل بين الحقيقة والثقة بها.

الذكاء الاصطناعي لتزييف المقاطع ولكشف التزييف قد يسبب استخدام هذه التقنية حالة من الذعر في بعض الأوساط، لكنه لا يوجد إجماع على أن مقاطع الفيديو المفبركة واقعية لدرجة أن تخدع معظم المستخدمين.

يقول الخبراء إن جودة هذه التقنية اليوم لا تزال تعتمد إلى حد كبير على مهارات المبتكر.

ويوضح خبير أمن المقاييس الحيوية سيباستيان مارسيل، أن تبديل الوجوه على فيديو ما، يسبب حتماً وجود بعض العيوب في الصورة.

ويقول: “ستكون الجودة متباينة بدرجة كبيرة، بحسب العمل اليدوي الذي تم القيام به لتعزيز الصورة.

فإذا بذل المبتكر جهداً لمواءمة النتيجة مع النسخة الأصلية، فقد يكون من الصعب جداً اكتشاف التزييف”.

يعمل مارسيل وزملاؤه في معهد أبحاث “أي دياب Idiap ” في مارتيني – جنوب غرب سويسرا، على برنامج للكشف خاص بهم، في مشروع كان نتيجة الجهود المبذولة للكشف عن التلاعب في الوجوه والأصوات في لقطات الفيديو.

ويقوم معهد “Idiap ” بالعمل في هذا المجال على المدى الطويل.

يقول مارسيل: “لن يتم حل هذه المشكلة في الحال”.

“إنه موضوع بحث متنامي ولذا فإننا نخطط لكيفية رصد المزيد من الموارد في هذا المجال.

” ويشارك هذا المعهد غير الهادف للربح، في تحدٍ أطلقه موقع فيسبوك لإنتاج برنامج اكتشاف للصور والفيديوهات المزيفة بتقنية “الديبفيك”، من أجل مساعدة هذا الأخير على الاستفادة من بعض النتائج الأولية التي حصل عليها.

وتعهد عملاق وسائل التواصل الاجتماعي بالمساهمة، بأكثر من 10 ملايين دولار للباحثين في مجال الكشف عن الحقائق المزيّفة، في جميع أنحاء العالم (انظر الحاشية).

ولكن ما قد يحدثه الكشف عن الفارق بين الحقيقة المجردة والحقيقة المزيّفة، هو موضوع مطروح للنقاش.

يقول كولينز: “من غير المحتمل إيجاد حل سحري؛ فمهما امتلكنا من تقنيات لكشف التزوير، فإن الخصم سوف يجد طريقة للتغلب عليها.

” لعبة القط والفأر يقول كل من إبراهيمي ومارسيل إن هدفهما ليس التوصل إلى أداة تشكل مفتاح أمان؛ فجزء من وظيفة الكاشف هو توقع المنحى الذي قد يسلكه المتلاعبون بالحقائق، وضبط أساليبهم وفقاً لذلك.

ويتوقع مارسيل من معهد “Idiap” مستقبلاً يتمكن فيه مبتكري المقاطع بالغة الزيف، ليس فقط من تغيير جانب واحد من الفيديو، مثل الوجوه، وإنما الصورة بأكملها.

ويقول: ” إن جودة تقنيات “الديبفيك” آخذة في التحسن، لذا يتعين علينا مواكبة الأمر بتحسين أجهزة الكشف كذلك”، حتى لا تعود نسبة التكلفة إلى العائد، والناتجة عن صنع مقاطع خبيثة بالغة الزيف، في صالح المبتكر.

يعتقد إبراهيمي من المعهد التقني الفدرالي العالي بلوزان أن حدثاً كبيراً، مثل الانتخابات الرئاسية في الولايات المتحدة، يمكن أن يمنح الجهات الفاعلة الخبيثة حافزاً لتسريع عملها في هذا المضمار، مع وضع هدف واضح في الاعتبار.

“قد يستغرق الأمر شهوراً أو أعواماً” قبل أن تصبح العين المدربة قادرة على اكتشاف ما هو زائف، وفي هذه المرحلة، ستكون الأجهزة هي فقط، من تملك القدرة على القيام بذلك.

منصات وسائل الإعلام الاجتماعية ضد المقاطع البالغة الزيف أدخل تويتر Twitter قاعدة جديدة في مارس 2020 ضد مشاركة محتوى الوسائط الاصطناعية أو التلاعب الذي يمكن أن يسبب بأذية الآخرين.

من بين الإجراءات التي ستتخذها، هي وسم هذه التغريدات وتحذير المستخدمين منها.

كما تعهدت شركة يوتيوب YouTube، المملوكة لشركة غوغل Google، بأنها لن تتسامح مع مقاطع الفيديو البالغة الزيف ذات الصلة بالانتخابات أو بالإحصاءات في الولايات المتحدة عام 2020، والتي تم تصميمهما لتضليل الجمهور.

وقد أطلق فيسبوك Facebook تحدياً بقيمة تزيد عن 10 ملايين دولار لدعم الباحثين في مجال الكشف عن الحقائق المزيّفة حول العالم.

كما أصدر كل من فيسبوك Facebook وغوغل Google مجموعات بيانات لمقاطع بالغة الزيف، لمساعدة الباحثين على تطوير تقنيات الكشف.

المقاطع البالغة الزيف للترفيه والمحاكاة الساخرة بحسب مجلس الحوكمة الدولية للمخاطر (IRGC): “فإن المصنفات الأكثر تداولاً على نطاق واسع تميل إلى السخرية، حيث تتضمن شخصيات بارزة” مثل المشاهير والسياسيين، مما يشير إلى أنه “لا يتم ابتكار كل المقاطع بقصد خبيث”.

وقد انخرطت هوليوود أيضاً في تقنية “الديبفيك”، للسماح على سبيل المثال، بعودة الممثلين المتوفين منذ وقت طويل إلى الشاشة الفضية.

ويقول إبراهيمي من EPFL إنه إذا سار كل شيء وفقاً للخطة الموضوعة، فقد تكون النتيجة الثانوية لمشروع EPFL / QI لتطوير برنامج الكشف عن المقاطع بالغة الزيف هو الاستخدام النهائي لنفس التكنولوجيا لإنشاء مؤثرات خاصة للأفلام.

وتشمل الاستخدامات الإيجابية المحتملة الأخرى لتقنيات “الديبفيك” التوليف الصوتي للأغراض الطبية والطب الشرعي الرقمي في التحقيقات الجنائية، وفقاً لمجلس الحوكمة الدولية للمخاطر.

طالع المزيدكيف يحاول العلماء السويسريون رصد الوسائط المفبركة باستخدام تقنية “ديبفيك”؟وفي مناقشات برلمانية سابقة، صرّح وزير الاتّصالات السويسري، ألبرت روشتي، بكفاية قوانين القانونين، الجنائي والمدني، للتصدي لانتهاكات التزييف العميق.

وأشار أيضًا إلى انضمام سويسرا إلى اتفاقية الذكاء الاصطناعي، التابعة لمجلس أوروبا للدفاع عن الديمقراطية وسيادة القانون وحقوق الإنسان ضد انتهاكات الذكاء الاصطناعي.

وكجزء من هذا الالتزام، ستقدّم وزارة العدل توصيات حول كيفية تعديل بعض جوانب القانون السويسري.

لكن لا يتوقّع ديفيد فاسيلا، الشريك في مكتب المحاماة، فالدر فايس، ومؤسّس منصة datenrecht.

ch لقانون البيانات، أن يشهد القانون مراجعة شاملة في ظلّ استراتيجية الحكومة الحالية.

ولموقع سويس إنفو (Swissinfo.

ch)، قال فاسيلا: “قد يخلق سنّ قوانين إضافية خاصّة بتقنية التزييف العميق، المطبَّقة بالإضافة إلى القوانين الحالية، مشاكل جديدة تتعلّق بالوضوح القانوني”، محذرًا من تعقيد القانون بتداخل القوانين.

إذ من السهل المطالبة بمزيد التنظيم، ولكن من الصعب القيام بذلك بحكمة.

وبدلًا من ذلك، يدعو فاسيلا إلى تعزيز هيئات، مثل المفوّضية الفدرالية لحماية البيانات والمعلومات، وهي سلطة إشرافية تحمي الأفراد من إساءة استخدام بياناتهم.

وقال: “يبدو سنّ قانون جديد دون تطبيق فعّال جيدًا، لكنه لا يُحدث أيّ تغيير.

وقد يكون لمضاعفة موارد هيئة حماية البيانات أثرٌ أكبر بكثير.

وبدلًا من سنّ قوانين جديدة، ينبغي علينا تطبيق القوانين القائمة بشكل أفضل”.

+ إقرأ.

ي مقالنا حول الذكاء الاصطناعي والديمقراطيةفي سويسرا، شعر بعض الأشخاص بالإحباط إزاء ما يعتبرونه نهجًا غامضًا وبطيئًا، في تعديل القانون.

وفي مارس، أيّدت مجموعة برلمانيين وبرلمانيات من مختلف الأحزاب، مبادرة شعبية تدعو إلى سنّ قوانين لحماية الناس من الأضرار الرقمية.

وإذا حظيت “مبادرة الإنترنت” بدعم كافٍ، فستُجبر الحكومة على إجراء استفتاء وطني على قوانين لحماية “الحقوق الأساسية، والديمقراطية في الفضاء الرقمي”.

ويشمل ذلك اتّخاذ إجراءات ضدّ التضليل الإعلامي، والعنف الجنسي، والجرائم الإلكترونية.

وستكون منصّات التكنولوجيا ملزمة بالتحقيق في شكاوى الجمهور، واتخاذ “التدابير المضادّة اللازمة” ضدّ المحتوى الضارّ.

+ إقرأ.

ي سلسلة مقالاتنا حول الآلة والأخلاقوأطلقت الحكومة السويسرية مشروع قانون خاص بها لمحاسبة منصات التواصل الاجتماعي، ومحركات البحث على نشر المحتوى المسيء والمضلل.

لكن يجسّد مشروع القانون بطء وتيرة التقدم في هذا المجال.

فبعد طرحه من الحكومة الفدرالية لأوّل مرة عام 2023، لم يُقدم مشروع القانون إلا في أكتوبر الماضي، ولم يصل بعد إلى البرلمان.

وتأخّر تطبيق الرسوم الجمركية، المستهدِفة لشركات التكنولوجيا الأمريكية الكبرى بشكلٍ رئيسي، خلال مفاوضات الرسوم الجمركية مع الإدارة الأمريكية العام الماضي.

ويهدف هذا القانون إلى إجبار أكبر المنصّات الرقمية على معالجة شكاوى التشهير، والإهانة، والتمييز، والتحريض على الكراهية بشكل رسمي.

وستكون الشركات ملزمة بتعيين ممثّلات وممثّلين قانونيين لها في سويسرا، وبتبرير قراراتها المتعلّقة بإزالة المحتوى أو حظر الحسابات علنًا.

ورحّبت منظّمة “مراقبة الخوارزميات” السويسرية غير الحكومية بمشروع القانون، ووصفته بأنّه “حاسم”.

لكن حذّرت هذه المجموعة الضاغطة من ضرورة تطبيقه بفعالية، حتّى “لا يصبح مجرّد حبر على ورق”.

استخدام التكنولوجيا للحد من الأضرار الرقميةلكن بغض النظر عمّا يقرره السياسيون والسياسيات، تقوم شركات التكنولوجيا أيضًا بدورٍ في مكافحة التزييف العميق.

وقد تخصّصت العديد منها، بما فيها شركات سويسرية، في كشف التزييف العميق من خلال تتبّع آثار الأدلّة الرقمية المشيرة إلى التلاعب.

لكن تتعلّم نماذج الذكاء الاصطناعي الأحدث كيفية إنشاء فيديوهات تزييف عميقة أكثر إقناعًا، ما يجبر أنظمة الكشف على تطوير أساليبها باستمرار.

وقد أدّى ذلك إلى لعبة كرّ وفرّ، إذ يحاول كلا الطرفين البقاء في المقدّمة.

وفي المعهد الفدرالي السويسري للتكنولوجيا في زيورخ (ETH)، يتناول العلماء والعالمات المشكلة من زاوية مختلفة، وذلك بإثبات صحة المحتوى الأصلي باستخدام التوقيعات الرقمية المشفّرة.

وفي جامعة ETH، ابتكر باحثون وباحثات تقنية استشعار جديدة للكاميرات وأجهزة التسجيل الأخرى، تطبع علامة مائية على المحتوى الرقمي لحظة إنشائه.

وهذا يُمكّن المستخدمين والمستخدمات من التمييز بين المحتوى الأصلي، وغير الأصلي.

قال فرناندو كارديس، أحد مؤسسي نظام التوقيع الرقمي المشفر ETH، لموقع Swissinfo: “تُعدّ تقنية التزييف العميق هجومًا يُنكر الحقيقة.

نحن نوفّر نقاط ارتكاز للتحقّق من صحّة المحتوى لمساعدة الناس على تحديد ما هو حقيقي وما هو غير حقيقي بدقّة”.

وليس المبدأ الأساسي جديدًا.

فمنذ عام 2021، قد دأب التحالف المعني بأصل المحتوى ومصداقيته رابط خارجي(C2PA)، اتّحاد عالمي لشركات التكنولوجيا والإعلام والنشر، على تطوير وسائل مختلفة للتحقّق من صحّة المحتوى الرقمي، بما في ذلك التوقيعات المشفّرة.

لكن يعتقد باحثو جامعة ETH وباحثاتها أنّ نظام تحديد المصدر الخاص بهم يمثل تحسينًا على الأنظمة الأخرى، طابعة التوقيعات على منصّات البرامج.

وبحسب كارديس، يمنح فصل عملية جمع البيانات عن توليد التوقيعات الجهات الخبيثة فرصة لاختراق النظام بينهما، عبر اختراق الأجهزة.

وقال: “من المهمّ توليد التوقيعات على نفس شريحة الاستشعار مُلتقِطة البيانات.

وهذا يجعل التلاعب أصعب بكثير ويرفع مستوى الأمان، مقارنةً بالأساليب الأخرى”.

والآن، بعد عرضه حلّه علنًا، يواجه الفريق البحثي السويسري مهمّة إقناع مصنّعي الكاميرات ومصنّعاتها، والشركات الأخرى، بتبني هذه التقنية.

يدير/ تدير الحوار: بنيامين فون فيلهل الديمقراطيات المباشرة أكثر عرضة للتضليل الإعلامي؟من المتوقع أن تؤثر موجة المعلومات المضللة بشكل خاص على الديمقراطيات المباشرة، مثل سويسرا أو العديد من الولايات الأمريكية.

تحرير: غابي بولارد/فيرونيكا دي فورترجمة ومعالجة: عبد الحفيظ العبدلي.