ألقت الشرطة في الصين القبض على رجل لاستخدامه برنامج الدردشة الآلي ، ChatGPT ، لإنشاء ونشر أخبار كاذبة ، فيما تسميه وسائل الإعلام الحكومية أول قضية جنائية في البلاد تتعلق باستخدام روبوت محادثة بالذكاء الاصطناعي. يُزعم أن المشتبه به ، ولقب هونغ ، استخدم ChatGPT لإنشاء تقرير مزيف عن حادث قطار ، والذي نشره بعد ذلك على الإنترنت لتحقيق ربح. حصل المقال على حوالي 15 ألف مشاهدة ، وفقا لبيان صادر عن الشرطة في مقاطعة قانسو الشمالية الغربية يوم الأحد.
تم حظر ChatGPT ، الذي طورته شركة OpenAI المدعومة من Microsoft ، في الصين ، على الرغم من أنه يمكن للمستخدمين الوصول إليه من خلال الشبكات الخاصة الافتراضية (VPNs). كانت حوادث القطارات قضية حساسة في الصين منذ عام 2011 ، عندما واجهت السلطات ضغوطًا لتوضيح سبب فشل وسائل الإعلام الحكومية في تقديم تحديثات في الوقت المناسب بشأن تصادم قطار سريع في ونتشو أدى إلى مقتل 40 شخصًا.
وطبقا لبيان صادر عن شرطة قانسو ، فإن اعتقال هونغ حدث في 5 مايو في مدينة دونغقوان بإقليم جوانجدونج الجنوبي. وأشار البيان إلى أنه تم استجواب هونغ بسبب استخدامه المزعوم “للتكنولوجيا الحديثة لتلفيق معلومات كاذبة ، ونشرها على الإنترنت ، والتي تم نشرها على نطاق واسع”. كما ذكر بيان الشرطة أن هونج متهم بـ “إثارة الخلافات وإثارة المتاعب” ، وهي الجريمة المتهم بارتكابها.
يأتي هذا الاعتقال بعد أن اتخذت الحكومة الصينية عدة خطوات لتنظيم استخدام الذكاء الاصطناعي والتقنيات المزيفة العميقة. في كانون الثاني (يناير) ، سنت إدارة الفضاء الإلكتروني الصينية لوائح جديدة للحد من استخدام المنتجات المزيفة. يشير التزييف العميق إلى محتوى نصي ومرئي واقعي للغاية تم إنشاؤه بواسطة الذكاء الاصطناعي. يحظر التشريع الجديد المستخدمين من إنشاء محتوى مزيف عميق حول مواضيع محظورة بالفعل بموجب القوانين الحالية على الإنترنت الصيني الخاضع لرقابة شديدة. كما تحدد إجراءات إزالة المحتوى الذي يعتبر خاطئًا أو ضارًا.
في مارس ، أطلق عملاقا الإنترنت Baidu و Alibaba نسختهما الخاصة من خدمة ChatGPT في محاولة للحاق بـ OpenAI. كشفت Baidu النقاب عن “Wenxin Yiyan” أو “ERNIE Bot” ، بينما أطلقت Alibaba “Tongyi Qianwen” بعد شهرين.
أصدر منظم الفضاء الإلكتروني الصيني أيضًا مسودة إرشادات تتطلب خدمات الذكاء الاصطناعي التوليدية للخضوع لمراجعات أمنية قبل التشغيل ، وسيحتاج مقدمو الخدمات إلى التحقق من هويات المستخدمين الحقيقية وتقديم تفاصيل حول معلوماتهم التقنية ، بما في ذلك نوع وحجم البيانات التي يستخدمونها. المبادئ التوجيهية مفتوحة لتعليقات الجمهور.
جاء اعتقال هونغ أيضًا وسط حملة استمرت 100 يوم أطلقها فرع الإنترنت التابع لوزارة الأمن العام في مارس / آذار للقضاء على انتشار الشائعات على الإنترنت. تهدف الحملة إلى معالجة الشائعات عبر الإنترنت والمحتوى غير القانوني والاحتيال والجرائم الأخرى عبر الإنترنت.
أصبح استخدام روبوتات الدردشة AI وغيرها من التقنيات المتقدمة سائدًا بشكل متزايد في انتشار الأخبار المزيفة والمعلومات المضللة عبر الإنترنت. تعكس جهود الحكومة الصينية لتنظيم هذه التقنيات القلق المتزايد بشأن احتمالية إساءة استخدامها والحاجة إلى مكافحة الأكاذيب عبر الإنترنت.
