مع استمرار الاستخدام اليومي للذكاء الاصطناعي (AI) في الارتفاع ، ازدادت أيضًا مخاطر تسريب العمال لبيانات الشركة الحساسة عن غير قصد أو عن قصد إلى أدوات جديدة تعمل بالذكاء الاصطناعي. حتى إذا حظرت إحدى الشركات استخدام هذه الأدوات ، فإنها لا تزال تحدث ، كما يتضح من سلسلة من التسريبات التي تعرضت لها Samsung بعد أن زُعم أن الموظفين قاموا بلصق كود المصدر في برنامج ChatGPT الجديد ، مما قد يؤدي إلى كشف معلومات الملكية. يثير هذا مخاوف بشأن مخاطر الذكاء الاصطناعي وقدرته على حماية البيانات السرية.
يعمل رائد الأعمال في مجال التكنولوجيا التسلسلية ، واين تشانغ ، في مجال الذكاء الاصطناعي منذ سنوات ، وتوقع أن الانتهاكات مثل سامسونج سترتفع أيضًا مع احتضان العمال للتكنولوجيا الجديدة. لقد رأى قوة ChatGPT الخاصة بشركة OpenAI عندما تم طرحها للجمهور في نوفمبر ، لكنه رأى أيضًا “المخاطر الهائلة الضخمة” التي جاءت معها. ونتيجة لذلك ، قرر طرح أداة خاصة به للذكاء الاصطناعي يمكنها منع التسريبات ومنع روبوتات المحادثة ونماذج اللغات الكبيرة (LLMs) من سرقة أسرار الشركة.
أطلق Chang مؤخرًا LLM Shield ، وهو منتج يستخدم “التكنولوجيا لمحاربة التكنولوجيا” عن طريق مسح كل ما يتم تنزيله أو نقله بواسطة العامل ومنع إدخال أي بيانات حساسة في أدوات الذكاء الاصطناعي ، بما في ذلك ChatGPT ومنافسيها مثل Google’s Bard و Microsoft بنج. تم تطوير الأداة للشركات والحكومات وتنبيههم عند محاولة تحميل معلومات حساسة.
يعمل LLM Shield من خلال السماح للمسؤولين بتعيين حواجز الحماية لنوع البيانات التي تريد الشركة حمايتها. تقوم الأداة بعد ذلك بتحذير المستخدمين متى كانوا على وشك إرسال بيانات حساسة ، وتقوم بتشويش التفاصيل بحيث يكون المحتوى مفيدًا ولكن غير مقروء من قبل البشر ، وتحظر الرسائل التي تحتوي على كلمات رئيسية تشير إلى وجود بيانات حساسة. يتم تحديث الأداة تلقائيًا لتعزيز الحماية مع دخول المزيد من روبوتات الذكاء الاصطناعي إلى السوق ، تمامًا مثل مرشحات البريد العشوائي.
بالإضافة إلى إصدار الشركة ، يخطط فريق LLM Shield أيضًا لإصدار إصدار شخصي يمكن للأفراد تنزيله للاستخدام المنزلي.
بينما تحظر العديد من الشركات استخدام أدوات الذكاء الاصطناعي تمامًا بسبب مخاوف من التسريبات ، يحاول تشانغ وفريقه تقليل الآثار السلبية وتشجيع المزيد من اعتماد الذكاء الاصطناعي. يعتقد تشانغ أن ظهور أدوات الذكاء الاصطناعي الجديدة هذه يمثل بداية تحول هائل في الإنتاجية ، ويعتقد أن القوة العاملة بشكل عام ستستفيد من الآثار الإيجابية للتكنولوجيا. ومع ذلك ، فهو يدرك أيضًا أن هناك جوانب سلبية للذكاء الاصطناعي ، وينصب تركيزه على توجيه الذكاء الاصطناعي نحو النتائج الإيجابية مع تقليل المخاطر المرتبطة باستخدامه.
في الختام ، LLM Shield هي أداة ذكاء اصطناعي جديدة تهدف إلى منع تسرب البيانات الحساسة وتعزيز الاستخدام المسؤول للذكاء الاصطناعي. إنه يوفر للشركات والحكومات طبقة إضافية من الحماية ضد مخاطر الذكاء الاصطناعي ، بينما يشجع أيضًا على اعتماد هذه التكنولوجيا القوية. بفضل التحديثات التلقائية والتركيز على حماية البيانات الحساسة ، يعد LLM Shield أداة قيمة للمؤسسات التي تسعى إلى الاستفادة من مزايا الذكاء الاصطناعي مع التخفيف من المخاطر.
