كشفت شركة Meta ، الشركة التي أنشأت Facebook و Instagram ، النقاب عن أداة إنشاء روبوت لغة الذكاء الاصطناعي. يمكن لـ Toolformer تثقيف نفسها لاستخدام أدوات برمجية أخرى دون التضحية بإمكانيات النمذجة اللغوية الأساسية. يمكن لـ Toolformer الوصول إلى أدوات البرامج الخارجية مثل محركات البحث ومترجمي اللغة والآلات الحاسبة وغيرها. هذا بفضل قدرته على الاستفادة من واجهات برمجة التطبيقات ، والبروتوكولات التي تسمح للتطبيقات المختلفة بالاتصال ببعضها البعض. يمكنه الآن أداء أنشطة مثل تدقيق الحقائق والرياضيات والجدولة التي كانت تتطلب سابقًا التفاعل البشري بسبب هذه التكنولوجيا.
تعد قدرة Toolformer على تحديد الأداة المناسبة وكيفية استخدامها في موقف معين ميزة حاسمة. يمكن للنموذج الالتفاف على قيود نماذج اللغات الكبيرة (LLMs). LLMs ليست جيدة جدًا في الحساب ، من خلال استدعاء واجهات برمجة التطبيقات. على سبيل المثال ، يمكنه إجراء عمليات حسابية باستخدام تطبيق الآلة الحاسبة. يمكن أن يستخدم Toolformer رابط واجهة برمجة التطبيقات لتطبيق التقويم لتنفيذ مهمة إضافة تاريخ إلى التقويم إذا أراد شخص ما القيام بذلك.
أساس Toolformer هو نموذج GPT-J مُدرب مسبقًا مع 6.7 مليار معلمة. وفقًا لتجارب الباحثين على أنشطة استخدام الأدوات المختلفة ، فإنه يتفوق على نموذج GPT-3 الأكبر بشكل ملحوظ. وهذا يشمل 175 مليار معلمة بهامش كبير.
يرجع نجاح Toolformer إلى حد كبير إلى قدرته على التعلم “بالإشراف الذاتي”. من أجل تدريب Toolformer ، قدم الباحثون له عددًا صغيرًا من الأمثلة المكتوبة من قبل الإنسان التي توضح كيفية استخدام كل واجهة برمجة تطبيقات. كما أنها منحتها إمكانية الوصول إلى مجموعة بيانات ضخمة لنمذجة اللغة بحيث يمكنها إضافة تعليقات توضيحية إلى استدعاءات واجهة برمجة التطبيقات المحتملة. نتيجة لذلك ، يمكن أن يكتسب Toolformer فهمًا واسعًا لكيفية استخدام مجموعة متنوعة من الأدوات دون الحاجة إلى تعليمات متخصصة لوظائف معينة.
من المحتمل أن يؤدي دمج أدوات البرامج الخارجية في نماذج اللغة مثل Toolformer إلى مساعدين أكثر قدرة ويمكن الاعتماد عليهم. ومع ذلك ، فإنه يثير أيضًا تساؤلات حول الأمان والخصوصية. قد تتوسع قدرة LLM على إلحاق الضرر ببيانات المستخدم أو التسبب في مشكلات في العالم الخارجي إذا كانت قادرة على إجراء مكالمات API. كتوضيح ، يمكن للمساعد المستند إلى LLM إجراء مكالمة API عن غير قصد تخترق بيانات المستخدم أو تلحق الضرر بالأنظمة من طرف ثالث.
تم إحراز تقدم كبير في معالجة اللغة الطبيعية بواسطة Toolformer. هذا من خلال قدرتها على الاستفادة من أدوات البرامج الأخرى مثل محركات البحث والآلات الحاسبة ومترجمي اللغة دون المساس بقدراتها الأساسية في نمذجة اللغة. قد تتغير طريقة تعاملنا مع نماذج اللغة نتيجة لهذه التكنولوجيا. هذا سيجعلهم أكثر فائدة وجدارة بالثقة من المساعدين. ومع ذلك ، أثناء دمج أدوات البرامج الخارجية في LLM ، يجب أن يكون الباحثون على دراية بمشاكل الأمان والخصوصية التي قد تنشأ.
