كشفت شركة Datadog، Inc. ، وهي منصة مراقبة وأمان رائدة للتطبيقات السحابية ، عن تكامل جديد مصمم لمراقبة وتحليل أنماط استخدام OpenAI API والتكاليف والأداء عبر نماذج OpenAI المختلفة ، بما في ذلك GPT-4 المرتقب بشدة ونماذج الإكمال الأخرى . يعمل هذا التكامل على تحسين قدرات المراقبة في Datadog ، وتبسيط عملية جمع البيانات من خلال تتبع المكتبات وتمكين العملاء من مراقبة استخدام OpenAI الخاص بهم بسلاسة.
نظرًا لأن أحدث نموذج للذكاء الاصطناعي التوليدي من OpenAI يكتسب اعتمادًا واسعًا وتجربة المزيد من الفرق داخل المؤسسات مع ChatGPT ، يصبح فهم تفاعلات المستخدم مع التطبيقات التي تدعم GPT أمرًا ضروريًا لتحسين النماذج وتحسين تجارب المستخدم. بالإضافة إلى ذلك ، تلعب مراقبة استخدام واجهة برمجة التطبيقات واستهلاك الرموز المميزة دورًا حيويًا في التحكم في التكلفة وتحسين أداء التطبيق. من خلال تقديم رؤى قابلة للتنفيذ حول استخدام واجهة برمجة التطبيقات ووقت الاستجابة والتكاليف ، تعمل Datadog على تمكين المؤسسات من الاستفادة من نماذج الذكاء الاصطناعي بشكل فعال ، مما يسمح لها بالتركيز على تحسين العمليات اليومية ودفع الابتكار في منتجاتها وخدماتها.
يوفر تكامل Datadog مع OpenAI الفوائد الرئيسية التالية للمؤسسات:
فهم الاستخدام الشامل: يمكن للمستخدمين بسهولة إعداد واكتساب رؤى شاملة حول استخدام OpenAI API الإجمالي ، واستهلاك الرمز المميز ، والتكاليف ، مصنفة حسب الخدمة والفرق ومفاتيح واجهة برمجة التطبيقات. توفر لوحات المعلومات الجاهزة في Datadog تنبيهات مُعدة مسبقًا لمساعدة المستخدمين على البقاء على رأس حدود معدل OpenAI API.
تحسين الأداء: من خلال مراقبة معدلات أخطاء واجهة برمجة التطبيقات وحدود المعدل وأوقات الاستجابة ، يُمكّن Datadog المستخدمين من تحديد مشكلات أداء التطبيق المتميزة عن مشكلات أداء واجهة برمجة التطبيقات. يمكن للمستخدمين فحص التتبع والسجلات التي تحتوي على أمثلة سريعة وإكمال لتحديد الاختناقات الحرجة للتطبيق وسلوكيات المستخدم.
تتبع التكلفة: يمكن للمستخدمين مراجعة تخصيص الرمز المميز وتحليل التكاليف المرتبطة باستدعاءات OpenAI API. يقدم Datadog رؤى حول تخصيص الرمز المميز حسب النموذج والخدمة والتنظيم ، مما يمكّن الفرق من إدارة النفقات بفعالية وتجنب الفواتير غير المتوقعة.
تغطية النموذج الشامل: بالإضافة إلى دعم عائلة GPT لنماذج اللغات الكبيرة ، يعمل تكامل Datadog على توسيع قدرات تتبع الأداء ومراقبة التكلفة وتحليل الاستخدام لنماذج OpenAI الأخرى مثل Ada و Babbage و Curie و Davinci.
“أصبحت ChatGPT أداة قوية لتطوير البرامج وإنشاء المحتوى وغير ذلك الكثير. مع استمرار المستخدمين في تجربة نماذج الذكاء الاصطناعي ، تحتاج الفرق عبر المؤسسة – من الهندسة والتسويق إلى الشؤون القانونية والمالية – إلى القدرة على فهم كيفية أداء النماذج ومقدار الوقت والمال والموارد التي يكرسها المستخدمون لنماذج OpenAI “، أوضح يريكس غارنييه ، نائب رئيس المنتج في Datadog. “يوفر تكامل Datadog مع ChatGPT لوحات معلومات جاهزة يمكن للمستخدمين الاستفادة منها لمراقبة حدود الأسعار وتتبع أنماط الاستخدام الداخلية والتكاليف وأداء واجهة برمجة التطبيقات. وهذا يمكّنهم من الحصول على صورة واضحة لتخصيص ChatGPT واستهلاكه في جميع أنحاء المؤسسة. “
