منتج من Soulthread

نماذج للنص والصورة والفيديو والكلام على أجهزة تملكونها. يثبّت llamanager المحركات، وينزّل الأوزان، وينظّم الأعمال في طابور، وينسّق بين كل الفئات التي تتقاسم بطاقة رسومات واحدة، دون أن يغادر الجهاز أي أمر نصي.

نظرة عامة

جهاز واحد، ونماذج كثيرة

تشغيل نموذج واحد على حاسوبكم هو الجزء السهل. أما حين تشغّلون عدة نماذج لعدة أشخاص فتبدأ المشكلات: تطبيقان يتزاحمان على الخادم نفسه، ومهمة صور تستحوذ على الذاكرة التي كان يشغلها النموذج اللغوي، وكل محرك يحتاج إلى بيئته الخاصة، وكلها صُمّمت لتعمل منفردة.

llamanager هو الطبقة التي تحوّل حاسوبًا واحدًا إلى خدمة. يثبّت المحركات، وينزّل الأوزان، ويشرف على العمليات، ويضع أمامها جميعًا طابورًا واحدًا. النص والصورة والفيديو والكلام تصل كلها إلى العنوان نفسه، وتمر عبر الباب نفسه، وتظهر على لوحة المتابعة نفسها.

إنه طبقة الاستدلال المحلي التي تقوم عليها أنظمة الذكاء الاصطناعي المحلي التي نبنيها، ونستخدمه كل يوم. وهو برنامج خاص يُقدَّم بعرض سعر: نثبّته على أجهزتكم، ونختار نماذج مفتوحة الأوزان تلائم العمل ولغاتكم، ونبقى إلى جانبكم بعد ذلك. وما تولّدونه يبقى على الجهاز الذي ولّده، في مبناكم أو في مركز بيانات تختارونه.

  • أربع فئاتالنص، والصورة، والفيديو، والكلام
  • عنوان واحدبالصيغ التي تفهمها أدواتكم أصلًا
  • جهازكمmacOS وLinux وWindows

ما يشغّله

أربع فئات، وطابور واحد

تُثبَّت كل فئة من الصفحة نفسها، وتُخدَم عبر الطابور نفسه.

  1. توليد النصوص

    نماذج لغوية خلف عنوان تفهمه أدواتكم الحالية أصلًا. اذكروا نموذجًا آخر في الطلب فيبدّل الطابور النموذج المحمَّل دون أن يقطع الأعمال الجارية، أو أبقوا عدة نماذج جاهزة جنبًا إلى جنب، لكل منها خانته، فيجد كل طلب النموذج الذي يطلبه جاهزًا.

  2. توليد الصور

    عدة محركات للصور، يُثبَّت كل منها من لوحة المتابعة. ولّدوا الصور من وصف نصي، أو من صور مرجعية للتعديل والتركيب وإنشاء التنويعات. وتُحفَظ كل نتيجة في معرض على القرص مع الإعدادات التي أنتجتها.

  3. توليد الفيديو

    مقاطع تُولَّد من وصف نصي، أو من صورة افتتاحية، أو من بضع صور مرجعية ثابتة. وقبل تحميل أي شيء، يحسب llamanager ما سيستهلكه المقطع من ذاكرة بطاقة الرسومات، فإن تجاوز المتاح اقترح حجمًا ملائمًا.

  4. توليد الصوت

    للصوت مكانه في الطابور نفسه إلى جانب كل شيء آخر. ويمكن أن تحمل المقاطع المولَّدة شريطًا صوتيًا يُنتَج مع الصورة، وتُثبَّت أعمال الصوت وتُدرَج في الطابور وتُخدَم كسائر الفئات، ومن لوحة المتابعة نفسها.

  5. تحويل الكلام إلى نص

    تفريغ الكلام نصًا مكتوبًا، مع توقيت كل كلمة ودرجة الثقة فيها، من ملف أو مباشرة من الميكروفون. وتبقى خدمة التفريغ محمَّلة في الذاكرة جاهزة، وتعالج طلبات كثيرة في آن واحد ضمن حصة محددة من الذاكرة، فتعمل إلى جانب نموذج لغوي محمَّل دون أن تزيحه.

التحكم

مصمَّم للاستخدام المشترك

  • طابور بأولويات

    ينضم كل طلب إلى طابور واحد، موسومًا بالعميل الذي أرسله وبالأولوية الممنوحة لذلك العميل. فيبقى المحرر الذي تكتبون فيه سريع الاستجابة إلى جانب دفعة طويلة تعمل طوال الليل، وإلغاء مهمة يوقف العمل فعلًا، سواء أكانت في الانتظار أم قيد التنفيذ.

  • الأشخاص والمفاتيح

    لكل شخص ولكل أداة مفتاحه الخاص، ولا يُخزَّن إلا على هيئة قيمة تجزئة. وتُضبَط الأولويات لكل مفتاح، ويمكن تعطيل أي مفتاح ثم إعادة تفعيله، فتستطيعون إيقاف عميل أسبوعًا ثم إعادته بالمفتاح نفسه. ويحفظ سجل النشاط مَن طلب ماذا.

  • تثبيت المحركات والأوزان

    تُثبَّت المحركات بضغطة زر. يُعِدّ llamanager لكل محرك بيئة مستقلة بما يحتاجه، ويعرض المساحة التي يشغلها على القرص وسجل التثبيت لحظة بلحظة. وتُنزَّل النماذج مفتوحة الأوزان من المستودعات العامة بالطريقة نفسها، كاملةً أو جزئيًا، مع عرض التقدّم على الصفحة.

  • بطاقة رسومات واحدة، مشتركة

    تتناوب الفئات التي تتقاسم الذاكرة نفسها افتراضيًا، وتتشاركها حين يتوفر هامش كافٍ، وفق سياسة تحددونها. ويعمل التفريغ ضمن حصة من الذاكرة لا تزيح النموذج اللغوي. وإذا تعطّل محرك أُعيد تشغيله، في حدود عدد محدد من المرات.

  • عنوان واحد لكل شيء

    يُتاح كل ذلك عبر نقطة وصول واحدة، بالصيغ التي تستخدمها مكتبات البرمجة الشائعة، فيكفي تغيير سطر واحد لتوجيه شيفرتكم الحالية إلى جهازكم. ويستطيع المساعدون والوكلاء الأذكياء أن يتحكموا في الجهاز، لا أن يحاوروه فحسب: عرض النماذج، ومراقبة الذاكرة، وتنزيل الأوزان، والتوليد، والتفريغ.

  • نظرة سريعة من هاتفكم

    صُمّمت لوحة المتابعة للهاتف كما للحاسوب. وعبر شبكتكم الخاصة، يمكنكم رؤية الطابور وهو يتقدم، والنموذج المحمَّل، وما جرى أثناء غيابكم.

المنصات

أين يعمل

أنظمة التشغيل
يعمل على macOS وLinux وWindows. ويمكن أن يبدأ مع تشغيل الجهاز أو عند تسجيل الدخول، ويُدار بالطريقة نفسها على الأنظمة الثلاثة.
بطاقات الرسومات
يتعرّف على معالجات الرسومات من Apple وNVIDIA وAMD وIntel ويعرض ذاكرتها لحظة بلحظة. كما يعمل على المعالج المركزي وحده، وإن بسرعة أقل.
الوصول إليه
لا يقبل الاتصالات إلا من الجهاز نفسه ما لم تقرروا غير ذلك. وإن أتحتموه على شبكتكم الخاصة، رافقتكم لوحة المتابعة ونقطة الوصول على هاتفكم أو على حاسوب محمول آخر.
ما الذي يغادر الجهاز
الأوامر النصية والصور والمقاطع والتسجيلات تبقى حيث أُنشئت. والاتصال الوحيد الذي يبادر به llamanager هو تنزيل المحركات والأوزان التي طلبتموها، والتحقق من وجود إصدار أحدث.

الأسئلة الشائعة

أسئلة تُطرح علينا كثيرًا

ما هو llamanager؟

llamanager برنامجنا لتشغيل نماذج الذكاء الاصطناعي على جهاز تملكونه. يثبّت المحركات، وينزّل أوزان النماذج، ويخدم أعمال النص والصورة والفيديو والكلام عبر طابور واحد وعنوان واحد ولوحة متابعة واحدة، مع مفتاح وأولوية لكل شخص يستخدمه.

هل تغادر بياناتنا الجهاز؟

لا. الأوامر النصية والصور والمقاطع والتسجيلات تُحفَظ على قرص الجهاز نفسه ولا تغادره، فتبقى بذلك في البلد الذي يوجد فيه الجهاز. والاتصال الخارجي الوحيد الذي يبادر به llamanager هو تنزيل المحركات وأوزان النماذج التي تطلبونها، والتحقق من وجود إصدار أحدث منه.

هل يمكنه تشغيل نماذج تفهم العربية والفرنسية؟

نعم. توجد نماذج جيدة مفتوحة الأوزان للمحادثة والتفريغ الصوتي في اللغتين، ويخدمها llamanager كأي نموذج آخر. ونحن نختار النماذج ونختبرها على لغاتكم ومجال عملكم قبل تثبيتها.

ما العتاد الذي يحتاجه؟

يُفضَّل حاسوب مزوّد ببطاقة رسومات، وكلما زادت ذاكرة البطاقة اتسعت لنماذج أكبر ومقاطع أطول. يقرأ llamanager مواصفات الجهاز، ويقترح أحجام النماذج الملائمة، ويدلّكم على الحجم المناسب حين تتجاوز المهمة قدرته. أخبرونا بالجهاز الذي لديكم، وسنخبركم بما يمكنه تشغيله.

هل يمكن لعدة أشخاص تقاسم جهاز واحد؟

نعم، ولهذا صُمّم أصلًا. لكل شخص ولكل أداة مفتاح خاص وأولوية خاصة، وكل الطلبات تصل إلى الطابور نفسه، وكل عميل يحصل على دوره. ويمكن تعطيل أي مفتاح ثم إعادة تفعيله.

هل يعمل مع الأدوات التي نستخدمها حاليًا؟

نعم. يستجيب بالصيغ التي تفهمها مكتبات البرمجة الشائعة، فالشيفرة المكتوبة لخدمة مستضافة لا تحتاج عادةً إلا إلى عنوان ومفتاح جديدين. كما يمكن لمساعدي البرمجة والوكلاء الأذكياء التحكم في الجهاز نفسه: تحميل النماذج، ومراقبة الذاكرة، والتوليد، والتفريغ.

كيف نحصل على llamanager؟

llamanager برنامج خاص نثبّته لكم. نهيّئه على أجهزتكم للأشخاص والأدوات التي ستستخدمه، ونختار النماذج الملائمة للعمل، ونبقى إلى جانبكم بعد ذلك. ويُحدَّد سعر كل تهيئة بعرض سعر: أخبرونا بما تريدون تشغيله وعلى أي جهاز.

اطلب عرض سعر

شغّلوه على جهازكم الخاص

أخبرونا بما تريدون توليده أو تفريغه أو إبقاءه داخل مؤسستكم، وبالعتاد الذي لديكم. وسنخبركم بما يستطيع llamanager أن يقدّمه عليه، وبكلفته.

ما يُستحسن ذكره

  • ما تريدون تشغيله: المحادثة، أو الصور، أو الفيديو، أو التفريغ الصوتي
  • اللغات التي يُكتب بها محتواكم
  • العتاد الذي لديكم، أو الذي تنوون شراءه
  • عدد الأشخاص والأدوات التي ستتقاسمه
اطلب عرض سعر

يفتح تطبيق بريدكم الإلكتروني وفيه هذه النقاط جاهزة لتكملوها.

أو راسلونا علىcontact soulthread.group
العودة إلى الاستوديو