منصة ذكاء اصطناعي توليدي محلية مع تنسيق وحدات GPU
نشر منصة داخلية مستقلة تماماً للذكاء الاصطناعي التوليدي، تتيح تشغيل نماذج LLM مفتوحة المصدر (Llama وMistral…) وتحسينها وتنسيقها دون الاعتماد على السحابات العامة.
المهام والتقنيات والأهداف
المهام
- نشر نماذج مفتوحة المصدر
- إرساء محرّك داخلي للتعليمات (prompts)
- ضبط النماذج بتقنية LoRA على بيانات ITEmpire
- واجهة ويب وواجهة برمجية آمنتان لوصول داخلي مراقَب
الاختصاصات المعنية
الذكاء الاصطناعي، DevOps، البنية التحتية السحابية، الأمن
التقنيات والكفاءات
- Docker
- Kubernetes GPU
- Hugging Face
- Triton Inference Server
- FastAPI
الأهداف
- نشر بنية ذكاء اصطناعي محلية متينة وقابلة للتوسّع.
- ضمان أمن معالجة الذكاء الاصطناعي وسرّيتها وأدائها.
- تحسين النماذج بالضبط الدقيق LoRA.
- توفير منصة داخلية موحّدة للذكاء الاصطناعي التوليدي.