سلسَبيل · BILINGUAL AI ATLAS · 26 SEPTEMBER 2026

من التطبيق إلى الأوزان والعتاد

AI vocabulary — from applications down to weights and hardware

87 بطاقة ثنائية اللغة: الاسم الكامل، تفكيك الاختصار، المعنى، والمصدر. ثمانية مستويات مفاهيمية مرتّبة من الأعلى إلى الأدنى، يتبعها مسارا التدريب والتقييم.

← مكتبة التقارير العامة · Public reports

كيف تقرأ هذه الخريطة؟ · How to read this map

الترتيب تعليمي بحسب مستوى التجريد، وليس مخططًا لطبقات عصبية متتالية. التدريب والتقييم محوران يخصّان مستويات متعددة. Softmax عملية تُستخدم في الانتباه وفي الإخراج؛ لذلك ترتبط بطاقتها بالقسمين.

This is a conceptual hierarchy, not a sequence of neural layers. Training and evaluation cut across the stack. Softmax is used in both attention and output generation, with links to both contexts.

بلد الجهة لا يعني جنسية الباحث أو ملكية التقنية. للمفاهيم العامة لا نختلق شركة منشئة؛ المصدر التعليمي ليس بالضرورة مصدر الاختراع. ليست كل أسماء التقنيات اختصارات حرفية.

An institution’s country is not a researcher’s nationality or ownership claim. Educational references do not necessarily establish invention priority; not every name is an acronym.

رحلة السؤال · Request flow

Application / Agentتطبيق أو وكيل
→
Context / Toolsسياق وأدوات عند الحاجة
→
Tokenizerالنص إلى أرقام توكنات
→
Embeddings + Blocksتضمينات وكتل النموذج
→
Logits → Selectionدرجات ثم اختيار توكن
→
Textتكرار الخطوات ثم إخراج النص

داخل كتلة Transformer نموذجية: تطبيع، انتباه، وصلات متبقية، وشبكة تغذية أمامية؛ ترتيب التفاصيل يختلف بين البنى.

A typical Transformer block combines normalization, attention, residual connections and a feed-forward network; ordering varies by architecture.

رحلة الأوزان · Weight lifecycle

Data + Initializationبيانات وتهيئة الأوزان
→
Pretrainingتدريب مسبق
→
Base checkpointأوزان نموذج أساس
→
Post-trainingSFT / تفضيلات / تعلم معزز
→
Inferenceاستخدام النموذج

هذه رحلة شائعة وليست وصفة إلزامية: يمكن إدخال مواصلة التدريب المسبق؛ وأساليب ما بعد التدريب خيارات يمكن دمجها. SFT جزء من Post-training. LoRA طريقة لتحديث معاملات محدودة وليست مرحلة مستقلة، وRAG وMCP يعملان عادة حول النموذج وقت الاستخدام.

This common path is not mandatory. Continued pretraining is optional, and post-training methods can be combined. SFT is a post-training method; LoRA is a parameter adaptation technique. RAG and MCP usually operate around the model at inference time.

01

التطبيقات والوكلاء والربط

Applications, agents & integration

المستوى الأقرب للمستخدم: ينسّق الطلبات والأدوات ومصادر البيانات حول النموذج.

The user-facing level coordinates requests, tools and data sources around the model.

50 · Applications, agents & integration

Tool calling / Proxy / Pipeline

Tool Calling; Proxy; Pipeline
استدعاء الأدوات؛ الوسيط؛ مسار المعالجة
تفكيك الاسم · Name breakdown

مصطلحات كاملة؛ API = Application Programming Interface (واجهة برمجة التطبيقات)

الأداة تنفذ وظيفة؛ Proxy يمرر الطلبات؛ Pipeline ينسق مراحل العمل. هذه طبقات حول النموذج.

Tools perform functions, a proxy forwards requests, and a pipeline coordinates processing stages around the model.

الجهة والبلد والمصدر · Origin & source

مفاهيم برمجية عامة

متعدد الجهات · —

مرور ALLaM عبر وسيط متوافق مع API لا يجعله مبنيًا على Qwen.

Transformers — Chat templates ↗
60 · Applications, agents & integration

Agent

AI Agent
وكيل ذكاء اصطناعي
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

نظام يستخدم نموذجًا ليختار خطوات وأدوات لتحقيق مهمة ضمن صلاحيات محددة.

A system that uses a model to choose steps and tools toward a task within defined permissions.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
61 · Applications, agents & integration

Workflow / Orchestration

Workflow; Orchestration
سير العمل؛ تنسيق التنفيذ
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

سير العمل يحدد خطوات المهمة؛ التنسيق يدير ترتيبها والبيانات والأخطاء بين المكوّنات.

A workflow defines task steps; orchestration manages their order, data flow and failures.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
62 · Applications, agents & integration

MCP

Model Context Protocol
بروتوكول سياق النموذج
تفكيك الاسم · Name breakdown

M = Model (نموذج) · C = Context (سياق) · P = Protocol (بروتوكول)

معيار لربط تطبيقات الذكاء الاصطناعي بالبيانات والأدوات. لا يدرّب الأوزان.

A standard connecting AI applications with data and tools; it does not train weights.

الجهة والبلد والمصدر · Origin & source

Anthropic — الجهة المطلِقة / original publisher

الولايات المتحدة / United States · 2024

Anthropic — Introducing MCP (2024) ↗
63 · Applications, agents & integration

MCP Host / Client / Server

MCP Host; Client; Server
مضيف MCP؛ عميل؛ خادم
تفكيك الاسم · Name breakdown

MCP = Model Context Protocol · Host = مضيف · Client = عميل · Server = خادم

المضيف هو التطبيق؛ العميل يدير الاتصال بخادم؛ والخادم يقدّم إمكانات.

The host is the application; a client manages a server connection; the server exposes capabilities.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

MCP — Architecture ↗
64 · Applications, agents & integration

MCP Tools / Resources / Prompts

Tools; Resources; Prompts
أدوات؛ موارد؛ قوالب توجيه
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

أدوات لتنفيذ وظائف، وموارد لتوفير السياق، وقوالب توجيه قابلة لإعادة الاستخدام.

Tools execute functions, resources provide context, and prompts supply reusable templates.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

MCP — Architecture ↗
65 · Applications, agents & integration

API

Application Programming Interface
واجهة برمجة التطبيقات
تفكيك الاسم · Name breakdown

A = Application (تطبيق) · P = Programming (برمجة) · I = Interface (واجهة)

عقد برمجي يحدد كيف يطلب مكوّن خدمة من مكوّن آخر. MCP معيار محدد، وAPI مفهوم أوسع.

A software contract for requesting capabilities from another component. API is broader than the specific MCP standard.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
66 · Applications, agents & integration

Prompt / System instruction

Prompt; System Instruction
توجيه؛ تعليمات النظام
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

نص وسياق يوجهان الاستجابة وقت الاستخدام؛ تغيير التوجيه وحده لا يعيد تدريب النموذج.

Input and instructions guide a response at use time; editing a prompt alone does not retrain the model.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
02

المعرفة الخارجية والسياق

External knowledge & context

يختار المعلومات التي تصل إلى النموذج؛ استرجاع وثيقة لا يغيّر الأوزان.

Selects information supplied to the model; retrieving a document does not update weights.

48 · External knowledge & context

RAG

Retrieval-Augmented Generation
التوليد المعزّز بالاسترجاع
تفكيك الاسم · Name breakdown

R = Retrieval (استرجاع) · A = Augmented (معزّز) · G = Generation (توليد)

يسترجع النظام نصوصًا خارجية ثم يتيحها للنموذج لصياغة الجواب.

Retrieves external evidence and supplies it to the generator. Retrieval does not guarantee faithful use of the evidence.

الجهة والبلد والمصدر · Origin & source

مرجع RAG لعام 2020: Facebook AI Research وUCL وNYU؛ للاسترجاع تاريخ أقدم

الولايات المتحدة / المملكة المتحدة · 2020 للمرجع المحدد

يمكن تحديث المصادر دون إعادة تدريب الأوزان؛ لكن وجود المصدر لا يضمن أن الملخص أمين.

RAG — Lewis et al., 2020 ↗
49 · External knowledge & context

Grounding / Faithfulness

Grounding; Source Faithfulness
الاستناد إلى الأدلة؛ الأمانة للمصدر
تفكيك الاسم · Name breakdown

مصطلحان كاملان، لا اختصاران · Full terms, not acronyms

أن تكون ادعاءات الجواب مؤيدة بالأدلة المعطاة، مع حفظ النفي والشروط والكيانات.

Requires claims to be supported by the supplied evidence while preserving entities, negation and conditions.

الجهة والبلد والمصدر · Origin & source

مفاهيم تقييم مشتركة؛ لا شركة واحدة

متعدد الجهات · —

ذكر اسم غير وارد في المصدر قد يفشل اختبار الأمانة ولو بدا الاسم معقولًا.

RAG — Lewis et al., 2020 ↗
51 · External knowledge & context

Hallucination / Citation

Hallucination; Citation
معلومة مختلقة أو غير مسنودة؛ إحالة إلى مصدر
تفكيك الاسم · Name breakdown

مصطلحان كاملان، لا اختصاران · Full terms, not acronyms

الاختلاق معلومة غير مسنودة؛ والإحالة وسيلة لتعيين مصدر الادعاء.

An unsupported claim can coexist with a correctly formatted citation; grounding and citation syntax are separate checks.

الجهة والبلد والمصدر · Origin & source

مصطلحات عامة

متعدد الجهات · —

يمكن أن تكون صيغة [المصدر] صحيحة والادعاء خاطئًا؛ نقيسهما منفصلين.

RAG — Lewis et al., 2020 ↗
67 · External knowledge & context

Chunking / Retrieval / Reranking

Chunking; Retrieval; Reranking
تجزئة الوثائق؛ الاسترجاع؛ إعادة الترتيب
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

نقسّم الوثائق، نسترجع أجزاء مرشحة للسؤال، ثم نرتبها بحسب الصلة قبل إدراجها في السياق.

Split documents, retrieve candidate passages, then reorder them by relevance before adding them to context.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
68 · External knowledge & context

Vector database / Semantic embedding

Vector Database; Semantic Embedding
قاعدة متجهات؛ تضمين دلالي
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

يحوّل نموذج التضمين المقطع إلى متجه للبحث بالتشابه. هذا يختلف وظيفيًا عن جدول تضمين توكنات النموذج.

An embedding model maps a passage to a vector for similarity search; its role differs from a model’s token embedding table.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
03

هوية النموذج ومفاهيم المجال

Model identity & field concepts

يميّز المجال وعائلة النموذج وبنيته عن ملف أوزانه ونسخته المحددة.

Distinguishes the field, model family and architecture from a specific weight checkpoint.

15 · Model identity & field concepts

Architecture vs checkpoint

Architecture; Checkpoint
البنية؛ نقطة حفظ الأوزان
تفكيك الاسم · Name breakdown

Architecture = بنية · Checkpoint = نقطة حفظ؛ ليسا اختصارين

البنية هي طريقة بناء الشبكة؛ checkpoint هو أوزانها في مرحلة تدريب معينة.

Architecture specifies the computation; a checkpoint stores learned weights at a particular training stage.

الجهة والبلد والمصدر · Origin & source

تمييز هندسي عام

متعدد الجهات · —

يمكن استخدام تصميم قريب من Llama مع أوزان جديدة من الصفر.

ALLaM-7B — بطاقة الناشر ↗
17 · Model identity & field concepts

Base vs Instruct

Base Model; Instruction-Tuned Model
نموذج الأساس؛ نموذج مدرّب على التعليمات
تفكيك الاسم · Name breakdown

Instruct صيغة مختصرة في أسماء النماذج تشير إلى Instruction tuning (التدريب على التعليمات)

الأساس يتعلم أنماط النص؛ نسخة Instruct تتلقى تدريبًا إضافيًا على الاستجابة للطلبات.

A base model learns text patterns; instruction tuning teaches it to respond to requests.

الجهة والبلد والمصدر · Origin & source

مراحل تدريب شائعة

متعدد الجهات · —

نجاح تحميل Base لا يثبت جاهزيته كمساعد محادثة.

Transformers — Chat templates ↗
57 · Model identity & field concepts

Llama / LlamaForCausalLM

Large Language Model Meta AI; Llama for Causal Language Modeling
نموذج لغوي كبير من Meta AI؛ فئة Llama للنمذجة اللغوية السببية
تفكيك الاسم · Name breakdown

LLaMA = Large + Language + Model + Meta + AI · AI = Artificial Intelligence (ذكاء اصطناعي) · LM = Language Model (نموذج لغوي)

Llama عائلة من Meta؛ وLlamaForCausalLM اسم فئة برمجية لتنفيذ بنية متوافقة.

Llama is a model family. The class name LlamaForCausalLM alone does not establish the origin of the loaded weights.

الجهة والبلد والمصدر · Origin & source

Meta AI — البحث المرجعي LLaMA

الولايات المتحدة — بلد الشركة · 2023 لأول LLaMA

اسم الفئة في config لا يثبت أن الأوزان مأخوذة من Meta.

Meta — Introducing LLaMA ↗
58 · Model identity & field concepts

Qwen

Qwen
اسم عائلة نماذج Qwen
تفكيك الاسم · Name breakdown

اسم علم؛ لا نفك حروفه إلى عبارة إنجليزية غير موثقة · A model-family name, not expanded here

الاسم يشمل إصدارات وأحجامًا نصية وبصرية مختلفة؛ يجب تحديد الاسم الكامل.

A model family with different generations, sizes and modalities; the exact model identifier matters.

الجهة والبلد والمصدر · Origin & source

Qwen Team — Alibaba Cloud

الصين · 2024 لـQwen2.5

Qwen3-1.7B مختلف عن Qwen2.5-7B-Instruct وعن Qwen3-VL-8B.

Qwen2.5-7B-Instruct — بطاقة الناشر ↗
59 · Model identity & field concepts

ALLaM

ALLaM
اسم عائلة نماذج علّام
تفكيك الاسم · Name breakdown

اسم النموذج كما يستخدمه الناشر؛ لا نفترض معنى إنجليزيًا مستقلًا لكل حرف · Publisher's model-family name

نسخة 7B المختبرة يصفها ناشرها بأنها مدربة من الصفر؛ بعض أفراد العائلة الأخرى نماذج مكيفة.

The cited 7B release is described by its publisher as trained from scratch. Other family members can have different training lineages.

الجهة والبلد والمصدر · Origin & source

NCAI في SDAIA وفق بطاقة النموذج؛ الاستضافة الحالية في مساحة HUMAIN على Hugging Face

السعودية · نسخة الاختبار v2

4T توكن إنجليزية ثم 1.2T عربية/إنجليزية مختلطة؛ ليست بيانات عربية فقط.

ALLaM-7B — بطاقة الناشر ↗
69 · Model identity & field concepts

AI / ML / DL

Artificial Intelligence; Machine Learning; Deep Learning
الذكاء الاصطناعي؛ تعلم الآلة؛ التعلم العميق
تفكيك الاسم · Name breakdown

AI: A = Artificial (اصطناعي), I = Intelligence (ذكاء) · ML: M = Machine (آلة), L = Learning (تعلم) · DL: D = Deep (عميق), L = Learning (تعلم)

الذكاء الاصطناعي هو المجال الأوسع؛ تعلم الآلة يتعلم من البيانات؛ والتعلم العميق يستخدم شبكات عصبية متعددة الطبقات.

AI is the broad field; ML learns from data; DL uses multilayer neural networks.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
70 · Model identity & field concepts

LLM / NLP

Large Language Model; Natural Language Processing
نموذج لغوي كبير؛ معالجة اللغة الطبيعية
تفكيك الاسم · Name breakdown

LLM: L = Large (كبير), L = Language (لغة), M = Model (نموذج) · NLP: N = Natural (طبيعية), L = Language (لغة), P = Processing (معالجة)

معالجة اللغة مجال واسع؛ النموذج اللغوي الكبير أحد أنواع النماذج المستخدمة فيه.

NLP is a broad field; an LLM is one type of model used within it.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

Hugging Face — LLM Course ↗
71 · Model identity & field concepts

Multimodal / VLM

Multimodal Model; Vision-Language Model
نموذج متعدد الوسائط؛ نموذج رؤية ولغة
تفكيك الاسم · Name breakdown

V = Vision (رؤية) · L = Language (لغة) · M = Model (نموذج)

متعدد الوسائط يتعامل مع أكثر من نوع بيانات؛ نموذج الرؤية واللغة يربط الصورة بالنص.

Multimodal models handle multiple data types; a vision-language model connects images and text.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
04

واجهة النص والتوكنات

Text & token interface

يحوّل الرسائل إلى تسلسل أرقام يفهمه النموذج، ثم يعيد التوكنات إلى نص.

Converts messages into token identifiers and generated identifiers back into text.

27 · Text & token interface

Tokenizer / Token

Tokenizer; Token
مُرمّز النص؛ وحدة نصية
تفكيك الاسم · Name breakdown

اسمان كاملان، لا اختصاران · Full terms, not acronyms

المُرمّز يحوّل النص إلى وحدات ذات معرّفات؛ الوحدة قد تكون كلمة أو جزء كلمة أو رمزًا.

A tokenizer splits text into units and assigns identifiers. A token may be a word, subword or symbol.

الجهة والبلد والمصدر · Origin & source

مفاهيم مشتركة بين أدوات معالجة اللغة

متعدد الجهات · —

240 توكن في نموذجين مختلفين لا تعني العدد نفسه من الكلمات العربية.

SentencePiece — Kudo & Richardson, 2018 ↗
28 · Text & token interface

BPE

Byte Pair Encoding
ترميز أزواج البايتات
تفكيك الاسم · Name breakdown

B = Byte (بايت) · P = Pair (زوج) · E = Encoding (ترميز)

يبني وحدات فرعية بدمج أزواج شائعة تدريجيًا.

Learns subword units by repeatedly merging frequent pairs. Specific implementations differ in their initial symbols.

الجهة والبلد والمصدر · Origin & source

أصل خوارزمية الضغط Philip Gage؛ تكييف NLP المرجعي Sennrich وHaddow وBirch — إدنبرة

المملكة المتحدة لتكييف NLP؛ لا نثبت بلد الأصل هنا · 1994 الأصل / 2016 NLP

الكلمة العربية قد تنقسم إلى عدة قطع؛ التقسيم لا يساوي تحليل الجذر والوزن.

Subword BPE in NLP — Sennrich et al., 2016 ↗
29 · Text & token interface

SentencePiece

SentencePiece
أداة SentencePiece لتجزئة النص
تفكيك الاسم · Name breakdown

Sentence = جملة · Piece = قطعة؛ اسم مركّب لا اختصار حرفي

مكتبة تتعلم تقسيم النص الخام، وتدعم خوارزميات منها BPE وUnigram.

A tokenizer library that learns from raw text and supports algorithms such as BPE and Unigram.

الجهة والبلد والمصدر · Origin & source

Taku Kudo وJohn Richardson — Google

الولايات المتحدة — بلد الشركة · 2018

اسم المكتبة ليس اسم خوارزمية واحدة؛ يمكن تدريب قواميس مختلفة باستخدام BPE.

SentencePiece — Kudo & Richardson, 2018 ↗
30 · Text & token interface

Vocabulary / Fertility

Vocabulary; Tokenization Fertility
قاموس التوكنات؛ كثافة التقطيع
تفكيك الاسم · Name breakdown

مصطلحان كاملان · Full terms

القاموس مجموعة معرّفات التوكنات؛ والكثافة هنا متوسط عدد التوكنات لكل كلمة.

Vocabulary is the inventory of token identifiers; fertility here means average tokens per word.

الجهة والبلد والمصدر · Origin & source

مقاييس ومفاهيم مشتركة

متعدد الجهات · —

48 ألف توكن في القاموس لا تعني أن النموذج لا يعرف إلا 48 ألف كلمة.

Subword BPE in NLP — Sennrich et al., 2016 ↗
31 · Text & token interface

BOS / EOS / PAD

Beginning of Sequence; End of Sequence; Padding
بداية التسلسل؛ نهاية التسلسل؛ الحشو
تفكيك الاسم · Name breakdown

BOS: B = Beginning (بداية) + O = Of (لـ) + S = Sequence (تسلسل) · EOS: E = End (نهاية) + O = Of + S = Sequence · PAD اختصار كلمة Padding (حشو)

رموز خاصة لحدود التسلسل أو إكمال أطوال الدفعات.

Special tokens mark sequence boundaries or align batch lengths. Their identifiers differ between tokenizers.

الجهة والبلد والمصدر · Origin & source

اصطلاحات عامة تختلف أرقامها بين المُرمّزات

متعدد الجهات · —

وصول الجواب إلى EOS يقيس التوقف؛ لا يقيس صحة المعنى.

Transformers — Text generation ↗
32 · Text & token interface

Chat template

Chat Template
قالب المحادثة
تفكيك الاسم · Name breakdown

Chat = محادثة · Template = قالب؛ ليس اختصارًا

صيغة إدخال أدوار المستخدم والمساعد وحدود الرسائل كما تدرب عليها النموذج.

Formats roles, messages and boundaries into the token sequence expected by the model.

الجهة والبلد والمصدر · Origin & source

تطبيقات متعددة؛ مرجع التوثيق Hugging Face لا ادعاء اختراع حصري

متعدد الجهات · —

[INST] وChatML ليسا زخرفة؛ تغيير القالب قد يغيّر الأداء.

Transformers — Chat templates ↗
33 · Text & token interface

Byte fallback / Normalization

Byte Fallback; Text Normalization
الرجوع إلى البايتات؛ تطبيع النص
تفكيك الاسم · Name breakdown

تعبيران كاملان، لا اختصاران · Full terms, not acronyms

Byte fallback يتيح تمثيل رموز عبر بايتاتها؛ والتطبيع سياسة لتغيير النص قبل التقطيع.

Byte fallback represents otherwise unsupported symbols using bytes; normalization may modify text before tokenization.

الجهة والبلد والمصدر · Origin & source

تقنيات معالجة نصية عامة؛ تطبيقات متعددة

متعدد الجهات · —

توحيد أ وأ قد يكون مناسبًا للبحث، لكنه يغيّر النص إذا طُبق داخل مُرمّز مطلوب منه الحفاظ عليه.

SentencePiece — Kudo & Richardson, 2018 ↗
34 · Text & token interface

Context window

Context Window
نافذة السياق
تفكيك الاسم · Name breakdown

Context = سياق · Window = نافذة؛ ليس اختصارًا

حد الرموز التي يستطيع التشغيل معالجتها في الطلب، عادةً مع احتساب مساحة للإخراج.

The token capacity available to a request. Context is temporary input, not a permanent weight update.

الجهة والبلد والمصدر · Origin & source

خاصية تشغيلية عامة

متعدد الجهات · —

النص الموجود في السياق ليس تدريبًا دائمًا ولا تحديثًا للأوزان.

Transformers — KV cache ↗
05

التوليد ومفكّك الترميز

Generation & decoding

ينفّذ التنبؤ بالتوكن التالي واختياره والتوقف؛ Decoder اسم بنية وDecoding اسم عملية.

Predicts and selects the next token until stopping; a decoder is an architecture component, decoding is a process.

12 · Generation & decoding

Decoder-only / Causal LM

Decoder-Only; Causal Language Model
مفكّك ترميز فقط؛ نموذج لغوي سببي
تفكيك الاسم · Name breakdown

LM: L = Language (لغة) · M = Model (نموذج) · Causal = سببي

يولّد النص تدريجيًا، ويستخدم ما سبق الموضع الحالي دون الاطلاع على المستقبل.

Predicts the next token using the preceding sequence rather than future tokens.

الجهة والبلد والمصدر · Origin & source

عائلة تصاميم تراكمية؛ LLaMA مثال منشور

متعدد الجهات · —

تُضاف كل قطعة مولدة إلى السياق قبل توليد القطعة التالية.

LLaMA — Touvron et al., 2023 ↗
36 · Generation & decoding

Prefill / Decode

Prefill; Decoding
معالجة المدخل؛ توليد الإخراج
تفكيك الاسم · Name breakdown

مصطلحان كاملان، لا اختصاران · Full terms, not acronyms

Prefill يعالج نص الطلب؛ Decode يولّد الإخراج خطوة بخطوة.

Prefill processes the prompt; decoding generates subsequent tokens step by step.

الجهة والبلد والمصدر · Origin & source

مصطلحات تشغيل عامة

متعدد الجهات · —

سرعة قراءة مصدر طويل تختلف عن سرعة كتابة الجواب بعده.

Transformers — KV cache ↗
37 · Generation & decoding

Greedy / Temperature / Top-p

Greedy Decoding; Temperature; Top-p Sampling
التوليد الجشع؛ الحرارة؛ أخذ عينات النواة الاحتمالية
تفكيك الاسم · Name breakdown

p = Probability (احتمال)، ويحدد عتبة الكتلة الاحتمالية التراكمية؛ بقية الأسماء ليست اختصارات

Greedy يختار الأعلى احتمالًا؛ الحرارة تغيّر حدة الاحتمالات؛ Top-p يحد مجموعة السحب حسب كتلتها الاحتمالية.

Greedy decoding selects the most likely token. Temperature adjusts probabilities; top-p restricts the sampling pool by cumulative probability.

الجهة والبلد والمصدر · Origin & source

أساليب توليد عامة؛ لا ملكية بحثية موحدة لهذه المجموعة

متعدد الجهات · —

اختبار ALLaM السابق كان greedy، دون أخذ عينات عشوائية.

Transformers — Text generation ↗
38 · Generation & decoding

Repetition penalty / Hard cap

Repetition Penalty; Hard Output Cap
عقوبة التكرار؛ الحد الأقصى الصارم للإخراج
تفكيك الاسم · Name breakdown

تعبيران كاملان، لا اختصاران · Full terms, not acronyms

الأولى تغير درجات رموز سبق ظهورها؛ والثاني يقطع التوليد عند سقف محدد.

A repetition penalty modifies scores of seen tokens; a hard cap stops generation at a fixed limit.

الجهة والبلد والمصدر · Origin & source

إعدادات تشغيل عامة

متعدد الجهات · —

تحسين التكرار بتغيير سياسة التوليد لا يساوي تحسنًا في الأوزان.

Transformers — Text generation ↗
72 · Generation & decoding

Autoregressive generation

Autoregressive Generation
التوليد ذاتي الانحدار
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

يولّد النموذج توكنًا مشروطًا بالتوكنات السابقة، ثم يضيفه إلى السياق لتوليد التالي.

Generates a token conditioned on previous tokens, then appends it to the context for the next step.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
73 · Generation & decoding

Logits / LM head

Logits; Language Model Head
درجات قبل الاحتمالات؛ رأس النموذج اللغوي
تفكيك الاسم · Name breakdown

LM: L = Language (لغة) · M = Model (نموذج) · Head = رأس الإخراج

رأس الإخراج يحوّل التمثيل الداخلي إلى درجة لكل توكن في القاموس؛ الدرجات قبل Softmax ليست احتمالات.

The output head maps hidden states to vocabulary scores; these logits are not yet probabilities.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
06

كتل النموذج والانتباه

Model blocks & attention

هنا تتبادل مواضع النص المعلومات. الانتباه جزء من الكتلة، وتوجد معه التغذية الأمامية والتطبيع.

Token positions exchange information here. Attention is one part of a block alongside feed-forward computation and normalization.

01 · Model blocks & attention

RoPE

Rotary Position Embedding
تضمين الموضع بالدوران
تفكيك الاسم · Name breakdown

Ro = Rotary (دوراني) · P = Position (موضع) · E = Embedding (تضمين)

يدوّر تمثيلات الاستعلام والمفتاح بحسب موضع التوكن، فتدخل المسافة النسبية بين المواضع في حساب الانتباه.

Encodes token positions by rotating query and key vectors, making relative position available to attention.

الجهة والبلد والمصدر · Origin & source

Jianlin Su وزملاؤه — Zhuiyi Technology

الصين · 2021

يساعد النموذج على التمييز بين ترتيب الكلمات، بدل التعامل معها كأنها قائمة بلا ترتيب.

آلية موضعية، وليست قاعدة بيانات أو ذاكرة حقائق. لا تمنح سياقًا لا نهائيًا بمجرد وجودها.

RoFormer — Su et al., 2021 ↗
04 · Model blocks & attention

Transformer

Transformer
المحوّل
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

تصميم يجمع الانتباه وشبكات أمامية في طبقات لمعالجة تسلسل من الرموز.

A neural network architecture built from attention and feed-forward layers.

الجهة والبلد والمصدر · Origin & source

Vaswani وزملاؤه — Google Brain / Google Research؛ مساهمة مرتبطة بجامعة تورونتو

الولايات المتحدة / كندا · 2017

هذه الخطة العامة يمكن أن تبنى منها نماذج مختلفة تمامًا في البيانات والأوزان.

Transformer — Vaswani et al., 2017 ↗
05 · Model blocks & attention

Attention · Q/K/V

Attention; Query, Key, Value
الانتباه؛ الاستعلام والمفتاح والقيمة
تفكيك الاسم · Name breakdown

Q = Query (استعلام) · K = Key (مفتاح) · V = Value (قيمة)

يقارن الاستعلام Q بالمفاتيح K ليحدد أوزان جمع القيم V من السياق.

Attention compares queries with keys to determine how strongly to combine their associated values.

الجهة والبلد والمصدر · Origin & source

صيغة الانتباه متعدد الرؤوس في ورقة Transformer؛ للانتباه سوابق أقدم

الولايات المتحدة / كندا · 2017 للصيغة المرجعية

عند تفسير ضمير، يمكن أن تسهم كلمات سابقة في تمثيله. ليست كل آلية انتباه تفسيرًا موثوقًا لقرار النموذج.

Transformer — Vaswani et al., 2017 ↗
06 · Model blocks & attention

MHA

Multi-Head Attention
الانتباه متعدد الرؤوس
تفكيك الاسم · Name breakdown

M = Multi (متعدد) · H = Head (رأس) · A = Attention (انتباه)

لكل رأس استعلام مقابلات مستقلة للمفتاح والقيمة.

Uses multiple attention heads, each with its own query, key and value projections.

الجهة والبلد والمصدر · Origin & source

Vaswani وزملاؤه — Transformer

الولايات المتحدة / كندا · 2017

مثال تعليمي: قد يكون لكل رأس استعلام رأس مفتاح وقيمة مستقلان.

Transformer — Vaswani et al., 2017 ↗
07 · Model blocks & attention

MQA

Multi-Query Attention
الانتباه متعدد الاستعلامات
تفكيك الاسم · Name breakdown

M = Multi (متعدد) · Q = Query (استعلام) · A = Attention (انتباه)

تشارك رؤوس الاستعلام رأس KV واحدًا لتقليل ذاكرة التوليد.

Multiple query heads share a single key-value head to reduce decoding memory requirements.

الجهة والبلد والمصدر · Origin & source

Noam Shazeer — Google

الولايات المتحدة · 2019

أقل في حجم KV من استخدام رأس مستقل لكل استعلام.

Multi-Query Attention — Shazeer, 2019 ↗
08 · Model blocks & attention

GQA

Grouped-Query Attention
انتباه الاستعلامات المجمّعة
تفكيك الاسم · Name breakdown

G = Grouped (مجمّع) · Q = Query (استعلام) · A = Attention (انتباه)

تشارك مجموعة من رؤوس Q رؤوس KV أقل عددًا؛ حل وسط بين MHA وMQA.

Groups of query heads share fewer key-value heads, providing a compromise between MHA and MQA.

الجهة والبلد والمصدر · Origin & source

Joshua Ainslie وزملاؤه — Google Research

الولايات المتحدة · 2023

مثال تعليمي: يمكن أن تتشارك 28 مجموعة استعلام في 4 رؤوس للمفاتيح والقيم.

هذه الأعداد تصف البنية؛ لا تثبت بمفردها تفوق جودة نموذج على آخر.

GQA — Ainslie et al., 2023 ↗
13 · Model blocks & attention

Layer / Hidden size

Layer; Hidden Size
طبقة؛ حجم التمثيل الداخلي
تفكيك الاسم · Name breakdown

مصطلحان كاملان، لا اختصاران · Full terms, not acronyms

الطبقات هي مراحل المعالجة؛ والعرض عدد القيم في تمثيل التوكن داخلها.

Layers are processing stages; hidden size is the width of the internal token representation.

الجهة والبلد والمصدر · Origin & source

مصطلحات هندسية عامة

متعدد الجهات · —

32 طبقة ليست 32 نموذجًا مستقلًا.

LLaMA — Touvron et al., 2023 ↗
45 · Model blocks & attention

MoE / Active parameters

Mixture of Experts; Active Parameters
مزيج الخبراء؛ المعاملات النشطة
تفكيك الاسم · Name breakdown

M = Mixture (مزيج) · o = of (من) · E = Experts (خبراء)

يختار موجّه أجزاء من الشبكة لكل توكن بدل تشغيل جميع الخبراء. العدد الكلي يختلف عن العدد النشط.

A router activates a subset of experts per token. Total stored parameters differ from active parameters.

الجهة والبلد والمصدر · Origin & source

MoE أقدم من 2017؛ المرجع المؤثر للشبكات الكبيرة Google Brain وجامعة ياغيلونيا

الولايات المتحدة / بولندا · 2017 للمرجع المحدد

نموذج 30B-A3B لا يساوي نموذجًا كثيفًا 3B في حجم تخزين جميع الأوزان.

Sparsely-Gated MoE — Shazeer et al., 2017 ↗
46 · Model blocks & attention

MLA

Multi-head Latent Attention
الانتباه الكامن متعدد الرؤوس
تفكيك الاسم · Name breakdown

M = Multi-head (متعدد الرؤوس) · L = Latent (كامن) · A = Attention (انتباه)

يضغط تمثيلات المفاتيح والقيم إلى تمثيل كامن أصغر لتقليل ذاكرة السياق.

Compresses key-value representations into a smaller latent state to reduce cache requirements.

الجهة والبلد والمصدر · Origin & source

DeepSeek-AI — DeepSeek-V2

الصين · 2024

هو تصميم مختلف عن مجرد تقليل رؤوس KV في GQA.

DeepSeek-V2 / MLA, 2024 ↗
47 · Model blocks & attention

Mamba-2 / SSM

Mamba-2; State Space Model
Mamba-2؛ نموذج فضاء الحالة
تفكيك الاسم · Name breakdown

Mamba اسم وليس اختصارًا · S = State (حالة) · S = Space (فضاء) · M = Model (نموذج)

تعالج التسلسل بحالة متغيرة وبنية حساب مختلفة، وتكشف الدراسة صلات بأنواع من الانتباه.

Processes sequences through an evolving state; Mamba-2 connects structured state-space methods with forms of attention.

الجهة والبلد والمصدر · Origin & source

Tri Dao وAlbert Gu — Princeton وCarnegie Mellon

الولايات المتحدة · 2024

يمكن بناء نماذج هجينة تجمع كتل SSM وكتل الانتباه.

مسار بحثي مهم؛ ليس حكمًا بأنه الأفضل لكل مهمة أو أنه مستخدم في النماذج الثلاثة هنا.

Mamba-2 — Dao & Gu, 2024 ↗
74 · Model blocks & attention

Encoder / Decoder / Cross-attention

Encoder; Decoder; Cross-attention
مُرمّز؛ مفكّك ترميز؛ انتباه متقاطع
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

المُرمّز يبني تمثيل المدخل. في بنية مُرمّز ومفكّك، يقرأ المفكّك ذلك التمثيل بالانتباه المتقاطع أثناء التوليد.

An encoder represents input. In encoder–decoder architectures, the decoder can attend to that representation while generating.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

Transformer — Vaswani et al., 2017 ↗
75 · Model blocks & attention

Self-attention / Causal mask

Self-attention; Causal Mask
الانتباه الذاتي؛ القناع السببي
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

الانتباه الذاتي يربط مواضع التسلسل نفسه؛ القناع السببي يمنع الموضع من قراءة التوكنات اللاحقة.

Self-attention connects positions in one sequence; a causal mask prevents attending to future tokens.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

Transformer — Vaswani et al., 2017 ↗
07

الأوزان والعمليات العددية

Weights & numerical operations

الأوزان قيم متعلَّمة، والتنشيطات قيم مؤقتة؛ العمليات الرياضية تجمعهما لإنتاج التنبؤ.

Weights are learned values; activations are temporary values. Mathematical operations combine them to produce predictions.

02 · Weights & numerical operations

RMSNorm

Root Mean Square Normalization
التطبيع بالجذر التربيعي لمتوسط المربعات
تفكيك الاسم · Name breakdown

R = Root (جذر) · M = Mean (متوسط) · S = Square (مربع) · Norm = Normalization (تطبيع)

يضبط حجم القيم داخل الطبقة باستخدام الجذر التربيعي لمتوسط مربعاتها، دون طرح المتوسط كما في LayerNorm.

Rescales activations using their root mean square, without subtracting the mean as LayerNorm does.

الجهة والبلد والمصدر · Origin & source

Biao Zhang وRico Sennrich — جامعـتا إدنبرة وزيورخ

المملكة المتحدة / سويسرا · 2019

مثل ضبط مستوى الإشارة قبل تمريرها إلى مرحلة أخرى؛ هذا تشبيه، لا معالجة صوتية.

يساعد الاستقرار العددي؛ لا يضيف معرفة عربية ولا يتحقق من صدق الجواب.

RMSNorm — Zhang & Sennrich, 2019 ↗
03 · Weights & numerical operations

SwiGLU

Swish Gated Linear Unit
وحدة خطية مبوّبة بدالة Swish
تفكيك الاسم · Name breakdown

Swi = Swish (اسم دالة تنشيط) · G = Gated (مبوّبة) · L = Linear (خطية) · U = Unit (وحدة)

تركيب في الشبكة الأمامية يجمع مسارين بضرب عنصر بعنصر، مع دالة Swish في أحدهما.

A feed-forward design that multiplies two learned branches, applying the Swish activation to one branch.

الجهة والبلد والمصدر · Origin & source

Noam Shazeer — Google

الولايات المتحدة · 2020

يسمح بتعديل ما يمر من السمات داخل كل موضع بعد أن جمع الانتباه معلومات السياق.

Google مصدر هذا الشكل المنشور؛ استعماله لا يعني استعمال أوزان نموذج Google.

GLU Variants — Shazeer, 2020 ↗
09 · Weights & numerical operations

FFN / MLP

Feed-Forward Network; Multilayer Perceptron
شبكة التغذية الأمامية؛ شبكة بيرسيبترون متعددة الطبقات
تفكيك الاسم · Name breakdown

FFN: F = Feed (تغذية) + F = Forward (إلى الأمام) + N = Network (شبكة) · MLP: M = Multi (متعدد) + L = Layer (طبقة) + P = Perceptron (بيرسيبترون)

تحويلات متعلَّمة لمعالجة تمثيل كل توكن داخل الطبقة.

Transforms each token's internal representation; SwiGLU is one possible feed-forward design.

الجهة والبلد والمصدر · Origin & source

مفهوم عصبي عام؛ ورقة Transformer مرجع لاستعماله هنا

متعدد الجهات · مفهوم أقدم من النماذج الحالية

SwiGLU أحد التصاميم التي تُستخدم في هذه المرحلة.

GLU Variants — Shazeer, 2020 ↗
10 · Weights & numerical operations

Embedding

Embedding
التضمين أو التمثيل العددي
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

جدول يحوّل معرّف التوكن إلى متجه أرقام يتعلمه التدريب.

Maps a token identifier to a learned vector of numbers.

الجهة والبلد والمصدر · Origin & source

مفهوم تراكمي؛ لا شركة واحدة تملكه

متعدد الجهات · —

المعرّف 123 لا يحمل معنى لغويًا بذاته؛ صفه في الجدول هو المدخل العددي.

Transformer — Vaswani et al., 2017 ↗
11 · Weights & numerical operations

Tied embeddings

Tied Embeddings
أوزان تضمين مشتركة
تفكيك الاسم · Name breakdown

Tied = مشتركة أو مربوطة · Embeddings = تضمينات؛ ليس اختصارًا

استخدام جدول الأوزان نفسه لتمثيل رموز الإدخال والمساعدة في حساب احتمالات رموز الإخراج.

Shares the input embedding weights with the output vocabulary projection.

الجهة والبلد والمصدر · Origin & source

أسلوب بحثي عام؛ لا ينسب هنا إلى مخترع وحيد

متعدد الجهات · —

تختلف مشاركة أوزان الإدخال والإخراج بين النماذج؛ تُراجع إعدادات كل إصدار.

Transformer — Vaswani et al., 2017 ↗
14 · Weights & numerical operations

Parameters / Weights

Parameters; Weights
المعاملات؛ الأوزان
تفكيك الاسم · Name breakdown

B = Billion (مليار) عند وصف حجم النموذج؛ الاسمان ليسا اختصارين

أرقام تتغير بالتدريب وتحدد سلوك النموذج. حرف B في 7B يعني مليار معامل تقريبًا.

Learned numbers that determine model behavior. Parameter count is different from training-token count.

الجهة والبلد والمصدر · Origin & source

مصطلحات تعلم آلي عامة

متعدد الجهات · —

عدد المعاملات لا يساوي عدد الكلمات التي تدرب عليها النموذج.

Compute-optimal training — Hoffmann et al., 2022 ↗
76 · Weights & numerical operations

Softmax

Softmax Function
دالة سوفت ماكس لتحويل الدرجات إلى توزيع
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

تحوّل الدرجات إلى قيم موجبة مجموعها واحد: داخل الانتباه لتوزيع التركيز، وعند الإخراج لتوزيع احتمالات التوكنات. الاحتمال ليس مقياس صدق الإجابة.

Maps scores to positive values summing to one: attention weights internally, token probabilities at output. Probability does not measure factual truth.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

softmax(zᵢ) = exp(zᵢ − max(z)) / Σⱼ exp(zⱼ − max(z))

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
77 · Weights & numerical operations

Tensor / Matrix / Vector

Tensor; Matrix; Vector
موتر؛ مصفوفة؛ متجه
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

المتجه قائمة أعداد، والمصفوفة جدول ثنائي الأبعاد، والموتر تعميم لمصفوفات الأعداد إلى عدد أبعاد مختلف.

A vector is a list of numbers, a matrix is two-dimensional, and a tensor generalizes numerical arrays across dimensions.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
78 · Weights & numerical operations

MatMul

Matrix Multiplication
ضرب المصفوفات
تفكيك الاسم · Name breakdown

Mat = Matrix (مصفوفة) · Mul = Multiplication (ضرب)

عملية تمزج قيم المدخل باستخدام الأوزان؛ تُستخدم مثلًا لإنتاج Q وK وV.

Combines input values with weights; used, for example, to produce Q, K and V projections.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
79 · Weights & numerical operations

Activation / Residual connection

Activation; Residual Connection
تنشيط؛ وصلة متبقية
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

التنشيط قد يعني القيمة المؤقتة أو دالة لاخطية. الوصلة المتبقية تجمع مدخل المكوّن مع خرجه.

Activation can mean an intermediate value or a nonlinear function. A residual connection adds a component’s input to its output.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
08

التنفيذ والذاكرة والعتاد

Execution, memory & hardware

الطبقة التنفيذية تشغّل الحسابات وتدير الذاكرة والدقة العددية على العتاد.

The execution layer runs computations and manages memory and numerical precision on hardware.

35 · Execution, memory & hardware

KV cache

Key-Value Cache
ذاكرة تخزين المفاتيح والقيم
تفكيك الاسم · Name breakdown

K = Key (مفتاح) · V = Value (قيمة) · Cache = ذاكرة تخزين مؤقت

تحتفظ بحسابات K وV السابقة لتجنب إعادة حسابها عند كل توكن.

Stores previous key and value calculations so decoding does not need to recompute them.

الجهة والبلد والمصدر · Origin & source

أسلوب تشغيل شائع؛ لا ينسب هنا لشركة واحدة

متعدد الجهات · —

تكبر عادةً مع طول السياق وعدد الطلبات؛ GQA يقلل عدد رؤوسها.

Transformers — KV cache ↗
39 · Execution, memory & hardware

FP32 / FP16 / BF16

32-bit Floating Point; 16-bit Floating Point; 16-bit Brain Floating Point
الفاصلة العائمة من 32 أو 16 بت؛ صيغة Brain العائمة من 16 بت
تفكيك الاسم · Name breakdown

FP: F = Floating (عائمة) + P = Point (فاصلة) · BF: B = Brain (اسم الفريق) + F = Floating point · 32 و16 عدد البتات

صيغ ذات دقة ومدى عددي مختلفين. BF16 يحافظ على مدى أسّي واسع مع دقة كسور أقل من FP16.

Numerical formats trade precision, range and memory. BF16 has a wider exponent range than FP16 but fewer fraction bits.

الجهة والبلد والمصدر · Origin & source

FP صيغ عامة؛ BF16 ارتبط بـGoogle Brain؛ لا تعني الصيغة ملكية النموذج

متعدد الجهات / الولايات المتحدة لـGoogle · —

وزن 7 مليارات معامل بصيغة 16 بت يحتاج نحو 14 غيغابايت عشرية للأوزان وحدها، قبل ذاكرة السياق والتشغيل.

Google Cloud — BFloat16، مصدر التسمية والفكرة ↗
40 · Execution, memory & hardware

Quantization / INT8 / 4-bit

Quantization; 8-bit Integer; 4-bit Representation
التكميم؛ عدد صحيح من 8 بت؛ تمثيل من 4 بت
تفكيك الاسم · Name breakdown

INT = Integer (عدد صحيح) · 8 و4 عدد البتات؛ Quantization كلمة كاملة

تمثيل الأوزان أو الحسابات بدقة أقل لتقليل الذاكرة والكلفة، وقد يؤثر في الجودة.

Reduces numerical precision to save memory and computation, with possible changes in model quality.

الجهة والبلد والمصدر · Origin & source

مجال قديم متعدد الجهات؛ QLoRA مثال وليس أصل التكميم

متعدد الجهات · —

نتيجة نسخة 4 بت يجب أن تحمل هذا الوصف عند مقارنتها بنسخة BF16.

Transformers — Quantization ↗
41 · Execution, memory & hardware

GPU / VRAM / CPU offload

Graphics Processing Unit; Video Random-Access Memory; Central Processing Unit Offloading
وحدة معالجة الرسوميات؛ ذاكرة الفيديو ذات الوصول العشوائي؛ نقل جزء من العمل إلى المعالج المركزي
تفكيك الاسم · Name breakdown

GPU: G = Graphics (رسوميات) + P = Processing (معالجة) + U = Unit (وحدة) · VRAM: V = Video (فيديو) + R = Random (عشوائي) + A = Access (وصول) + M = Memory (ذاكرة) · CPU: C = Central (مركزي) + P = Processing (معالجة) + U = Unit (وحدة)

VRAM ذاكرة GPU؛ نقل بعض الأوزان إلى RAM يخفف ضغط GPU وقد يبطئ التوليد.

GPU memory holds weights and runtime data. CPU offloading moves part of the workload or weights to system memory.

الجهة والبلد والمصدر · Origin & source

مصطلحات حوسبة عامة؛ ليست ملكًا لمطوّر نموذج بعينه

متعدد الجهات · —

وجود مساحة للأوزان وحدها لا يكفي؛ يلزم احتياطي للحسابات وKV.

Transformers — KV cache ↗
42 · Execution, memory & hardware

FlashAttention

FlashAttention
اسم خوارزمية FlashAttention لتسريع الانتباه
تفكيك الاسم · Name breakdown

FlashAttention اسم لا اختصار؛ SDPA = Scaled Dot-Product Attention (انتباه حاصل الضرب النقطي المحجّم)

يعيد تنظيم الحساب والقراءة والكتابة لتحسين الكفاءة، مع حساب انتباه دقيق لا تقريب عام له.

Reorganizes exact attention computation to reduce memory traffic. It improves execution rather than adding knowledge.

الجهة والبلد والمصدر · Origin & source

Tri Dao وزملاؤه — Stanford وUniversity at Buffalo

الولايات المتحدة · 2022

هو تحسين لتنفيذ الانتباه؛ لا يضيف بيانات أو حقائق جديدة إلى الأوزان.

ليست كل دعوة SDPA دليلًا على أن FlashAttention استُخدم فعليًا؛ يعتمد المسار على العتاد والمكتبة.

FlashAttention — Dao et al., 2022 ↗
43 · Execution, memory & hardware

PagedAttention / vLLM

PagedAttention; vLLM
الانتباه بإدارة صفحات الذاكرة؛ محرك vLLM
تفكيك الاسم · Name breakdown

LLM = Large Language Model (نموذج لغوي كبير)؛ vLLM اسم المشروع ولا نفترض توسعة رسمية للحرف v هنا

ينظم KV على هيئة كتل لتقليل الهدر وتسهيل خدمة طلبات متعددة. vLLM نظام تشغيل يستخدم هذه الفكرة.

PagedAttention manages the KV cache in blocks; vLLM is a serving engine built around efficient memory management.

الجهة والبلد والمصدر · Origin & source

Woosuk Kwon وزملاؤه — UC Berkeley وStanford وUC San Diego، ومساهم مستقل

الولايات المتحدة · 2023

مهم للخادم المزدحم؛ لا يثبت تحسن جودة جواب نموذج واحد.

PagedAttention / vLLM — Kwon et al., 2023 ↗
44 · Execution, memory & hardware

Speculative decoding

Speculative Decoding
التوليد الاستباقي مع التحقق
تفكيك الاسم · Name breakdown

تعبير كامل، لا اختصار · A phrase, not an acronym

نموذج أو مسار أسرع يقترح رموزًا، ثم يتحقق النموذج الهدف منها وفق خوارزمية قبول.

A faster draft proposes tokens that the target model checks. Exact variants preserve the target distribution.

الجهة والبلد والمصدر · Origin & source

مرجع Leviathan وKalman وMatias — Google Research؛ توجد أعمال مستقلة متزامنة

الولايات المتحدة بحسب عنوان الورقة · 2022 / 2023

يمكن تسريع التوليد دون تغيير توزيع النموذج الهدف في الصيغة الدقيقة.

Speculative Decoding — Leviathan et al., 2022/2023 ↗
09

مسار التدريب — محور عابر للمستويات

Training lifecycle — cross-cutting

ليس طبقة أسفل العتاد: يشرح كيف تُنشأ الأوزان وتُعدَّل قبل الاستخدام.

Not a layer below hardware: this explains how weights are created and adapted before use.

16 · Training lifecycle — cross-cutting

From scratch

Training from Scratch
التدريب من الصفر
تفكيك الاسم · Name breakdown

تعبير كامل، لا اختصار · A phrase, not an acronym

بدء تعلم الأوزان دون اتخاذ أوزان نموذج لغوي سابق نقطة بداية.

Learns model weights without starting from an existing pretrained language model's weights.

الجهة والبلد والمصدر · Origin & source

وصف لطريقة التدريب، وليس اختراع شركة

متعدد الجهات · —

لا يعني اختراع Transformer أو RoPE أو كل مكتبة مستخدمة من جديد.

ALLaM-7B — بطاقة الناشر ↗
18 · Training lifecycle — cross-cutting

Pretraining

Pretraining
التدريب المسبق
تفكيك الاسم · Name breakdown

Pre = مسبق · Training = تدريب؛ ليس اختصارًا حرفيًا

مرحلة تعلّم واسعة من البيانات. في النماذج اللغوية السببية يكون الهدف المعتاد توقع التوكن التالي؛ تنتج نموذج أساس.

Broad learning from data, commonly through next-token prediction in causal language models, producing a base model.

الجهة والبلد والمصدر · Origin & source

مصطلحات عامة؛ أسماء المراحل ليست موحدة بين جميع المختبرات

متعدد الجهات · —

حجم البيانات الفريدة يختلف عن مجموع التوكنات المشاهدة بعد تكرار البيانات.

Compute-optimal training — Hoffmann et al., 2022 ↗
19 · Training lifecycle — cross-cutting

SFT

Supervised Fine-Tuning
الضبط الدقيق الخاضع للإشراف
تفكيك الاسم · Name breakdown

S = Supervised (خاضع للإشراف) · F = Fine (دقيق) · T = Tuning (ضبط)

تعليم النموذج من أمثلة مدخل وجواب مرغوب.

Trains the model on examples of inputs and desired outputs.

مرتبط بـ · Related: Pretraining Post-training LoRA
الجهة والبلد والمصدر · Origin & source

أسلوب تعلّم خاضع للإشراف؛ لا شركة واحدة

متعدد الجهات · —

مثال: مصدر محدد ← ملخص أمين، مع تدريب التوقف في موضعه.

DPO — Rafailov et al., 2023 ↗
20 · Training lifecycle — cross-cutting

LoRA

Low-Rank Adaptation
التكييف منخفض الرتبة
تفكيك الاسم · Name breakdown

Lo = Low (منخفض) · R = Rank (رتبة) · A = Adaptation (تكييف)

يثبت الأوزان الأساسية ويدرّب تحديثات صغيرة منخفضة الرتبة.

Freezes base weights and learns small low-rank updates for adaptation.

الجهة والبلد والمصدر · Origin & source

Edward Hu وزملاؤه — Microsoft

الولايات المتحدة · 2021

يمكن حفظ تخصص في ملف أصغر من النموذج الكامل.

صغر ملف التعديل لا يعني أنه نموذج مستقل يمكن تشغيله دون الأساس.

LoRA — Hu et al., 2021 ↗
21 · Training lifecycle — cross-cutting

QLoRA / NF4

Quantized Low-Rank Adaptation; 4-bit NormalFloat
تكييف منخفض الرتبة فوق أساس مكمّم؛ تمثيل NormalFloat من 4 بت
تفكيك الاسم · Name breakdown

QLoRA: Q = Quantized (مكمّم) + LoRA · NF4: N = Normal (طبيعي، نسبةً للتوزيع) + F = Float (عائم) + 4 (عدد البتات)

يستخدم أساسًا مجمدًا مكممًا إلى 4 بت مع تدريب LoRA؛ اقترحت الورقة NF4 وتقنيات أخرى لتقليل الذاكرة.

QLoRA trains low-rank adapters on a frozen quantized base. NF4 is a numerical representation introduced in that work.

الجهة والبلد والمصدر · Origin & source

Tim Dettmers وزملاؤه — University of Washington

الولايات المتحدة · 2023

ملفات برق القديمة تشير إلى Qwen2.5-7B مع هذا النوع من التعديل.

QLoRA ليست هي أوزان Qwen الأصلية، ولا اسمًا آخر للتدريب من الصفر.

QLoRA — Dettmers et al., 2023 ↗
22 · Training lifecycle — cross-cutting

Full fine-tuning / Adapter

Full Fine-Tuning; Adapter
الضبط الدقيق الكامل؛ وحدة تكييف
تفكيك الاسم · Name breakdown

تعبيران كاملان، لا اختصاران · Full terms, not acronyms

التعديل الكامل يغيّر جميع الأوزان؛ أما وحدة التكييف فتخصص جزءًا أو إضافة أصغر.

Full fine-tuning updates all model weights; an adapter provides a smaller trainable specialization mechanism.

الجهة والبلد والمصدر · Origin & source

مصطلحات عامة؛ LoRA مثال محدد للتكييف

متعدد الجهات · —

وجود ملف تكييف وحده لا يغني عن أوزان نموذج الأساس المتوافق معه.

LoRA — Hu et al., 2021 ↗
23 · Training lifecycle — cross-cutting

DPO

Direct Preference Optimization
تحسين التفضيلات المباشر
تفكيك الاسم · Name breakdown

D = Direct (مباشر) · P = Preference (تفضيل) · O = Optimization (تحسين)

يتعلم من أزواج جواب مفضَّل وآخر أقل تفضيلًا، دون حلقة التعلم المعزز التقليدية نفسها.

Learns from preferred and less-preferred response pairs using a direct training objective.

الجهة والبلد والمصدر · Origin & source

Rafael Rafailov وزملاؤه — Stanford؛ ارتباط بحثي بـCZ Biohub

الولايات المتحدة · 2023

التفضيل قد يستهدف جودة الأسلوب أو الأمانة للمصدر بحسب البيانات.

DPO — Rafailov et al., 2023 ↗
24 · Training lifecycle — cross-cutting

RLHF

Reinforcement Learning from Human Feedback
التعلم المعزز من التغذية الراجعة البشرية
تفكيك الاسم · Name breakdown

R = Reinforcement (تعزيز) · L = Learning (تعلم) · H = Human (بشري) · F = Feedback (تغذية راجعة)؛ from كلمة وصل

منهج يوجّه السلوك بإشارات تفضيل بشرية، عادةً عبر نموذج مكافأة ثم تحسين سياسة التوليد.

Uses human feedback to guide behavior, commonly through a reward model and policy optimization.

الجهة والبلد والمصدر · Origin & source

خط بحث متعدد الجهات؛ المرجع يشرح الفرق عن DPO

متعدد الجهات · —

المكافأة على أسلوب مقنع لا تضمن صدق كل معلومة.

DPO — Rafailov et al., 2023 ↗
25 · Training lifecycle — cross-cutting

GRPO

Group Relative Policy Optimization
تحسين السياسة النسبي للمجموعة
تفكيك الاسم · Name breakdown

G = Group (مجموعة) · R = Relative (نسبي) · P = Policy (سياسة) · O = Optimization (تحسين)

يقارن مكافآت عدة إجابات للطلب نفسه لتقدير التحسين النسبي، دون نموذج ناقد منفصل في الصيغة المنشورة.

Compares rewards within a group of responses to estimate relative improvements without a separate critic in the published formulation.

الجهة والبلد والمصدر · Origin & source

DeepSeek-AI؛ مساهمون مرتبطون بتسينغهوا وبكين — DeepSeekMath

الصين · 2024

جودة مقياس المكافأة أساسية؛ ليس مجرد جعل النموذج يكتب تفكيرًا أطول.

DeepSeekMath / GRPO, 2024 ↗
26 · Training lifecycle — cross-cutting

Scaling laws / Chinchilla

Scaling Laws; Chinchilla
قوانين التوسع؛ اسم نموذج ودراسة Chinchilla
تفكيك الاسم · Name breakdown

Scaling Laws تعبيران كاملان؛ Chinchilla اسم وليس اختصارًا

دراسة كيف تتغير الجودة مع الحجم والبيانات والميزانية، وكيف يوزع التدريب الموارد بينها.

Studies how model size, data and compute interact; Chinchilla is a particular influential compute-allocation study.

الجهة والبلد والمصدر · Origin & source

Jordan Hoffmann وزملاؤه — DeepMind، في الدراسة المرجعية المحددة

المملكة المتحدة · 2022

تكبير النموذج وحده مع بيانات قليلة قد لا يكون أفضل استثمار.

Chinchilla دراسة مؤثرة، وليست أصل كل قوانين التوسع ولا قاعدة ثابتة لكل مهمة.

Compute-optimal training — Hoffmann et al., 2022 ↗
80 · Training lifecycle — cross-cutting

Continued pretraining / Mid-training

Continued Pretraining; Mid-training
مواصلة التدريب المسبق؛ التدريب الوسيط
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

مواصلة التعلم من نصوص أو مهام مستهدفة بعد مرحلة عامة؛ استخدام اسم التدريب الوسيط يختلف بين فرق النماذج.

Continues learning on targeted text or tasks after broad training; the label mid-training varies across model teams.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
81 · Training lifecycle — cross-cutting

Post-training

Post-training
ما بعد التدريب المسبق
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

مظلة لتكييف نموذج مدرّب مسبقًا: قد تشمل SFT والتفضيلات والتعلم المعزز؛ ليست وصفة واحدة ثابتة.

An umbrella for adapting a pretrained model, potentially including SFT, preference optimization and reinforcement learning.

مرتبط بـ · Related: SFT DPO RLHF GRPO
الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

Hugging Face — TRL post-training ↗
82 · Training lifecycle — cross-cutting

Dataset / Corpus / Data curation

Dataset; Corpus; Data Curation
مجموعة بيانات؛ مدونة نصية؛ إعداد البيانات
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

يشمل إعداد البيانات اختيارها وتنظيفها وإزالة التكرار وضبط الجودة؛ البيانات تؤثر فيما تتعلمه الأوزان.

Data preparation includes selection, cleaning, deduplication and quality checks; data shapes what weights learn.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
83 · Training lifecycle — cross-cutting

Epoch / Batch / Learning rate

Epoch; Batch; Learning Rate
حقبة؛ دفعة؛ معدل تعلم
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

الحقبة مرور على مجموعة التدريب؛ الدفعة مجموعة أمثلة لخطوة حساب؛ معدل التعلم يضبط حجم تحديث الأوزان.

An epoch traverses a training dataset, a batch groups examples for computation, and learning rate controls update size.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
84 · Training lifecycle — cross-cutting

Gradient / Backpropagation / Optimizer

Gradient; Backpropagation; Optimizer
تدرّج؛ انتشار خلفي؛ خوارزمية تحسين
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

التدرّج يقيس حساسية الخسارة للمعاملات؛ الانتشار الخلفي يحسبه؛ وخوارزمية التحسين تستخدمه لتعديل الأوزان.

Gradients measure loss sensitivity to parameters; backpropagation computes them; an optimizer uses them to update weights.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
85 · Training lifecycle — cross-cutting

Distillation

Knowledge Distillation
تقطير المعرفة
تفكيك الاسم · Name breakdown

ليس اختصارًا حرفيًا · Not an acronym

تدريب نموذج طالب للاستفادة من مخرجات أو إشارات نموذج معلّم؛ يختلف عن تقليل دقة الأوزان بالتكميم.

Trains a student using a teacher’s outputs or signals; distinct from reducing weight precision through quantization.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
86 · Training lifecycle — cross-cutting

RL / Reward model

Reinforcement Learning; Reward Model
التعلم المعزز؛ نموذج المكافأة
تفكيك الاسم · Name breakdown

R = Reinforcement (تعزيز) · L = Learning (تعلم)

التعلم المعزز يحسّن السلوك وفق مكافأة؛ قد تأتي المكافأة من نموذج أو تحقق برمجي أو غيرهما.

Reinforcement learning improves behavior using rewards, which may come from a model, programmatic checks or other sources.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
87 · Training lifecycle — cross-cutting

PEFT

Parameter-Efficient Fine-Tuning
الضبط الدقيق الكفؤ في المعاملات
تفكيك الاسم · Name breakdown

P = Parameter (معامل) · E = Efficient (كفؤ) · F = Fine (دقيق) · T = Tuning (ضبط)

عائلة أساليب تضبط عددًا محدودًا من المعاملات لتقليل تكلفة التكييف؛ LoRA أحد أمثلتها.

A family of methods adapting relatively few parameters to reduce adaptation cost; LoRA is one example.

الجهة والبلد والمصدر · Origin & source

مفهوم عام؛ لا ننسب اختراعه إلى جهة واحدة · General concept; no exclusive origin assigned

متعدد / غير منسوب · Multiple / not assigned · —

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
10

التقييم — محور عابر للمستويات

Evaluation — cross-cutting

يقيس صحة الإجابات والأداء تحت شروط معلنة؛ يشمل النظام كله.

Measures answer quality and performance under stated conditions across the whole system.

52 · Evaluation — cross-cutting

Benchmark / Strict pass

Benchmark; Strict Pass
مجموعة اختبار مرجعية؛ نجاح وفق معيار صارم
تفكيك الاسم · Name breakdown

مصطلحان كاملان، لا اختصاران · Full terms, not acronyms

حالات محددة وقاعدة معلنة للحكم. النتيجة تخص هذه المهمة وهذه الوصفة.

Measures performance on defined cases under explicit criteria, not universal intelligence.

الجهة والبلد والمصدر · Origin & source

منهج تقييم عام؛ لا يُنسب إلى شركة أو بلد واحد.

متعدد الجهات · —

النجاح في مجموعة أسئلة محددة لا يقيس كل القدرات اللغوية.

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
53 · Evaluation — cross-cutting

Holdout / Leakage / Blind review

Holdout Set; Data Leakage; Blind Review
مجموعة اختبار معزولة؛ تسرب البيانات؛ مراجعة معماة
تفكيك الاسم · Name breakdown

مصطلحات كاملة، لا اختصارات · Full terms, not acronyms

نفصل حالات الاختبار عن التدريب؛ ونخفي هوية النموذج عند التقييم المعمى لتقليل التحيز.

Holdouts separate evaluation from training; blinding hides model identity from reviewers to reduce bias.

الجهة والبلد والمصدر · Origin & source

منهجيات علمية عامة

متعدد الجهات · —

المراجعة السابقة لـALLaM غير معماة، وحكم Qwen1.7B محفوظ من مراجع مختلف.

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim
54 · Evaluation — cross-cutting

Loss / Perplexity

Loss; Perplexity
دالة الخسارة؛ الحيرة الإحصائية
تفكيك الاسم · Name breakdown

PPL صيغة مختصرة لكلمة Perplexity وليست عبارة من ثلاث كلمات

يقيسان جودة توقع الرموز في بيانات محددة؛ الأقل لا يضمن أفضل اتباع للتعليمات أو أمانة للمصدر.

Measures token-prediction performance. Lower values do not automatically imply better instruction following or grounding.

الجهة والبلد والمصدر · Origin & source

مفاهيم إحصائية وتعلم آلي عامة

متعدد الجهات · —

لا نقارن perplexity مباشرة بين مُرمّزين مختلفين وكأن وحدة القياس واحدة.

Compute-optimal training — Hoffmann et al., 2022 ↗
55 · Evaluation — cross-cutting

Latency / Throughput / TTFT

Latency; Throughput; Time to First Token
زمن الاستجابة؛ معدل الإنجاز؛ الزمن حتى أول توكن
تفكيك الاسم · Name breakdown

TTFT: T = Time (زمن) · T = To (حتى) · F = First (أول) · T = Token (توكن)

Latency مدة الطلب؛ Throughput حجم العمل خلال الزمن؛ TTFT زمن ظهور أول توكن.

Different performance measures require matching hardware, precision, context and concurrency for fair comparison.

الجهة والبلد والمصدر · Origin & source

مقاييس أنظمة عامة

متعدد الجهات · —

يجب ذكر العتاد والسياق والتزامن والدقة العددية قبل المقارنة.

PagedAttention / vLLM — Kwon et al., 2023 ↗
56 · Evaluation — cross-cutting

SOTA

State of the Art
أفضل مستوى منشور في نطاق محدد
تفكيك الاسم · Name breakdown

S = State (مستوى/حالة) · O = Of (من) · T = The (أداة تعريف) · A = Art (التقنية هنا)

اختصار State of the Art؛ وصف مرتبط بمهمة ومقياس ووقت وشروط اختبار.

A task-, metric- and date-dependent claim about leading performance; it is not a universal quality label.

الجهة والبلد والمصدر · Origin & source

تعبير علمي عام؛ لا شركة أو بلد واحد

متعدد الجهات · —

تقنية أحدث أو اسم نموذج أشهر لا يعنيان أنه الأفضل في كل مهمة عربية.

تعريف تعليمي عام؛ لا ادعاء بأسبقية اختراع · General educational definition; no invention-priority claim