تُعد الأمثلية التوافقية مكونًا رئيسيًا في مسائل القرار الحرجة مثل التوجيه والجدولة وتصميم الشبكات والأمثلية على الرسوم البيانية. ورغم توفر طرق الأمثلية التوافقية على نطاق واسع، ومنها الخوارزميات الدقيقة وطرق التقريب وبرمجة القيود والبرمجة الصحيحة المختلطة والميتا-استدلالات، فإنها غالبًا ما تواجه عقبات مثل محدودية قابلية التوسع والقابلية للتكيف في التطبيقات المختلفة. تقدم هذه الدراسة مراجعة نقدية منهجية لتعلم الآلة للأمثلية التوافقية لتوصيف استخدام النهج القائمة على التعلم وتقييمها. ويُستخدم تحليل مفصل لاستنتاج النتائج والقيود وتحديدها. وتؤكد الورقة كيف تغير تعلم الآلة للأمثلية الحسابية عبر الزمن، منتقلًا من الحلول العصبية من طرف إلى طرف إلى الأنظمة الهجينة. وتُعد مكونات التعلم أساسية لتوجيه هياكل الحل التقليدية مثل برمجة القيود والميتا-استدلالات أو تسريعها أو تعزيزها في الأنظمة الهجينة. وتفحص المراجعة أيضًا نقديًا القيود الحالية المؤثرة على الأداء عمومًا، ومنها قابلية التوسع والجاهزية للنشر والتعميم واتساق المعايير. ورغم أن استخدام نماذج اللغة الكبيرة لصياغة المسائل وتوليد الاستدلالات واعد، يلزم مزيد من العمل لضمان تحقق موثوق. وختامًا، تفحص هذه المقالة نتائج الدراسات الحديثة، وتؤكد الاتجاه المتنامي نحو أطر الأمثلية الهجينة المدفوعة بالتعلم، وتبرز القيود المنهجية المهمة والقضايا غير المحلولة.
رغم النمو السريع في نهج تعلم الآلة والتعلم العميق والنمذجة المفاهيمية للأمثلية التوافقية (CO)، ما يزال الميدان البحثي مبعثرًا عبر موضوعات منهجية — الأمثلية التوافقية العصبية، والتعلم المعزز، والشبكات العصبية على الرسوم، والميتا-استدلالات المعززة بالتعلم، وخطوط التنبؤ-ثم-الأمثلية، والطرق المستوحاة من الكم، وتوليد الاستدلالات الناشئ القائم على LLM. وبينما تدعي الدراسات القائمة غالبًا نتائج مشجعة على معايير فردية، تندر التوليفة النقدية لكيفية اختلاف النهج في التوسع والعمومية وضمانات الجدوى والمتانة وقابلية إعادة الإنتاج والتنفيذ العملي.
ترسم هذه المراجعة منهجيًا وتقيّم نقديًا تطور تقنيات CO القائمة على تعلم الآلة ومساهماتها المنهجية وقيودها وآفاقها المستقبلية. فتوصّف كيف تحول تعلم الآلة لـCO عبر الزمن من الحلول العصبية من طرف إلى طرف إلى الأنظمة الهجينة التي توجه فيها مكونات التعلم هياكل الحل التقليدية مثل برمجة القيود والميتا-استدلالات أو تسرّعها أو تعززها؛ وتقارن نماذج التعلم وبنى الحل عبر أصناف مسائل CO ومجالات التطبيق؛ وتفحص نقديًا قيود قابلية التوسع والجاهزية للنشر والتعميم واتساق المعايير، بما فيها فجوات التحقق في توليد الاستدلالات المعان بـLLM.
يحدد القسم 2 بروتوكول المراجعة PRISMA 2020 وأسئلة البحث؛ ويقدم القسم 3 الصياغة الرياضية لـCO والحلول القائمة على التعلم؛ ويعرض القسم 4 مراجعة الأدبيات والتوليفة النقدية عبر عشرة موضوعات منهجية؛ ويناقش القسم 5 النتائج والاتجاهات والتحليل المقارن والقيود؛ ويختتم القسم 6.
سؤال البحث المركزي هو: ما المساهمات المنهجية والقيود والقضايا غير المحلولة لنهج تعلم الآلة والتعلم العميق ونماذج LLM للأمثلية التوافقية؟ وتسأل الأسئلة الفرعية: كيف نصنف جهود البحث الحالية؛ وأي أصناف مسائل CO ومجالات التطبيق الخاصة هيمنت على الأدبيات؛ وأي نماذج تعلم وبنى حل سادت؛ وكيف تقارَن طرق CO المعانة بتعلم الآلة مع معايير الأمثلية الفوقية التقليدية؛ وما الفجوات المتبقية في التقييم والتعميم والنشر.
طُبِّقت عملية PRISMA 2020 منهجية لمراجعة متسقة وقابلة لإعادة الإنتاج: تحديد نطاق المراجعة وأسئلة البحث، والبحث في قواعد أكاديمية مرموقة، وتنقية النتائج بفحص العناوين والملخصات، وتطبيق معايير تضمين واستبعاد صريحة لاسترجاع المخطوطات الكاملة، وتحليل المقالات المسترجعة بدقة من حيث المنهجية والصلاحية التجريبية والتوسع وقابلية إعادة الإنتاج وأوجه القصور. وتُعرض إحصاءات وصفية بعدد المقالات المنشورة سنويًا عبر الفترة المشمولة.
الأمثلية التوافقية هي عملية اختيار حل منفصل أمثل من بين مجموعة معرفة من تكوينات CO الممكنة، وهي الأساس الرياضي لمسائل التوجيه والجدولة والإسناد والتعبئة وتخصيص الموارد والأمثلية على الرسوم والاختيار في بحوث العمليات وعلوم الحاسوب والهندسة والتصنيع والنقل وأنظمة الطاقة وشبكات الاتصالات [1، 2، 9]. وتُصاغ مسألة CO العامة على النحو x* تساوي argmin فوق x في X للدالة f(x; I) في المعادلة (1)، حيث f(x; I) دالة الهدف للنسخة I وx متجه قرار منفصل وX مجموعة الحلول الممكنة — وتشمل مسألة البائع المتجول (TSP) وتوجيه المركبات (VRP) وحقيبة الظهر وMax-Cut وتغطية المجموعات وMAX-SAT وجدولة الورش وجدولة الآلات وتخصيص الموارد [4، 6، 10]. وكثير من هذه المسائل NP-صعبة، فقد تتطلب الطرق الدقيقة زمنًا أسيًا ما لم يكن P يساوي NP، مما دفع CO نحو الخوارزميات الدقيقة وطرق التقريب والاستدلالات الخاصة بالمسائل والميتا-استدلالات [9، 10] — ويتزايد التوجه نحو تعلم الآلة أداةً لتسريع الأمثلية أو توجيهها.
وفي الصياغة الثنائية أو الصحيحة-المختلطة للبرمجة الخطية، تكون المسألة min فوق x لـcTx خاضعة لـAx ≤ b مع xj في {0، 1} لكل j في B ومتغيرات صحيحة في المعادلة (2) — وهي البنية الكلاسيكية الجوهرية للإسناد والجدولة والتوجيه والتغطية والتعبئة وتصميم الشبكات [9]. وهذه الصياغة مهمة لـCO القائم على التعلم لأن كثيرًا من الطرق لا تستبدل البرمجة الرياضية بل تعينها: بتقدير حلول أولية عالية الجودة أو التهيئة الدافئة للحلول أو اختيار متغيرات التفرع أو التنبؤ بأهمية المتغيرات أو تعلم القيود أو توجيه البحث [11، 12]. ومن ثم تتبنى حلول CO الحديثة القائمة على تعلم الآلة منظورات هجينة، مدمجة المكونات المتعلمة مع البرمجة الصحيحة المختلطة أو برمجة القيود أو البحث كبير الجوار أو الميتا-استدلالات [11، 13]. وتوضح مسألة TSP النموذجية — مدن V تساوي {1، …، n} وتكاليف سفر dij ومتغيرات حافة ثنائية xij وقيود الدرجة ومنع الدورات الفرعية — الصياغات المدمجة التي يجب أن تحترمها الاستدلالات المتعلمة.
توحّد المراجعة أولًا المسوح السابقة والمنظورات التأسيسية للأمثلية التوافقية العصبية، مؤسسةً خط الأساس الذي تطورت منه الحلول العصبية من طرف إلى طرف نحو الأطر الهجينة المدفوعة بالتعلم.
يميز البنية المتتابعة لصنع القرار الموجه بالمكافأة في RL-for-CO عن الحلول العصبية الموجهة: فبدل محاكاة الحلول المثلى الموسومة، يتعلم النموذج السياسات عبر التفاعل مع سياق أمثلية. ويؤسس تحويل القيود المنفصلة إلى عمليات قرار ماركوفية (MDPs) متتابعة فائدة RL في CO، ممكنًا نماذج السياسات المدفوعة بالقيمة والمتدرجة من بناء الحلول بأنشطة متكررة كجدولة الموارد أو مسارات TSP. ويوفر RL نهجًا قابلًا للتوسع للاستدلالات في مجالات NP-صعبة باهظة الحساب عبر مؤشرات المكافآت دون وسوم الحقيقة الأرضية. وتمتد الأعمال الممثلة عبر مجالات متنوعة: إسناد الآلات الافتراضية المستدام [28]، وRL قابل للتوسع لإعادة جدولة VM في مراكز بيانات السحابة [29]، وجدولة التصنيع المرتبط بالنقل بشبكة Q-العميقة القائمة على الجودة متعددة الأوجه المتنوعة [30]، وRL العميق متعدد الوكلاء مع برمجة القيود لجدولة سوق العمل القابلة للتكيف [31]، وفرط-استدلالات اختيار DQN [32]، وشبكات المؤشر مع التعلم الموجه المدمج مع RL لمسألة Max-Cut [33]، وتعلم-Q ضمن خوارزمية استباقية ثلاثية المراحل لجدولة سوق العمل اللامركزية القابلة للتكيف مع عوامل العمال [34] — مجسدةً التحول الأوسع إلى RL بوصفه مكونًا لا الحل الكامل. ويقارن الجدول 3 نهج RL من حيث المسألة وصياغة RL وتكامل النموذج/الحل والمقاييس والأسس والقيود الحرجة.
تُولَّف الشبكات العصبية على الرسوم والبنى العميقة بوصفها العمود الفقري التمثيلي المهيمن لـCO: بترميز نسخ المسائل ذات البنية الرسومية (TSP وVRP وMax-Cut) في تضمينات متعلمة تشترط الاستدلالات الإنشائية ومشغلات التحسين وقرارات التفرع أو الاختيار، مع اهتمام نقدي بكيفية توسع تمرير الرسائل وتعميمه عبر أحجام النسخ وتوزيعاتها.
تُراجَع الطرق الكمومية والمستوحاة من الكم وآلات Ising بوصفها ركائز حسابية بديلة لـCO — بإسقاط أهداف الأمثلية على ديناميكيات التلدين الكمومية أو الكلاسيكية — مع تقييم نقدي لنضج العتاد وحدود حجم المسائل والعدالة في المقارنة مع الأسس الكلاسيكية والمتعلمة.
تشكل الميتا-استدلالات المعززة بتعلم الآلة والفرط-استدلالات موضوعًا هجينًا رئيسًا: إذ تختار النماذج المتعلمة المشغلات أو تضبط المعاملات أو تتنبأ بمسارات البحث أو تولّد استدلالات ضمن أطر التطور والبحث الجواري والفرط-استدلالات، مقيَّمةً مقابل معايير الميتا-استدلالات التقليدية.
تربط خطوط التنبؤ-ثم-الأمثلية والتفاضلية من طرف إلى طرف نماذج التنبؤ مع الأمثلية اللاحقة، ناشرةً خسائر واعية بالقرار بحيث تُوزَّن أخطاء التنبؤ بأثرها على جودة الحل لا بدقتها الإحصائية فحسب.
تؤسس التطبيقات الخاصة بالمجالات — التوجيه واللوجستيات والجدولة والتصنيع وتصميم الشبكات وأنظمة الطاقة وإدارة موارد السحابة — الموضوعات المنهجية في سياقات النشر، كاشفةً أي النماذج ينتقل عبر المجالات وأيها يبقى خاصًا بالبيئة.
تُفحَص الأسس النظرية وتحليلات المتانة لما يمكن أن تقدمه CO القائمة على التعلم من ضمانات: سلوك التقريب وضمان الجدوى والحساسية لتحول التوزيع والشروط التي تحافظ فيها المكونات المتعلمة على صحة الحل.
تُقيَّم نماذج اللغة الكبيرة لـCO نقديًا لصياغة المسائل وتوليد الاستدلالات: فبينما تُظهر الاستدلالات وشيفرات الحل المولدة بـLLM وعدًا، تجد المراجعة فجوات تحقق — مخاطر التلوث وأسسًا ضعيفة وتكلفة استدلال غير مبلغة وتحقق جدوى غير مؤسس على الحل — تتطلب تقييمًا صارمًا قابلًا للتكرار قبل ادعاءات النشر.
وبالتوليف عبر الموضوعات، تحدد المراجعة فجوات مستمرة: التعميم عبر التمثيلات الرسومية وأحجام النسخ وعائلات المسائل؛ والأنظمة الهجينة العصبية-الرمزية المعتمدة بضمانات الجدوى والأمثلية؛ وقابلية توسع تدريب RL وتعلم الرسوم واسع النطاق واستدلال LLM؛ والمعايرة الموحدة المقاومة للتلوث مع تقييم مُطبَّع التكلفة؛ وربط أوثق بين تحليل المتانة النظري وتصميم الحل العملي.
تُظهر الأدبيات تحولًا واضحًا من الحلول العصبية المستقلة من طرف إلى طرف إلى الأنظمة الهجينة العصبية-الرمزية التي تُكمَّل فيها المكونات المتعلمة برمجة القيود والبرمجة الصحيحة المختلطة والبحث المحلي وكبير الجوار والميتا-استدلالات أو توجهها.
تؤكد الاتجاهات الوصفية — أعداد المنشورات السنوية وأصناف المسائل المهيمنة (التوجيه والجدولة والأمثلية على الرسوم) وعائلات النماذج السائدة — نموًا سريعًا متركزًا في موضوعات RL وGNN ومؤخرًا المعان بـLLM.
يكشف التحليل المقارن عن نقاط قوة متكاملة: تتفوق الحلول العصبية الموجهة مع وفرة الوسوم لكنها تعمم ضيقًا؛ ويتوسع RL دون وسوم لكنه مكلف التدريب؛ وتُرمِّز GNNs البنية طبيعيًا لكن تكاليف تمرير الرسائل تنمو مع حجم النسخ؛ وترث الأنظمة الهجينة ضمانات الحل بتكلفة التكامل.
يعاني التقييم من تباين توزيعات المعايير وحدود زمن الحل غير المبلغة وتهيئات العتاد والبذور العشوائية والتحقق الإحصائي — مما يحفز بروتوكولات موحدة بفترات ثقة ومحاسبة ذاكرة ومقارنات مُطبَّعة التكلفة مقابل أسس مضبوطة لا ضعيفة.
توفر الأمثلية القائمة على LLM توليد الاستدلالات والمساعدة في الصياغة، لكن تحديات الموثوقية تهيمن: معايير قابلة للتلوث وحساسية التوجيه وفك التشفير وقيود مهلوسة وجدوى غير متحقق منها تتطلب تحققًا تنفيذيًا واختبارات وحدات وتقارير سجلات الحل وتقييمًا ثابت النموذج والتوجيه مع محاسبة صريحة لتكلفة الاستدلال.
تشمل القيود الشاملة هشاشة تحول التوزيع وتكاليف الطاقة وزمن الاستجابة للمكونات المتعلمة الكبيرة وغياب شهادات الجدوى للنشر الحرج سلاميًا وقابلية إعادة الإنتاج تحت إصدارات النماذج المتغيرة — خاصة لنماذج LLM.
يجب أن تسعى الأعمال المستقبلية إلى: أمثلية واعية بالتعميم تنتقل عبر التمثيلات والأحجام والعائلات عبر التعلم الفوقي والنقلي والأمثلية الواعية بعدم اليقين؛ وأنظمة هجينة عصبية-رمزية معتمدة تجمع المكونات المتعلمة مع آليات دقيقة (برمجة القيود والبرمجة الصحيحة المختلطة والبحث المحلي والتحقق)؛ وتمثيلات عصبية ورسومية وهرمية متناثرة خفيفة مع أمثلية واعية بالعتاد؛ ومعايرة موحدة مقاومة للتلوث بالبذور وفترات الثقة وتطبيع التكلفة؛ وتقييم صارم لـLLM بتحقق تنفيذي وتحقق مؤسس على الحل؛ وربط أوثق بين نظرية التعقيد وضمانات المتانة وتصميم الحل العملي — متقاربةً نحو أنظمة هجينة قابلة للتوسع ومتينة وقابلة للتفسير والنشر تدمج التعلم العصبي والاستدلال الرمزي والأمثلية الدقيقة لا الحلول المتعلمة المستقلة.
فُحصت نقديًا في مراجعة تعلم الآلة للأمثلية التوافقية هذه الحلول العصبية الموجهة والتعلم المعزز وGNNs والميتا-استدلالات المعززة بالتعلم وخطوط التنبؤ-ثم-الأمثلية والتقنيات المستوحاة من الكم والتطبيقات الخاصة بالمجالات والبحوث النظرية والنهج الناشئة المعاناة بـLLM. وتُظهر الأدبيات تحولًا ملحوظًا بعيدًا عن الحلول العصبية الخالصة من طرف إلى طرف نحو الأنظمة الهجينة العصبية-الرمزية، التي تُكمِّل فيها المكونات المتعلمة تقنيات الأمثلية التقليدية مثل الميتا-استدلالات والبحث المحلي وكبير الجوار والبرمجة الصحيحة المختلطة وبرمجة القيود أو توجهها. وتعتمد جودة الحل المتعلم اليوم على تكامل الحل وانضباط المعايرة وصرامة التحقق بقدر اعتمادها على بنية النموذج — وسد الفجوات في التعميم والاعتماد وقابلية إعادة الإنتاج وموثوقية LLM يحدد المرحلة القادمة للميدان.
Combinatorial optimization is a key component in critical decision problems such as routing, scheduling, network design, and graph optimization. Although combinatorial optimization methods, including exact algorithms, approximation methods, constraint programming, mixed integer programming, and metaheuristics, are widely available, they often face obstacles, such as limited scalability and adaptability in various applications. In this study, a systematic critical review of machine learning for combinatorial optimization is provided to characterize the usage and evaluation of learning-based approaches. A detailed analysis is used to infer and determine findings and limitations. The paper emphasizes how machine learning for computational optimization has changed over time, moving from end-to-end neural solvers to hybrid systems. Learning components are essential for directing, speeding up, or enhancing traditional solver backbones such as constraint programming and metaheuristics in hybrid systems. The review also critically examines current limits that impact performance in general, including scalability, deployment readiness, generalization, and benchmark consistency. Even though using large language models for problem formulation and heuristic synthesis has potential, more work needs to be done to ensure reliable validation. As a conclusion, this article examines recent studies' findings, emphasizes the growing trend toward hybrid learning-driven optimization frameworks, and underlines important methodological limits and unresolved issues.
Despite rapid growth in machine learning, deep learning, and conceptual modeling approaches for combinatorial optimization (CO), the research field remains scattered across methodological themes — neural combinatorial optimization, reinforcement learning, graph neural networks, learning-augmented metaheuristics, predict-then-optimize pipelines, quantum-inspired methods, and emerging LLM-based heuristic synthesis. While existing studies frequently claim encouraging results on individual benchmarks, there is little critical synthesis of how approaches vary in scaling, generality, feasibility assurances, robustness, reproducibility, and practical implementation.
This review systematically maps and critically evaluates the development, methodological contributions, constraints, and future prospects of ML-based CO techniques. It characterizes how ML for CO has shifted over time from end-to-end neural solvers to hybrid systems in which learning components direct, accelerate, or enhance traditional solver backbones such as constraint programming and metaheuristics; it compares learning models and solver architectures across CO problem classes and application domains; and it critically examines limits on scalability, deployment readiness, generalization, and benchmark consistency, including the validation gaps of LLM-assisted heuristic synthesis.
Section 2 defines the PRISMA 2020 review protocol and research questions; Section 3 introduces the mathematical formulation of CO and learning-based solvers; Section 4 presents the literature review and critical synthesis across ten methodological themes; Section 5 discusses findings, trends, comparative analysis, and limitations; and Section 6 concludes.
The central research question is: what are the methodological contributions, limitations, and unresolved issues of ML, DL, and LLM-based approaches to combinatorial optimization? Sub-questions ask how to categorize current research efforts; which CO problem classes and application-specific domains dominate the literature; which learning models and solver architectures prevail; how ML-assisted CO compares against conventional metaheuristic optimization benchmarks; and what gaps persist in evaluation, generalization, and deployment.
A systematic PRISMA 2020 process was applied for a consistent, reproducible review: defining the review scope and research questions, searching highly reputable academic databases, refining results by title and abstract screening, applying explicit inclusion and exclusion criteria for full-manuscript retrieval, and thoroughly analyzing retrieved articles for methodology, empirical validity, scaling, reproducibility, and shortcomings. The yearly count of published articles across the covered period is visualized in the review's descriptive statistics.
Combinatorial optimization is the process of selecting an optimal discrete solution out of a defined set of feasible CO configurations, underlying routing, scheduling, assignment, packing, resource allocation, graph optimization, and selection problems across operations research, computer science, engineering, manufacturing, transportation, energy systems, and communication networks [1, 2, 9]. A generic CO problem is expressed as x* = argminx ∈ X f(x; I) in Eq. (1), where f(x; I) is the objective for instance I, x a discrete decision vector, and X the feasible set — encompassing the traveling salesman problem (TSP), vehicle routing (VRP), knapsack, Max-Cut, Set Cover, MAX-SAT, job-shop scheduling, machine scheduling, and resource allocation [4, 6, 10]. Many of these problems are NP-hard, so exact methods may require exponential time unless P = NP, driving CO toward exact algorithms, approximation methods, problem-specific heuristics, and metaheuristics [9, 10] — and increasingly toward machine learning as a tool for accelerating or guiding optimization.
In binary or mixed-integer linear programming form, the problem is minx cTx subject to Ax ≤ b with xj ∈ {0, 1} for j ∈ B and integer variables in Eq. (2) — the core classical structure for assignment, scheduling, routing, covering, packing, and network design [9]. This formulation matters for learning-based CO because many methods do not replace mathematical programming but assist it: estimating high-quality primal solutions, warm-starting solvers, choosing branching variables, predicting variable importance, learning limitations, or steering search [11, 12]. Recent ML-based CO solutions therefore adopt hybrid perspectives, integrating learned components with mixed-integer programming, constraint programming, large-neighborhood search, or metaheuristics [11, 13]. The canonical TSP — cities V = {1, …, n} with travel costs dij, binary edge variables xij, degree constraints, and subtour elimination — illustrates the compact formulations that learned heuristics must respect.
The review first consolidates prior surveys and foundational perspectives on neural combinatorial optimization, establishing the baseline from which end-to-end neural solvers evolved toward hybrid learning-driven frameworks.
The reward-oriented sequential decision-making structure of RL-for-CO sets it apart from supervised neural solvers: instead of mimicking annotated optimal solutions, the model learns policies through interaction with an optimization context. Casting discrete restrictions as sequential Markov decision processes (MDPs) lets value-driven and gradient-based policy models build solutions through repeated activities such as resource scheduling or TSP paths. RL offers a scalable approach for computationally exorbitant NP-hard fields via reward-driven heuristics without ground-truth labels. Representative works span diverse domains: sustainable virtual-machine assignment [28], scalable RL for VM rescheduling in cloud data centers [29], multi-faceted diversity-based Deep Q-Network scheduling for linked transportation manufacturing [30], multi-agent deep RL combined with constraint programming for adaptable job-market scheduling [31], DQN selection hyper-heuristics [32], pointer networks with supervised learning integrated with RL for Max-Cut [33], and Q-learning within a tri-stage proactive algorithm for decentralized adaptable job-market scheduling with worker factors [34] — exemplifying the broader shift to RL as a component rather than RL as the entire solver. Table 3 compares RL approaches by problem, RL formulation, model/solver integration, metrics, baselines, and critical limitations.
Graph neural networks and deep architectures are synthesized as the dominant representation backbone for CO: encoding graph-structured instances (TSP, VRP, Max-Cut) into learned embeddings that condition constructive heuristics, improvement operators, and branching or selection decisions, with critical attention to how message-passing scale and generalize across instance sizes and distributions.
Quantum, quantum-inspired, and Ising-machine methods are reviewed as alternative computational substrates for CO — mapping combinatorial objectives onto quantum or classical annealing dynamics — with critical appraisal of hardware maturity, problem-size limits, and fair comparison against classical and learned baselines.
ML-enhanced metaheuristics and hyper-heuristics form a major hybrid theme: learned models select operators, tune parameters, predict search trajectories, or generate heuristics within evolutionary, neighborhood-search, and hyper-heuristic frameworks, evaluated against conventional metaheuristic benchmarks.
Predict-then-optimize and end-to-end differentiable pipelines connect forecasting models with downstream optimization, propagating decision-aware losses so that prediction errors are weighted by their impact on solution quality rather than statistical accuracy alone.
Domain-specific applications — routing and logistics, scheduling and manufacturing, network design, energy systems, and cloud resource management — ground the methodological themes in deployment contexts, revealing which paradigms transfer across domains and which remain environment-specific.
Theoretical foundations and robustness analyses are examined for what guarantees learning-based CO can offer: approximation behavior, feasibility assurance, sensitivity to distribution shift, and the conditions under which learned components preserve solver correctness.
Large language models for CO are critically assessed for problem formulation and heuristic synthesis: while LLM-generated heuristics and solver code show promise, the review finds validation gaps — contamination risk, weak baselines, unreported inference cost, and missing solver-based feasibility verification — requiring rigorous, repeatable evaluation before deployment claims.
Synthesizing across themes, the review identifies persistent gaps: generalization across graph representations, instance sizes, and problem families; certified hybrid systems with feasibility and optimality guarantees; scalability of RL training, large-scale graph learning, and LLM inference; standardized, contamination-resistant benchmarking with cost-normalized evaluation; and tighter links between theoretical robustness analysis and practical solver design.
The literature shows a clear shift from standalone end-to-end neural solvers to hybrid neuro-symbolic systems in which learning components supplement or direct constraint programming, mixed-integer programming, local search, large-neighborhood search, and metaheuristics.
Descriptive trends — yearly publication counts, dominant problem classes (routing, scheduling, graph optimization), and prevailing model families — confirm rapid growth concentrated in RL, GNN, and recently LLM-assisted themes.
Cross-method comparison reveals complementary strengths: supervised neural solvers excel with abundant labels but generalize narrowly; RL scales without labels but trains expensively; GNNs encode structure naturally but message-passing costs grow with instance size; hybrid systems inherit solver guarantees at integration cost.
Evaluation suffers from inconsistent benchmark distributions, unreported solver time limits, hardware configurations, random seeds, and statistical validation — motivating standardized protocols with confidence intervals, memory accounting, and cost-normalized comparisons against tuned baselines rather than weak ones.
LLM-based optimization offers heuristic synthesis and formulation assistance, but reliability challenges dominate: contamination-prone benchmarks, prompt and decoding sensitivity, hallucinated constraints, and unverified feasibility demand executable validation, unit testing, solver-log reporting, and fixed-model, fixed-prompt assessment with explicit inference-cost accounting.
Cross-cutting limitations include distribution-shift fragility, energy and latency costs of large learned components, missing feasibility certificates for safety-critical deployment, and reproducibility under changing model versions — especially for LLM-driven paradigms.
Future work should pursue: generalization-aware optimization transferring across representations, sizes, and families via meta-learning, transfer learning, and uncertainty-aware methods; certified hybrid neuro-symbolic systems combining learned components with exact mechanisms (constraint programming, mixed-integer programming, local search, verification); scalable lightweight neural, graph, and sparse hierarchical representations with hardware-aware optimization; standardized contamination-resistant benchmarking with seeds, confidence intervals, and cost normalization; rigorous LLM evaluation with executable validation and solver-based verification; and tighter coupling of complexity theory and robustness guarantees with practical solver design — converging on scalable, robust, interpretable, deployable hybrid systems integrating neural learning, symbolic reasoning, and exact optimization rather than standalone learned solvers.
Supervised neural solvers, reinforcement learning, GNNs, learning-enhanced metaheuristics, predict-then-optimize pipelines, quantum-inspired techniques, domain-specific applications, theoretical research, and emerging LLM-assisted approaches were all critically examined in this review of machine learning for combinatorial optimization. The literature shows a noticeable shift away from purely end-to-end neural solvers toward hybrid neuro-symbolic systems, in which learned components supplement or direct traditional optimization techniques such as metaheuristics, local search, large-neighborhood search, mixed-integer programming, and constraint programming. Learning solution quality now depends as much on solver integration, benchmarking discipline, and validation rigor as on model architecture — and closing the gaps in generalization, certification, reproducibility, and LLM reliability defines the field's next phase.