تقدم تقنيات الذكاء الاصطناعي التوليدي (GenAI) مثل ChatGPT وBard إنجازات ملحوظة، ويُعد النموذج التوليدي العميق (DGM) فرعًا بارزًا في توليد البيانات النقطية كالصور والأصوات بفضل الدور القوي للشبكات العصبية العميقة (DNN) في الاستدلال والتعرف. ومن أشهر منهجي DGM: المحوّل التلقائي التبايني (VAE) وشبكة الخصومة التوليدية (GAN). ولكل من VAE وGAN مزاياه رغم اشتراكهما في الأساس الإحصائي والتعقيد عبر الطبقات المخفية، إذ يُعد VAE مولّد بيانات جيدًا بترميز البيانات عبر فكرة تباعد كولباك-لايبلر (Kullback–Leibler)، بينما تقيّم GAN موثوقية البيانات من حيث كونها حقيقية أو مزيفة.
يوحّد هذا البحث VAE وGAN في نموذج متماسك هو المحوّل التلقائي التبايني الخصومي (AVA) الذي يكمل فيه كل منهما الآخر، بهدف تحسين دقة النماذج التوليدية وتوسيع وظائف النماذج التوليدية البسيطة. وتركز المنهجية على الجمع بين المفاهيم الرياضية التطبيقية والتقنيات البرمجية الماهرة لحل المشكلات المعقدة بأبسط صورة ممكنة.
يُعد المحوّل التلقائي التبايني (VAE) وشبكة الخصومة التوليدية (GAN) أشهر منهجين للنماذج التوليدية العميقة (DGM) بدعم الشبكات العميقة [1]. يؤسس VAE — الذي وضعه Kingma وWelling [8] — ترميز البيانات عبر فضاء كامن احتمالي ينظمه تباعد كولباك-لايبلر، بينما تضع GAN — التي أسسها Goodfellow وآخرون [9] — مولّدًا في مواجهة مميّز يحكم على الحقيقي مقابل المزيف. وقد جمعت أعمال عدة بينهما: اعتبر Larsen وآخرون [2] فاكّ ترميز VAE مولّد GAN بهدف مجموع؛ وحوّل Mescheder وآخرون [3] مكسب VAE بتباعد KL إلى مكسب GAN عبر شبكة تمييز حقيقية القيمة مرتبطة بمعادلة ناش؛ ودمجهما Rosca وآخرون [4] بحيلة نسبة الكثافة؛ وربطهما Ahmad وآخرون [5] تسلسليًا لتصنيف أورام الدماغ.
ويختلف هذا البحث بدمج VAE وGAN بطريقة تبادلية متوازنة بدل صهر أحدهما في الآخر: فدالة التحسين المبنية تستبعد دالة هدف GAN التقليدية، وتُسقط المتغيرات غير المرتبطة بعد تحديد التدرجات، وتعيد استخدام البيانات المرمزة المعشاة z بدل بناء z′ عشوائية جديدة لحد GAN. كما تساهم الدراسة بتقنيات مشتقات ماهرة في خوارزمية الانتشار الخلفي. وتنظم الورقة في المنهجية والنتائج التجريبية والمناقشة والاستنتاجات.
تقترح الورقة دمج GAN في VAE لأن GAN لا ترمّز البيانات الأصلية — والترميز ضروري لتطبيقات مثل ضغط الصور والتعرف عليها — بينما يفتقر VAE لآلية تدقيق جودة البيانات المولدة. ومع بيانات أصلية x ببعد m وبيانات مرمزة z ببعد n (حيث m > n)، يكون مشفّر VAE هو f(x|Θ) = z وفاكّ الترميز g(z|Φ) = x′ شبكتين عميقتين، وجوهر VAE هو الخسارة lVAE(Θ, Φ) = ½‖x − x′‖² + KL(μ(x), Σ(x) | N(0, I)) في المعادلة (1) [8]. ويضيف AVA مميّزًا d(·|Ψ) يشرف على مخرج فاكّ الترميز x′، وفي المتغيرات المتوازنة مميّزًا ثانيًا D(·|Λ) يشرف على المتوسط المرمز μ(x) — وهي دالة التوازن BAVA(Θ, Λ) التي تقيّم موثوقية المشفّر.
وتُحدَّث المعاملات بقواعد تدرج مشتقة في الورقة: تتبع أوزان المشفّر Θ تدرج KL، وتتبع أوزان فاكّ الترميز Φ خطأ إعادة البناء إضافة إلى نسبة تقييم المميّز d′(d(x′|Ψ∗))/(1 − d(x′|Ψ∗))، بينما تقابل أوزان المميّز Ψ بين x الحقيقية وx′ المولدة. وتُعرَّف خمس نسخ من AVA: AVA1 (العادية بإشراف على فاكّ الترميز)، وAVA2 (AVA1 مع تحسين الميل الأمامي لفاكّ الترميز)، وAVA3 (إشراف على المشفّر عبر دالة التوازن)، وAVA4 (AVA3 مع مشفّر مائل)، وAVA5 (جميع الوظائف: إشراف فاكّ/مشفّر وميل فاكّ/مشفّر).
أُجريت التجربة على جهاز بذاكرة 4GB ونظام Windows 10 بلغة Java 15، ودُرّبت على 36 صورة رمادية بمقاس 100×64 بكسل (الشكل 5)، وقورنت AVA1–AVA5 مع VAE [8،10] وGAN [9] عبر تسعة معدلات تعلم باستخدام مقياس الجودة BM. ويعرض الجدول 2 قيم BM لكل معدل تعلم ويجملها الجدول 3: تحقق AVA5 أعلى متوسط BM وهو 0.2096 متجاوزة قطب GAN البالغ 0.2089؛ وتتفوق AVA1 (0.2093) وAVA2 (0.2092) أيضًا على GAN، بينما تسجل AVA3 أدنى متوسط BM وهو 0.1202 — قرب قطب التشابه في VAE البالغ 0.1207 — مما يجعلها أفضل نموذج عند اعتماد معيار جودة التشابه.
ويفسّر المؤلفون VAE وGAN كقطبين — جودة التشابه مقابل جودة التوازن — مع عائلة AVA التي تمتد بينهما وتتجاوزهما: فمتغيرات الإشراف على فاكّ الترميز (AVA1 وAVA2 وAVA5) تدفع جودة التوازن أبعد من GAN المنفردة، ويدفع AVA3 المشرف على المشفّر جودة التشابه إلى قطب VAE بل أبعد منه قليلًا. ويؤكد ذلك أطروحة أن ترميز VAE الموجه بتباعد KL وتدقيق GAN للحقيقي-مقابل-المزيف يتكاملان داخل نموذج موحد واحد بدل ربطهما أو صهرهما رياضيًا فقط [2-5].
تخلص الورقة إلى أن AVA أفضل من VAE وGAN التقليديتين بفضل دعم تباعد KL الذي يؤسس المشفّر ودالة التمييز المدمجة في GAN التي تدقق موثوقية البيانات. ويظل VAE وGAN نموذجين راسخين لا تحتاج أسسهما الرياضية إلى تغيير، لكن يمكن تحسينهما بالتعديل والدمج وتطبيقهما على أدوات محددة تبرز فيها نقاط قوتهما. ويعلن المؤلفون عدم وجود تضارب في المصالح.
ومن القيود الملاحظة الذاكرة: ففي تطبيقات الصور النقطية يستهلك VAE ذاكرة كبيرة لأن التوزيع الاحتمالي يمثل الصورة كاملة، بينما تمثل مناهج البكسل التكرارية حواصل توزيعات شرطية لكل بكسل وتتعامل أفضل مع استعادة المناطق المتضررة الصغيرة. وستطبق الأعمال المستقبلية منهج البكسل على AVA — بمعالجة الصور الكبيرة كتلة كتلة مع نمذجة كل كتلة بتوزيع شرطي يستخدم شبكة تكرارية مع ذاكرة طويلة قصيرة المدى (LSTM).
Generative artificial intelligence (GenAI) has been advancing with notable achievements like ChatGPT and Bard. The deep generative model (DGM) is a branch of GenAI, preeminent in generating raster data such as image and sound due to the strong role of deep neural networks (DNNs) in inference and recognition. Two popular approaches in DGM are the variational autoencoder (VAE) and generative adversarial network (GAN). Both VAE and GAN have their own strong points although they share the underlying theory of statistics, with VAE a good data generator by encoding data via Kullback–Leibler divergence and GAN an important method to assess data reliability as real or fake.
This research unifies VAE and GAN into a consistent model called the adversarial variational autoencoder (AVA) in which they complement each other, aiming to improve generative-model accuracy and extend the function of simple generative models. The methodology focuses on combining applied mathematical concepts with skillful programming techniques to solve complicated problems as simply as possible.
The variational autoencoder (VAE) and the generative adversarial network (GAN) are the two popular approaches for deep generative models (DGM) with DNN support [1]. VAE, founded by Kingma and Welling [8], encodes data through a probabilistic latent space regularized by Kullback–Leibler divergence, while GAN, founded by Goodfellow et al. [9], pits a generator against a discriminator that judges real versus fake. Several works have combined them: Larsen et al. [2] treated the VAE decoder as the GAN generator with a summed objective; Mescheder et al. [3] transformed the VAE gain with KL divergence into a GAN gain via a real-valued discrimination network tied to the Nash equilibrium; Rosca et al. [4] fused them with a density-ratio trick; and Ahmad et al. [5] chained a trained VAE into a GAN for brain-tumor classification.
This research differs by combining VAE and GAN in a mutual, balancing way rather than fusing one into the other: the constructed optimization excludes the traditional GAN target function, drops uncorrelated variables after gradient determination, and reuses the randomized encoded data z instead of constructing a new random z′ for the GAN term. The study also contributes skillful derivative techniques in the backpropagation algorithm. The paper is organized into methodology, experimental results and discussion, and conclusions.
The paper proposes incorporating GAN into VAE because GAN does not code original data — coding being essential for image compression and recognition — while VAE lacks a mechanism to audit generated-data quality. With original data x of dimension m and encoded data z of dimension n (m > n), the VAE encoder f(x|Θ) = z and decoder g(z|Φ) = x′ are DNNs, and the VAE essence is the loss lVAE(Θ, Φ) = ½‖x − x′‖² + KL(μ(x), Σ(x) | N(0, I)) in Equation (1) [8]. The AVA adds a discriminator d(·|Ψ) that supervises the decoder output x′ and, in balanced variants, a second discriminator D(·|Λ) that supervises the encoded mean μ(x) — the balance function BAVA(Θ, Λ) assessing encoder reliability.
Parameters are updated by gradient rules derived in the paper: the encoder weights Θ follow the KL gradient, the decoder weights Φ follow the reconstruction error plus the discriminator's assessment ratio d′(d(x′|Ψ∗))/(1 − d(x′|Ψ∗)), and the discriminator weights Ψ contrast real x against generated x′. Five AVA versions are defined: AVA1 (normal, decoder supervising), AVA2 (AVA1 plus leaning-forward decoder improvement), AVA3 (encoder supervising via the balance function), AVA4 (AVA3 plus leaning encoder), and AVA5 (all functions: decoder/encoder supervising plus leaning decoder/encoder).
The experiment, run on a 4 GB RAM Windows 10 machine with Java 15, trains on 36 grayscale images of 100×64 pixels (Figure 5) and compares AVA1–AVA5 against VAE [8,10] and GAN [9] across nine learning rates using the BM quality measure. Table 2 reports BM values per learning rate and Table 3 aggregates them: AVA5 achieves the highest BM mean of 0.2096, exceeding the GAN pole of 0.2089; AVA1 (0.2093) and AVA2 (0.2092) also beat GAN, while AVA3 records the lowest BM mean of 0.1202 — near the VAE similarity pole of 0.1207 — making it the best model when similarity quality is the criterion.
The authors interpret VAE and GAN as two poles — similarity quality versus balance quality — with the AVA family spanning and extending them: decoder-supervised variants (AVA1, AVA2, AVA5) push balance quality beyond standalone GAN, and the encoder-supervised AVA3 pushes similarity quality to the VAE pole and slightly beyond it. This confirms the thesis that VAE's KL-driven encoding and GAN's real-vs-fake auditing complement each other inside one consolidated model rather than merely being chained or fused mathematically [2–5].
The paper concludes that AVA is better than traditional VAE and GAN thanks to the KL-divergence support that establishes the encoder and GAN's built-in discriminator function that audits data reliability. VAE and GAN remain solid models whose mathematical foundations need not change, yet they can still be improved by modification, combination, and application to specific tools where their strengths play out. The authors declare no conflict of interest.
A noted limitation is memory: in raster-image applications VAE consumes much memory because a probabilistic distribution represents the entire image, whereas pixel-recurrent approaches model products of conditional distributions per pixel and handle small damaged-area recovery better. Future work will apply the pixel approach to AVA — processing big images block by block with each block modeled by a conditional distribution using a recurrent network with long short-term memory (LSTM).