توقُّع سعر صرف اليورو/الدولار باستخدام التنقيب عن النصوص والتعلم العميق: نهج PSO-LSTM

جدول المحتويات

1. المقدمة والنظرة العامة

يقدم هذا البحث إطارًا هجينًا مبتكرًا للتنبؤ بسعر صرف اليورو/الدولار، معالجةً فجوة حرجة في النماذج الكمية التقليدية من خلال دمج البيانات النصية النوعية. يكمن الابتكار الأساسي في الجمع بين تقنيات معالجة اللغة الطبيعية المتقدمة - تحديدًا تحليل المشاعر عبر RoBERTa-Large ونمذجة المواضيع باستخدام التوزيع الديريشلي الكامن (LDA) - مع محرك تنبؤي للتعلم العميق قائم على شبكات الذاكرة طويلة المدى قصيرة المدى (LSTM). تم تحسين المعلمات الفائقة للنموذج بشكل أكبر باستخدام تحسين سرب الجسيمات (PSO)، مما يخلق نظام تنبؤ قويًا وقائمًا على البيانات يُطلق عليه اسم PSO-LSTM.

الهدف الأساسي للدراسة هو إثبات أن دمج البيانات النصية غير المنظمة في الوقت الفعلي من الأخبار والتحليلات المالية يعزز دقة التنبؤ بشكل كبير مقارنة بالنماذج التي تعتمد فقط على بيانات الأسعار التاريخية. وبذلك، يلتقط المشاعر السائدة في السوق والمحركات المواضيعية التي غالبًا ما تسبق تحركات العملات.

2. المنهجية والإطار

تتبع المنهجية المقترحة خط أنابيب منظم من تجميع البيانات متعددة المصادر إلى التنبؤ النهائي.

2.1 جمع البيانات والمعالجة المسبقة

البيانات الكمية: تم جمع أسعار صرف اليورو/الدولار التاريخية اليومية، بما في ذلك سعر الافتتاح، الأعلى، الأدنى، الإغلاق، والحجم. تم اشتقاق المؤشرات الفنية (مثل المتوسطات المتحركة، RSI) كميزات.

البيانات النصية النوعية: تم جمع مجموعة من مقالات الأخبار المالية وتقارير تحليل السوق المتعلقة باقتصادات منطقة اليورو والولايات المتحدة من مصادر موثوقة. تم تنظيف النص وتجزئته وإعداده لتحليل معالجة اللغة الطبيعية.

2.2 التنقيب عن النصوص وهندسة الميزات

تحليل المشاعر: تم ضبط النموذج المُدرَّب مسبقًا RoBERTa-Large على مجموعة بيانات المشاعر المالية لتصنيف مشاعر كل مقالة إخبارية (إيجابية، سلبية، محايدة) وإخراج درجة مشاعر مستمرة. وهذا يوفر مقياسًا كميًا للمزاج السائد في السوق.

نمذجة المواضيع: تم تطبيق التوزيع الديريشلي الكامن (LDA) على مجموعة النصوص لتحديد المواضيع الكامنة (مثل "سياسة البنك المركزي الأوروبي"، "التضخم الأمريكي"، "المخاطر الجيوسياسية"). أصبح توزيع المواضيع لكل وثيقة والكلمات المفتاحية الرئيسية للموضوع ميزات إضافية، تلتقط السياق الموضوعي للأخبار.

متجه الميزات النهائي لكل خطوة زمنية $t$ هو عملية تسلسل: $\mathbf{X}_t = [\mathbf{P}_t, S_t, \mathbf{T}_t]$، حيث $\mathbf{P}_t$ هي الميزات الكمية/الفنية، $S_t$ هي درجة المشاعر، و$\mathbf{T}_t$ هو متجه توزيع الموضوع.

2.3 بنية نموذج PSO-LSTM

نموذج التنبؤ هو شبكة LSTM، تم اختيارها لقدرتها على نمذجة التبعيات طويلة المدى في البيانات المتسلسلة. يمكن تلخيص عمل خلية LSTM في الوقت $t$ من خلال:

$\begin{aligned} \mathbf{f}_t &= \sigma(\mathbf{W}_f \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_f) \\ \mathbf{i}_t &= \sigma(\mathbf{W}_i \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_i) \\ \tilde{\mathbf{C}}_t &= \tanh(\mathbf{W}_C \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_C) \\ \mathbf{C}_t &= \mathbf{f}_t * \mathbf{C}_{t-1} + \mathbf{i}_t * \tilde{\mathbf{C}}_t \\ \mathbf{o}_t &= \sigma(\mathbf{W}_o \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_o) \\ \mathbf{h}_t &= \mathbf{o}_t * \tanh(\mathbf{C}_t) \end{aligned}$

حيث $\mathbf{x}_t$ هو متجه ميزات الإدخال $\mathbf{X}_t$، $\mathbf{h}_t$ هي الحالة المخفية، $\mathbf{C}_t$ هي حالة الخلية، و$\sigma$ هي دالة السيجمويد.

تحسين سرب الجسيمات (PSO) تم استخدامه لتحسين المعلمات الفائقة الحرجة لـ LSTM (مثل عدد الطبقات، الوحدات المخفية، معدل التعلم، معدل الإسقاط). يبحث PSO في فضاء المعلمات الفائقة من خلال محاكاة السلوك الاجتماعي لسرب الطيور، حيث يحسن الحلول المرشحة (الجسيمات) بشكل تكراري بناءً على أفضل المواضع المعروفة للجسيم نفسه والسرب. وهذا يؤدي إلى أتمتة وتعزيز عملية الضبط مقارنة بالبحث اليدوي أو الشبكي.

3. النتائج التجريبية والتحليل

3.1 مقارنة مع النماذج القياسية

تم تقييم نموذج PSO-LSTM مقابل عدة نماذج قياسية راسخة: آلة المتجهات الداعمة (SVM)، انحدار المتجهات الداعمة (SVR)، ARIMA، وGARCH. تم قياس الأداء باستخدام مقاييس قياسية: متوسط الخطأ المطلق (MAE)، جذر متوسط مربع الخطأ (RMSE)، ومتوسط الخطأ النسبي المطلق (MAPE).

وصف الرسم البياني (المتخيل): سيظهر مخطط شريطي بعنوان "مقارنة أداء التنبؤ (RMSE)" أن شريط PSO-LSTM أقصر بشكل ملحوظ (خطأ أقل) من جميع النماذج القياسية. سيظهر مخطط خطي يظهر أسعار اليورو/الدولار الفعلية مقابل المتوقعة أن خط تنبؤ PSO-LSTM يتبع حركة السعر الفعلية عن كثب، بينما تظهر خطوط النماذج الأخرى انحرافًا أكبر، خاصة حول الفترات المتقلبة التي تتزامن مع أحداث إخبارية كبرى.

النتيجة الرئيسية: تفوق نموذج PSO-LSTM باستمرار على جميع النماذج القياسية عبر جميع مقاييس الخطأ، مما يظهر القوة التنبؤية المتفوقة للنهج المتكامل للنص والكميات.

3.2 نتائج دراسة الإزالة

لعزل مساهمة كل مكون بيانات، تم إجراء دراسات إزالة:

• النموذج أ: LSTM مع ميزات كمية فقط (خط الأساس).
• النموذج ب: LSTM مع ميزات كمية + مشاعر.
• النموذج ج: LSTM مع ميزات كمية + مواضيع.
• النموذج د (الكامل): PSO-LSTM مع جميع الميزات (كمية + مشاعر + مواضيع).

النتيجة: حقق النموذج د (الكامل) أقل خطأ. أداء كل من النموذج ب والنموذج ج كان أفضل من نموذج خط الأساس أ، مما يثبت أن معلومات المشاعر والمواضيع تضيف قيمة. كان التحسن في الأداء من إضافة المواضيع أكبر قليلاً من إضافة المشاعر وحدها في هذه الدراسة، مما يشير إلى أن السياق الموضوعي هو إشارة قوية.

4. الغوص التقني العميق

4.1 الصياغة الرياضية

يتم صياغة مشكلة التنبؤ الأساسية على أنها التنبؤ بعائد سعر الصرف للفترة التالية $y_{t+1}$ بمعلومية تسلسل من متجهات الميزات السابقة: $\hat{y}_{t+1} = f(\mathbf{X}_{t-n:t}; \mathbf{\Theta})$، حيث $f$ هو نموذج PSO-LSTM المُعَلم بواسطة $\mathbf{\Theta}$، و$\mathbf{X}_{t-n:t}$ هو نافذة الميزات بطول $n$.

يحسن خوارزمية PSO المعلمات الفائقة $\mathbf{\Phi}$ (مجموعة فرعية من $\mathbf{\Theta}$) عن طريق تقليل خطأ التنبؤ على مجموعة التحقق. كل جسيم $i$ له موضع $\mathbf{\Phi}_i$ وسرعة $\mathbf{V}_i$. معادلات تحديثهما هي:

$\begin{aligned} \mathbf{V}_i^{k+1} &= \omega \mathbf{V}_i^k + c_1 r_1 (\mathbf{P}_{best,i} - \mathbf{\Phi}_i^k) + c_2 r_2 (\mathbf{G}_{best} - \mathbf{\Phi}_i^k) \\ \mathbf{\Phi}_i^{k+1} &= \mathbf{\Phi}_i^k + \mathbf{V}_i^{k+1} \end{aligned}$

حيث $\omega$ هي القصور الذاتي، $c_1, c_2$ معاملات التسارع، $r_1, r_2$ أرقام عشوائية، $\mathbf{P}_{best,i}$ هو أفضل موضع للجسيم، و$\mathbf{G}_{best}$ هو أفضل موضع عالمي للسرب.

4.2 مثال على إطار التحليل

السيناريو: التنبؤ بحركة اليورو/الدولار ليوم التداول التالي.

الخطوة 1 - جلب البيانات: يستوعب النظام سعر الإغلاق، ويحسب المتوسط المتحرك لـ 10 أيام، وRSI (كمي). في الوقت نفسه، يجلب آخر 50 عنوانًا إخباريًا من واجهات برمجة التطبيقات المالية المحددة مسبقًا.

الخطوة 2 - معالجة النصوص:

• خط أنابيب المشاعر: يتم تغذية العناوين في نموذج RoBERTa-Large المُضبوط. الإخراج: متوسط درجة المشاعر اليومية = -0.65 (سلبي معتدل).
• خط أنابيب المواضيع: يتم معالجة العناوين بواسطة نموذج LDA المُدرَّب. الإخراج: الموضوع المسيطر = "السياسة النقدية" (وزن 60%)، مع الكلمات المفتاحية الرئيسية: "البنك المركزي الأوروبي"، "لاغارد"، "أسعار الفائدة"، "صقري".

الخطوة 3 - إنشاء متجه الميزات: التسلسل: `[سعر_الإغلاق=1.0850، المتوسط_المتحرك_10=1.0820، RSI=45، درجة_المشاعر=-0.65، وزن_الموضوع_السياسة_النقدية=0.60، ...]`.

الخطوة 4 - التنبؤ: يتم تغذية متجه الميزات في نموذج PSO-LSTM المُدرَّب. النموذج، بعد أن تعلم أنماطًا مثل "المشاعر السلبية + موضوع 'البنك المركزي الأوروبي الصقري' غالبًا ما يسبق تقوية اليورو"، يُخرج عائدًا متوقعًا.

الخطوة 5 - الإخراج: يتوقع النموذج زيادة بنسبة +0.3% في اليورو/الدولار لليوم التالي.

5. التطبيقات المستقبلية والاتجاهات

الإطار قابل للتمديد بشكل كبير. تشمل الاتجاهات المستقبلية:

• التنبؤ في الوقت الفعلي: نشر النموذج في بنية تدفق للتنبؤات داخل اليوم باستخدام موجزات الأخبار عالية التردد وبيانات التجزئة.
• الأصول المتعددة وأزواج العملات المتقاطعة: تطبيق نفس المنهجية للتنبؤ بأزواج العملات الرئيسية الأخرى (مثل GBP/USD، USD/JPY) أو حتى أسعار العملات المشفرة، والتي تشتهر بأنها مدفوعة بالمشاعر.
• دمج البيانات البديلة: دمج إشارات من وسائل التواصل الاجتماعي (مثل مشاعر تويتر/X)، نصوص خطابات البنوك المركزية التي تم تحليلها باستخدام نماذج اللغة الكبيرة المتقدمة، أو بيانات صور الأقمار الصناعية للنشاط الاقتصادي، متابعةً للاتجاهات الموجودة في أبحاث صناديق التحوط.
• بنية متقدمة: استبدال LSTM القياسي بمتغيرات أكثر تطوراً مثل النماذج القائمة على المحولات (مثل محولات الاندماج الزمني) أو النماذج الهجينة CNN-LSTM لالتقاط الأنماط المكانية في الميزات والتبعيات الزمنية.
• الذكاء الاصطناعي القابل للتفسير (XAI): دمج أدوات مثل SHAP أو LIME لتفسير قرارات النموذج، وتحديد أي موضوعات إخبارية محددة أو تحولات في المشاعر كانت الأكثر تأثيرًا على تنبؤ معين، وهو أمر بالغ الأهمية لكسب الثقة في التطبيقات المالية.

6. المراجع

1. Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural computation.
2. Kennedy, J., & Eberhart, R. (1995). Particle swarm optimization. Proceedings of ICNN'95.
3. Liu, Y., et al. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692.
4. Blei, D. M., Ng, A. Y., & Jordan, M. I. (2003). Latent Dirichlet allocation. Journal of machine Learning research.
5. Box, G. E. P., Jenkins, G. M., & Reinsel, G. C. (2008). Time Series Analysis: Forecasting and Control. Wiley.
6. Vaswani, A., et al. (2017). Attention is All You Need. Advances in Neural Information Processing Systems.
7. Investopedia. (2023). Foreign Exchange Market (Forex). Retrieved from investopedia.com.
8. European Central Bank & Federal Reserve Economic Data (FRED) – as representative sources for fundamental data.

7. المراجعة النقدية للمحلل