Utabiri wa Mabadiliko ya Thamani ya Sarafu EUR/USD Kupitia Uchimbaji wa Maandishi na Ujifunzaji wa Kina: Mbinu ya PSO-LSTM

Yaliyomo

1. Utangulizi na Muhtasari

Utafiti huu unawasilisha mfumo mpya wa mchanganyiko kwa kutabiri mabadiliko ya thamani ya sarafu EUR/USD, ukishughulikia pengo muhimu katika miundo ya jadi ya kiasi kwa kuunganisha data ya maandishi ya ubora. Uvumbuzi mkuu upo katika kuunganisha mbinu za hali ya juu za Usindikaji wa Lugha ya Asili (NLP)—hasa uchambuzi wa hisia kupitia RoBERTa-Large na uundaji wa mada kwa kutumia Usambazaji wa Dirichlet Fichwa (LDA)—pamoja na injini ya utabiri ya ujifunzaji wa kina inayotegemea mitandao ya Kumbukumbu ya Muda Mfupi-Mrefu (LSTM). Vigezo vya juu vya mfano vimeboreshwa zaidi kwa kutumia Uboreshaji wa Swamu ya Chembe (PSO), na kuunda mfumo thabiti, unaoongozwa na data wa utabiri unaoitwa PSO-LSTM.

Lengo kuu la utafiti ni kuonyesha kwamba kujumuisha data ya maandishi isyo na muundo ya wakati halisi kutoka kwa habari na uchambuzi wa kifedha huongeza kwa kiasi kikubwa usahihi wa utabiri ikilinganishwa na miundo inayotegemea tu data ya kihistoria ya bei. Kwa kufanya hivyo, inashika hisia za soko na vichocheo vya mada ambavyo mara nyingi hukababidi mienendo ya sarafu.

Mfano Mkuu

LSTM Iliyoboreshwa na PSO

Injini ya NLP

RoBERTa-Large & LDA

Muunganiko wa Data

Kiasi + Maandishi

2. Mbinu na Mfumo wa Kazi

Mbinu iliyopendekezwa inafuata mfuatano uliopangwa kutoka kwa mkusanyiko wa data kutoka vyanzo mbalimbali hadi utabiri wa mwisho.

2.1 Ukusanyaji na Utayarishaji wa Data

Data ya Kiasi: Mabadiliko ya kihistoria ya kila siku ya thamani ya sarafu EUR/USD, ikiwa ni pamoja na bei ya kufungulia, ya juu, ya chini, ya kufunga, na kiasi cha mauzo, yalikusanywa. Viashiria vya kiufundi (k.m., wastani wa kusonga, RSI) vilipatikana kama vipengele.

Data ya Maandishi ya Ubora: Mkusanyiko wa makala za habari za kifedha na ripoti za uchambuzi wa soko zinazohusiana na uchumi wa Jumuiya ya Ulaya na Marekani ulichimbwa kutoka kwa vyanzo vya kuaminika. Maandishi yalisafishwa, kugawiwa maneno, na kutayarishwa kwa uchambuzi wa NLP.

2.2 Uchimbaji wa Maandishi na Uundaji wa Vipengele

Uchambuzi wa Hisia: Mfano uliofunzwa awali wa RoBERTa-Large uliboreshwa kwenye seti ya data ya hisia za kifedha ili kuainisha hisia za kila makala ya habari (chanya, hasi, wastani) na kutoa alama ya hisia inayoendelea. Hii hutoa kipimo cha kiasi cha hali ya soko.

Uundaji wa Mada: Usambazaji wa Dirichlet Fichwa (LDA) ulitumika kwenye mkusanyiko wa maandishi kutambua mada zilizofichwa (k.m., "Sera ya ECB," "Mfumuko wa Bei wa Marekani," "Hatari ya Kijeshi na Kisiasa"). Usambazaji wa mada kwa kila hati na maneno muhimu ya mada ukawa vipengele vya ziada, vikishika muktadha wa mada wa habari.

Vekta ya mwisho ya kipengele kwa kila hatua ya wakati $t$ ni muunganiko: $\mathbf{X}_t = [\mathbf{P}_t, S_t, \mathbf{T}_t]$, ambapo $\mathbf{P}_t$ ni vipengele vya kiasi/kiufundi, $S_t$ ni alama ya hisia, na $\mathbf{T}_t$ ni vekta ya usambazaji wa mada.

2.3 Muundo wa Mfano wa PSO-LSTM

Mfano wa utabiri ni mtandao wa LSTM, uliochaguliwa kwa uwezo wake wa kuiga utegemezi wa muda mrefu katika data ya mfuatano. Uendeshaji wa seli ya LSTM kwa wakati $t$ unaweza kufupishwa na:

$\begin{aligned} \mathbf{f}_t &= \sigma(\mathbf{W}_f \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_f) \\ \mathbf{i}_t &= \sigma(\mathbf{W}_i \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_i) \\ \tilde{\mathbf{C}}_t &= \tanh(\mathbf{W}_C \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_C) \\ \mathbf{C}_t &= \mathbf{f}_t * \mathbf{C}_{t-1} + \mathbf{i}_t * \tilde{\mathbf{C}}_t \\ \mathbf{o}_t &= \sigma(\mathbf{W}_o \cdot [\mathbf{h}_{t-1}, \mathbf{x}_t] + \mathbf{b}_o) \\ \mathbf{h}_t &= \mathbf{o}_t * \tanh(\mathbf{C}_t) \end{aligned}$

Ambapo $\mathbf{x}_t$ ni vekta ya kipengele cha pembejeo $\mathbf{X}_t$, $\mathbf{h}_t$ ni hali iliyofichwa, $\mathbf{C}_t$ ni hali ya seli, na $\sigma$ ni kitendakazi cha sigmoid.

Uboreshaji wa Swamu ya Chembe (PSO) ulitumika kuboresha vigezo muhimu vya juu vya LSTM (k.m., idadi ya tabaka, vitengo vilivyofichwa, kiwango cha kujifunza, kiwango cha kushuka). PSO hutafuta nafasi ya vigezo vya juu kwa kuiga tabia ya kijamii ya kundi la ndege, kuboresha mara kwa mara suluhisho zinazowezekana (chembe) kulingana na nafasi zao bora zinazojulikana na za swamu. Hii inaendesha na kuboresha mchakato wa usawazishaji ikilinganishwa na utafutaji wa mikono au wa gridi.

3. Matokeo ya Utafiti na Uchambuzi

3.1 Ulinganisho na Miundo ya Kigezo

Mfano wa PSO-LSTM ulitathminiwa dhidi ya viwango kadhaa vilivyowekwa: Mashine ya Vekta ya Usaidizi (SVM), Urejeshaji wa Vekta ya Usaidizi (SVR), ARIMA, na GARCH. Utendaji ulipimwa kwa kutumia viwango vya kawaida: Hitilafu ya Wastani Kamili (MAE), Hitilafu ya Mzizi wa Wastani wa Mraba (RMSE), na Hitilafu ya Asilimia ya Wastani Kamili (MAPE).

Maelezo ya Chati (Yaliyodhaniwa): Chati ya mihimili yenye kichwa "Ulinganisho wa Utendaji wa Utabiri (RMSE)" ingeonyesha mhimili wa PSO-LSTM mfupi zaidi (hitilafu ya chini) kuliko miundo yote ya kigezo. Chati ya mstari inayopamba juu ya viwango halisi dhidi ya vilivyotabiriwa vya EUR/USD ingeonyesha mstari wa utabiri wa PSO-LSTM ukifuatilia kwa karibu mwendo halisi, huku mistari ya miundo mingine ikionyesha upotovu mkubwa zaidi, hasa karibu na vipindi vya kutokuwa thabiti vinavyolingana na matukio makuu ya habari.

Uvumbuzi Muhimu: Mfano wa PSO-LSTM ulishinda kila wakati miundo yote ya kigezo katika vipimo vyote vya hitilafu, na kuonyesha nguvu bora ya utabiri ya mbinu iliyojumuishwa ya maandishi-kiasi.

3.2 Matokeo ya Utafiti wa Kutenganisha Vipengele

Ili kutenganisha mchango wa kila sehemu ya data, utafiti wa kutenganisha vipengele ulifanywa:

Mfano A: LSTM na vipengele vya kiasi pekee (msingi).
Mfano B: LSTM na vipengele vya kiasi + hisia.
Mfano C: LSTM na vipengele vya kiasi + mada.
Mfano D (Kamili): PSO-LSTM na vipengele vyote (kiasi + hisia + mada).

Matokeo: Mfano D (Kamili) ulipata hitilafu ya chini kabisa. Mfano B na Mfano C wote walifanya vizuri kuliko Mfano A wa msingi, na kuthibitisha kwamba habari zote za hisia na mada zinaongeza thamani. Faida ya utendaji kutokana na kuongeza mada ilikuwa kubwa kidogo kuliko kuongeza hisia pekee katika utafiti huu, na kuonyesha kwamba muktadha wa mada ni ishara yenye nguvu.

4. Uchambuzi wa Kina wa Kiufundi

4.1 Uundaji wa Kihisabati

Tatizo kuu la utabiri limeundwa kama kutabiri mabadiliko ya thamani ya sarafu ya kipindi kijacho $y_{t+1}$ ikizingatiwa mfuatano wa vekta za vipengele vya zamani: $\hat{y}_{t+1} = f(\mathbf{X}_{t-n:t}; \mathbf{\Theta})$, ambapo $f$ ni mfano wa PSO-LSTM uliowekwa vigezo na $\mathbf{\Theta}$, na $\mathbf{X}_{t-n:t}$ ni dirisha la kipengele la urefu $n$.

Algoriti ya PSO huboresha vigezo vya juu $\mathbf{\Phi}$ (sehemu ndogo ya $\mathbf{\Theta}$) kwa kupunguza hitilafu ya utabiri kwenye seti ya uthibitishaji. Kila chembe $i$ ina nafasi $\mathbf{\Phi}_i$ na kasi $\mathbf{V}_i$. Milinganyo yao ya sasisho ni:

$\begin{aligned} \mathbf{V}_i^{k+1} &= \omega \mathbf{V}_i^k + c_1 r_1 (\mathbf{P}_{best,i} - \mathbf{\Phi}_i^k) + c_2 r_2 (\mathbf{G}_{best} - \mathbf{\Phi}_i^k) \\ \mathbf{\Phi}_i^{k+1} &= \mathbf{\Phi}_i^k + \mathbf{V}_i^{k+1} \end{aligned}$

ambapo $\omega$ ni uvivu, $c_1, c_2$ ni mgawo wa kasi, $r_1, r_2$ ni nambari za nasibu, $\mathbf{P}_{best,i}$ ni nafasi bora ya chembe, na $\mathbf{G}_{best}$ ni nafasi bora ya kimataifa ya swamu.

4.2 Mfano wa Mfumo wa Uchambuzi

Hali: Kutabiri mwendo wa EUR/USD kwa siku inayofuata ya biashara.

Hatua ya 1 - Kuchota Data: Mfumo unachukua bei ya kufunga, huhesabu SMA ya siku 10, RSI (kiasi). Wakati huo huo, unachota vichwa 50 vya hivi karibuni vya habari kutoka kwa API za kifedha zilizobainishwa awali.

Hatua ya 2 - Usindikaji wa Maandishi:

Mfuatano wa Hisia: Vichwa vya habari vinapelekwa kwenye mfano ulioboreshwa wa RoBERTa-Large. Matokeo: Alama ya wastani ya hisia ya kila siku = -0.65 (hasi wastani).
Mfuatano wa Mada: Vichwa vya habari husindikwa na mfano uliofunzwa wa LDA. Matokeo: Mada kuu = "Sera ya Fedha" (uzito 60%), na maneno muhimu ya juu: "ECB," "lagarde," "viwango vya riba," "mkali."

Hatua ya 3 - Uundaji wa Vekta ya Kipengele: Unganisha: `[Close_Price=1.0850, SMA_10=1.0820, RSI=45, Sentiment_Score=-0.65, Topic_Weight_MonetaryPolicy=0.60, ...]`.

Hatua ya 4 - Utabiri: Vekta ya kipengele inapelekwa kwenye mfano uliofunzwa wa PSO-LSTM. Mfano, baada ya kujifunza muundo kama "hasi + mada ya 'ECB mkali' mara nyingi hukababidi kuimarika kwa Euro," hutoa mabadiliko yaliyotabiriwa.

Hatua ya 5 - Matokeo: Mfano unatabiri ongezeko la +0.3% katika EUR/USD kwa siku inayofuata.

5. Matumizi ya Baadaye na Mwelekeo

Mfumo huu unaweza kupanuliwa kwa urahisi. Mwelekeo wa baadaye ni pamoja na:

Utabiri wa Wakati Halisi: Kutumia mfano huu katika usanifu wa mtiririko kwa utabiri wa ndani ya siku kwa kutumia milisho ya habari ya mzunguko wa juu na data ya tikiti.
Mali Nyingi na Jozi za Sarafu Zilizovukia: Kutumia mbinu hiyo hiyo kutabiri jozi zingine kuu za FX (k.m., GBP/USD, USD/JPY) au hata viwango vya sarafu za kidijitali, ambavyo vinajulikana kuwa vinaongozwa na hisia.
Ujumuishaji wa Data Mbadala: Kujumuisha ishara kutoka kwa mitandao ya kijamii (k.m., hisia za Twitter/X), nakala za hotuba za benki kuu zilizochambuliwa na LLM za hali ya juu, au data ya picha za satelaiti kwa shughuli za kiuchumi, kufuatia mienendo inayoonekana katika utafiti wa hazina.
Usanifu wa Hali ya Juu: Kubadilisha LSTM ya kawaida na aina za kisasa zaidi kama vile miundo inayotegemea Transformer (k.m., Vigeugeu vya Muunganisho wa Muda) au miundo mseto ya CNN-LSTM ili kushika muundo wa anga katika vipengele na utegemezi wa muda.
Akili Bandia Inayoweza Kuelezewa (XAI): Kujumuisha zana kama SHAP au LIME kufasiri maamuzi ya mfano, kutambua ni mada gani maalum za habari au mabadiliko ya hisia yaliyoathiri zaidi utabiri fulani, jambo muhimu kwa kupata imani katika matumizi ya kifedha.

6. Marejeo

Hochreiter, S., & Schmidhuber, J. (1997). Long short-term memory. Neural computation.
Kennedy, J., & Eberhart, R. (1995). Particle swarm optimization. Proceedings of ICNN'95.
Liu, Y., et al. (2019). RoBERTa: A Robustly Optimized BERT Pretraining Approach. arXiv preprint arXiv:1907.11692.
Blei, D. M., Ng, A. Y., & Jordan, M. I. (2003). Latent Dirichlet allocation. Journal of machine Learning research.
Box, G. E. P., Jenkins, G. M., & Reinsel, G. C. (2008). Time Series Analysis: Forecasting and Control. Wiley.
Vaswani, A., et al. (2017). Attention is All You Need. Advances in Neural Information Processing Systems.
Investopedia. (2023). Foreign Exchange Market (Forex). Imepatikana kutoka investopedia.com.
Benki Kuu ya Ulaya & Data ya Kiuchumi ya Federal Reserve (FRED) – kama vyanzo vya kuwakilisha kwa data ya msingi.

7. Ukaguzi Mkali wa Mchambuzi

Uelewa Mkuu

Karatasi hii sio tu uboreshaji mdogo zaidi katika utabiri wa kifedha; ni uthibitisho wa kanuni muhimu ya soko: bei ni kiashiria cha kuchelewa cha mtiririko wa habari. Waandishi wamefanikiwa kutekeleza wazo kwamba "kwa nini" nyuma ya mwendo (iliyoshikwa kwenye maandishi) hukababidi "nini" (mwendo wa bei yenyewe). Ujumuishaji wao wa RoBERTa-Large na LDA unapita zaidi ya upande rahisi wa hisia, ukishika muktadha wa kina wa mada—hapa ndipo alpha halisi iko. Ni changamoto ya moja kwa moja kwa miundo ya kiasi tu, inayofuata bei ambayo inatawala uwanja huu.

Mtiririko wa Mantiki

Mantiki ya utafiti ni sahihi na inaonyesha usanifu wa kisasa wa mfuatano wa AI. Inaanza na tatizo wazi (data ya kiasi isiyokamilika), inapendekeza suluhisho la aina nyingi (maandishi + nambari), inatumia zana za hali ya juu za kila aina (RoBERTa kwa hisia, LDA kwa mada, LSTM kwa mfuatano), na inatumia uboreshaji wa meta (PSO) kusawazisha mfumo. Utafiti wa kutenganisha vipengele unastahiki sana; haidai tu kwamba mfano kamili unafanya kazi vizuri lakini pia unachambua kwa nini, na kuonyesha kwamba mada za mada (k.m., "Sera ya ECB") zilitabiri zaidi kuliko hisia za jumla pekee. Hii inaonyesha kwamba mfano unajifunza vichocheo vya msingi, sio tu hali ya hisia.

Nguvu na Mapungufu

Nguvu: Ukali wa mbinu ni mkubwa. Kutumia LLM iliyofunzwa awali kama RoBERTa na kuiboresha ni thabiti zaidi kuliko kutumia mbinu rahisi ya hisia inayotegemea kamusi, kama ilivyodhihirishwa katika tafiti kutoka Journal of Financial Data Science. Matumizi ya PSO kwa usawazishaji wa vigezo vya juu ni mguso wa vitendo na wenye ufanisi, unaoendesha hatua inayouma sana katika ujifunzaji wa kina. Mfumo huu una moduli kwa ustadi—kizuizi cha uchimbaji wa maandishi kinaweza kubadilishwa kadiri teknolojia ya NLP inavyokua.

Mapungufu na Mapengo: Jambo kubwa linalojitokeza ni kuchelewa na upendeleo wa kuishi katika data ya habari. Karatasi hii haizungumzii kuhusu kuwekewa muhuri wa wakati wa habari ikilinganishwa na mabadiliko ya bei. Ikiwa habari inachimbwa kutoka kwa wakusanyaji ambao wamechelewa dakika au masaa, ishara ya "utabiri" ni ya uwongo. Hii ni shida ya kawaida inayotajwa katika ukosoaji wa miundo ya biashara ya kitaaluma. Zaidi ya hayo, mfano umekaguliwa katika mazingira yaliyodhibitiwa, yaliyojaribiwa nyuma. Jaribio halisi ni utumizi wa moja kwa moja ambapo muundo mdogo wa soko, gharama za manunuzi, na athari inayowezekana ya mfano yenyewe kwenye soko huingia. Pia hakuna majadiliano ya gharama ya kompyuta ya kuendesha RoBERTa-Large kwa wakati halisi, ambayo sio ndogo.

Uelewa Unaoweza Kutekelezwa

Kwa wataalamu wa kiasi na wasimamizi wa mali, hitimisho ni tatu: 1) Kipaumbele kwa Ishara za Mada: Usikome kwenye hisia; wekeza katika mifuatano ya uundaji wa mada na uchimbaji wa matukio ili kutambua vichocheo maalum. 2) Usanifu wa Kasi: Matumizi ya ulimwengu halisi ya utafiti huu yanahitaji miundombinu ya data ya kuchelewa chini ambayo inaweza kusindika habari na kutoa utabiri katika muda wa chini ya sekunde ili kuweza kutekelezwa. Fikiria miundo nyepesi ya NLP (kama DistilBERT) kwa usawazishaji wa kasi-usahihi. 3) Kuzingatia Uwezo wa Kuelezewa: Kabla ya kutumia mfano kama huo, jumuisha mbinu za XAI. Kujua kwamba mfano ulinunua Euro kwa sababu ya maneno muhimu ya "ECB mkali" yanaweza kufasiriwa na kuruhusu usimamizi wa binadamu. Ishara ya ununuzi ya kisanduku nyeusi ni janga la kutii na usimamizi wa hatari. Utafiti huu hutoa mpango bora, lakini mpito wake kutoka jarida la kitaaluma hadi dawati la biashara unahitaji kutatua changamoto hizi za uhandisi na uendeshaji kwanza.