Teoria delle connessioni funzionali

La teoria delle connessioni funzionali (in inglese Theory of Functional Connections, TFC) è un framework matematico sviluppato per eseguire l'interpolazione funzionale . Questo framework fornisce un metodo per derivare un funzionale (funzione di una funzione) che trasforma i problemi di ottimizzazione vincolati in problemi equivalenti non vincolati. Sfruttando questa trasformazione, la TFC è stata efficacemente applicata alla risoluzione di equazioni differenziali. Ma cosa significa esattamente eseguire l'interpolazione funzionale?

Dall'interpolazione all'interpolazione funzionale

Per fornire un contesto generale per il TFC, si consideri un problema di interpolazione generico che coinvolge ${\displaystyle n}$ vincoli, come un'equazione differenziale da cui derivare un problema al contorno. Indipendentemente dall'equazione differenziale, questi vincoli possono essere coerenti o incoerenti. Ad esempio, in un problema sul dominio ${\displaystyle {\mathcal {D}}:(0,1)\cup (0,1)}$, i vincoli ${\displaystyle f_{1}(x,0)=1+x}$ e ${\displaystyle f_{2}(0,y)=2-y}$ sono incoerenti, poiché producono valori diversi nel punto condiviso ${\displaystyle (0,0)}$ . Se gli ${\displaystyle n}$ vincoli sono coerenti, una funzione che interpola questi vincoli può essere costruita selezionando ${\displaystyle n}$ funzioni di supporto linearmente indipendenti, come i monomi, ${\displaystyle \{1,x,x^{2},\cdots ,x^{n-1}\}}$ . L'insieme di funzioni di supporto scelto può essere coerente o meno con i vincoli indicati. Il problema della coerenza viene affrontato esaminando i vincoli, l'interpolazione, e i casi di interpolazione funzionale, inclusi gli scenari in cui le condizioni al contorno coinvolgono derivate di taglio e miste ^[1]. Ad esempio, i vincoli ${\displaystyle y(-1)=y(+1)=0}$ e ${\displaystyle {\dfrac {dy}{dx}}{\bigg |}_{x=0}=1}$ sono incoerenti con le funzioni di supporto ${\displaystyle \{1,x,x^{2}\}}$, come si può facilmente verificare. Se le funzioni di supporto sono coerenti con i vincoli, il problema di interpolazione può essere risolto, producendo un interpolante, ovvero una funzione che soddisfa tutti i vincoli. Scegliendo un set diverso di funzioni di supporto si otterrebbe un interpolatore diverso. Quando un problema di interpolazione viene risolto e viene determinato un interpolante iniziale, tutti i possibili interpolanti possono, in linea di principio, essere generati eseguendo il processo di interpolazione con ogni insieme distinto di funzioni di supporto linearmente indipendenti coerenti con i vincoli. Tuttavia, questo metodo non è praticabile, poiché il numero di possibili insiemi di funzioni di supporto è infinito.

Questa sfida è stata affrontata attraverso lo sviluppo del TFC, un framework analitico per l'esecuzione dell'interpolazione funzionale introdotto nei lavori seminali di Daniele Mortari presso la Texas A&M University ^[2] . L'approccio prevede la costruzione di un funzionale ${\displaystyle f{\big (}\mathbf {x} ,g(\mathbf {x} ){\big )}}$ che soddisfi i vincoli dati per qualsiasi espressione arbitraria di ${\displaystyle g(\mathbf {x} )}$, denominata funzione libera . Questo funzionale, noto come funzionale vincolato, fornisce una rappresentazione completa di tutti i possibili interpolanti. Variando ${\displaystyle g(\mathbf {x} )}$, è possibile generare l'intero set di interpolanti, compresi quelli discontinui o parzialmente definiti.

Diagramma di flusso di funzione e interpolazione funzionale

L'interpolazione di funzioni produce un singolo interpolante, mentre l'interpolazione funzionale genera tutti i possibili interpolanti attraverso un funzionale. Questo funzionale incapsula il sottospazio delle funzioni che soddisfano intrinsecamente i vincoli imposti, restringendo così lo spazio delle soluzioni alla regione in cui esiste la soluzione al problema di ottimizzazione vincolata. Utilizzando queste funzionalità, i problemi di ottimizzazione vincolata possono essere riformulati come problemi non vincolati, consentendone la risoluzione tramite metodi più semplici, robusti, accurati, efficienti, ed affidabili. Così facendo, il framework TFC trasforma i problemi vincolati in problemi non vincolati, semplificando notevolmente il processo di soluzione.

TFC affronta vincoli a una variabile che coinvolgono punti, derivate, integrali, e qualsiasi combinazione lineare di questi ^[3]. La teoria viene inoltre estesa per accogliere vincoli infiniti e a variabile multiple, e applicata alla risoluzione di equazioni ordinarie, parziali, e integro-differenziali. La versione a una variabile di TFC può essere espressa in una delle seguenti due forme:

${\displaystyle {\begin{cases}f{\big (}x,g(x){\big )}=g(x)+\displaystyle \sum _{j=1}^{n}\eta _{j}{\big (}x,g(x){\big )}\,s_{j}(x)\\f{\big (}x,g(x){\big )}=g(x)+\displaystyle \sum _{j=1}^{n}\phi _{j}{\big (}x,\mathbf {s} (x){\big )}\,\rho _{j}{\big (}x,g(x){\big )},\end{cases}}}$

dove ${\displaystyle n}$ rappresenta il numero di vincoli lineari, ${\displaystyle g(x)}$ è la funzione libera, e ${\displaystyle s_{j}(x)}$ sono le ${\displaystyle n}$ funzioni di supporto linearmente indipendenti adottate. I termini ${\displaystyle \eta _{j}(x,g(x))}$ sono i coefficienti dei funzionali, ${\displaystyle \phi _{j}(x)}$ sono le funzioni di commutazione (che assumono valore di 1 quando valutate al loro rispettivo vincolo, e 0 agli altri), e ${\displaystyle \rho _{j}{\big (}x,g(x){\big )}}$ sono i funzionali di proiezione che esprimono i vincoli in termini della funzione libera.

Esempio

Per mostrare come TFC generalizza l'interpolazione, considerare i vincoli ${\displaystyle {\dot {y}}(x_{1})={\dot {y}}_{1}}$ e ${\displaystyle {\dot {y}}(x_{2})={\dot {y}}_{2}}$ . Una funzione interpolante che soddisfa questi vincoli è

${\displaystyle f_{a}(x)={\dfrac {x(2x_{2}-x)}{2(x_{2}-x_{1})}}\,{\dot {y}}_{1}+{\dfrac {x(x-2x_{1})}{2(x_{2}-x_{1})}}\,{\dot {y}}_{2},}$

come si può facilmente verificare. A causa di questa proprietà di interpolazione, la derivata della funzione

${\displaystyle \delta (x)=g(x)-{\dfrac {x(2x_{2}-x)}{2(x_{2}-x_{1})}}\,{\dot {g}}(x_{1})-{\dfrac {x(x-2x_{1})}{2(x_{2}-x_{1})}}\,{\dot {g}}(x_{2}),}$

scompare a ${\displaystyle x_{1}}$ e ${\displaystyle x_{2}}$, per qualsiasi funzione, ${\displaystyle g(x)}$ . Pertanto, aggiungendo ${\displaystyle \delta (x)}$ ad ${\displaystyle f_{a}(x)}$, si ottiene un funzionale che soddisfa ancora i vincoli

${\displaystyle f{\big (}x,g(x){\big )}=f_{a}(x)+\delta (x)={\dfrac {x(2x_{2}-x)}{2(x_{2}-x_{1})}}\,{\dot {y}}_{1}+{\dfrac {x(x-2x_{1})}{2(x_{2}-x_{1})}}\,{\dot {y}}_{2}+g(x)-{\dfrac {x(2x_{2}-x)}{2(x_{2}-x_{1})}}\,{\dot {g}}(x_{1})-{\dfrac {x(x-2x_{1})}{2(x_{2}-x_{1})}}\,{\dot {g}}(x_{2}),}$

indipendentemente da come ${\displaystyle g(x)}$ venga rappresentato. Grazie a questa proprietà, questo funzionale è detto funzionale vincolato. Il requisito fondamentale del funzionale ${\displaystyle f{\big (}x,g(x){\big )}}$ per poter essere adottato è che i termini ${\displaystyle {\dot {g}}(x_{1})}$ e ${\displaystyle {\dot {g}}(x_{2})}$ siano definiti. Una volta soddisfatta questa condizione, il funzionale ${\displaystyle f{\big (}x,g(x){\big )}}$ è libero di assumere qualsiasi valore arbitrario oltre i vincoli specificati, grazie all'infinita flessibilità fornita da ${\displaystyle g(x)}$. È importante notare che questa flessibilità non è limitata ai vincoli specifici di questo esempio. Si applica invece universalmente a qualsiasi insieme di vincoli. Questa universalità illustra come TFC esegue l'interpolazione funzionale: costruisce una funzione che soddisfa tutti vincoli imposti, consentendo allo stesso tempo completa libertà di comportamento altrove attraverso la scelta di ${\displaystyle g(x)}$. In sostanza, questo esempio dimostra che il funzionale vincolato ${\displaystyle f{\big (}x,g(x){\big )}}$ cattura tutte le possibili funzioni che soddisfano i vincoli dati, dimostrando la potenza e generalità di TFC nella gestione di un'ampia gamma di problemi di interpolazione.

Esempio: funzionale vincolato a una variabile che utilizza due vincoli assoluti e un vincolo relativo.

Applicazioni del TFC

La tecnica TFC è stata ampliata e utilizzata in numerose applicazioni, evidenziandone la versatilità in un'ampia gamma di settori. Questi includono il suo utilizzo alla risoluzione di problemi alle derivate di taglio e miste, all'analisi di operatori frazionari ^[4], alla determinazione delle geodetiche per problemi ai valori al contorno in spazi curvi ^[5], ed alla risoluzione di problemi attraverso metodi di continuazione ^{[6] [7]}. Inoltre, il TFC è stato applicato al controllo ottimo indiretto ^{[8] [9]}, alla modellazione della cinetica chimica rigida ^[10] e allo studio delle dinamiche epidemiologiche ^[11]. Ha inoltre dimostrato potenziale nella programmazione non lineare ^[12], nella meccanica strutturale ^{[13] [14]}, e nel trasferimento radiativo ^[15], tra le altre aree. Un efficiente TFC toolbox è gratuitamente disponibile su https://github.com/leakec/tfc .

Di particolare rilievo è l'applicazione del TFC nelle reti neurali, dove ha mostrato un'efficienza eccezionale ^{[16] [17]}, in particolare nell'affrontare problemi di grandi dimensioni e nel migliorare le prestazioni delle reti neurali ad informazione fisica (in inglese, Physics-informed neural networks (PINN)) ^[18] eliminando efficacemente i vincoli dal processo di ottimizzazione, una sfida che le reti neurali tradizionali spesso faticano ad affrontare. Questa capacità migliora significativamente l'efficienza computazionale e l'accuratezza dei risultati, consentendo di risolvere problemi complessi con maggiore facilità. La TFC è stata impiegata con PINN e tecniche di regressione simbolica ^[19] per la scoperta fisica di sistemi dinamici ^{[20] [21]}.

Differenza con i metodi spettrali

A prima vista, TFC e i metodi spettrali possono sembrare simili nel loro approccio alla risoluzione di problemi di ottimizzazione vincolata. Tuttavia, ci sono due distinzioni fondamentali tra loro:

• Rappresentazione delle soluzioni: i metodi spettrali rappresentano la soluzione come una somma di funzioni base, mentre TFC rappresenta la funzione libera come una somma di funzioni base. Questa distinzione consente al TFC di soddisfare analiticamente i vincoli, mentre i metodi spettrali trattano i vincoli come dati aggiuntivi, approssimandoli con una precisione che dipende dai residui.
• Approccio computazionale per problemi ai vincoli al contorno: nei problemi lineari ai limiti, le strategie computazionali dei due metodi differiscono in modo significativo. I metodi spettrali impiegano in genere tecniche iterative, come il metodo "shooting", per riformulare il problema ai limiti come un problema al valore iniziale, che è più semplice da risolvere. Al contrario, la TFC affronta direttamente questi problemi attraverso tecniche lineari ai minimi quadrati, evitando la necessità di procedure iterative.

Entrambi i metodi possono eseguire l'ottimizzazione utilizzando il metodo di Galerkin, che garantisce che il vettore residuo sia ortogonale alle funzioni di base scelte, oppure il metodo di collocazione, che minimizza la norma del vettore residuo.

Differenza con la tecnica dei moltiplicatori di Lagrange

Il metodo dei moltiplicatori di Lagrange è un approccio ampiamente utilizzato per imporre vincoli in un problema di ottimizzazione. Questa tecnica introduce variabili aggiuntive, note come moltiplicatori, che devono essere calcolate per far rispettare i vincoli. Seppur in alcuni casi il calcolo di questi moltiplicatori è semplice, in altri può rivelarsi impegnativo o addirittura praticamente irrealizzabile, aggiungendo così una notevole complessità al problema. Al contrario, TFC non aggiunge nuove variabili e consente la derivazione di funzionali vincolati senza incontrare difficoltà insormontabili. Tuttavia, è importante notare che il metodo del moltiplicatore di Lagrange ha il vantaggio di gestire i vincoli di disuguaglianza, una capacità che attualmente manca a TFC.

Un limite notevole di entrambi gli approcci è la loro propensione a produrre soluzioni che corrispondono a ottimi locali piuttosto che a ottimi globali garantiti, in particolare nel contesto di problemi non convessi. Di conseguenza, potrebbero essere necessarie procedure di verifica supplementari o metodi alternativi per valutare e confermare la qualità e la validità globale della soluzione ottenuta. In sintesi, sebbene il TFC non sostituisca completamente il metodo dei moltiplicatori di Lagrange, rappresenta una valida alternativa nei casi in cui il calcolo dei moltiplicatori diventa eccessivamente complesso o irrealizzabile, a patto che i vincoli siano limitati alle uguaglianze.

Note

1. (EN) Daniele Mortari, Theory of Functional Connections Subject to Shear-Type and Mixed Derivatives, in Mathematics, vol. 10, n. 24, 10 dicembre 2022, pp. 4692, DOI:10.3390/math10244692. URL consultato il 23 novembre 2024.
2. (EN) Daniele Mortari, The Theory of Connections: Connecting Points, in Mathematics, vol. 5, n. 4, 1º novembre 2017, pp. 57, DOI:10.3390/math5040057. URL consultato il 23 novembre 2024.
3. (EN) Mario De Florio, Enrico Schiassi e Andrea D’Ambrosio, Theory of Functional Connections Applied to Linear ODEs Subject to Integral Constraints and Linear Ordinary Integro-Differential Equations, in Mathematical and Computational Applications, vol. 26, n. 3, 12 settembre 2021, pp. 65, DOI:10.3390/mca26030065. URL consultato il 23 novembre 2024.
4. (EN) Daniele Mortari, Roberto Garrappa e Luigi Nicolò, Theory of Functional Connections Extended to Fractional Operators, in Mathematics, vol. 11, n. 7, 4 aprile 2023, pp. 1721, DOI:10.3390/math11071721. URL consultato il 23 novembre 2024.
5. (EN) Daniele Mortari, Using the Theory of Functional Connections to Solve Boundary Value Geodesic Problems, in Mathematical and Computational Applications, vol. 27, n. 4, 27 luglio 2022, pp. 64, DOI:10.3390/mca27040064. URL consultato il 23 novembre 2024.
6. (EN) Yang Wang e Francesco Topputo, A TFC-based homotopy continuation algorithm with application to dynamics and control problems, in Journal of Computational and Applied Mathematics, vol. 401, 2022-02, pp. 113777, DOI:10.1016/j.cam.2021.113777. URL consultato il 23 novembre 2024.
7. (EN) Claudio Toquinho Campana, Gianmario Merisio e Francesco Topputo, Low-energy Earth–Moon transfers via Theory of Functional Connections and homotopy, in Celestial Mechanics and Dynamical Astronomy, vol. 136, n. 3, 2024-06, DOI:10.1007/s10569-024-10192-5. URL consultato il 23 novembre 2024.
8. (EN) Andrea D’Ambrosio, Enrico Schiassi e Hunter Johnston, Time-energy optimal landing on planetary bodies via theory of functional connections, in Advances in Space Research, vol. 69, n. 12, 2022-06, pp. 4198–4220, DOI:10.1016/j.asr.2022.04.009. URL consultato il 23 novembre 2024.
9. (EN) Enrico Schiassi, Andrea D’Ambrosio e Roberto Furfaro, An Overview of X-TFC Applications for Aerospace Optimal Control Problems, vol. 1088, Springer Nature Switzerland, 2023, pp. 199–212, DOI:10.1007/978-3-031-25755-1_13, ISBN 978-3-031-25754-4. URL consultato il 23 novembre 2024.
10. Mario De Florio, Enrico Schiassi e Roberto Furfaro, Physics-informed neural networks and functional interpolation for stiff chemical kinetics, in Chaos: An Interdisciplinary Journal of Nonlinear Science, vol. 32, n. 6, 1º giugno 2022, DOI:10.1063/5.0086649. URL consultato il 23 novembre 2024.
11. (EN) Enrico Schiassi, Mario De Florio e Andrea D’Ambrosio, Physics-Informed Neural Networks and Functional Interpolation for Data-Driven Parameters Discovery of Epidemiological Compartmental Models, in Mathematics, vol. 9, n. 17, 27 agosto 2021, pp. 2069, DOI:10.3390/math9172069. URL consultato il 23 novembre 2024.
12. (EN) Tina Mai e Daniele Mortari, Theory of functional connections applied to quadratic and nonlinear programming under equality constraints, in Journal of Computational and Applied Mathematics, vol. 406, 2022-05, pp. 113912, DOI:10.1016/j.cam.2021.113912. URL consultato il 23 novembre 2024.
13. (EN) Christopher Yassopoulos, Carl Leake e J.N. Reddy, Analysis of Timoshenko–Ehrenfest beam problems using the Theory of Functional Connections, in Engineering Analysis with Boundary Elements, vol. 132, 2021-11, pp. 271–280, DOI:10.1016/j.enganabound.2021.07.011. URL consultato il 23 novembre 2024.
14. (EN) Christopher Yassopoulos, J.N. Reddy e Daniele Mortari, Analysis of nonlinear Timoshenko–Ehrenfest beam problems with von Kármán nonlinearity using the Theory of Functional Connections, in Mathematics and Computers in Simulation, vol. 205, 2023-03, pp. 709–744, DOI:10.1016/j.matcom.2022.10.015. URL consultato il 23 novembre 2024.
15. (EN) Mario De Florio, Enrico Schiassi e Roberto Furfaro, Solutions of Chandrasekhar’s basic problem in radiative transfer via theory of functional connections, in Journal of Quantitative Spectroscopy and Radiative Transfer, vol. 259, 2021-01, pp. 107384, DOI:10.1016/j.jqsrt.2020.107384. URL consultato il 23 novembre 2024.
16. (EN) Carl Leake e Daniele Mortari, Deep Theory of Functional Connections: A New Method for Estimating the Solutions of Partial Differential Equations, in Machine Learning and Knowledge Extraction, vol. 2, n. 1, 12 marzo 2020, pp. 37–55, DOI:10.3390/make2010004. URL consultato il 23 novembre 2024.
17. (EN) Enrico Schiassi, Roberto Furfaro e Carl Leake, Extreme theory of functional connections: A fast physics-informed neural network method for solving ordinary and partial differential equations, in Neurocomputing, vol. 457, 2021-10, pp. 334–356, DOI:10.1016/j.neucom.2021.06.015. URL consultato il 23 novembre 2024.
18. (EN) M. Raissi, P. Perdikaris e G.E. Karniadakis, Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations, in Journal of Computational Physics, vol. 378, 2019-02, pp. 686–707, DOI:10.1016/j.jcp.2018.10.045. URL consultato il 23 novembre 2024.
19. GitHub, https://github.com/MilesCranmer/PySR Titolo mancante per url url (aiuto).
20. (EN) Nazanin Ahmadi Daryakenari, Mario De Florio e Khemraj Shukla, AI-Aristotle: A physics-informed framework for systems biology gray-box identification, in Piero Fariselli (a cura di), PLOS Computational Biology, vol. 20, n. 3, 12 marzo 2024, pp. e1011916, DOI:10.1371/journal.pcbi.1011916. URL consultato il 23 novembre 2024.
21. (EN) Mario De Florio, Ioannis G. Kevrekidis e George Em Karniadakis, AI-Lorenz: A physics-data-driven framework for Black-Box and Gray-Box identification of chaotic systems with symbolic regression, in Chaos, Solitons & Fractals, vol. 188, 2024-11, pp. 115538, DOI:10.1016/j.chaos.2024.115538. URL consultato il 23 novembre 2024.