Tudásvezérelt mélytanuló algoritmusok konstrukciója adaptív projekciók segítségével

Pályázati felhívás címe és kódszáma: OTKA Kutatási Témapályázat - K_23

Projektazonosító: K146721

Projekt címe: Tudásvezérelt mélytanuló algoritmusok konstrukciója adaptív projekciók segítségével

Vezető kutató: Kovács Péter

Kutatóhely: Numerikus Analízis Tanszék (Eötvös Loránd Tudományegyetem)

Résztvevők: Bognár Gergő, Dózsa Tamás Gábor, Fridli Sándor, György Szilvia

Projekt futamideje: 2024.01.01-2027.12.31.

Támogatás összege: 47.950.000 Ft

 

Mély tanulási modelleket a közelmúltban sikeresen alkalmaztak számos tudományos és gyakorlati probléma megoldására. Az ilyen módszerek tanítása azonban nagy mennyiségű annotált adatot igényel, a betanított modellek paraméterei nem értelmezhetők, és általában jellemző, hogy a korábban nem látott példákra megbízhatatlan kimenetet adnak. Ezek a problémák főként a matematikai modelleket és alkalmazásspecifikus ismereteket mellőző tisztán adatvezérelt mély tanulási megközelítésből fakadnak, és nagyban megnehezítik az AI-módszerek számos tudományterületen (például orvosi jelfeldolgozás) való alkalmazását.

A tisztán adatvezérelt modellek fent említett hiányosságainak enyhítésére az elmúlt években kifejlesztettük a Variable Projection Network (VPNet) keretrendszert, melyben az alkalmazásspecifikus ismereteket úgynevezett adaptív projekciós rétegeken keresztül építettük be a modellekbe. Ezek a rétegek olyan paraméterezett ortogonális projekciókat valósítanak meg, melyek felépítését az adott probléma határozza meg, tanítható szabad paramétereik pedig fizikai jelentéssel (pl. elnyelődés, frekvencia) rendelkeznek. A VPNet koncepciót és a kutatás első eredményeit az International Journal of Neural Systems D1-es folyóiratban publikáltuk, amelyért elnyertük a 2023-as év leginnovatívabb cikkének járó Hojjat Adeli szerkesztői díjat.

Az OTKA K146721 számú pályázatban a VPNet-et további matematikai és numerikus heurisztikákkal egészítjük ki (pl. simaság, ritkaság, stb.). Korszerű hálókonstrukciós stratégiákat használva új típusú (pl. rekurzív, deep unfolded) VP hálókat tervezünk, mely lehetővé teszi szintetikus tanító adatok generálását is. A kitűzött feladatokat egy alkalmazásorientált alapkutatási projektként valósítjuk meg, melyben az elméleti kutatás problémafelvetéseit a VPNet közvetlen alkalmazási lehetőségei inspirálják, például a jel- és képfeldolgozás, orvosi képalkotás, számítógépes látás, illetve irányításelmélet.

Vezető kutató:

  • Dr. Kovács Péter, egyetemi docens

Résztvevők:

  • Dr. Fridli Sándor, egyetemi tanár

  • Dr. Bognár Gergő, egyetemi adjunktus

  • Dr. György Szilvia, egyetemi adjunktus

  • Dr. Dózsa Tamás Gábor, egyetemi adjunktus

Szabadalmak

[S1] Galiger, G., Szabari, M., Kovács, P., Dózsa, T., Simonyi, E., Soumelidis, A., Nagy, A., Volk, J. & Radó, J. (2025) Eljárás gumiabroncs és útfelület közötti tapadási-súrlódási együttható guminyomástól független becslésére. Szellemi Tulajdon Nemzeti Hivatala, Patent application P2500130.

Publikációk

Folyóiratcikkek:

  • [P1] Ámon, A.M., Fenech, K., Kovács, P. & Dózsa, T. (2025) Rational Gaussian wavelets and corresponding model-driven neural networks. IEEE Transactions on Signal Processing, 73, pp. 3140–3155, D1.

  • [P2] Bognár, G., Feindert, M., Huber, C., Lunglmayr, M., Huemer, M. & Kovács, P. (2025) Deep unfolded variable projection networks. International Journal of Neural Systems, 35(13), 2550053, D1.

  • [P3] Dózsa, T., Jurdana, V., Segota, S.B., Volk, J., Radó, J., Soumelidis, A. & Kovács, P. (2024) Road type classification using time-frequency representations of tire sensor signals. IEEE Access, 12, pp. 53361–53372, Q1.

  • [P4] Dózsa, T., Böck, C., Meier, J. & Kovács, P. (2025) Weighted Hermite variable projection networks for classifying visually evoked potentials. IEEE Transactions on Neural Networks and Learning Systems, 36(7), pp. 12415–12428, D1.

  • [P5] Hoque, A.H.M.S., Bognár, G. & Fridli, S. (2025) Radial harmonic Fourier moments for CT-based quantitative radiomics. Acta Cybernetica, Q4.

  • [P6] Idrobo-Ávila, E., Bognár, G., Krefting, D., Penzel, T., Kovács, P. & Spicher, N. (2024) Quantifying the suitability of biosignals acquired during surgery for multimodal analysis. IEEE Open Journal of Engineering in Medicine and Biology, 5, pp. 250–260, Q2.

  • [P7] Posfay, P., Kurbucz, M.T., Kovács, P. & Jakovác, A. (2025) Lightweight ECG signal classification via linear law-based feature extraction. Machine Learning: Science and Technology, 6, 035001, Q1.

Konferenciacikkek:

  • [P8] Ámon, A.M., Fenech, K., Kovács, P. & Dózsa, T. (2024) Continuous wavelet transform based variable projection networks. In: Abry, P. & Greco, M.S. (eds.) 32nd European Signal Processing Conference (EUSIPCO). EURASIP, pp. 1906–1910.

  • [P9] Ámon, A.M., Cornelis, B., Kovács, P. & Dózsa, T. (2025) Spike detection with continuous wavelet transform based model-driven machine learning methods. In: 33rd European Signal Processing Conference (EUSIPCO). EURASIP, pp. 1797–1801.

  • [P10] Darabos, D., Troglio, A., Fiebig, A., Maxion, A., Kutafina, E., Namer, B., Bognár, G. & Kovács, P. (2025) Explainable spike detection algorithm on C-fiber microneurography data using weighted Hermite variable projection neural networks. In: 47th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC). IEEE, pp. 1–7.

  • [P11] Dózsa, T., Fridli, S. & Kovács, P. (2024) Modeling CT images in the presence of beam hardening. In: Spicher, N., Bender, T. & Hempel, P. (eds.) Proceedings of the Workshop Biosignals 2024. University of Göttingen, pp. 1–5.

  • [P12] Galiger, G., Steinbrinker, T., Bognár, G., Spicher, N. & Kovács, P. (2025) Sparse dictionary learning neural networks for ECG signal denoising. In: 47th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC). IEEE, pp. 1–7.

  • [P13] Kovács, P. (2024) Interpretable representation learning for biosignals via variable projection. In: Spicher, N., Bender, T. & Hempel, P. (eds.) Proceedings of the Workshop Biosignals 2024. University of Göttingen, pp. 1–4.

  • [P14] Samiee, K. & Kovács, P. (2024) On-edge wearable ECG signal quality assessment using residual Hermite projection and liquid state machine: a hierarchical domain adaptation approach. In: Computing in Cardiology, 51, pp. 1–4.

  • [P15] Szabari, M.M., Bognár, G. & Kovács, P. (2024) ECG feature learning by using rational variable projection autoencoders. In: Computing in Cardiology, 51, pp. 1–4.

  • [P16] Szabari, M.M., Soumelidis, A. & Dózsa, T. (2025) Biorthogonal Blaschke representation of transfer functions for pole identification. In: International Conference on Control, Automation and Diagnosis (ICCAD).

 

A K146721 számú projekt a Kulturális és Innovációs Minisztérium Nemzeti Kutatási Fejlesztési és Innovációs Alapból nyújtott támogatásával, az OTKA K23 pályázati program finanszírozásában valósult meg.