У тривимірних обмежених областях з ліпшицевою межею розглянуто зовнішні граничні задачі для нескінченних систем еліптичних рівнянь спеціального трикутного вигляду зі змінними коефіцієнтами. Сформульовано варіаційні постановки задач Діріхле, Неймана та Робіна та встановлено їх коректність у відповідних просторах Соболева. За допомогою введеного поняття q-згортки одержано аналоги першої та другої формул Гріна та побудовано інтегральні зображення розв'язків розглянутих задач у випадку сталих коефіцієнтів. Досліджено властивості інтегральних операторів та коректність одержаних систем граничних інтегральних рівнянь.

Для числового розв'язування крайових задач для нескінченних систем зі згортковою структурою, які складаються з еліптичних рівнянь другого порядку, запропоновано метод граничних елементів. Розв'язок надано за допомогою послідовності потенціалів простого шару. Для апроксимації невідомих густин потенціалів використано базис, який складається з кусково-сталих базисних функцій, побудованих на трикутних граничних елементах. Досліджено апріорні похибки. Наведено результати серії обчислювальних експериментів.

Надано поглиблений аналіз двох підходів до розв'язування початково-крайової задачі Діріхле для однорідного хвильового рівняння, який базується на поєднанні перетворення Лагера за часовою змінною та методу граничних елементів (МГЕ) у необмеженій просторовій області. В результаті обидва підходи призводять до тієї ж самої нескінченної трикутної системи граничних інтегральних рівнянь. Аналіз проведено у вагових просторах Соболєва, елементами яких е функції часової змінної, які набувають значень у відповідних просторах Соболєва. Для зменшення потреби в обчислювальних ресурсах реалізовано швидкий МГЕ, використовуючи адаптивну перехресну апроксимацію отриманих матриць. Крім того, метод поширено на розв'язування задачі Діріхле в області з включенням. Також Надано числові результати для модельних задач, які ілюструють точність та очікуваний порядок збіжності запропонованого методу.