У дисертацiйнiй роботi представленi результати дослiдження поширення, взаємодiї, затуханнi та декогеренцiї мод у нелiнiйних квантових системах iз скiнченною кiлькiстю ступенiв вiльностi при врахуваннi взаємодiї з зовнiшнiм термостатом, джерелами адитивних та фазових шумiв, одно- та двовимiрних кристалiчних системах, сильноанiзотропних пластинах шаруватих надпровiдникiв. Зокрема, розвинуто метод вiдокремлення ефектiв частотного i адитивного шумiв, а також знаходження характеристик частотного шуму, що дозволить не тiльки виявляти i позбавлятися цих шумiв, але i з'ясовувати стан системи, з якою взаємодiє вiбрацiйна система, за її вiдгуком на зовнiшнє збудження. Побудовано теорiю мультистабiльностi станiв змушених коливань вiбрацiйної системи, дисперсiйно зв'язаної з квантовою дворiвневою системою. Для аргументальних коливань класичної системи, для якої мультистабiльнiсть обумовлена особливим зв'язком iз зовнiшнiм полем, дослiджена функцiя розподiлу ймовiрностей. Показано, що вплив нульових коливань вакуума на взаємодiю тiл можна використати для аналiза їх дiелектричних властивостей. Дослiджено негативний вплив цього ефекту на спектроскопiю атомiв у порожнистому волокнi. Дослiджено розповсюдження i взаємодiю мод у низькорозмiрних системах, а також у шаруватих надпровiдниках, де збудження локалiзованих мод приводить до низки важливих ефектiв.^UThe Doctoral Thesis presents the results of the study of the propagation, interaction, attenuation, and decoherence of modes in nonlinear quantum systems with a finite number of degrees of freedom, taking into account the interaction with the external thermostat, sources of additive and phase noises, in 1D and 2D crystal systems and in highly anisotropic layered superconductor plates. In particular, method for separating the effects of frequency and additive noise, as well as finding the characteristics of frequency noise, is proposed. It not only allows to detect and get rid of these noises, but also to determine the state of the system with which the vibration system interacts, according to its response to external excitation. The theory of multistability of states of forced oscillations of a vibrational system dispersively connected with a quantum two-level system is constructed. For argumental oscillations of the classical system, for which multistability is due to a special connection with the external field, the probability distribution function is investigated. It is shown that the effect of zero oscillations of vacuum on the interaction of bodies can be used to analyze their dielectric properties. The negative effect of this effect on the spectroscopy of atoms in a hollow fiber has been studied. The propagation and interaction of modes in low-dimensional systems, as well as in layered superconductors, where the excitation of localized modes leads to a number of important effects have been studied.