Kooperative Kommunikation (oder coordinated multi-point transmission (CoMP)) und heterogene Netzwerke (HetNet) sind zwei vielversprechende Konzepte zur Erreichung hoher spektraler Effizienz und besserer Abdeckung in zukünftigen Mobilfunknetzen. Diese Arbeit betrachtet die Ressourcenvergabe für die Abwärtstrecke (Downlink) in kooperativen heterogenen Netzwerken unter Berücksichtigung ihrer besonderen Eigenschaften einschließlich des Ansatzes mehrerer Sende- und Empfangsantennen (multiple-input multiple-output (MIMO)) und Mehrträgerverfahren (orthogonal frequency division multiple access (OFDMA)). Ein besonderer Fokus wird auf die physikalischen Einschränkungen gelegt, wie z.B. unterschiedliche Leistungsbeschränkungen pro Basisstation bzw. Antenne, da bei der Zuweisung der verfügbaren Ressourcen in der Praxis solche Nebenbedingungen immer betrachtet werden müssen. Verschiedene Optimierungsprobleme zur gemeinsamen Optimierung von Sende- und Empfangsfiltern sowie Nutzerzuordnung werden untersucht. Der Schwerpunkt liegt auf der Optimierung der gewichteten Summe der Nutzerraten. Zur Lösung dieser Optimierungsprobleme werden effektive Algorithmen mit niedriger Komplexität entwickelt.Basierend auf der Eigenmode-Übertragung wird ein Algorithmus zur gemeinsamen Optimierung von Sende- und Empfangsfiltern sowie der Nutzerzuordnung für den Fall vorgeschlagen, dass ein Subkanal nur an einen einzelnen Nutzer zugeordnet werden kann (single-user MIMO-OFDMA). Es wird gezeigt, dass der Algorithmus nahezu optimale Lösungen liefert. Für das gleiche Szenario, werden weiter fortgeschrittene lineare Übertragungstechniken betrachtet, die auf der abwechselnden Optimierung der Sender und Empfänger hinsichtlich des minimalen mittleren quadratischen Fehlers (minimum mean squared error (MMSE)) basieren. Der minimale gewichtete geometrische mittlere quatratische Fehler und der minimale gewichtete arithmetische mittlere quadratische Fehler werden als Alternativzielsetzungen für die Optimierung ausgewählt, und effektive Lösungen für die resultierenden Optimierungsprobleme werden daraus hergeleitet.Weiterhin wird das Mehrnutzer-MIMO-OFDMA-Szenario betrachtet, in dem ein Subkanal an mehrere Nutzer mit dem Raummultiplexverfahren (space division multiple access (SDMA)) zugeordnet werden kann. Basierend auf Block-Zero-Forcing, wird das Problem der gemeinsamen Ressourcenvergabe formuliert. Da die optimalen Lösungen rechnerisch extrem komplex sind, führen wir zwei verschiedene Metriken zur Auswahl der am besten geeigneten Nutzer auf den Subkanälen ein, die eine niedrige Komplexität besitzen. Basierend auf diesen Metriken wird ein Algorithmus vorgeschlagen, um nahezu optimale Lösungen zu erhalten. Für das gleiche Szenario, wird eine weiter fortgeschrittene lineare Übertragungstechnik betrachtet, die auf der abwechselnden Optimierung der Sender und Empfänger basiert. Ein iterativer Algorithmus wird vorgeschlagen, um das entsprechende nicht-konvexe Optimierungsproblem mit einer niedrigen Komplexität zu lösen. Es wird gezeigt, dass dieser Algorithmus auch für einige andere Arten von Problemen genutzt werden kann.Schließlich wird ein Systemebenensimulator zur Untersuchung der Gewinne präsentiert, die aus der Nutzung der kooperativen Übertragung (CoMP) in einer städtischen heterogenen MIMO-OFDMAbasierten zellulären Umgebung erreicht werden können. Es wird gezeigt, dass die spektrale Effizienz der Nutzer in einer makrozellulären Umgebung im Allgemeinen erheblich durch den Einsatz von Femtozellen erhöht werden kann. Auf Grund der zusätzlichen Störung, die durch die Verwendung der Femtozellen eingeführt wird, verringert sich allerdings die spektrale Effizienz der Nutzer, die sich am Rand einer Zelle befinden. Ferner wird gezeigt, dass erhebliche Gewinne durch die Kooperation der Basisstationen erreicht werden können. Die Interzell-Interferenz wird reduziert, und somit kann die spektrale Effizienz pro Nutzer erheblich verbessert werden.