In der vorliegenden Arbeit wird die klassische Annahme von normalverteilten zufälligen Effekten im Rahmen gemischter Modelle durch zwei flexiblere Verteilungsannahmen ersetzt, die im Besonderen Gruppen von Individuen bilden können. Im ersten Ansatz wird eine penalisierte Mischung aus Normalverteilungen basierend auf dem ¿group lassö- und dem ¿fused lassö¿-Ansatz für die Verteilung der zufälligen Effekte angenommen. In einem alternativen Ansatz wird eine approximierte Dirichlet-Prozess-Mischung als Verteilung der zufälligen Effekte herangezogen, die die Clustereigenschaft des Dirichlet-Prozesses zum Aufdecken einer Gruppenstruktur ausnützt. Dabei wird das Konzept der Dirichlet-Prozesse in die Likelihood-Inferenz übertragen, indem ein EM-Algorithmus zum Schätzen von linearen gemischten Modellen mit approximierter Dirichlet-Prozess-Mischung vorgestellt wird. Des Weiteren wird dieser Ansatz auf den Fall additiv gemischter Modelle erweitert, wobei hier ein penalisierter Spline zur Modellierung des Zeiteffekts verwendet wird. Für diese Modellklasse wird außerdem eine rein bayesianische Schätzung basierend auf Markov-Ketten-Monte-Carlo-Methoden vorgestellt. Anwendungsbeispiele und Simulationsstudien veranschaulichen den Nutzen der vorgestellten Verfahren