Sequenziell-adaptives Design (II)

Nicht-lineare Regression spielt eine wichtige Rolle zur adäquaten statistischen Modellierung von Daten, wenn der Einfluss erklärender Variablen auf die interessierende Zielvariable nicht durch einen einfachen linearen Ursache-Wirkungs-Zusammenhang beschrieben werden kann. In derartigen Modellen hängt die Informationsmatrix eines Versuchsplans (Design) vom Parametervektor ab, dessen wahrer Wert unbekannt ist. Häufig verwendete Ansätze der optimalen Versuchsplanung in dieser Situation sind lokal optimale Designs, Bayes-optimale Designs oder auch Minimax-Designs. Diese Konzepte benötigen und verwenden jedoch a-priori Kenntnisse über den wahren Parameterwert. Sequenziell-adaptive Designs hingegen sind lernende Verfahren. Sie sammeln Informationen über den wahren Parameterwert aus bereits gemachten Beobachtungen in einem sequenziellen Prozess und können daher auf a-priori Informationen verzichten. Dabei werden sequenziell adaptive Updates der Parameterschätzung auf Basis der bereits gemachten Beobachtungen berechnet, und mit Hilfe dieser wird das Design entsprechend um weitere Beobachtungen ergänzt. Ein populärer Algorithmus dieser Art ist der adaptive Wynn-Algorithmus zur asymptotischen Generierung eines D-optimalen Designs. In der gemeinsamen Arbeit von Freise, Gaffke und Schwabe (2019a) ist es gelungen, das seit Langem offene Problem der Konvergenz dieses Algorithmus zumindest für die in den Anwendungen wichtige Klasse der verallgemeinerten linearen Modelle (positiv) zu lösen. In der zweiten Arbeit von Freise, Gaffke und Schwabe (2019b) konnte dies auch auf eine weitere Klasse von nicht-linearen Modellen und auf andere Schätzverfahren erweitert werden. Gegenwärtig arbeiten die Autoren an der Analyse eines neuen Algorithmus zur asymptotischen Generierung D-optimaler Designs, bei dem gleichzeitig mehrere Beobachtungen hinzugefügt werden. Weitere Ziele des Projekts sind zum einen die Ausweitung der Untersuchungen auf weitere Klassen nicht-linearer Modelle sowie auf weitere Optimalitätskriterien. Zum anderen soll das praktische Konvergenzverhalten der Algorithmen erprobt und beurteilt werden.

Freise, F.; Gaffke, N.; Schwabe, R. (2019a). The adaptive Wynn-algorithm in generalized linear models with univariate response. Preprint arXiv:1907.02708

Freise, F.; Gaffke, N.; Schwabe, R. (2019b). Convergence of least squares estimators
in the adaptive Wynn algorithm for a class of nonlinear regression models. Preprint. arXiv:1909.03763

Sequential Adaptive Design

Non-linear regression plays an important role in adequate statistical modelling of data, when the influence of explanatory variables on the target variable of interest cannot be described by simple linear response function. In those models the information matrix of an experimental design depends on the parameter vector for which the true value is unknown. For such situations common approaches in optimal experimental design are locally optimal designs, Bayes-optimal designs or minimax designs. These concepts, however, require prior knowledge about the true value of the parameter. Sequential adaptive designs are learning procedures. They accumulate information about the true parameter value from previous observations in a sequential manner and can thus work without prior information. In these procedures adaptive updates are sequentially generated for the parameter estimates based on previously made observations. By means of these updated estimates the design is augmented appropriately. A popular algorithm of this kind is the adaptive Wynn algorithm for the asymptotic generation of D-optimal designs. In the joint work by Freise, Gaffke and Schwabe (2019a) the long lasting open problem concerning the convergence of this algorithm was (affirmatively) solved, at least, for the practically important class of generalized linear models. In the second work by Freise, Gaffke and Schwabe (2019b) this result was extended to another class of non-linear models and to other estimation methods. Currently the authors analyze a new algorithm for the asymptotic generation of D-optimal designs in which several observations are added simultaneously. Further aims of this project are the extension to further classes of non-linear models and further optimality criteria on the one hand side, and the test and the evaluation of the actual convergence properties of the algorithms on the other hand side.

Freise, F.; Gaffke, N.; Schwabe, R. (2019a). The adaptive Wynn-algorithm in generalized linear models with univariate response. Preprint arXiv:1907.02708

Freise, F.; Gaffke, N.; Schwabe, R. (2019b). Convergence of least squares estimators
in the adaptive Wynn algorithm for a class of nonlinear regression models. Preprint. arXiv:1909.03763