ELSEVIER Signal Processing 53 (1996) 179-193 zyxwvutsrqponmlkjihgfedcbaZYXWVUTSRQPO SIGNAL zyxwv PROCESSING Applications of generalized cumulants to array processing G. Scarano*, G. Jacovitti INFOCOM Dpt., Universitd “IA Sapienza”. via zyxwvutsrqponmlkjihgfedcbaZYXWVUTSRQPON Eudossiana18, I-00184 Roma, Italy Abstract The main aim of this paper is to indicate how to combine two higher-order statistics, namely generalized cumulants, in order to improve the accuracy of parameter estimates when blind rejection of coloured Gaussian noise is desired in array processing contexts. To this end, after a brief review of the use of hybrid nonlinear statistics in array processing, we extend (full rank) pencil-based estimation techniques to the case of rank-deficient pencils, showing that strongly correlated estimation errors can be compensated, resulting in better estimation performance when noise subspace-based techniques, such as Root-MUSIC, are considered. We also provide a mathematical extension of ESPRIT to pairs of statistics drawn from array measurements. Finally, numerical simulations are provided to support the analytical results. Zusammenfassung Hauptziel dieses Beitrags ist es, aufzuzeigen, wie man zwei Statistiken hiiherer Ordmmg, niimlich oerullgemeinerte Kumulanten kombinieren mu& um die Genauigkeit von Parameterschiitzungen zu verbessem, wenn im Z usammenhang mit Arrayverarbeitungen die blinde Untertickung farbiger Gau&St&ungen gewiinscht wird. Nach einer kurzen Wiederhohmg der Anwendung hybrider nichtlinearer Statist&en in der Arrayverarbeitung erweitem wir zu diesem Zweck Schiitztechniken auf der Basis von (vollrangigen) Pencils auf den Fall von Pencils mit reduziertem Rang und zeigen, daI3man stark korrelierte Schiitzfehler kompensieren kann. Das fiihrt zu besserer Schgtzfaigkeit, wenn man an Techniken wie Root-MUSIC auf der Grundlage von Gtiusch-Unterriiumen denkt. Wir liefem such eine mathematische Erweiterung von ESPRIT auf paarweise aus Arraymessungen gewonnenen Statistiken. SchlieMich werden numerische Simulationen zur Untermauerung der analytischen Ergebnisse vorgelegt. Le but principal de cet article est d’indiquer comment combiner deux statistiques d’ordre sup&ieur, B savoir les cumulants gtW alis&, de man&e B am6liorer la pr&cision des estimCes des param&res lorsque la rkjection aveugle de bruit gaussien est souhaitke dans des contextes de traitement de tiseau. A cette fin, aprks un bref rappel sur l’utilisation des statistiques non lineaires hybrides en traitement de rkseau, nous &tendons les techniques d’estimation de type “pencil” (rang plein) au cas de rangs dkficients, en montrant que des erreurs d’estimation fortement corn%es peuvent Btre compensbes, ce qui a pour &ultat de meilleures performances d’estimation lorsque des techniques de type sous-espace, comme Root-MUSIC, sont prises en consid&ation. Nous foumissons 6galement une extension math&natique de ESPRIT B des paires de statistiques tirkes de mesures de reseau. Enfin, des simulations num&ques sent pr&sent&es afin de mettre en kvidence les r&ultats analytiques. * Corresponding author. Tel: +39.6.4458.5500; fax: +39.6.4873.300; e-mail: gaetano@infocom.ing.uniromal.it. 0165-1684/96/$15.00 @ 1996 Elsevier Science B.V. All rights reserved PIZSO165-1684(96)00085-O