Untersuchung, Implementierung und Einsatz des Levenberg-Marquardt-Algorithmus zur Analyse von Chip-Fertigungsdaten (PDF)

Inhaltsangabe:Einleitung:
Der fehlerfreie Produktionsprozess der Chip-Fertigung ist für die IT-Industrie eines der wichtigsten Entwicklungsziele. Für dessen Optimierung werden verschiedene Ansätze verfolgt. Die Universität Tübingen hat sich in Kooperation mit verschiedenen Vertretern dieses produzierenden Gewerbes zu dem Projekt Smart Fabrication - Neuronale Netze zusammengeschlossen mit dem Ziel, die Analysemethoden bei der elektrischen Parametermessung sowie die Qualitätssicherung zu verbessern. In diesem Rahmen ist der Neuronale Netze Simulator NetSim entstanden, der u.a. für die Ausschussvorhersage (Yieldmodelling) des laufenden Produktions-prozesses anhand von PCM-Daten in der industriellen Chip-Fertigung zum Einsatz kommen soll. Diese Arbeit befasst sich mit einem weiteren neuronalen Lernverfahren, das, neben verschiedenen anderen Verfahren wie Backpropagation oder Counterpropagation, in diesen Simulator implementiert und auf seine Potentiale bei der Analyse von Chip-Fertigungsdaten evaluiert wurde - dem Levenberg-Marquardt-Algorithmus.

Inhaltsverzeichnis:Inhaltsverzeichnis:
1.Einleitung und Motivation6
1.1Das Smart Fabrication-Projekt6
1.1.1Technischer Inhalt des Vorhabens "Neuronale Netze"7
1.1.2Einsatzgebiete Neuronaler Netze in der Produktion8
1.2Der Neuronale Netze Simulator NetSim9
1.3Motivation und Zielsetzung10
2.Optimierung nichtlinearer kleinster Fehlerquadrate13
2.1Methode des steilsten Abstiegs (steepest descent)15
2.1.1Liniensuchalgorithmus zur Bestimmung der Schrittweite (line minimization)16
2.2Die Gauss-Newton-Methode19
2.3Die Levenberg-Marquardt-Methode21
3.Implementierung des Levenberg-Marquardt-Algorithmus in einem Neuronalen Netz23
3.1Grundlagen Neuronaler Netze und verwendeter Netztyp24
3.2Berechnung der Hessematrix bzw. des Gradienten27
3.2.1Berechnung der Hessematrix27
3.2.2Berechnung des Gradienten28
3.3Weitere grundlegende Implementierungsaspekte30
3.3.1Bestimmung des Levenberg-Marquardt-Parameters ?30
3.3.2Terminierung31
3.3.3Bestimmung des Iterationsschrittes31
3.4Flussdiagramm32
3.5Das ¿Herzstück¿: die Methode lm_lev_marq33
3.6Der mathematische Kern: die Methode lm_core38
3.7Gesamtübersicht aller Klassen45
3.7.1Die Klasse Singularvaluedecomposition: Gleichungssystemlösung mit Singulärwertzerlegung45
3.7.2Die Klasse TrainSet: Speicher für Trainingsdaten48
3.7.3Die Klasse Levmarq: der Levenberg-Marquardt-Algorithmus49
3.8Vorstellung der abgeschlossenen Implementierung55
4.Evaluierung [...]