Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem...

25
Teeseminar 22.11 .2002 Peter Brommer 1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares- Algorithmus nach Powell (1965)

Transcript of Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem...

Page 1: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002

Peter Brommer 1

Minimieren ohne Ableitungen

Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Page 2: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 2

Übersicht

Problemstellung Übliche Verfahren Ansatz von Powell Beispielrechnungen Nächste Schritte

Page 3: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 3

Problemstellung physikalisch

Gesucht: Das Potential (z.B. durch Punkte, zwischen denen interpoliert wird).

Gegeben: Die Wirkung(z.B. durch die Kräfte auf die Atome)

Welches Potential verursacht Kräfte, die den gegebenen am besten entsprechen?

Page 4: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 4

Problemstellung mathematisch

Jedes Potential (xi), i=1..n verursacht Kräfte Fj((xi)), j=1..m auf die ⅓ m Atome.

Ein Potential ist umso besser, je näher die Kräfte den Sollkräften Fj

soll kommen. Die quadrierten Differenzen zwischen Kraft

und Sollkraft werden aufsummiert:

2 ( ) 2

1 1

( ) ( ( ( ) ) [ ( )]m m

soll ji j i j i

j j

U x F x F u x

Page 5: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 5

Noch mehr Mathematik

Bei bestmöglicher Übereinstimmung von Sollkräften wird U(xi) minimal.

Damit ist das Problem bestimmt: Gesucht sind {xi}, so dass U(xi) den minimalen Wert annimmt.

Das entspricht dem Auffinden des Minimums einer Funktion im Rn.

Page 6: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 6

Ein erster Lösungsweg

Der negative Gradient weist in die Richtung des Minimums. Wenn wir immer dem Gradienten folgen, landen wir irgendwann mal in einem (lokalen) Minimum.

Page 7: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 7

Der Gradienten-Algorithmus

Wir rechnen an einem Startpunkt ξ Rn den Gradienten aus und folgen ihm, bis die Funktion minimal wird.

An dieser Stelle steht der Gradient senkrecht auf der bisherigen Richtung. Wir berechnen den neuen Gradienten und folgen ihm wieder bis zum Minimum.

Diese Schritte werden so lange wiederholt, bis sich die Funktion nicht weiter ändert.

Page 8: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 8

Probleme

Der Gradient muss numerisch bestimmt werden.

Der Algorithmus ist nicht an die spezielle Struktur von U(x) angepasst.

Der Algorithmus „vergisst“ nach jedem Schritt, was er bislang über die Funktion gelernt hat.

Ungünstige „Geländeformen“ führen bisweilen zu umständlichen Wegen.

Page 9: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 9

Unwegsames Gelände

xi

xj

Page 10: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 10

1. Verbesserung

Nach der ersten Minimalisierung in Richtung w steht der Gradient senkrecht auf w.

Damit der nächste Schritt in Richtung v nicht diesen ersten Schritt zunichte macht, sollte er so verlaufen, dass der Gradient weiterhin senkrecht auf w steht.

Das ist der Fall, wenn w zu v konjugiert ist:0=w·A·v, A ist die Hessematrix von U(x).

Page 11: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 11

Generalized least squares

Sei die zu

minimierende Funktion. Sei ξ die genäherte Position des

Minimums. Wenn das Minimum sich tatsächlich bei ξ+δ befindet, dann ist

( ) 2

1

( ) [ ( )]m

k

k

U x u x

RRRRRRRRRRRRRR

( ) ( )

1

( ) ( )

( ) ( ) 0, 1.. ,

mit ( )

mk ki

k

k ki

i

g u i n

g u xx

RRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRRR RRR

RRRRRRRRRRRRRR

Page 12: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 12

Taylor-Entwicklung

( ) ( ) ( ) ( ) ( ) ( )

1 1

2( ) ( )

( ) ( ) ( ) ( )

1 1

0

kann vernachlässigt werden.

Lösung des Gleichungssystems:

, 1..

m nk k k k k ki ij i j j

k j

k kij

i j

n mk k k ki j j i

j k

g u G u g g

G u xx x

g g g u i

RRRRRRRRRRRRRR

1

( )

liefert .

Methode konvergiert für verschwindende quadratisch.

m

k

kij

n

G

SSSSSSSSSSSSSS

Page 13: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 13

Der Ansatz von Powell

Seien d(1), d(2),...,d(n) n linear unabhängige Richtungen und γ(k)(i) die Ableitung von u(k) in Richtung d(i) (numerisch bestimmt). Dann ist die Korrektur δ eines genäherten Wertes ξ

n

i=1

( ) ( ) ( ) ( )

1 1 1

= q i

n m mk k k k

j k k

d i

i j q j i u

SSSSSSSSSSSSSS

Page 14: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 14

Rückführung auf Lin. Gl. Syst.

Damit ist das Problem auf ein lineares Gleichungssystem zurückgeführt; der Lösungsvektor q (und damit δ) wird mit Standardverfahren berechnet.

( ) ( ) ( ) ( )

1 1 1

1

n m mk k k k

j k k

n

ij j ij

i j q j i u

q p

q p

RRRRRRRRRRRRRRRRRRRRRRRRRRRR

Page 15: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 15

Eindimensionale Minimierung

Wir wissen jetzt, welche Richtung am vielversprechendsten ist. Wie weit müssen wir gehen?

Eindimensionale Minimierung: Ein Minimum wird erst eingeschachtelt (a<b<c; mit U(b)<U(a), U(c)), dann mit parabolischer Interpolation eingeengt.

Ergebnis: Ein λm, so dass U(ξ+λmδ) minimal.

Page 16: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 16

Der Kreis schließt sich

ξ →ξ+λmδ Ein d(t) wird durch δ ersetzt, so dass

|p(t)·q(t)|=max|p(i)·q(i)|, i=1..n. γ(k)(t) und p(t) werden aktualisiert. Das Verfahren wird bis zur

Konvergenz wiederholt. Startwerte: d(i) =

Koordinatenrichtungen

Page 17: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 17

Vorteile

Neue Richtungen sind konjugiert zu den bisherigen Suchrichtungen.

Numerische Ableitungen müssen nur am Anfang in großer Zahl berechnet werden.

Verfahren funktioniert auch für viele Variablen und Stützstellen

Page 18: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 18

Powell in Aktion

Beispiel: Lennard-Jones-Potential in fcc-Kristall.

19 Punkte. 192 Atome in 6 Konfigurationen

(also knapp 600 Kräfte). Ausgangspunkt des Fits war ein

Null-Potential.

Page 19: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 19

Fitten an Lennard-Jones

-2

0

2

4

6

8

10

12

1 1.2 1.4 1.6 1.8 2 2.2 2.4 2.6 2.8 3 3.2

Page 20: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 20

Skalierung

Die Zeit pro Schritt skaliert linear mit der Zahl der Stützstellen

Lösung des Linearen Gleichungssystems: Skaliert mit n³ (ließe sich zu n² verbessern, da sich immer nur eine Spalte und eine Zeile der Matrix ändern).

Skalierung der Zahl der benötigten Schritte ist noch nicht bekannt.

Page 21: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 21

Was kostet Rechenzeit?

Gradient Kraftber.Decomp Update

Zahl der Atome wächst nach außen (von 32 auf 192).

Bei relativ kleinem n kostet die Kraftberechnung die meiste Zeit.

Aber: Matrixzerlegung skaliert mit n³!

Page 22: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 22

Schwierigkeiten allgemein

Viele Funktionsaufrufe in der linearen Minimierung, schlechtere Minimierung bedeutet aber mehr Iterationen.

Tendenz zur linearen Abhängigkeit der Richtungsvektoren kann nicht ausgeschlossen werden.

Abbruchbedingungen nicht trivial.

Page 23: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 23

Schwierigkeiten konkret

Kann nur fitten, wenn auch Abhängigkeiten vorhanden.

Nachbartabellen können sehr umfangreich werden, daher hoher Speicherbedarf.

Eichfreiheitsgrade müssen noch implementiert werden.

Page 24: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 24

Wie geht‘s weiter?

Mehr Potentiale Mehr Konfigurationen EAM-Potentiale EichfreiheitsgradeUnd natürlich: Ab-initio-Daten!

Page 25: Teeseminar 22.11.2002Peter Brommer1 Minimieren ohne Ableitungen Potentialanpassung mit einem Least-Squares-Algorithmus nach Powell (1965)

Teeseminar 22.11.2002 Peter Brommer 25

Literatur

M.J.D. Powell, CompJ, 7 (1965), Is. 4