Theorie:

Bei einer allgemeinen quadratischen Gleichung \(ax^2+bx+c=0\) mit \(a\neq 1\) können wir den Satz von Vieta nur anwenden, wenn wir die Gleichung durch \(a\) dividieren und in die Normalform bringen, also in
\[ x^2+px+q = 0 \quad \text{mit} \quad p=\frac{b}{a} \quad \text{und} \quad q=\frac{c}{a} \,. \]
Oft ist die Gleichung auch schon in dieser Form gegeben. Wenn hier die beiden Koeffizienten \(p\) und \(q\) ganze Zahlen sind, kann man den Satz von Vieta ausprobieren.
 
Nach Vieta muss für unsere beiden Lösungen dieser Gleichung \(x_1\) und \(x_2\) gelten:
 
\[ x_1+x_2 = -p \quad \text{und} \quad x_1 x_2 = q \]
 
Dann schauen wir uns zunächst das Produkt an, also: \(x_1 x_2 = q \), und unterscheiden zwei Fälle:
  1. \(q>0\), also muss das Produkt \(x_1 x_2 = q \) positiv sein. Das geht nur, wenn \(x_1\) und \(x_2\) entweder beide positiv oder beide negativ sind; denn das Produkt aus einer positiven und einer negativen Zahl ist immer negativ (plus mal minus ergibt minus).

    Um zu sehen, ob unsere Lösungen beide positiv oder beide negativ sind, untersuchen wir als Nächstes die Summe \(x_1+x_2 = -p\). Dazu unterscheiden wir noch einmal anhand dem Wert von \(-p\) (beachte das Minuszeichen!):

    a) Wenn \(-p>0\) ist, muss die Summe \(x_1+x_2\) positiv sein. In diesem Fall sind \(x_1\) und \(x_2\) beide positiv; denn die Summe zweier negativer Zahlen kann keine positive Zahl ergeben.

    b) Wenn \(-p<0\) ist, muss die Summe \(x_1+x_2\) negativ sein. In diesem Fall sind \(x_1\) und \(x_2\) beide negativ; denn die Summe zweier positiver Zahlen kann keine negative Zahl ergeben. Die Summe der Beträge \(|x_1|+|x_2|\) unserer beiden negativen Lösungen muss dann \(+p\) ergeben, was eine positive Zahl ist (wenn \(-p<0\), ist \(p>0\)).
     
  2. \(q<0\): in diesem Fall muss das Produkt \(x_1 x_2 = q \) negativ sein. Das geht nur, wenn eine der Lösungen \(x_1\) und \(x_2\) positiv und die andere negativ ist. Denn das Produkt zweier positiver oder zweier negativer Zahlen ist immer positiv (plus mal plus und minus mal minus ergeben beide plus).

    Wir nennen die kleinere der beiden Lösungen \(x_1\); das ist in jedem Fall die negative Lösung. Beim Ausprobieren nach Vieta wollen wir uns nur noch mit den Beträgen der Zahlen beschäftigen. \(x_2\) ist schon positiv und damit gleich seinem eigenen Betrag, aber \(x_1 = -|x_1|\). Die Summe wird dann zu einer Differenz der Beträge: \(-p = x_1+x_2=-|x_1|+x_2 = x_2 - |x_1|\). Wir suchen also zwei Zahlen, deren Beträge als Differenz \(-p\) ergeben. Je nachdem, ob \(-p\) positiv oder negativ ist, hat also entweder die positive Lösung \(x_2\) oder die negative Lösung \(x_1\) den größeren Betrag.
Um das besser zu verstehen, sehen wir uns jeden Fall in einem Beispiel an:
 
Beispiel:
Fall 1a): Wir nehmen die Gleichung \(x^2-6x+8\). Hier sind \(p=-6\) und \(q=8\).
Wie wir sehen, ist  \(q=8\) eine positive Zahl, also müssen \(x_1\) und \(x_2\) beide positiv oder beide negativ sein. Ihre Summe muss aber \(-p = +6\) ergeben, was positiv ist. Also müssen \(x_1\) und \(x_2\) beide positiv sein.

Also suchen wir nach zwei positiven Zahlen, deren Produkt gleich 8 und deren Summe gleich 6 ist. Die einzigen solchen Zahlen sind \(x_1=2\) und \(x_2=4\); also sind das unsere beiden Lösungen. 
 
Beispiel:
Fall 1b): Bei der Gleichung \(x^2+7x+12\) sind \(p=7\) und \(q=12\).
\(q=12\) ist ebenfalls eine positive Zahl, also sind \(x_1\) und \(x_2\) wieder beide positiv oder beide negativ. Ihre Summe muss nun aber \(-p = -7\) ergeben, eine negative Zahl. Also müssen \(x_1\) und \(x_2\) hier beide negativ sein.

Wenn wir uns zunächst nur für die Beträge \(|x_1|\) und \(|x_2|\) interessieren, muss deren Produkt immer noch \(|x_1|\cdot|x_2|=q = 12\) ergeben. Außerdem muss ihre Summe \(|x_1|+|x_2|=+p = +7\) ergeben.
Also suchen wir nach zwei positiven Zahlen, deren Produkt gleich 12 und deren Summe gleich 7 ist. Die einzigen Kandidatinnen dafür sind \(|x_1|=4\) und \(|x_2|=3\).

Da unsere beiden Lösungen aber negative Zahlen sein müssen, haben wir \(x_1=-4\) und \(x_2=-3\) (wir haben die beiden Lösungen hier so benannt, dass \(x_1\) die kleinere Zahl wird).
 
Beispiel:
Fall 2): Bei der Gleichung \(x^2+2x-15\) sind \(p=2\) und \(q=-15\).
\(q=-15\) ist nun eine negative Zahl, also haben unsere Lösungen verschiedene Vorzeichen. Wir nehmen an, \(x_1\) ist negativ und \(x_2\) positiv. Um wieder mit positiven Zahlen rechnen zu können, ersetzen wir \(x_1\) durch seinen Betrag: \(x_1 = -|x_1|\); \(x_2\) ist ja ohnehin schon positiv.

Dann ist das Produkt \(x_1\cdot x_2 = -|x_1|\cdot x_2=q = -15\), oder nach Umdrehen des Vorzeichens auf beiden Seiten: \(|x_1|x_2 = 15\). Wir suchen also zwei positive Zahlen, deren Produkt gleich \(15\) ist (3 und 5 sind hier heiße Kandidatinnen).

Aus der Summe \( x_1+x_2 = -p\) wird aber nun eine Differenz zweier positiver Zahlen, denn \(x_1+x_2=-|x_1|+x_2 = x_2-|x_1|\). Dies muss \(-p=-2\) ergeben, also muss der Betrag \(|x_1|\) die größere Zahl sein. Nun ist die Differenz unserer beiden Kandidaten tatsächlich \(3-5=-2=-p\), also sind \(|x_1|=5\) und \(x_2=3\).

Unser \(x_1\) war aber eine negative Zahl, also haben wir \(x_1=-5\) und \(x_2=3\).