Deine Unterscheidung trifft für mich den eigentlichen Punkt: Es ist etwas anderes, eine bereits explizit bekannte oder in der Literatur vermutete Verbindung wiederzufinden, als aus verstreuten strukturellen Ähnlichkeiten eine neue, tragfähige Beziehung zu vermuten.

Beim Erdös-Problem könnte tatsächlich entscheidend gewesen sein, dass man die Vermutung für richtig hielt und deshalb den Raum möglicher Gegenbeispiele nicht systematisch genug untersucht hat. Dann wäre die Stärke der AI zunächst vor allem Suchbreite, Ausdauer und die Fähigkeit, auch wenig wahrscheinliche Pfade konsequent weiterzuverfolgen.

Aber selbst "genügend viele Wege durchprobieren" setzt voraus, dass die AI mögliche Wege überhaupt erzeugen, bewerten, kombinieren und über viele Schritte konsistent halten kann. Der Suchraum liegt ja nicht als fertige endliche Liste vor.

Für mich ist deshalb die weitergehende Frage dieselbe wie deine: Erkennt die AI nur explizite oder latent nahegelegte Beziehungen aus den Trainingsdaten, oder kann sie eine strukturelle Verwandtschaft postulieren, die nirgends als solche formuliert wurde?

Genau hier ist CNNA für mich interessant. Die einzelnen mathematischen Bausteine sind natürlich überwiegend etabliert. Nicht etabliert ist aber die konkrete Kette, die im Suchprozess entstanden ist: von sequentieller Baumprovenienz über gerichtete Response- und Schur-/DtN-Strukturen bis zu schiefsymmetrischer Kopplung, komplexer Struktur und späteren operatoralgebraischen Fragen.

Dabei war nicht nur ein Lösungsweg offen. Zunächst war auch nicht bekannt, welche Teilprobleme, Disziplinen und Abhängigkeiten überhaupt relevant werden. Der Python-Suchpfad hat mögliche Verbindungen und Obstruktionen hervorgebracht und der jetzige DAG zerlegt diese erst nachträglich in überprüfbare Teil-/ bzw. Einzelprobleme.

Ob diese Verbindungen wirklich neu und mathematisch tragfähig sind, entscheidet sich natürlich nicht an ihrer Plausibilität, sondern an den formalen Beweisen, den dokumentierten Obstruktionen und später der unabhängigen Prüfung. Dabei ist jedoch auch zu berücksichtigen, dass selbst beim Erdös-Problem der ursprüngliche Suchraum nicht von der AI selbst erzeugt wurde, sondern bereits vor Jahrzehnten durch menschliche Fragestellung und mathematische Formulierung festgelegt war. Jede AI arbeitet somit immer innerhalb eines ihr vorgegebenen Rahmens aus Definitionen, Axiomen und Zielsetzungen. Die entscheidende offene Frage ist daher weniger, ob eine AI innerhalb eines solchen Rahmens neue Strukturen finden kann, sondern ob sie auch in der Lage ist, diesen Rahmen selbstständig zu erweitern oder neu zu definieren – oder ob dafür weiterhin menschliche Impulse, Intuitionen oder Leitideen notwendig bleiben. Die Einschätzung der Korrektheit des Erdös-Problem hat ja auch nicht die AI getroffen, sondern unabhängige Experten. Selbst wenn die AI oft richtig liegen sollte, ist es keine Garantie für 100%. Bei der Lösung eines Einzelproblems ist das auch alles überschaubar aber bei einer Verkettung von Beweise über viele Disziplinen hinweg ist die Möglichkeit eines frühen Fehlers, der immer weitergetragen/vererbt wird, nicht auszuschließen.

Die Trainingsdaten selbst sind m.E. auch nicht wirklich entscheidend, denn darauf kann die AI ja nicht mehr direkt zugreifen, zumal die Trainingsdaten auch veraltet sein können. Ohne Eingrenzung der Quellen und des Suchraums geht es m.E. (noch) nicht allein nur durch die AI.