Das müssen Sie über die Super-KI Q* wissen (2024)

Die Warnung vor einer potenziell menschheitsgefährdenden Entwicklung bei Künstlicher Intelligenz hat angeblich eine wichtigeRolle bei der Entlassung von Sam Altman als Chef des ChatGPT-Anbieters OpenAI gespielt. Was steckt hinter der angeblichen Superintelligenz Q*?

Bis vor wenigen Tagen war die sogenannte Superintelligenz beinahe noch ein Hirngespinst. Viele waren erstaunt darüber, was Künstliche Intelligenz schon kann und in welcher Geschwindigkeit Softwareentwickler neue und bessere Programme veröffentlichen. Doch dass KI klüger sein soll als der Mensch, das konnten sich selbst viele Experten nicht vorstellen, jedenfalls noch nicht. Es werde noch Jahre bis zur Entwicklung einer Superintelligenz dauern, war häufig in Fachkreisen zu hören. Aber nun gibt es Spekulationen darüber, dass ein wichtiger Durchbruch vielleicht schon längst gelungen sein könnte.

Der Grund dafür ist das neue Projekt des ChatGPT-Erfinders OpenAI namens Q* ("Q-Star"). Das Modell soll eigenständig mathematische Probleme lösen können, die es vorher nicht kannte - aus Sicht von Experten wäre das ein Meilenstein in Richtung "Artificial General Intelligence", kurz AGI oder umgangssprachlich Superintelligenz genannt.

Wie die Nachrichtenagentur Reuters und das Magazin "The Information" berichteten, soll Q* auch bei der Entlassung des inzwischen wieder eingestellten CEOs und OpenAI-Mitgründers Sam Altman eine Rolle gespielt haben. Denn eine Testversion des Modells, die wohl innerhalb von OpenAI kursierte, soll den beiden Quellen zufolge Sicherheitsexperten alarmiert haben. In einem internen Brief an die Belegschaft wurde offenbar gewarnt, die Entwicklung von Q* könnte eine "Bedrohung für die Menschheit" darstellen.

"Keiner weiß genau, was es ist"

Doch was kann das Programm, dass es in Kreisen des Softwareunternehmens solche Angstschübe ausgelöst hat? "Keiner weiß genau, was es ist", sagt Damian Borth, Akademischer Leiter des Doktoratsprogramms für Informatik an der Universität St. Gallen. "Es gibt keinen Blogeintrag oder ein Papier, das publiziert wurde. Es gibt nur Mutmaßungen und das ist das Interessante." Wie viele andere in der Community vermutet er hinter dem "Q" im Namen einen Hinweis auf das sogenannte Q-Learning. Dabei handelt es sich um einen Algorithmus aus dem Reinforcement-Learning, einer Methode des maschinellen Lernens. Vereinfacht gesagt, interagieren dabei Programme mit ihrer Umwelt, treffen Entscheidungen und erhalten bei einer positiven Aktion eine Belohnung. Dadurch wird sie bestärkt (Reinforcement) und führt diese öfter aus, umgekehrt bei negativen Aktionen.

Andere in der Online-Community von OpenAI vermuten hinter dem Codenamen des Projekts hingegen das Quantencomputing. Quantencomputer sind extrem leistungsfähig und können spezifische komplexe Probleme mit vielen Variablen schneller lösen als herkömmliche Computer. Borth hält das jedoch für unwahrscheinlich. "OpenAI hat in dem Bereich nicht viel gemacht, sondern ganz klar auf GPUs, also Grafikprozessoren gesetzt", sagt er. "Im Reinforcement-Learning war OpenAI hingegen immer sehr stark. Neben der generativen KI, zu der ChatGPT gehört, ist das eine der zentralen Säulen."

Hinter dem Sternchen von Q* vermutet die Community den "A*"-Algorithmus, der den kürzesten Weg zwischen zwei Knoten beziehungsweise Punkten bestimmen kann. Dazu wählt er nicht blind den nächsten erreichbaren Knoten aus, sondern zieht weitere Informationen hinzu, um so die Suche zu beschleunigen.

User äußern offen Skepsis

Obwohl über Q* bislang fast keine gesicherten Informationen vorliegen, erklären viele in der Community das neue KI-Modell bereits zum "größten Durchbruch der menschlichen Zivilisation", zu einer "Revolution" und einem "bahnbrechenden" System. Große Worte dafür, dass Q* laut Reuters und "The Information" gerade einmal Matheaufgaben auf Grundschulniveau lösen kann.

Einige User äußern daher auch offen Skepsis: "Als jemand, der viel zu KI geforscht hat, kann ich sagen, dass man sehr leicht glauben kann, man habe einen Durchbruch erzielt", schreibt einer. Ein anderer schreibt, "menschliche oder super-menschliche Intelligenz" brauche eine "andere Architektur". "Q* ist zwar eine Bewegung in diese Richtung, aber es ist keineswegs klar, ob es "das" ist", schreibt ein User bei OpenAI.

Tatsächlich ist das Besondere an Q* aber offenbar, dass es mathematische Aufgaben eigenständig lösen kann. "Nach dem bisherigen Kenntnisstand ist es KI hier erstmals gelungen, eine intellektuelle Leistung, wie bei Mathematik nötig, zu erbringen", sagt Borth. "Die Maschine plappert also nicht nur nach, wie es Skeptiker bei ChatGPT sagen, sondern Q* soll wohl die Fähigkeit haben, logische Schlussfolgerungen zu ziehen." Ob das auch ein entscheidender Schritt zu AGI ist, lasse sich aber noch nicht sagen.

"Zum einen ist die Definition von AGI nicht ganz klar. Ist das eine Maschine, die sich ihrer selbst bewusst ist, die gegen den Menschen arbeitet oder die einfach über mehrere Aufgaben generalisiert?", sagt Borth. "Zum anderen ist eine AGI aus meiner Sicht gar nicht nötig, um dem Menschen gefährlich zu werden. Je nachdem, wie wir mit unseren heutigen Systemen umgehen, kann das jetzt schon passieren."

Altman gilt als Gesicht des KI-Booms

Die Unruhe rührt auch daher, dass das Unternehmen angeblich selbst davor gewarnt hat. Sicherheitsexperten soll besonders das Tempo der Entwicklung in Aufruhr versetzt haben, berichtet "The Information".

Altman, der als Gesicht des KI-Booms gilt und von Anfang an das Ziel gehabt haben soll, Computern das eigenständige Lernen beizubringen, äußerte sich bei einer Anhörung im US-Senat in diesem Jahr so zu potenziellen Risiken von KI: "Meine schlimmsten Befürchtungen sind, dass wir der Technologie und der Industrie erheblichen Schaden zufügen. [...] Ich denke, wenn diese Technologie schiefgeht, kann sie sehr schiefgehen. Und das wollen wir lautstark zum Ausdruck bringen", sagte Altman, der nach einem beispiellosen Hin und Her nun wieder CEO von OpenAI ist.

Der Vorstand hatte Altman vor knapp zwei Wochen zunächst ohne Angabe von Gründen entlassen und zweimal einen Interims-CEO benannt. Vergangenen Mittwoch wurde der Druck von Großinvestor Microsoft jedoch zu groß und Altman kehrte auf seinen Posten zurück. Parallel wurde ein neuer Vorstand eingesetzt, zu dem unter anderen der ehemalige US-Finanzminister Larry Summers gehört. Nach Einschätzung von Sarah Kreps, Direktorin des Tech Policy Instituts in Washington, unterstützt der neue Vorstand Altmans Vision, die Entwicklung von KI zu beschleunigen und gleichzeitig Sicherheitsvorkehrungen zu treffen.

Dieser Artikel ist zuerst bei Capital.de erschienen.