David Silver, der DeepMind-Wissenschaftler, der hinter AlphaGos historischem Sieg 2016 über den Go-Weltmeister Lee Sedol steht, hat 1,1 Milliarden US-Dollar gesammelt, um ein Startup zu gründen, das darauf wettet, dass die nächste Ära der KI nicht von der heute dominierenden Technologie kommen wird.

Silvers Unternehmen, Ineffable Intelligence, wurde im Januar mit einer Bewertung von 5,1 Milliarden US-Dollar gegründet und setzt auf Reinforcement Learning, eine Methode, bei der KI-Systeme durch Versuch und Irrtum lernen. Silver argumentiert, dass dieser Ansatz, anstatt der großen Sprachmodelle, die das Feld derzeit dominieren, einen glaubwürdigeren Weg zur Superintelligenz bietet.

„Ich sehe unsere Mission darin, den Erstkontakt mit Superintelligenz herzustellen“, sagte Silver gegenüber Wired. „Mit Superintelligenz meine ich wirklich etwas Unglaubliches. Sie sollte neue Formen von Wissenschaft oder Technologie oder Regierung oder Wirtschaft selbst entdecken.“

Der von dem Philosophen Nick Bostrom in seinem Buch „Superintelligenz“ aus dem Jahr 2014 populär gemachte Begriff bezeichnet eine KI, die die menschliche Intelligenz in nahezu allen Bereichen übertrifft, während künstliche allgemeine Intelligenz, oder AGI, Systeme beschreibt, die menschliches Denken in einer Vielzahl von Aufgaben nachbilden können.

Silver argumentiert, dass große Sprachmodelle grundsätzlich begrenzt sind, da sie aus von Menschen generierten Daten lernen, anstatt ihr eigenes Verständnis durch Erfahrung aufzubauen.

„Menschliche Daten sind wie eine Art fossiler Brennstoff, der eine erstaunliche Abkürzung ermöglicht hat“, sagte er. „Man kann sich Systeme, die selbstständig lernen, als einen erneuerbaren Brennstoff vorstellen – etwas, das einfach für immer und unbegrenzt lernen kann.“

Silver hat einen Großteil seiner Karriere damit verbracht, dieses Argument voranzutreiben. AlphaGo, das menschliche Trainingsdaten mit Reinforcement Learning und Selbstspiel kombinierte, entwickelte Strategien, die selbst Top-Spieler überraschten und zeigte, wie KI menschliche Präzedenzfälle in engen Domänen übertreffen kann.

„Ich halte es für wirklich wichtig, dass es ein Elite-KI-Labor gibt, das sich zu hundert Prozent auf diesen Ansatz konzentriert“, sagte er Wired. „Dass es nicht nur eine Ecke eines anderen Ortes ist, der LLMs gewidmet ist.“

Ineffable Intelligence plant, das zu bauen, was Silver „Superlerner“ nennt – KI-Agenten, die in Simulationen platziert werden, wo sie Ziele verfolgen, scheitern, sich anpassen und verbessern können, ohne die Grenzen eines statischen menschlichen Datensatzes. Silver lehnte es ab zu beschreiben, wie diese Simulationen aussehen würden, sagte aber, dass der Ansatz es den Agenten ermöglichen würde, zusammenzuarbeiten und Fähigkeiten autonom zu entwickeln.

Silver argumentierte, dass große Sprachmodelle durch die Daten, mit denen sie trainiert werden, begrenzt sind, und fügte hinzu, dass ein Modell, das in einer Welt trainiert wurde, in der jeder glaubte, die Erde sei flach, diese Überzeugung wahrscheinlich beibehalten würde, es sei denn, es könnte die Realität selbst testen. Ein System, das durch Erfahrung lernt, so sagte er, könnte etwas anderes entdecken.

Ineffable Intelligence reagierte nicht sofort auf eine Anfrage von Decrypt.