Lex Fridman, ein russisch-amerikanischer Informatiker, Podcaster und YouTuber, führt in seinem Podcast „The Lex Fridman Podcast“ tiefgründige Gespräche mit einflussreichen Persönlichkeiten aus verschiedenen Bereichen wie Technologie, Wissenschaft, Philosophie und Politik. In einer bemerkenswerten Folge interviewt er Sam Altman, den CEO von OpenAI, in einem fesselnden zweistündigen Gespräch. Fridman, der selbst eine beeindruckende Karriere in der KI-Forschung vorzuweisen hat, gelingt es, Altman zu einer offenen und aufschlussreichen Diskussion über die Gegenwart und Zukunft der künstlichen Intelligenz zu bewegen. Dabei werden nicht nur die technologischen Aspekte beleuchtet, sondern auch die damit verbundenen philosophischen, ethischen und gesellschaftlichen Fragen. Das Interview bietet einen faszinierenden Einblick in die Gedankenwelt eines der einflussreichsten Akteure im Bereich der KI und wirft ein Licht auf die Herausforderungen und Chancen, die mit der Entwicklung von AGI verbunden sind.
Themenvielfalt im Gespräch mit Sam Altman
In diesem sehr ausführlichen und tiefgründigen Interview spricht Lex Fridman mit Sam Altman, dem CEO von OpenAI, über eine Vielzahl von Themen rund um künstliche Intelligenz und die Zukunft der Menschheit.
OpenAI-Vorstandsdrama: Herausforderungen und Erkenntnisse
Altman reflektiert zunächst über die Herausforderungen und Schmerzen, die er bei einem Vorstandsdrama bei OpenAI durchmachen musste. Obwohl es eine sehr schwierige Zeit war, sieht er es im Nachhinein auch als wertvolle Erfahrung, um die Organisation widerstandsfähiger für zukünftige Herausforderungen zu machen.
«Wer auch immer zuerst AGI entwickelt, bekommt viel Macht.»
ChatGPT, GPT-4 und der Weg zur AGI
Ein grosses Thema ist die Entwicklung von ChatGPT und GPT-4. Altman ist beeindruckt von den Fähigkeiten, sieht die aktuellen Modelle aber noch weit entfernt von einer allgemeinen künstlichen Intelligenz (AGI). Er erwartet, dass die Modelle in Zukunft kontinuierlich besser werden, so dass man auf GPT-4 eines Tages ähnlich zurückblicken wird wie heute auf GPT-3.
Rechenleistung als wertvolle Ressource und das Potenzial der Kernfusion
Altman glaubt, dass Rechenleistung in Zukunft eine extrem wertvolle Ressource sein wird. Um den enormen Bedarf zu decken, sieht er vor allem in der Kernfusion grosses Potenzial.
«Ich denke, Rechenleistung wird die Währung der Zukunft sein. Ich denke, sie wird vielleicht das wertvollste Gut der Welt sein.»
Entwicklung beeindruckender Systeme noch in diesem Jahrzehnt
Zur Frage, wann eine AGI entwickelt werden könnte, will sich Altman nicht festlegen. Er erwartet aber noch in diesem Jahrzehnt beeindruckende Systeme, die vielleicht noch nicht die Welt fundamental verändern, aber einen bedeutenden Fortschritt darstellen.
Dezentrales Governance-System für AGI unerlässlich
Altman betont, dass kein einzelner Mensch oder Unternehmen die Kontrolle über eine AGI haben sollte. Es braucht ein robustes, dezentrales Governance-System. Die Risiken einer AGI sieht er weniger in einem „Ausbruch“ aus der Box, sondern in komplexen Auswirkungen auf Gesellschaft und Wirtschaft.
OpenAIs dezentrale Entwicklung und konstante Innovation
Altman spricht über die dezentrale Entwicklung bei OpenAI. Er erklärt, dass es einige wenige Personen gibt, die das grosse Ganze im Blick haben, aber viele Teams an „mittelgrossen“ Komponenten arbeiten, die zusammen etwas Grosses ergeben. Dieser verteilte Ansatz konstanter Innovation ist ein wichtiger Erfolgsfaktor.
«Eines Tages werden wir vielleicht eine Kontextlänge von mehreren Milliarden haben. Man wird all seine Informationen, seine gesamte Historie eingeben, und das System wird einen immer besser kennenlernen.»
Konflikt mit Elon Musk und Hoffnung auf Versöhnung
Ein weiteres Thema ist der Konflikt mit Elon Musk. Musk hat OpenAI verklagt, was Altman als „einem Erbauer nicht angemessen“ bezeichnet. Er vermutet persönliche Gründe hinter der Klage, da Musk OpenAI verlassen hat, als das Unternehmen einen anderen Weg einschlagen wollte, als von Musk gewünscht. Altman betont, dass er Musk respektiert und hofft, dass sie in Zukunft ein freundschaftliches Verhältnis haben werden.
Informationssuche jenseits der klassischen Suchmaschine
Angesprochen auf die Frage, ob OpenAI Google als führende Informationsquelle ablösen will, zeigt sich Altman wenig interessiert. Ihm geht es nicht darum, eine bessere Suchmaschine zu bauen, sondern neue Wege zu finden, wie Menschen Informationen finden, verstehen und nutzen können.
«Ich finde es ehrlich gesagt langweilig, wenn es darum geht, ob wir eine bessere Suchmaschine als Google bauen können. Ich denke, das würde völlig unterschätzen, was möglich ist.»
Faire Entlohnung für Trainingsdaten und Urheberrecht
Ein kontroverses Thema ist die Verwendung von Trainingsdaten für KI-Modelle und das Urheberrecht. Altman sieht es als wichtig an, dass die Ersteller wertvoller Daten eine Möglichkeit haben, dafür entlohnt zu werden. Er hat aber noch keine Lösung, wie dies am besten umgesetzt werden kann.
Philosophischer Ausblick: Intelligentes Leben im Universum
Das Interview endet mit einem philosophischen Ausblick. Altman glaubt, dass es im Universum viele intelligente Zivilisationen geben könnte. Die kollektive Intelligenz der Menschheit, aufbauend auf den Leistungen vorheriger Generationen, stimmt ihn optimistisch für die Zukunft.