In diesem Interview gab Sam Altman, der ehemalige CEO von OpenAI, einige Einblicke in die Bemühungen des Unternehmens, die Dateneffizienz ihrer Sprachmodelle zu verbessern. Altman deutete auf die Entwicklung einer neuen Architektur oder Methode hin, die OpenAI dabei helfen könnte, Einschränkungen beim Erhalt hochwertiger Daten zum Training ihrer Modelle zu überwinden.

Altman räumte ein, dass sie zwar große Mengen an synthetischen Daten für Experimente erzeugt haben, ihr Ziel aber darin besteht, Wege zu finden, "mehr aus weniger Daten zu lernen". Er deutete an, dass der "beste Weg, ein Modell zu trainieren" möglicherweise nicht darin besteht, einfach riesige Mengen an synthetischen Daten zu erzeugen, sondern vielmehr Techniken zu entwickeln, die es den Modellen ermöglichen, effektiver aus kleineren Datensätzen zu lernen.

Dies steht im Einklang mit den Informationen aus einem früheren Artikel, in dem es hieß, dass Altmans "Durchbruch" es OpenAI ermöglichte, Einschränkungen beim Erhalt ausreichend hochwertiger Daten zum Training neuer Modelle zu überwinden. Altmans Aussagen deuten darauf hin, dass das Unternehmen in diesem Bereich Fortschritte gemacht hat, möglicherweise durch die Entwicklung einer neuen Architektur oder Datenefizienz-Techniken.

Obwohl Altman keine spezifischen Details zur Art dieses neuen Ansatzes nannte, zeigen seine Aussagen, dass sich OpenAI darauf konzentriert, die Dateneffizienz ihrer Sprachmodelle zu verbessern, was zu erheblichen Fortschritten bei der Leistung und den Fähigkeiten ihrer zukünftigen Modelle wie GPT-5 führen könnte.

Sam Altman erkennt an, dass das Aufkommen fortschrittlicher KI-Systeme, die möglicherweise das Niveau der Allgemeinen Künstlichen Intelligenz (AGI) erreichen, wahrscheinlich Änderungen des Gesellschaftsvertrags über einen langen Zeitraum erfordern werden. Er erwartet, dass das derzeitige, auf Arbeit basierende Wirtschaftsmodell, bei dem Menschen ihre Arbeitskraft gegen Einkommen eintauschen, neu konfiguriert werden muss, da diese leistungsfähigen Technologien immer präsenter werden.

Altman stellt fest, dass es bereits Verschiebungen in den sozialen Sicherheitsnetzen und in der Organisation der Gesellschaft gegeben hat, da die Welt durch den technologischen Fortschritt reicher geworden ist. Er erwartet, dass ähnliche Debatten und Neuausrichtungen stattfinden werden, wenn AGI Realität wird, angeführt von den großen Sprachmodell-Unternehmen, die an der Spitze dieser Technologie stehen.

Ein mögliches Konzept, das Altman erwähnt, ist die Idee des "universellen Grundrechenleistung", bei der jeder eine bestimmte Zuteilung von Rechenressourcen von einem AGI-Niveau-System erhält, anstatt sich allein auf monetäres Einkommen zu verlassen. Diese Verschiebung könnte die Funktionsweise von Wirtschaft und Gesellschaft grundlegend verändern, da der Wert dieser Rechenressourcen wichtiger werden könnte als herkömmliches Geld.

Altman erkennt die Schwierigkeit, sich vorzustellen, wie dieser Übergang stattfinden wird, da es sich um einen gesellschaftlichen Wandel handelt, der bisher noch nicht erlebt wurde. Er deutet an, dass die KI-Systeme selbst bei der Gestaltung und Organisation der neuen sozialen Strukturen, die entstehen, helfen könnten, da die Gesellschaft mit den Auswirkungen von AGI auf die Natur der Arbeit und den Gesellschaftsvertrag ringt.

Insgesamt heben Altmans Kommentare die tiefgreifenden Auswirkungen hervor, die die Entwicklung fortschrittlicher KI-Systeme auf die Grundlagen unserer Wirtschafts- und Sozialsysteme haben könnte, was eine erhebliche Neuausrichtung und Neukonfiguration erfordert, um sich an diese technologische Transformation anzupassen.

Der CEO von Open AI, Sam Altman, gab in einem kürzlichen Interview einige Einblicke in die Pläne des Unternehmens für die nächste Generation von Sprachmodellen. Hier sind die Schlüsselpunkte:

1. Dateneffizienz: Altman deutete auf Durchbrüche hin, Sprachmodelle dateneffizienter zu machen, so dass sie aus kleineren Mengen hochwertiger Daten lernen können, anstatt sich auf riesige Mengen synthetischer Daten zu verlassen. Dies könnte zu erheblichen Verbesserungen der Modellleistung führen.

2. Architektonische Innovationen: Obwohl Altman vorsichtig war, Details preiszugeben, deutete er an, dass Open AI an einer neuen Architektur oder Methode arbeitet, die die Dateneffizienz ihrer Modelle weiter verbessern könnte.

3. Qualitative Verbesserungen: Altman erwartet, dass die nächste Generation der Modelle überraschende Verbesserungen in Bereichen zeigen wird, die zuvor nicht für möglich gehalten wurden. Er warnt davor, sich allein auf Standard-Benchmarks zu verlassen, da die tatsächlichen Fortschritte in qualitativen Aspekten liegen könnten, die schwer zu messen sind.

4. Soziale und wirtschaftliche Auswirkungen: Altman erkennt an, dass die zunehmenden Fähigkeiten von Sprachmodellen Änderungen des Gesellschaftsvertrags erfordern könnten, da das traditionelle, auf Arbeit basierende Wirtschaftsmodell möglicherweise neu konfiguriert werden muss. Er schlägt vor, Ideen wie "universelle Grundrechenleistung" zu erforschen, um mögliche Störungen zu bewältigen.

5. Verantwortungsvolle Entwicklung: Altman betont die Wichtigkeit verantwortungsvollen Forschens und Entwickelns, mit Fokus auf dem Verständnis der inneren Funktionsweise der Modelle und Sicherheitsaspekten, bevor leistungsfähigere Systeme veröffentlicht werden.

Insgesamt deuten Altmans Kommentare darauf hin, dass Open AI bei der Weiterentwicklung von Sprachmodell-Fähigkeiten erhebliche Fortschritte macht, während das Unternehmen auch mit den breiteren gesellschaftlichen Auswirkungen dieser Fortschritte ringt. Die nächste Generation der Modelle wird voraussichtlich die Grenzen des derzeit Möglichen erweitern, aber mit einem Fokus auf verantwortungsvoller Entwicklung und einer Berücksichtigung der langfristigen Auswirkungen auf Wirtschaft und Sozialstrukturen.

Sam Altman widerspricht Helen Toneis' Darstellung der Ereignisse im Zusammenhang mit seinem Ausscheiden aus OpenAI respektvoll, aber deutlich. Während Toneis jemand ist, der sich aufrichtig um ein gutes KI-Ergebnis sorgt, wünscht Altman ihr alles Gute, möchte sich aber nicht in eine Verteidigung Zeile für Zeile seiner Reputation begeben.

Als OpenAI ChatGPT veröffentlichte, wurde es zum damaligen Zeitpunkt als "niedrigschwelliger Forschungsvorschau" bezeichnet, und sie hatten nicht mit dem Ausmaß der Reaktion gerechnet. Altman erklärt, dass sie einen Veröffentlichungsplan mit ihrem Vorstand besprochen hatten, da sie GPT-3.5 etwa 8 Monate lang zur Verfügung hatten und GPT-4 schon lange fertig trainiert hatten und an einem schrittweisen Veröffentlichungsplan arbeiteten.

Insgesamt widerspricht Altman Toneis' Darstellung der Ereignisse und hält es für wichtig, seine Sicht der Dinge darzulegen, angesichts des erheblichen Dramas um seinen Abgang von OpenAI.

Sam Altman ging auf den Scarlett Johansson-Eklat ein, bei dem die Schauspielerin behauptete, OpenAI habe ihre Stimme ohne Erlaubnis verwendet. Altman stellte klar, dass die verwendete Stimme nicht die von Johansson war, und dass OpenAI einen Prozess des Castings mehrerer Schauspieler durchlief, bevor fünf Stimmen ausgewählt wurden, wobei Johansson als sechste angefragt wurde. Altman räumte jedoch die Verwirrung um die Ähnlichkeit der verwendeten Stimme mit der von Johansson ein.

Altman sprach auch über OpenAIs Arbeit an der Interpretierbarkeitsforschung, die darauf abzielt, den Entscheidungsprozess innerhalb ihrer KI-Modelle zu verstehen. Er erklärte, dass sie das Problem der Interpretierbarkeit zwar noch nicht gelöst haben, aber Fortschritte gemacht haben und es als wichtigen Teil der Sicherstellung der Sicherheit ihrer Modelle ansehen. Altman betonte, dass wir, auch wenn wir die inneren Abläufe des menschlichen Gehirns nicht vollständig verstehen, Wege finden können, das Verhalten von KI-Systemen zu verstehen und zu überprüfen. Er deutete an, dass je mehr wir verstehen, was in diesen Modellen passiert, desto besser können wir Sicherheitsaussagen treffen und überprüfen.