Die KI-Spitzenforscher und Mitgründer von OpenAI, Ilya Sutskever, will mit seinem neuen Start-up künstliche Intelligenz sicherer machen. Was genau meint er damit?
In der KI-Community ist Ilya Sutskever eine Ikone. Der heute 37-Jährige gehörte 2012 zu dem dreiköpfigen Autorenteam, das mit der Deep-Learning-Architektur Alexnet den aktuellen KI-Hype überhaupt erst anstieß. 2015 war er einer der Mitgründer von OpenAI – und 2023 dann Teil jener Palastrevolte, die CEO Sam Altman zu stürzen versuchte (bevor zumindest er es sich dann anders überlegte). Mitte Mai verkündete er seinen Abschied von OpenAI.
Monatelang rätselte die Szene, was Sutskever als nächstes planen würde. Nun hat der Informatiker erste Details zu seinem zukünftigen Projekt bekanntgegeben: Sutskever gründet mit seinem ehemaligen OpenAI-Kollegen Daniel Levy sowie mit dem Investor und Ex-Apple-Manager Daniel Gross das Unternehmen Safe Superintelligence (SSI). Das erklärte Ziel: eine sichere Superintelligenz entwickeln.
Die Frage der Sicherheit künstlicher Intelligenz treibt Sutskever schon lange um. Er heuerte einst bei OpenAI an, weil er glaubte, dort die KI-Entwicklung mit besonderem Fokus auf deren Sicherheit vorantreiben zu könnten. Auch der Altman-Coup hing offenbar damit zusammen – mit Sutskevers Unbehagen über die Entwicklung von OpenAI, das zu einem Milliarden-Start-up mit starken kommerziellen Interessen geworden war. Öffentlich will er sich dazu nicht äußern – doch sein OpenAI-Weggefährte Jan Leike, der ebenfalls bei einem neuen Start-up angeheuert hat, fasst es auf X kürzlich so zusammen: Der Fokus auf Sicherheit sei „gegenüber glänzenden Produkten in den Hintergrund getreten“.
Immens hoher Finanzierungsbedarf bei Unternehmen wie OpenAI
Bei SSI soll das nicht passieren. Die Firma werde „völlig isoliert sein von jedem äußeren Druck, sich mit einem großen und komplizierten Produkt befassen zu müssen und in einem Konkurrenzkampf zu stehen“, sagte Sutskever zu Bloomberg. „Dieses Unternehmen ist besonders, weil sein erstes Produkt eine sichere Superintelligenz sein wird und es bis dahin nichts anderes tun wird.“
Meta will KI mit unseren Daten füttern 12.16
Der kommerzielle Druck auf KI-Unternehmen wie OpenAI hängt allerdings auch damit zusammen, dass sie einen immens hohen Finanzierungsbedarf haben – die neuesten Sprachmodelle brauchen Unmengen an Daten und Rechenpower. Dieser Tatsache kann auch Sutskevers neues Projekt nicht entgehen. Welche Investoren SSI finanzieren, ist bislang unklar.
Ebenfalls nebulös: Was genau SSI erreichen und entwickeln will. Sicher ist, dass es nicht darum gehen wird, die Unzulänglichkeiten und Gefahren der aktuellen KI-Produkte zu beheben – wozu etwa Probleme des Datenschutzes, des Urheberrechts oder die Tatsache gehört, dass Tools wie ChatGPT zwar viel erzählen können, Faktentreue aber nicht zu ihren Kernkompetenzen gehört.
Liberale Werte einimpfen
Sutskever geht es um größere Fragen, darum, wie deutlich mächtigere KIs in Zukunft aussehen und wie sie mit uns Menschen umgehen werden. Dem „Guardian“ erklärte der SSI-Gründer vor einigen Monaten, künstliche Intelligenz werde zwar „alle Probleme lösen, die wir heute haben“, wozu Arbeitslosigkeit, Krankheiten und Armut gehörten – aber sie werde auch neue Probleme erzeugen: „Künstliche Intelligenz hat das Potenzial, ewig währende Diktaturen zu erschaffen.“ Sutskever bezieht sich dabei auf eine Entwicklungsstufe von KI, die in der Szene Superintelligenz heißt – und die diesem Verständnis nach noch mächtiger als eine Künstliche allgemeine Intelligenz (AGI) wäre. Sie hätte nicht nur menschenähnliche Anlagen, sondern Fähigkeiten, die darüber hinaus gehen würden.
PAID CRIME 53 Kriminologe über Künstliche Intelligenz 18.07
Eine solche Superintelligenz müsse die Eigenschaft haben, „dass sie der Menschheit nicht in großem Umfang schaden wird“, so Sutskever gegenüber Bloomberg. „Wir möchten, dass sie auf der Grundlage einiger wichtiger Werte arbeitet.“ Darunter verstehe er „vielleicht die Werte, die in den letzten paar hundert Jahren so erfolgreich waren und die die liberale Demokratien untermauern, wie Freiheit und Demokratie“.
Wie genau die Gründer ihren KI-Modellen diese Werte einimpfen wollen, dazu gibt es bislang keine konkreten Angaben. Es werde, sagt Sutskever nur, eines Tages etwa riesige Super-Rechenzentren geben, die selbstständig neue Technologien entwickeln würde. „Das ist doch verrückt, oder? Es sei „deren Sicherheit, zu der wir beitragen wollen“.