Nate Soares ist Informatiker und war bereits bei Google und im Verteidigungsministerium tätig. Wenn er also sagt, dass die KI auf dem besten Weg ist, jeden Menschen auf der Erde zu töten, lohnt es sich, ihm zuzuhören.
Nate Soares ist Präsident des Machine Intelligence Research Institute (MIRI), wo er nach technischen Tätigkeiten bei Google und Microsoft seit mehr als einem Jahrzehnt die Forschung zur KI-Sicherheit leitet. Zusammen mit Eliezer Yudkowsky ist er Mitautor des New-York-Times-Bestsellers „If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All“ (2025), in dem argumentiert wird, dass der derzeitige Wettlauf um die Entwicklung einer superintelligenten KI katastrophal enden wird, sofern sich die Menschheit nicht weltweit koordiniert, um ihn zu stoppen.
Nate hat zahlreiche Veröffentlichungen zum Thema KI-Alignment verfasst, darunter grundlegende Arbeiten zur Entscheidungstheorie, zur Zielspezifikation und zu den Anreizen, die fortgeschrittene KI-Systeme dazu veranlassen, nach Macht zu streben – und zwar auf eine Weise, die ihre Schöpfer weder vorhersehen noch beabsichtigen.
Kapitel:
0:00 Warum ist KI gefährlich?
7:59 Wie Superintelligenz den Planeten zerstören könnte
13:44 Können wir das einfach abschalten?
15:10 Ist KI lebendig?
17:43 Die unvorhersehbare Entwicklung der KI
20:13 Das gemeinsame Interesse der USA und Chinas an KI
31:20 Die Tech-Oligarchen – mächtiger als die Regierung
32:38 Der Heilige Gral des Hackens
35:34 Gibt es ein religiöses Motiv für die Schaffung von Superintelligenz?
46:30 Die Tech-Oligarchen haben Angst vor ihrer eigenen Schöpfung
52:57 Wie die KI ihrer Trainingssimulation entkam
1:03:58 KI in Waffensystemen
1:07:54 KI leitet Biolabore
1:10:38 Wie würde die KI die physische Welt übernehmen?
1:13:04 Die KI-Kulte
1:15:51 Können wir das überleben?
1:21:45 Wird die KI Ihren Arbeitsplatz wegnehmen?
1:26:16 Ist KI teuflisch?
1:31:25 Sollten wir optimistisch sein?
1:32:25 Wann wurde KI zu einer Bedrohung?
1:34:36 Gibt es Hoffnung?
1:42:26 Neuralink
1:46:02 Befinden wir uns am Punkt ohne Wiederkehr?
… weitere Informationen auf YouTube >>
QUELLENHINWEIS: Tucker Carlson • 5,75 Mio. Abonnenten
Der Beitrag verfällt am 18.01.27 05:58.
