Ian Bremmer über die Gefahren von KI: „Ich glaube nicht, dass Kapitalismus und Demokratie in ihrer jetzigen Form fortbestehen werden“ (www.tagesspiegel.de)
from Haven5341@feddit.de to dach@feddit.de on 06 Oct 2023 13:09
https://feddit.de/post/4239017

Algorithmen können so gut werden, dass sie den Menschen programmieren, sagt Ian Bremmer. Der Politikwissenschaftler über den Verlust von Arbeitsplätzen und ein bedingungsloses Grundeinkommen.

Herr Bremmer, gemeinsam mit Mustafa Suleyman, einem der Pioniere auf dem Gebiet der Künstlichen Intelligenz, haben Sie ein Szenario für 2035 entworfen, wie sich KI auf unser Leben auswirken wird. Womit müssen wir rechnen?

Künstliche Intelligenz wird für uns weitreichendere Folgen haben als das Internet. Sie ist die größte technologische Umwälzung, die wir zu unseren Lebzeiten erfahren werden.

Die Anwendung von KI auf jeden Aspekt des menschlichen Wissens wird zu einer zweiten Phase der Globalisierung führen. Wir werden über mehrere Jahrzehnte umfangreiche Innovation erleben und die Produktivität wird steigen.

Was ist die Kehrseite?

Schon die erste Phase der Globalisierung in den vergangenen 50 Jahren hatte negative Effekte, auf die niemand vorbereitet war: vor allem den Klimawandel, aber auch soziale Verwerfungen und die Aushöhlung der Mittelschicht weltweit. Die negativen Auswirkungen der KI werden nicht nur genauso gravierend sein – sondern wir werden sie auch sehr viel schneller zu spüren bekommen.

Welche Probleme erwarten Sie konkret?

Zum einen wird sich Desinformation explosiv ausbreiten. Viele Menschen werden nicht mehr erkennen können, ob sie es mit echten oder gefälschten Informationen, mit Bots oder mit Menschen zu tun haben. Fortschritte in der KI werden bald zu einer Flut von Bots führen, die noch menschlicher wirken als die, die wir bislang beobachten.

Ausgeklügelte Audio- und Video-Deepfakes werden in bislang ungekanntem Ausmaß das Vertrauen in diejenigen erschüttern, die in der Politik oder im Journalismus arbeiten. Das ist eine enorme Bedrohung, auch für die Demokratie. Man muss auch kein Technologieunternehmen sein, um mit KI zu arbeiten. Jeder mit einem Laptop und etwas Programmierkompetenz kann das. Das bietet natürlich auch ganz neue Möglichkeiten für böswillige Akteure. […]

Wie kann eine globale Antwort aussehen?

Bislang wird KI von Technologieunternehmen reguliert. Sich darauf zu verlassen, wird nicht funktionieren. Denn ihr Ziel ist natürlich der Profit und nicht der Verbraucherschutz oder die nationale Sicherheit. Der gesamte Bereich der KI verändert sich extrem schnell. Schon bei der Frage, wo überhaupt die Probleme liegen, sind sich die Menschen bislang nicht einig.

Wir benötigen ein internationales wissenschaftliches Gremium, das den Stand der Dinge analysiert, wozu KI aktuell imstande ist und was sie zukünftig können wird. Alle entscheidenden Akteure – öffentliche wie private, also Regierungen und Unternehmen – müssen sich auf einen gemeinsamen Nenner einigen: Was sind die Gefahren von KI und die negativen Folgen, die eingedämmt werden müssen.

[…]

Die EU will ihren AI Act zur Regulierung von KI nächstes Jahr fertig haben. Was wird das Gesetz bringen?

So wie der Gesetzentwurf jetzt aussieht, wird er in weiten Teilen bereits von der technologischen Entwicklung überholt sein, bevor er überhaupt in Kraft tritt. Technologieunternehmen und Regierungen müssen bei der Regulierung zusammenarbeiten. Die Unternehmen verfügen über das erforderliche Knowhow. Regierungen allein sind nicht in der Lage, diese Herausforderungen zu bewältigen.

[…]

Können Staaten vorhandene Instrumente wie Steuern und Kartellrecht nutzen, um die Macht der Unternehmen einzuschränken?

Ich glaube nicht, dass sich die Entwicklung damit verhindern lässt. Die Amerikaner reagieren darauf allergisch. Man sollte die Technologieunternehmen auch nicht zerschlagen. Wir brauchen sie, um diese unglaubliche Innovation voranzutreiben. Natürlich müssen sie Verantwortung für die negativen externen Effekte übernehmen. Das kann teilweise über Steuern erfolgen.

Mit Blick auf den drohenden Verlust von Arbeitsplätzen steht für mich außer Frage, dass wir ein weltweites universelles Grundeinkommen brauchen. Einen großen Teil der Kosten dafür müssen diejenigen tragen, die von all den Entwicklungen profitieren. Doch um das zu regeln, fehlen uns bislang die Strukturen.

Sam Altman, der CEO des ChatGPT-Anbieters OpenAI, will mit seinem Worldcoin-Projekt eine Infrastruktur für ein universelles Grundeinkommen schaffen. Dafür soll von allen Menschen zur Identifikation die Iris gescannt werden. Das klingt heute noch ziemlich dystopisch.

Unsere bestehenden Institutionen wurden für eine ganz andere Zeit geschaffen. Sie sind eine Reaktion auf die industrielle und in gewissem Umfang auch auf die Dienstleistungsrevolution. Aber eben nicht auf die technologische Revolution.

Ich glaube nicht, dass Kapitalismus und Demokratie in ihrer jetzigen Form fortbestehen werden. Sie müssen modernisiert und reformiert werden. Die Institutionen, die wir schaffen, spiegeln immer die Werte und das Machtgleichgewicht zu einem bestimmten Zeitpunkt wider. Doch beides verändert sich laufend. Daher brauchen wir dynamische, flexible Institutionen, die agil und flexibel, die kontinuierlich auf die technologische Entwicklung reagieren können.

EDIT:

Link zur archivierten Version:

archive.ph/yAtwC

#dach

threaded - newest

Haven5341@feddit.de on 06 Oct 2023 13:14 next collapse

Ich stimme ihm zu, dass wir wahrscheinlich vor bisher unabsehbaren Veränderungen und Verwerfungen stehen und neben meiner Neugier verspüre ich da auch Sorge. Aufhalten können wir es sowieso nicht. Hoffentlich bekommen wir es wenigstens kontrolliert.

Fun Fact: Bremmer ist wohl unabsichtlich Schuld an Trumps “America First”-Slogan.

In March 2016, Bremmer sent a weekly note to clients where he unintentionally came up with the “America First” slogan used by Donald Trump. The note described then-candidate Trump’s foreign policy not as isolationism but as a policy of “America First”, a transactional, unilateralist perspective that was more a Chinese than American framework for foreign policy. Bremmer used the term to help explain Trump’s foreign policy views and not as a campaign slogan. A few weeks later, The New York Times reporters David Sanger and Maggie Haberman, both of whom receive Bremmer’s weekly note, conducted Trump’s first foreign policy interview and asked him if he would describe himself as an isolationist. He said no. They then asked Trump if he considered himself an adherent of America First. Trump said yes[40] and liked the term so much he started using it himself. Haberman later credited Bremmer with coming up with “America First” to describe Trump’s foreign policy. The phrase was commonplace from the time Woodrow Wilson first used it in his 1916 campaign (see Wikipedia, “America First (policy).”

en.wikipedia.org/wiki/Ian_Bremmer#Political_repor…

taladar@feddit.de on 06 Oct 2023 14:14 next collapse

Das Problem mit Leuten die zu tief in diesem KI-Loch stecken ist dass sie immer Dinge vorher sagen die KI angeblich tun wird ohne dabei zu berücksichtigen dass sehr viele dieser Dinge aktuell schon geschehen und das ganz ohne KI zu benötigen. Meist weil sie maßlos überschätzen wie viel eigentlich notwendig ist um glaubhafte Desinformationen zu verbreiten.

CitizenKong@lemmy.world on 12 Oct 2023 13:39 collapse

Ich glaube das auch nicht, aber das hat wenig mit KI zu tun. Wobei es durchaus möglich ist, dass sich dadurch alles noch mehr beschleunigt. Trotzdem glaube ich, dass uns der Klimawandel schon bald sehr viel mehr beschäftigen wird als die KI.