18 Uhr: Über das Verhältnis von KI-Sprachmodellen zum Phänomen Macht

Nach einem Input ist die freie Diskussion eröffnet.

Hier nur ein paar Gedanken zu möglichen Problemen, die es bereits gibt, die sich jedoch verstärken werden: Natürlich birgt die KI das Potenzial, öffentliche Meinungen zu beeinflussen, politische Kampagnen zu unterstützen und Desinformation zu verbreiten. Wer also die Kontrolle über oder den Zugang zu solchen Modellen hat, kann eine erhebliche Macht über die öffentliche Wahrnehmung ausüben. Dies geschieht vor allem durch die Filterung und Priorisierung von Informationen. Algorithmen beeinflussen, welche Informationen Nutzer sehen und welche nicht. Es sollte auch bedacht werden, dass durch die Automatisierung von Aufgaben wie Texterstellung, Übersetzung und Zusammenfassung Sprachmodelle bestehende Machtstrukturen in Organisationen verändern werden. Da die Entwicklung und der Einsatz fortschrittlicher Sprachmodelle immense Rechenleistung, Datenmengen und Fachwissen erfordern, kann es zu einer Konzentration von Macht bei wenigen großen Technologieunternehmen, Forschungseinrichtungen und anderen Trägern führen. Die zunehmende Schwierigkeit, zwischen von Menschen erstellten und KI-generierten Inhalten zu unterscheiden, kann das Vertrauen in Informationen untergraben. Sprachmodelle können von Firmen eingesetzt werden, um hochgradig personalisierte und manipulative Nachrichten zu erstellen, die auf die psychologischen Profile von Einzelpersonen zugeschnitten sind. Was Autokratien mit KI bereits machen und in Zukunft noch machen können, ist ebenfalls ein wichtiges Thema.
Welche Regeln sind angesichts dieser Gefahren nötig? Die seit 1. August 2024 eingeführten EU-Richtlinien zur KI (AI Act) verlangen eine Förderung der Innovation in diesem Bereich, verbieten andererseits bestimmte KI-Anwendungen, die als eindeutige Bedrohung für Grundrechte und Sicherheit gelten (z.B. Social Scoring durch staatliche Akteure, manipulative KI, Bedrohung der Infrastruktur) und initiieren Aufsichtsbehörden auf nationaler und europäischer Ebene. Wird das die Gefahren eindämmen und die Entwicklung fördern?

Grundlegender Artikel:
https://hannesbajohr.de/blog/2023/04/25/neuer-beitrag-wer-sprachmodelle-kontrolliert-kontrolliert-auch-die-politik/

Video: Rechtliches zum AI Act in der EU:
https://www.youtube.com/watch?v=5SVEBQyOr7U

Dieser Beitrag enthält leider Verschwörungstheorien, es gibt aber auch
auch interessante Gedanken:
https://www.youtube.com/watch?v=n4Z5c3_JFoc

Übersicht über den AI Act der EU:
https://www.melibo.de/blog/der-eu-ai-act-was-bedeutet-er-fur-kunstliche-intelligenz-in-unternehmen

Gesamter Gesetzestext des KI Acts der EU als pdf:
https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202401689