Main content

Aktuelles

01.10.2024
Fachtagung "KI x Kultur" in Hannover, 01. Oktober

Nächste Woche, am 1. Oktober, wird unsere Kollegin Annemarie Witschas einen Workshop im Rahmen der Veranstaltung „KI X Kultur“ in Hannover leiten. Wir freuen uns schon auf spannende Diskussionen mit Vertreter:innen der Kunstvermittlung und Kulturszene darüber, wie wir ein umfassenderes – und damit verantwortungsvolleres – Bild von KI im öffentlichen Diskurs fördern können.

Für mehr Informationen folgen Sie bitte dem beim Foto hinterlegten Link.

24.08.2024
Another tech is possible
Kritische und spekulative digitale Zukünfte

"Von fliegenden Autos bis zu virtuellen Cyberwelten: Eine Zukunft ohne smarte digitale Technologien erscheint heute kaum vorstellbar. Doch wessen Zukunft ist das eigentlich?
Zwar inszenieren sich Technik-Zukünfte oft als revolutionär, doch gleichzeitig verfestigen sie alte Vorstellungen, bestehende Machtverhältnisse und Lebensweisen. Woher stammen diese Zukunftsvorstellungen und wessen Absichten stecken dahinter?

Diese Fragen werden am 24.08.2024 von 11:00 bis 17:00 in der Kunsthalle im Rahmen eines Workshops kritisch, visionär, und spielerisch diskutiert. Gemeinsam erkunden wir, wie alternative, nachhaltige und sozial gerechte technische Zukünfte aussehen könnten, inspiriert von Methoden der kritischen Zukunftsstudien und des Design Futuring, sowie von feministischer Science-Fiction.

Es gibt Pausen mit Snacks und Getränken. Die Teilnahme ist kostenlos. Um eine Voranmeldung an outreachlab@ethikderki.de wird gebeten.

30.07.2024
Chatten mit Künstlicher Intelligenz – Risiken im Umgang mit Chatbots

Was sind Problematiken, Risiken, aber auch Chancen im Umgang von Menschen mit Chatbots? Wie sehen solche Beziehungen aus? Und welche ethischen und gesellschaftlichen Fragen gehen mit ihnen einher? Das sind Fragen, mit denen sich Nora Lindemann in ihrer Promotion beschäftigt und die im Zeitalter von ChatGPT und Co. eine große Relevanz haben. Zum Thema dieser Arbeit hat die Universität Osnabrück nun eine Pressemeldung veröffentlicht, die einen guten ersten Einblick in die Thematik bietet.

22.04.2024
Neuer Artikel im AI & Society Journal: "Chatbots, Search Engines, and the Sealing of Knowledges"

Abstract: In 2023, online search engine provider Microsoft integrated a language model that provides direct answers to search queries into its search engine Bing. Shortly afterwards, Google also introduced a similar feature to its search engine with the launch of Google Gemini. This introduction of direct answers to search queries signals an important and significant change in online search. This article explores the implications of this new search paradigm.
Drawing on Donna Haraway’s theory of Situated Knowledges and Rainer Mühlhoff’s concept of Sealed Surfaces, I introduce the term Sealed Knowledges to draw attention to the increasingly difficult access to the plurality of potential answers to search queries through the output of a singular, authoritative, and plausible text paragraph. I argue that the integration of language models for the provision of direct answers into search engines is based on a de-situated and disembodied understanding of knowledge and affects the subjectivities of its users. At the same time, the sealing of knowledges can lead to an increasing spread of misinformation and may make marginalized knowledge increasingly difficult to find. The paper concludes with an outlook on how to resist the increasing sealing of knowledges in online search.

15.03.2024
Purpose Limitation for AI Models

We are excited to announce the publication of our paper, “Regulating AI with Purpose Limitation for Models” by Rainer Mühlhoff and Hannah Ruschemeier, featured in the opening issue of the new journal “AI Law and Regulation”. In this groundbreaking study, we introduce the concept of applying purpose limitation to AI models as a novel approach to mitigate the unregulated secondary use of AI, addressing risks such as discrimination and infringement of fundamental rights.

Our interdisciplinary research highlights the increasing informational power asymmetry between data companies and society, suggesting that current regulations, focused mainly on data protection, fall short in curbing the misuse of trained models. By shifting the focus from training data to trained models, we advocate for a regulatory framework that emphasizes democratic control over AI’s predictive and generative capabilities, ensuring they are used in ways that are beneficial to society without undermining individual or collective rights.

This paper is a call to action for lawmakers, technologists, and the public to rethink how we regulate AI, aiming for a future where AI serves the public good while respecting privacy and equity. Dive into our full analysis and join the conversation on how we can achieve a more equitable and controlled use of AI technologies.

An earlier version of the paper was presented at the EAI CAIP – AI for People conference on November 24, 2023, in Bologna.

Feb 19, 2024
Predictive Analytics and Collective Data Protection

We’re excited to announce the final publication of our paper, “Predictive Analytics and the Collective Dimensions of Data Protection”, by Rainer Mühlhoff and Hannah Ruschemeier. Our interdisciplinary research blends legal studies, ethics, and technical insights to unravel the social implications of predictive analytics. Challenging the conventional, individualistic approach, we propose ‘predictive privacy,’ advocating for regulations that reflect the collective impact of data use. Dive into our exploration of societal risks and the imperative for new legal frameworks in the digital age.

5.2.2024
NDR Kultur – Das Journal über meine Arbeit

Unter dem Titel "Was sind die Risiken von KI?" hat NDR Kultur - Das Journal einen Bericht über die aktuelle Arbeit von Prof. Mühlhoff gemacht. Vielen Dank an Lennart Herberhold.