c't-Podcast: "Vertrauenswürdige KI ist ein Kategorienfehler"

Eine bemerkenswerte Entwicklung zeichnet sich im Bereich der künstlichen Intelligenz ab. Unternehmen werben mit „vertrauenswürdiger KI“, die europäische KI-Regulierung, der so genannte AI Act, fordert sie ebenfalls, und auch in der öffentlichen Debatte gilt Vertrauen als Gütesiegel für Sprachmodelle und Chatbots. Der Begriff hat sich längst in unserer Sprache festgesetzt.

Aber das sei ein Problem, warnt die Philosophin Dorothea Winter im c't-Podcast „They Talk Tech“ mit Svea Eckert und Eva Wolfangel. „Das ist ein Kategorienfehler.

Technische Details

“ KI sei im Kern eine Technologie der Selektion, deren Kriterien sich oft nicht mehr offenlegen ließen. Dabei von Vertrauen zu sprechen, sei falsch: Vertrauen könne man allenfalls den Menschen entgegenbringen, die solche Systeme entwickeln und einhegen.

„Aber dem System selbst kann und soll ich nicht vertrauen.

Dieser Fortschritt sendet wichtige Signale für die Zukunft der Branche, und die Techwelt schaut genau hin.