Ich schule mich auch bzgl. KI! (U.B.)

Gerade auch in unserer ehrenamtlichen Arbeit ist das Wissen um KI sehr wichtig!

Wer an der Veranstaltung (kostenlos) teilnehmen möchte, bitte anmelden!

Grundlagen zu KI: Ethik und Datenschutz

KI-Schulungsreihe für Migrationsberatungsstrukturen

Seit dem 02.02.2025 sind Organisationen nach Art. 4 der EU-Verordnung über Künstliche Intelligenz verpflichtet ihre Mitarbeitenden im Umgang mit KI-Systemen zu schulen. Zur Unterstützung der Migrationsberatungsstrukturen im verantwortungsvollen Umgang mit KI sowie zur Begleitung bei der effektiven Nutzung von KI-Tools hat Nedim eine Reihe von Bildungsangeboten zur Stärkung von KI-Kompetenzen mit dem Fokus auf Migrationsberatung entwickelt.

Die Schulung „Grundlagen zu KI: Ethik und Datenschutz“ soll ein fundiertes Basiswissen zu Funktionsweise und Einsatzfeldern Künstlicher Intelligenz im Beratungskontext vermitteln. Im Mittelpunkt stehen die datenschutzrechtlichen Rahmenbedingungen sowie ethische Fragestellungen beim Umgang mit besonders schützenswerten personenbezogenen Daten von Ratsuchenden. Es wird aufgezeigt, wie KI-Tools rechtskonform und verantwortungsvoll eingesetzt werden können und wo sich Diskriminierungspotenzial von KI entfalten kann. Ein besonderer Schwerpunkt liegt auf den datenschutzrechtlichen Rahmenbedingungen gemäß der Datenschutz-Grundverordnung (DSGVO) hinsichtlich Einwilligung, Transparenz, Rechenschaftspflicht und dem Prinzip der Datenminimierung. Die Teilnehmenden erwarten anwendungsnahe Fallbeispiele verschiedener KI-Technologien und Empfehlungen für Anpassung von Datenschutzerklärungen. Ziel ist es, Beratende zu befähigen, KI reflektiert und verantwortungsvoll in der Arbeit mit besonders schutzbedürftigen Zielgruppen einzusetzen.

Das Schulungsangebot richtet sich an Teilnehmende ohne fundierte Vorkenntnisse im KI-Bereich.

Die Anmeldefrist läuft am 09.06.2025 aus. Die Teilnahme erfolgt unter dem Vorbehalt der Kapazitätsgrenzen.

Datum:

17.06.2025 | 10:30 – 12:00 Uhr

Kontakt:

Taissiya Sutormina
t.sutormina@minor-kontor.de

Elena Bresolin
e.bresolin@minor-kontor.de

Programm:

Download als PDF (< 1 MB)

Zur Anmeldung

________________________________________________________________________

27. März 2025

Information des TÜV-Thüringen © TÜV-Thüringen

KI-Verordnung | EU AI Act: Artikel 4 – KI-Kompetenz ist jetzt Pflicht

Seit August 2024 regelt die KI-Verordnung der EU (engl. EU AI Act) erstmalig den sicheren und transparenten Einsatz von Künstlicher Intelligenz (KI). Aktuell steht besonders Artikel 4 im Fokus. Seit dem 2. Februar 2025 ist seine Anwendung verbindlich! Unternehmen und Organisationen müssen sicherstellen, dass Personal, welches mit KI-Systemen arbeitet, über das nötige Wissen und die Kompetenz für diesen Einsatz verfügt.

Was bedeutet das konkret? Warum ist schnelles Handeln erforderlich? Und wie setzen Unternehmen die Vorgaben um? Erfahren Sie mehr in diesem Beitrag!

Unzulässige KI – KI, die z.B. Social Scoring, emotionale Manipulation oder biometrische Echtzeit-Identifizierung im öffentlichen Raum ermöglicht. Hier sind Betrieb und Nutzung verboten!
Hochrisiko-KI – KI, die kritische Entscheidungen wie bspw. Kreditvergaben, Personalentscheidungen oder autonomes Fahren beeinflusst.
Begrenztes Risiko – z. B. KI-gestützte Chatbots oder Texterstellung.
Minimales Risiko – z. B. Spamfilter oder automatisierte Übersetzungen bzw. Textvorschläge.

Artikel 4 verpflichtet Unternehmen risikoklassenunabhängig zu gewährleisten, dass Mitarbeiter, die mit KI umgehen, über entsprechende Kompetenzen verfügen. Die Vorgabe gilt für alle Organsiationen, die KI-Systeme entwickeln, einsetzen oder steuern – von ChatGPT über automatisierte Kundenkommunikation bis hin zu internen Datenanalysen. Beschäftigte müssen technische Grundlagen, rechtliche Rahmenbedingungen sowie ethische Risiken kennen. Der Verordnungstext gibt kein konkretes Schulungsformat vor, sondern fordert ausreichendes Wissen, um KI sicher einzusetzen. Ist entsprechende Kompetenz nicht vorhanden, kann dies schwerwiegende Folgen haben.

Fehlerhafte KI-Anwendungen oder unreflektierte Entscheidungen aufgrund falscher KI-generierter Ergebnisse führen unter Umständen zu Schäden. Unternehmen haften, wenn sie ihre Beschäftigten nicht ausreichend für den KI-Einsatz qualifizieren. Die Regelung aus Art. 4 KI-Verordnung/EU AI Act bedeutet mit anderen Worten: Wer KI nutzt, muss Verantwortung übernehmen.

AUF DEN PUNKT

EU-weite Regeln: Die neue KI-Verordnung (EU AI Act) setzt klare Vorgaben für den Einsatz Künstlicher Intelligenz.
Pflicht zur Schulung: Artikel 4 verlangt, dass alle Beschäftigten, die KI nutzen über das notwendige Wissen verfügen.
Branchenübergreifende Geltung: Die Regel betrifft alle Unternehmen, die KI-Systeme entwickeln oder einsetzen.
Wettbewerbsvorteil durch Weiterbildung: Wer KI-Kompetenz systematisch fördert, steigert Sicherheit und Innovationskraft.

KI-Kompetenz: Was schreibt Artikel 4 EU AI Act vor?

Die EU hat mit der KI-Verordnung einen einheitlichen Rahmen für Künstliche Intelligenz geschaffen. Die Verordnung trat im August 2024 in Kraft und legt fest, welche Anforderungen beim Entwickeln und Nutzen von KI gelten. Sie soll Vertrauen in KI stärken, Risiken begrenzen und Innovation ermöglichen. Artikel 4, der seit dem 2. Februar 2025 verpflichtend ist, stellt dabei die Fähigkeiten der Menschen in den Mittelpunkt: Wer beruflich mit KI-Systemen arbeitet, muss sie verstehen und sicher bedienen - ganz egal, in welche der vier Risikogruppen die KI eingestuft ist:

Wer ist von Artikel 4 EU AI Act betroffen?

Artikel 4 betrifft alle Unternehmen, die KI entwickeln oder einsetzen.
Dazu zählen unter anderem:

Technologieanbieter: Entwickler von KI-Software und -Plattformen.
Industrie und Produktion: Betriebe, die KI für Automatisierung oder Qualitätssicherung verwenden.
Gesundheitswesen: Ärzte und Pflegekräfte, die KI-gestützte Diagnosen oder Assistenzsysteme nutzen.
Finanz- und Versicherungssektor: Banken und Versicherungen, die KI für Bonitätsprüfungen oder Schadensabwicklungen einsetzen.
Öffentliche Verwaltung: Behörden, die KI für Bürgeranfragen oder Datenanalysen verwenden.
Bildung und Forschung: Hochschulen, Schulen und Forschungsinstitute, die KI für Lehrmethoden, Analyse von Lerndaten oder wissenschaftliche Studien nutzen.
Handel und E-Commerce: Unternehmen, die KI für personalisierte Kaufempfehlungen, Lagerverwaltung oder Betrugserkennung einsetzen.
Mobilität und Logistik: Transport- und Logistikunternehmen, die KI für Routenoptimierung, autonome Fahrzeuge oder Lieferkettenmanagement verwenden.

Auch kleine Unternehmen müssen prüfen, ob KI-Anwendungen im Einsatz sind. Viele nutzen bereits KI-gestützte Werkzeuge, wie zum Beispiel ChatGPT, ohne sich der damit verbundenen Verantwortung bewusst zu sein.

Wie wirkt sich Artikel 4 EU AI Act auf Unternehmen und Organisationen aus?

Aus der Schulungspflicht ergeben sich weitere Schritte: Unternehmen müssen klären, wer mit KI arbeitet und welches Wissen fehlt. Für Organisationen, die KI aktiv nutzen, sind klare Regeln notwendig. Schulung allein reicht nicht aus – erforderlich sind feste Prozesse, um Kompetenzen langfristig zu sichern. Besonders wichtig ist dabei das Betrachten technischer, rechtlicher und ethischer Aspekte. Als Leitfragen zu den Einzelbereichen bieten sich an:

Technisches Verständnis: Wie funktioniert das KI-System? Welche Daten nutzt es? Wie entstehen Vorhersagen?
Rechtliche Vorgaben: Welche Datenschutz- und Transparenzpflichten gelten? Wer trägt die Verantwortung bei Fehlern?
Ethische Dimension: Wie vermeidet man Diskriminierung durch KI? Welche Grenzen müssen beachtet werden?

Wie lassen sich die Anforderungen in die Praxis umsetzen?

Unternehmen und Organisationen sollten die neuen Vorgaben aus der KI-Verordnung strategisch angehen und systematische Maßnahmen ergreifen, um ihren Pflichten effektiv nachzukommen. Dies erfordert sorgfältiges Planen, das sowohl technische als auch organisatorische Aspekte berücksichtigt. Unternehmen, die frühzeitig handeln, reduzieren Risiken und profitieren von sicherem, effizientem KI-Einsatz. Mit den folgenden fünf Schritten wird Art. 4 KI-Verordnung erfolgreich in die Praxis umgesetzt:

Bestand aufnehmen: Feststellen, wo im Unternehmen welche KI-Systeme genutzt werden und welche Qualifikationen vorhanden sind bzw. fehlen. Dazu gehört:
- Erfassung aller KI-Anwendungen, die im Unternehmen genutzt werden, inklusive interner Entwicklungen und zugekaufter Lösungen.
- Klassifizierung nach Risiko, um zu prüfen, ob bestimmte Anwendungen unter die Hochrisiko-Kategorie des AI Act fallen.
- Analyse der vorhandenen Kompetenzen: Welche Abteilungen und Mitarbeiter arbeiten mit KI? Welche Fachkenntnisse sind bereits vorhanden und wo gibt es Lücken?
- Überprüfung der bestehenden Prozesse, um festzustellen, inwieweit bereits Compliance-Vorgaben eingehalten werden.
Gezielt schulen: Mitarbeiterschulungen entwickeln oder externe Weiterbildung als Maßnahmen zum Sicherstellen der KI-Compliance nutzen. Da der AI Act klare Anforderungen an Transparenz, Nachvollziehbarkeit und Risikomanagement stellt, benötigen Mitarbeitende die entsprechenden Kompetenzen, um KI-Systeme regelkonform einzusetzen. Unternehmen sollten:
- Schulungsprogramme für verschiedene Zielgruppen vorhalten: IT-Fachkräfte, Datenschutzbeauftragte, Führungskräfte und Endanwender.
- Einen kontinuierlichen Lernprozess etablieren, da KI-Technologien und regulatorische Anforderungen sich stetig weiterentwickeln.
Regelmäßig aktualisieren: Um mit den technologischen und regulatorischen Entwicklungen Schritt halten zu können, müssen Unternehmen sicherstellen, dass sich ihre Systeme und Prozesse stets auf dem aktuellen Stand befinden. Wichtige Maßnahmen in diesem Zusammenhang sind:
- Regelmäßige Audits und Updates der eingesetzten KI-Systeme, um neue Anforderungen und Sicherheitsaspekte zu berücksichtigen.
- Anpassung der internen Richtlinien, sobald neue regulatorische Vorgaben oder technologische Innovationen auftreten.
- Monitoring von Best Practices und Branchenstandards, um von erfolgreichen Ansätzen anderer Unternehmen zu lernen.
- Enger Austausch mit Behörden und Verbänden, um frühzeitig auf Änderungen im regulatorischen Umfeld zu reagieren.
Verantwortlichkeiten klären: Um KI verantwortungsvoll einzusetzen, müssen klare Zuständigkeiten und Prozesse definiert werden. Dies beinhaltet:
- Benennung eines KI-Beauftragten, der sicherstellt, dass alle Anforderungen des AI Act eingehalten werden.
- Einrichtung eines interdisziplinären KI-Governance-Teams, bestehend aus Fachkräften für IT, Recht, Ethik und Datenschutz.
- Etablierung eines Risikomanagement-Prozesses, um den Einfluss von KI-Anwendungen auf Datenschutz, Sicherheit und Ethik regelmäßig zu bewerten.
- Etablierung eines Risikomanagement-Prozesses, um den Einfluss von KI-Anwendungen auf Datenschutz, Sicherheit und Ethik regelmäßig zu bewerten.
- Transparente Entscheidungsstrukturen, damit bei Problemen oder ethischen Bedenken schnell reagiert werden kann.
Unternehmensrichtlinien festlegen: Unternehmen sollten klare verbindliche interne Richtlinien entwickeln, die den verantwortungsvollen Einsatz von KI in der Organisation einheitlich steuern und mit den Anforderungen des AI Act übereinstimmen. Dazu gehören:
- Richtlinien zur Datenqualität: Sicherstellen, dass Trainingsdaten für KI-Systeme fair, repräsentativ und frei von Verzerrungen sind.
- Transparenz- und Dokumentationspflichten: Prozesse müssen so gestaltet sein, dass sie für Behörden und Stakeholder nachvollziehbar sind.
- Verhaltensregeln für den KI-Einsatz, um ethische Prinzipien und menschenzentrierte Ansätze in den Unternehmensalltag zu integrieren.
- Maßnahmen zur Nachvollziehbarkeit von KI-Entscheidungen, insbesondere für Anwendungen mit hohem Risiko.

Fazit

Artikel 4 EU AI Act macht KI-Kompetenz zur Pflicht. Unternehmen müssen sicherstellen, dass ihre Beschäftigten die Technologie verstehen und verantwortungsvoll einsetzen.

Die Regelung betrifft alle Branchen und erfordert ein Umdenken beim Thema Weiterbildung. Wer in Schulungen und klare Prozesse investiert, sorgt nicht nur für die Einhaltung der Vorschriften, sondern schafft auch die Grundlage für nachhaltigen KI-Erfolg.

Bleiben Sie wissbegierig!