Hinweis: Dieser Artikel wurde mit Unterstützung von Perplexity und ChatGPT erstellt. Die Inhalte wurden sorgfältig geprüft. Uns dieser Hinweis ist auch gleich die Einleitung zu unserem heutigen Thema.
Mit dem Inkrafttreten des AI Act stellt sich die Frage: Müssen KI-generierte Inhalte wie Texte oder Bilder gekennzeichnet werden? Welche Kompetenzen benötigen Anwender:innen von KI-Tools?
Dieser Artikel beantwortet die wichtigsten Fragen dazu.
Was ist der AI Act?
Der AI Act der Europäischen Union, der am 2. August 2024 in Kraft trat, ist das weltweit erste umfassende Regelwerk zur Regulierung von Künstlicher Intelligenz (KI). Ziel ist es, die Entwicklung und Nutzung von KI-Systemen sicher und vertrauenswürdig zu gestalten, Risiken zu minimieren und Grundrechte zu schützen.
Kernpunkte des AI Act:
- Risikobasierter Ansatz: KI-Systeme werden je nach Risiko in Kategorien eingeteilt: Minimal, Hoch, Unannehmbar. Letztere sind verboten, während Hochrisiko-Systeme strengen Anforderungen unterliegen (z. B. in Bezug auf Datenqualität, Transparenz, menschliche Aufsicht).
- Kennzeichnungspflicht: KI-generierte Inhalte müssen in bestimmten Fällen gekennzeichnet werden, um Transparenz für Nutzer:innen zu gewährleisten.
Müssen KI-generierte Texte und Bilder gekennzeichnet werden?
Gibt es eine allgemeine Kennzeichnungspflicht für Blogartikel, Bilder oder andere Inhalte?
Nein, aktuell gibt es keine allgemeine gesetzliche Pflicht, KI-generierte Inhalte zu kennzeichnen.
Wann besteht eine Kennzeichnungspflicht?
Der AI Act sieht eine Kennzeichnungspflicht hauptsächlich für Deepfakes vor – also für KI-generierte Bild-, Ton- oder Videoinhalte, die täuschend echt wirken und Menschen oder Ereignisse fälschlich darstellen könnten.
Was bedeutet das für Unternehmen?
- Allgemeine Texte und Bilder müssen nicht gekennzeichnet werden.
- Täuschend echt wirkende Inhalte müssen gekennzeichnet werden, insbesondere wenn sie politische, gesellschaftliche oder sicherheitskritische Themen betreffen.
Fazit: Normale KI-generierte Inhalte in Blogs oder Präsentationen sind nicht betroffen – eine generelle Kennzeichnungspflicht gibt es derzeit nicht.
Müssen Mitarbeitende eine KI-Kompetenz nachweisen?
Ja, der AI Act schreibt vor, dass Personen, die mit KI-Systemen arbeiten, über ausreichende KI-Kompetenz verfügen müssen.
Wer ist betroffen?
- KI-Entwickler (z. B. Unternehmen wie OpenAI, Microsoft, Google)
- KI-Betreibende: Unternehmen oder Personen, die KI-Systeme beruflich nutzen (z. B. für Blogartikel, Präsentationen, Analysen).
Das bedeutet konkret:
Wer ChatGPT, Copilot oder andere KI-Tools für berufliche Zwecke nutzt, muss über eine „ausreichende“ KI-Kompetenz verfügen.
Arbeitgeber müssen diese Kompetenz „nach besten Kräften“ sicherstellen.
Was bedeutet „ausreichende KI-Kompetenz“?
Unternehmen können selbst entscheiden, welche Schulungen oder Maßnahmen erforderlich sind. Allgemein umfasst KI-Kompetenz:
- Grundverständnis von KI-Systemen (Wie funktionieren sie? Welche Grenzen gibt es?)
- Kritische Bewertung der Ergebnisse (Faktencheck, Relevanzprüfung)
- Kenntnisse in Datenschutz & Urheberrecht
- Ethik & Risikobewusstsein (Umgang mit Falschinformationen, Bias, Diskriminierung)
Was sollten Unternehmen jetzt tun?
1. KI-Richtlinien für Mitarbeitende aufstellen
Erstellung eines KI-Nutzungsleitfadens, um klare Vorgaben zur Verwendung von KI-Tools im Unternehmen zu schaffen. Die WKO bietet übrigens eine einfache Möglichkeit, eine eigene KI-Guideline zu erstellen: Muster-KI-Richtlinie der WKO
2. KI-Schulungen und Kompetenzaufbau sicherstellen
Dokumentation von Schulungsmaßnahmen, damit Mitarbeitende die Anforderungen des AI Act erfüllen.
3. Weiterhin gesetzliche Entwicklungen beobachten
Der AI Act wird schrittweise umgesetzt. Unternehmen sollten sich auf mögliche Anpassungen vorbereiten.
Fazit: Was bedeutet der AI Act für KI-Anwender:innen?
Kennzeichnungspflicht? Nein, außer für Deepfakes und täuschend echte Inhalte.
KI-Kompetenz für Mitarbeitende? Ja, Unternehmen müssen sicherstellen, dass ihre Mitarbeitenden KI-Tools kompetent und rechtskonform nutzen.
Was tun Unternehmen jetzt? KI-Richtlinien formulieren, Schulungen anbieten und Dokumentation sicherstellen.
Aktuell gibt es keine allgemeine Kennzeichnungspflicht für Blogartikel oder Bilder, aber die Anforderungen an KI-Kompetenz steigen. Unternehmen sollten sich darauf vorbereiten.
Hast du einen Fehler in unserem Beitrag gefunden oder möchtest du uns etwas mitteilen? Bitte hinterlasse einen Kommentar oder kontaktiere uns, damit wir ihn korrigieren können!
Quellen
https://www.it-recht-kanzlei.de/ki-inhalte-kennzeichnungspflicht.html
https://www.digitalaustria.gv.at/Themen/KI/AI-Act.html
https://www.derstandard.de/story/3000000253344/ki-kompetenzen-ai-act-strafe
https://www.wko.at/oe/handeldigital/ki-verordnung-was-der-ai-act-fuer-den-handel-bedeutet
https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/ki-kompetenz.de.html
https://musterformulare.wko.at/digitalisierung/ki-guidelines