00:00:02: ZVDH aktuell der Info-Podcast für Dachdecker.

00:00:06: In vielen Dachdäckerbetrieben kommt

00:00:08: KI,

00:00:09: also künstliche Intelligenz vielleicht noch nicht im ganz großen Stil aber doch in einzelnen Anwendungen zum Einsatz.

00:00:16: Zum Beispiel der Kundenschat auf der Webseite die automatische Dachanalyse das KI Bild für Instagram oder der digitale Telefonassistent.

00:00:25: Seit Juli dieses Jahres muss der Einsatz von KI gegenüber Nutzern und Kunden in bestimmten Fällen deutlich und erkennbar gemacht werden.

00:00:34: Transparenzpflichten sind das Stichwort, die KI-Verordnung der EU liefert dazu die entsprechenden Regeln.

00:00:42: In dieser Folge klären wir wann muss ein Dachdeckerbetrieb offen sagen dass KI im Einsatz ist?

00:00:48: Und wie macht man es möglichst einfach und effektiv?

00:00:51: Und damit herzlich willkommen zu ZVDH aktuell!

00:00:54: Ich bin Wolfgang Schmitz und freue mich dass Sie auch wieder dabei sind.

00:01:00: Mein Gast in dieser Folge ist David Pfau.

00:01:03: Er ist Geschäftsführer der Conreri Digital Development GmbH, Conriri berät Institutionen, Unternehmen und Verbände zu Datenschutzthemen und Conrieri unterstützt insbesondere auch bei der Einführung von KI und was dabei regulatorisch zu beachten ist.

00:01:20: Mit David PfAU bin ich jetzt verbunden.

00:01:22: Guten Tag Herr PfAU!

00:01:26: Herr Pfau, viele Handwerksbetriebe denken bei der EU-KI-Verordnung zuerst an ganz große Techunternehmen.

00:01:34: Warum kann Artikel Fünfzig um die genaue Vorschrift an dieser Stelle auch einmal zu nennen trotzdem für einen Dachdeckerbetrieb relevant werden?

00:01:42: Das ist auch zuerst mal eine verständliche Überlegung, da ja in der Tat den Medien sehr viel um die großen Sprachmodellanbieter sich dreht.

00:01:50: Aber es ist so dass die KI-Verordnung verschiedene Rollen adressiert.

00:01:55: Einmal die Anbietern, die KI Systeme oder KI Modelle entwickeln lassen und dann am Markt anbieten.

00:02:03: Oder eben auch und da wird's spannend für die Handwerksbetriebe Betreiber nämlich alle Unternehmen unter dem Strich die KI-Systeme in einem eigenen Verwendungszweck, in eigener Verantwortlichkeit im Unternehmen einsetzen.

00:02:15: Und dabei kommt es tatsächlich nicht auf die Betriebsgröße an sondern nur darauf dass man etwas macht mit KI?

00:02:21: Das ist korrekt.

00:02:22: Für die Betreiberdefinition ist das so und wir können ja für den heutigen Podcast einfach ein Beispiel machen, was wir so durch den Podcast mitnehmen.

00:02:30: Der Anbieter eines KI-Systems könnte zum Beispiel OpenAI sein und das Tool dazu heißt ChatGPT Und der Betreber könnte ein Handwerksbetrieb sein, der bei sich im Unternehmen ChatGAPT für verschiedenste Anwendungszwecke einsetzt.

00:02:45: Schauen wir uns mal einzelne Anwendungen an, bei denen die Transparenzpflichten relevant werden können.

00:02:51: Wenn ein Betrieb jetzt beispielsweise einen KI-Chatbot auf der Webseite einsetzt oder einen Telefonassistenten für Kundenanfragen nutzt – was muss dem Kunden im Chatbot oder am Telefon konkret mitgeteilt werden?

00:03:05: Wenn wir den Blick bewusst nur auf die KI-Verordnung richten und andere Rechtsgebiete ausnehmen, gibt es dort eine Anbieterpflicht.

00:03:12: Also der, der ein Chatbot anbietet muss dafür Sorge tragen dass eine Person, die mit diesem Chatbot interagiert von Beginn an weiß das sie sich hier um KI System handelt.

00:03:25: Nichtsdestotrotz empfehlen wir unseren Mandanten dahingehend auf die sicheren Seite zu sein und generell Chatbots, die auf der Webseite eingesetzt werden oder eben auch beispielsweise in Telefonhotlines immer so transparent zu können.

00:03:38: seien im Sinn dass es klar ist.

00:03:40: Das muss kein langer juristischer Hinweis sein.

00:03:42: da reicht's beispielsweise auf der Website wenn steht Hallo ich bin Sally ihr KI-Bott Ich helfe Ihnen gerne weiter.

00:03:49: dann ist das völlig ausreichend.

00:03:51: Dann weiß der Nutzer oder die Nutzerin okay?

00:03:53: Ich kommunizier hier mit einer KI.

00:03:56: Reicht ein Hinweis zum Beispiel in der Datenschutzerklärung oder braucht es tatsächlich einen sichtbaren Satz direkt im Chat oder hörbar am Telefon anfangen?

00:04:06: Bei KI-System, die für die direkte Interaktion genutzt werden sollte dieser Hinweis wirklich am frühestmöglichen Zeitpunkt sein wenn der Nutzer die Nutzerin damit in Berührung kommt.

00:04:16: Also der Hinweise an den Datenschutzhinweisen kann sinnvoll sein und ist möglicherweise auch aus Sicht des Datenschutzes notwendig ersetzt aber nicht diese kurze Information dass es sich hier um ein KI System handelt.

00:04:29: Viele Betriebe nutzen KI um schöne Dachbilder, Sanierungsbeispiele oder Vorher nachher Visualisierungen zu erstellen, wir gehen jetzt zunächst mal davon aus dass diese Bilder komplett KI generiert werden.

00:04:43: Da gibt es ja sehr schöne Tools die so etwas können.

00:04:45: und wann musst du ein Bild als KI-generiert gekennzeichnet werden?

00:04:49: Das ist auf den ersten Blick eine leicht zu beantwortende Frage wird im Detail schwieriger.

00:04:53: daher lassen Sie uns gerne gemeinsam einmal abschichten.

00:04:57: ich muss Bild Ton und Videoinhalte dann kennzeichnen.

00:05:01: wenn das sich um einen Deepfake handt sagt die KI-Fragen.

00:05:05: Und wenn wir mal in die KI-Verordnung schauen, in die Definition was denn ein Diebfeg ist geht es dort um etwas das von KIA zeugt ist.

00:05:12: Was einer wirklichen Person einem Gegenstand also zum Beispiel dem Dach einen Ort eine Einrichtung oder ein Ereignis ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde Also kurz gesagt um etwas dass wirklich wirkt und auch so dargestellt wird so aber nicht existiert Dann muss es nach der KI Verordnung grundsätzlich zuerst einmal gekennzeichnet werden.

00:05:38: Es gibt auch von der EU-Kommission Leitlinien zur KI-Verordnung und es gibt auch schon eine, die ist veröffentlicht unter anderem nämlich die zu den Kennzeichen des Pflichten und die EU- Kommission geht da sogar noch ein Stück weiter in ihrer Rechtsauslegung der KI-Vordnungen sagt nicht nur was Wirklichkeit vorgaukelt sondern auch etwas realistisch wirkt wäre ein Diebfeg bedeutet wenn wir jetzt wieder zurück zum Beispiel vom Beginn kommen.

00:06:03: Wir haben ein Dach und ich möchte dem Kunden beispielsweise zeigen, wie das Dach mit Solaranlage aussehen würde.

00:06:08: Die gibt es aber dann noch nicht drauf.

00:06:10: Ich bau diese Solaranlage mit KI in das Bild ein.

00:06:13: Dann würde nach der Definition der KI-Fordnung vermutlich einen Deepfake vorliegen, der dann kennzeichnungspflichtig wäre.

00:06:20: hier vielleicht ganz kurz der Hinweis.

00:06:22: wir reden ja ganz abstrakt jetzt an dieser Stelle darüber.

00:06:24: am Ende ist es natürlich immer eine Einzelfallentscheidung die Unternehmen für sich mit rechtlichen Beistandintern wie extern klären müssen.

00:06:33: Was wäre denn ein guter Hinweis für ein Bild, das ein saniertes Nachzeige aber gar kein echtes Kundenprojekt ist?

00:06:40: Gibt es da besondere Regeln oder was ist da Ihre Empfehlung?

00:06:45: Noch gibt es keine Rechtsprechung zu KI-Fordnungen, da werden wir sicherlich in den nächsten Jahren noch aufgeschlaut werden.

00:06:51: Die Bundesnetzagentur überwacht ja die Einhaltung der KI- Forderung und es wird sicher viele Rechtsmeinungen geben.

00:06:56: Aktuell zeigt sich im Markt dass viele mit den Icons arbeiten, die die EU Kommission vorgegeben hat bzw empfohlen haben.

00:07:05: sie müssen nicht verwendet werden aber können verwendete werden.

00:07:08: das sind kleine runde Kreise.

00:07:10: da steht AI oder man kann es auch ins deutsche übersetzen mit KI und das ist dann entweder transparent, oder auch etwas stärker.

00:07:19: Der Hinweis wird direkt ins Bild eingebracht.

00:07:22: Wir diskutieren häufig auch mit Mandanten dahingehend in wie weit es reicht zum Beispiel in der Bild-Unterschrift oder in den Pressum.

00:07:29: Da ist heutzutage aber einfach die Herausforderung in diesem arbeitszeiligen Ökosystem dass ich vielleicht Bilder von einer Agentur einkauf Vielleicht nicht nur auf meiner Webseite, wo ich eine Bild Unterschrift habe sondern in Social Media.

00:07:40: Ja, daher gehen unsere Tendenz aktuell dahin die Kennzeichnung mit Icons wirklich direkt im Bild in der Aufnahme vorzunehmen.

00:07:49: Nehmen wir noch mal einen anderen Fall aus dem Arbeitsalltag.

00:07:52: wenn ich in einem Kundenangebot das Lach des Kunden auf einem Foto KI generiert mit einer Solaranlageausstattte kann Ich dann davon ausgehen dass der Kunde weiß dass das sein Dach ist und damit kein Deepfake der ihm nicht von vornherein und sofort erkennbar?

00:08:08: Das würden findige Juristen sicherlich so sagen und das lässt sich definitiv auch hören.

00:08:14: Und genau da zeigt eben... die Praxis, wo möglicherweise noch grau zu uns sind oder wo man sich noch bewegt.

00:08:21: Genau in diesem Beispiel ist es ja wie Sie sagen nichts was diesen einen Kunden als fälschlicherweise Wahrheitsgetreuer erscheinen würde weil er kennt womöglich sein Dach und dass da noch keine Solaranlagen drauf ist.

00:08:32: also darüber könnte man sicherlich im Einzelfall diskutieren.

00:08:35: ist hier ein Hinweis notwendig oder nicht?

00:08:37: ich könnte mir aber vorstellen um hier keinen eine rechtliche Flanke aufzumachen und einfach sauber zu sein, dass man Ihnen das Angebot vielleicht in kleinerer Schrift kursiv den Hinweis aufnimmt.

00:08:48: Die Bilder sind KI generiert.

00:08:50: also ich denke da gibt es Wege, dass die Kenntsein des Pflichtes zuerst mal etwas weiter versteht ohne dass man jetzt seinem Geschäftsinteresse schadet.

00:08:59: Eben hatten wir ja die komplett KI-generierten Bilder.

00:09:02: Nehmen wir jetzt mal an, ein Dachdecker fotografiert ein echtes Haus, an dem er auch selber gearbeitet hat und lässt per KI verschiedene Ziegel, Gauben oder Solarmodule einbauen.

00:09:13: Dieses Foto nutzt der jetzt nicht in der direkten Kommunikation mit einem Kunden sondern veröffentlicht ist auf seiner Webseite.

00:09:20: Ist das schon ein Fall bei dem Transparenzpflichten greifen können?

00:09:24: Ja, die Definition in der KI-Fordnungen.

00:09:27: Das war das Deepfax, worum es ja bei Bild-, Ton- und Videoinhalten bei der Kennzeichenpflicht geht.

00:09:31: Sprich sowohl von KI Erzeugten also komplett Generierten in unserem ersten Beispiel aber eben auch von manipulierten also umgangssprachlich bearbeiteten Bildern.

00:09:42: Also ja auch hier wäre die Kennzeitenmustpflicht zu Prüfen.

00:09:46: Die EU-Kommission hat drei verschiedene ICANNs als Vorschlag herausgegeben, einmal das KI beteiligt war, dass etwas vollständig KI generiert ist oder KI modifiziert.

00:09:58: Ganz offen gestanden halte ich das für den Anfang etwas ambitioniert.

00:10:01: Ich denke als erste Zielsetzung sollte man die generelle Kennzeichnung des KI mit im Spiel wahr adressieren und sich dahin entwickeln und daran arbeiten.

00:10:13: hier mit drei verschiedenen Kennzeichen und zu arbeiten.

00:10:16: Aber es spielt keine Rolle, ob erzeugt oder manipuliert.

00:10:18: die Kennzeigen des Pflichtes dann im Einzelfall zum Prüfen.

00:10:22: KI wird ja insbesondere auch gerne eingesetzt um Texte für die Webseite den Social Media Auftritt oder den Kundenprospekt zu formulieren oder zumindest zu optimieren.

00:10:32: Textgenerierung war ja auch die erste Anwendung, die wir bei KI gesehen haben.

00:10:36: wie transparent muss sich damit umgehen?

00:10:39: Das ist eine sehr gute Frage, weil in der Tat haben wir bisher nur über Bildton und Videoinhalte gesprochen.

00:10:43: Und hier macht die KI-Fordnungen auch eine Unterscheidung.

00:10:46: wenn ich als Betreiber eines KI Systems Text erzeug oder manipulier die veröffentlicht werden um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren dann muss sich das kennzeichnen.

00:11:00: Das ist mal der Teil eins.

00:11:02: Heißt, wir haben hier zwei Tatbestandsmerkmale einmal die Öffentlichkeit also nicht die Privatheit ein Kreis den ich nicht sehr eng eingrenzen kann über etwas von öffentlichem Interesse.

00:11:14: es jetzt ja auch die Frage was ist von öffentlichen Interesse?

00:11:17: das giltet sicherlich sehr für den journalistischen Bereich für Behördeninformation möglicherweise für Einrichtungen die eine gewisse gesellschaftliche Relevanz haben.

00:11:27: Wenn ich jetzt beispielsweise wieder an den Dachdeckerbetrieb denke, welcher die Marketingtexte auf seiner Webseite mit KI erzeugt wird er zwar die Texte veröffentlichen und informiert möglicherweise auch die Öffentlichkeit weil er weiß ja nicht welche Menschen, welche Nutzerinnen und Nutzer auf die Webseiten gehen.

00:11:44: Es wird aber eher nicht von öffentlichem Interesse sein.

00:11:48: daher wäre hier gar keine Kennzeichnungspflicht angezeigt.

00:11:52: Ganz wichtig ist, selbst wenn man die Öffentlichkeit über etwas von öffentlichem Interesse informiert und wenn man in der Kennzeilungspflicht der KI-Fordnungen drin ist.

00:12:00: Gibt es eine Ausnahme im Gesetz?

00:12:02: Vereinfacht gesagt, in dem Moment wo jemand haffbar für den Inhalt ist also beispielsweise eine redaktionelle Verantwortlichkeit im Impressum steht und bevor dieser KI generierte Text veröffentlicht wird ein Mensch gegenliest, eine redakzionelle Kontrolle stattfindet, die Fakten gecheckt werden dann entfällt die Kennzeilenungspflicht.

00:12:21: Das heißt, wir werden zukünftig nach meiner Einschätzung eher in der Praxis im Umfeld von Bildtonen und Videoinhalten Kennzeichnungen zählen und darüber debattieren können wann sie notwendig ist.

00:12:32: Und weniger im Bereich des

00:12:34: Textes.".

00:12:35: Viele Betriebe nutzen Drohnenbilder oder Software die Dachflächen vermisst H-Geschäden erkennt oder Materialmengen vorschlägt.

00:12:43: muss hier auch Transparenz hergestellt werden also der Kunde darüber informiert werden das KI bei der Analyse geholfen hat?

00:12:51: Eine spannende Frage wären die Debatte ja aktuell bei den KI Variables rund um Smart Classes, wo Verbotsdebatten stattfinden und viele Stakeholder aus dem Verbraucherschutzverbote fordern.

00:13:03: Weil eben auch Missbrauch mit solchen Brillen stattfinden kann.

00:13:07: da bin ich immer anderer Meinung weil ich denke man muss die Risiken dort adressieren wo sie stattfinden dann dort nach bessern und missbrauch ist nicht gleich zu setzen mit einer Produkteigenschaft an der Stelle.

00:13:20: Und ein Stück weit gilt es genauso auch für die von Ihnen angesprochenen Wevelables wie in der Drohne, aber hier sieht die KI-Fordnung keine Kennzeichnungspflicht vor also wenn das KI System nicht direkt interagiert mit Personen, wenn keine Bild und Ton oder Videoinhalte mit KI erzeugt werden dann gibt es noch mal im aktuellen Kenntnisstand keine Notwendigkeit.

00:13:43: So kann es sein, dass beispielsweise die Analyse der Qualität des Daches, ob ich jetzt schon Neues brauche oder ob's noch zwei Jahre hält mit KI gemacht wurde.

00:13:53: Zum Schluss nochmal der Adlerblick Wenn ein Dachdeckerbetrieb das Thema Transparenzpflichten pragmatisch angehen will was wären denn die ersten Schritte um hier gut vorbereitet zu sein?

00:14:03: Als allerersten Schritt würde ich sagen, ist es wichtig die Beschäftigten mitzunehmen.

00:14:07: Also eine grundlegende Schulung zur KI-Kompetenz im generellen wo dann auch schon mal die Kennseilnungspflichten im Speziellen adressiert werden.

00:14:16: und dann gilt es im Unternehmen eine eigene KI Richtlinie aufzusetzen.

00:14:20: welche KI Systeme wollen und dürfen wir im Unternehmen einsetzen für welche Zwecke?

00:14:24: welche Notwendigkeiten?

00:14:25: Maßnahmen fallen dabei raus je nach dem was sich damit tut.

00:14:29: das heißt Ich kann das aus meiner Sicht relativ pragmatisch Absichern, indem ich die Mitarbeiter mitnehme.

00:14:35: Indem ich eine KI-Kompetenz schaffe und in dem ich eine schmale Schlange aber zielführende KI Richtlinie aufsetzt, die ich meinen Beschäftigten mit an die Hand geben kann.

00:14:45: Und aus unserer Erfahrung hat sich dann immer gezeigt dass der direkte Dialog mit den Fachabteilungen, die dann betroffen sind wenn wir jetzt ein Bild, Ton oder Video unterhalten denken, die Marketingabteilung beispielsweise eben auch nochmal in eins zu eins gegangen wird und Fragen aus der Praxis beantwortet werden können.

00:15:03: Und welche Fehler sollten Betriebe unbedingt vermeiden, um mal von der anderen Seite zu kommen?

00:15:08: Wir stellen aktuell in der Praxis und das kann ich sehr gut nachvollziehen.

00:15:11: So eine gewisse Bürokratiegesetzmöglichkeit vor dass viele Firmen sich sagen gerade im kleinen mittleren Umfeld weil nicht ausreichend Ressourcen vorhanden sind.

00:15:21: Ach mit dem Thema beschäftige ich mich gar nicht mehr, weil mit den anderen drei Themen vorher habe ich mich intensiv beschäftigt und am Ende ist doch eh nie was passiert.

00:15:28: Und ich verstehe diese ganzen Regeln immer die aus Brüssel und aus der Hauptstadt hier in Deutschland kommen.

00:15:34: Das ist glaube ich ein Fehler, weil die KI-Fordnungen es gerade wenn man nicht im Hochrisikobereich KI für normale Anwendungszwecke einsetzt als Betreiber und nicht als Anbieter gibt's eigentlich nur zwei relevante Pflichten.

00:15:47: das sind die Transparenzvorgaben aus Artikel haben zu besprechen und das ist die KI-Kompetenz der Beschäftigten in Artikel vier.

00:15:56: Das heißt, da plädiere ich dafür auch wenn ich es nachvollziehen kann nicht die Augen zu verschließen sondern die Gesetze die kommen mit dem notwendigen Pragmatismus aber auch den notwendigen Sorgfalt anzuschauen und Risiken zu adressieren und Verantwortlichkeiten im eigenen Unternehmen zu

00:16:13: schaffen.".

00:16:14: Die Transparenzpflichten beim Einsatz von KI sind ein Ausdruck nämlich auch an dieser Stelle mit offenen Karten zu spielen.

00:16:24: Vielen Dank David V für die einführenden Erläuterungen, danke schön!

00:16:28: Sehr gerne, danke!

00:16:29: In der nächsten Podcastfolge beschäftigen wir uns noch einmal ganz intensiv mit der Frage, die wir diesmal nur angeschnitten haben – wie führe ich KI im Unternehmen zielgerichtet ein?

00:16:40: Wie vermeide ich Wildwuchs durch sogenannte Schattenkai?

00:16:44: Schatten-Kai entsteht dann, wenn Mitarbeiter schon mal mit privaten Accounts einfach so loslegen.

00:16:49: Worauf sollte ich achten damit keine Personen bezogenen oder unternehmenskritischen Daten an der falschen Stelle landen?

00:16:56: Das und mehr in der nächsten Podcast

00:16:58: Folge!

00:16:59: Also diesen Podcast unbedingt abonnieren und gerne auch weiter empfehlen.

00:17:03: Das war ZVDH aktuell Ausgabe sechster Oktober.

00:17:08: Wir freuen uns immer über Ihr Feedback.

00:17:10: Schreiben Sie gerne an podcastatdachbecker.de.

00:17:14: Redaktion.

00:17:14: Claudia Böttner, ich bin Wolfgang Schmitz – Ihnen eine gute Zeit!