Trotz der erst kurzen Zeit, die der mit Hilfe von künstlicher Intelligenz angelernte Chatbot ChatGPT der kalifornischen Firma OpenAI auf dem Markt ist, konnte bereits ein großer Hype entstehen. Viele Menschen sind von den sprachlichen Fähigkeiten der KI, die heutzutage schon möglich sind, fasziniert.
Ein neues Zeitalter der KI-Textgenerierung ist mit ChatGPT eingeläutet worden. Sowohl Microsoft als auch Google sind in den sich rasant entwickelnden Wettbewerb mit einem in Bing integrierten Chatbot und Google Bard eingetreten. Bei aller Euphorie sollte man allerdings auch die Risiken nicht ausblenden, die mit den Möglichkeiten der neuen KI-Tools einhergehen.
Sind die eigenen Daten geschützt?
Vor allem im Bereich Datenschutz sind viele Fragen zu klären. So, wie ChatGPT zurzeit aufgebaut ist, muss mit gravierenden Datenschutzlücken gerechnet werden. Dies hat mehrere Gründe:
ChatGPT speichert die eingegebenen Informationen, um Antworten generieren zu können. Darüber hinaus werden die Daten auch dazu verwendet, die KI weiterzuentwickeln.
Bei sensiblen Informationen sollte man aus diesem Grund sehr vorsichtig sein und sie im Zweifel nicht in den Chatbot eingeben. Das Risiko ist auch den großen Konkurrenzfirmen bewusst.
So wurde Microsoft-intern die Order ausgegeben, keine sensiblen Daten mit dem OpenAI Endpunkt zu teilen, da sie für das Training weiterentwickelter Versionen verwendet werden könnten.
Fragen zur Datensicherheit stellen sich auch, weil die Server von OpenAI in den USA stehen und in der Datenschutzerklärung der Webseite lediglich die amerikanische Firma OpenAI LLC angegeben ist. Da es sich um eine amerikanische Webseite handelt, sind EU-Datenschutzrichtlinien kaum durchzusetzen und ihre Einhaltung kaum zu überprüfen.
Einbindung von ChatGPT auf Webseiten
Das Einbinden von ChatGPT auf Webseiten kann zurzeit aufgrund der verschiedenen Probleme, die im Zusammenhang mit der DSGVO bestehen, nicht empfohlen werden.
Laut DSGVO dürfen nur die absolut notwendigen Daten erhoben werden, die für die Funktionalität eines Tools benötigt werden. Ob dies bei ChatGPT der Fall ist, ist völlig unklar.
Gleiches gilt hinsichtlich der Frage, inwiefern die Daten vor einem weiteren Diebstahl Dritter geschützt sind. Dazu der Datenschutzexperte Eckhard Schneider von decareto.com: „Es ist unklar, ob openAI sich mit dem Chatbot Chat GPT an Artikel 17 der DSGVO hält. Ob persönliche Daten auf Nachfrage aus dem System entfernt werden können, ist äußerst fraglich.“
Fairness und Transparenz im Umgang mit den Daten können ebenfalls nur von außen und vage bestimmt werden.
Aus diesen Gründen ist von einer professionellen Nutzung von ChatGPT im Moment abzuraten. Wer sensible Daten in das Tool eingibt, muss damit rechnen, dass sie gespeichert, verwendet und, wenn eine passende Anfrage eingegeben wird, auch angezeigt werden.
ots
Bitte beachten Sie auch, dass in den Entwürfen der EU zum AI Act sich zeigt, welche KI-Anwendungen künftig besonders streng reguliert werden sollen, weil sie von der EU als besonders gefährlich eingeschätzt werden. Zahlreiche Unternehmen wären von den neuen Regelungen betroffen – darunter auch die Macher von ChatGPT. Danach werden KI-Systeme in verschiedene Risiko-Kategorien unterteilt und unterliegen je nach Einstufung unterschiedlich strengen Vorschriften. Es liegt an den Betreibern, sich um die Risikoabschätzung zu kümmern, das Ergebnis in eine Datenbank einzutragen und die entsprechenden Auflagen einzuhalten. Aussagen zur Risiko-Einschätzung von GPT, Bard & Co finden Sie in einem Artikel von t3n unter https://t3n.de/news/eu-ai-act-chatgpt-hochrisiko-1535021/
Ergänzung: Wir haben von privacyExpert folgende Tipps für die Erstellung einer Unternehmensrichtlinie für ChatGPT gefunden:
So erstellen Sie eine Unternehmensrichtlinie für ChatGPT |
| Der Umgang mit ChatGPT kann zu datenschutzrechtlichen Problemen führen. Es ist deshalb ratsam, dass Sie hierfür eine Unternehmensrichtlinie erstellen. Nutzen Sie dazu die folgenden Tipps.
Zweck und Umfang der Nutzung klären Sie sollten zunächst klären, für welche Zwecke und in welchem Umfang ChatGPT im Unternehmen genutzt werden soll. Dabei sollten Sie die möglichen Risiken und Vorteile abwägen. Welche Daten dürfen (von wem) verwendet werden? Legen Sie dann fest, welche Daten mit ChatGPT verarbeitet werden dürfen und welche nicht. Dabei sollten Sie die Anforderungen der DSGVO beachten und geeignete Schutzmaßnahmen ergreifen. Sie kommen gegebenenfalls auch Zugangsbeschränkungen infrage, sodass nur bestimmte Mitarbeiter auf ChatGPT zugreifen können. Qualitätsüberprüfung Sie sollten auch regeln, wie die Qualität und Richtigkeit der von ChatGPT generierten Texte überprüft und sichergestellt werden soll. Dabei sollten Sie beachten, dass die Antworten von ChatGPT nicht immer den Tatsachen entsprechen. Mitarbeiterschulung Sie sollten schließlich die Mitarbeiter über die Richtlinie informieren und schulen. Dabei sollten Sie die Mitarbeiter für den verantwortungsvollen Umgang mit ChatGPT und künstlicher Intelligenz im Allgemeinen sensibilisieren. Regelmäßige Aktualisierung Aktualisieren Sie die Richtlinie regelmäßig, um sicherzustellen, dass sie auf dem neuesten Stand ist und dass auch alle Mitarbeiter auf dem neuesten Stand sind. Frage: Inwieweit sollten diese Richtlinien ergänzt werden? |