22 Mai 2023 900 words, 4 min. read

Shadow GPT: Definition, Risiken, Beispiele, Statistiken

By Pierre-Nicolas Schwab PhD in marketing, director of IntoTheMinds
Der Begriff “ Shadow GPT “ bezieht sich auf die Verwendung von ChatGPT oder anderer generativer KI in einem beruflichen Kontext ohne vorherige Genehmigung durch die hierarchische Ebene. Durch die Nutzung solcher Tools geben Mitarbeiter unwissentlich potenziell sensible Daten an […]

Der Begriff “ Shadow GPT “ bezieht sich auf die Verwendung von ChatGPT oder anderer generativer KI in einem beruflichen Kontext ohne vorherige Genehmigung durch die hierarchische Ebene. Durch die Nutzung solcher Tools geben Mitarbeiter unwissentlich potenziell sensible Daten an Dritte weiter. Untersuchungen zeigen, dass 30% der Mitarbeiter in dieser Situation Sicherheitsprobleme haben.

Kontaktieren Sie die IntoTheMinds Umfrage-Agentur

Shadow GPT: 7 Statistiken, die Sie sich merken sollten

  • 71% der Franzosen kennen generative KI wie ChatGPT von OpenAI und Bing von Microsoft.
  • 44% der Befragten nutzen diese KI im privaten und beruflichen Umfeld.
  • 68% der Nutzer generativer KI im Unternehmen benötigen noch die Genehmigung ihrer Vorgesetzten.
  • 50% der US-Unternehmen geben an, dass sie ihre internen Richtlinien aktualisieren, um die Nutzung von ChatGPT und End Shadow GPT zu regeln.
  • 70% der Befragten in einer Microsoft-Studie sagen, dass sie sich wiederholende Aufgaben gerne an KI delegieren würden.
  • 45% der 18-24-Jährigen geben an, dass sie KI nutzen, verglichen mit 18% der über 35-Jährigen.
  •  72% der Franzosen glauben, dass sie mehr Wissen benötigen, um generative KI zu nutzen.

Einführung

Der Begriff Shadow GPT ist eine Anspielung auf den Begriff „Shadow IT“, der sich auf Software bezieht, die nicht zuvor von der IT-Abteilung des Unternehmens genehmigt wurde. Mitarbeiter von Shadow GPT nutzen generative KI-Tools wie ChatGPT für geschäftliche Zwecke ohne vorherige Genehmigung ihres Unternehmens. Jüngste Untersuchungen zeigen, dass diese Praxis in der Tat viel weiterverbreitet ist, als man annehmen könnte, allerdings gefährdet sie die vertraulichen Daten des Unternehmens


Shadow GPT Mitarbeiter

Shadow GPT: fast 1/3 der Mitarbeiter sind derzeit betroffen

Eine Umfrage von April 2023 zeigt, dass 71% der Franzosen generative KIs kennen, wie z.B. ChatGPT von OpenAI und Bing von Microsoft (dessen „Erstellungs“-Modus auf GPT4 basiert). Die Studie zeigt auch, dass 44% der Befragten diese KI persönlich und beruflich nutzen. Davon tun 68% dies, ohne ihre Vorgesetzten darüber zu informieren. Mit anderen Worten: Fast 30 % der französischen Arbeitnehmer nutzen generative KI ohne vorherige Genehmigung ihrer Vorgesetzten.

In einer anderen von Microsoft durchgeführten Studie gaben 70 % der Befragten an, dass sie bereit wären, ihre sich wiederholenden Aufgaben an KI zu delegieren, was bis zu zwei Arbeitstage einsparen könnte.


Die Risiken von Shadow GPT

Die Risiken von Shadow GPT

Wir haben die Risiken von ChatGPT bereits erwähnt. Einfach ausgedrückt, handelt es sich dabei um Risiken im Zusammenhang mit vertraulichen Datenlecks. Diese Risiken sind allerdings bei allen kostenlosen Diensten im Internet gegeben. Da sie kostenlos sind, werden Ihre Daten als Währung verwendet.

Statoil wurde bereits 2017 durch die Nutzung von Deepl hereingelegt (das Ihre Daten zum Trainieren seiner Algorithmen verwendet, siehe unten), und 2023 war es Samsung, das in die Falle von ChatGPT tappte. Die Mitarbeiter des Unternehmens nutzten ChatGPT 3-mal und übermittelten streng vertrauliche Daten an OpenAI. Diese Daten betreffen insbesondere den Quellcode der elektronischen Chips des Unternehmens.

Diese Risiken führten dazu, dass einige Unternehmen die Verwendung von ChatGPT verboten haben. Samsung, sowie JPMorgan Chase, Amazon, Verizon und Accenture stellen daher ein unternehmensinternes Tool zur Verfügung. Alle diese Unternehmen haben gemeinsam, dass sie mit einer großen Menge an geschützten Daten arbeiten, aus denen sie einen Wettbewerbsvorteil ziehen. Die Nutzung von ChatGPT und generell aller algorithmischen Tools, die eine kostenlose Version anbieten, besteht in der Übertragung der Daten des Nutzers zu Trainingszwecken. Während der Austausch der Daten aus Kulanzgründen verständlich ist („kostenloser Service für Daten“), sind sich nur einige Nutzer dieser Übertragung bewusst. Im Fall von ChatGPT hat die fehlende Zustimmung sogar dazu geführt, dass die italienische Regierung ChatGPT aus dem Land verbannt hat. Diese Entscheidung war drastisch und plötzlich, hatte jedoch den Vorzug, dass sie sämtliche Schwachstellen von OpenAI aufzeigte.


Risiken jüngeren Arbeitnehmern

Besondere Aufmerksamkeit bei jüngeren Arbeitnehmern

Die Studie zeigt ein Generationsgefälle bei der Nutzung von KI: 45% der 18-24-Jährigen nutzen sie, verglichen mit 18% der über 35-Jährigen. Nur mäßig überraschend ist, dass 72% der Franzosen der Meinung sind, dass sie mehr Wissen benötigen, um diese Technologien zu nutzen.

Diese Diskrepanz muss den Unternehmen bewusst machen, dass die Risiken nicht gleichmäßig auf die Mitarbeiter verteilt sind. Einige sind stärker „gefährdet“ als andere, und die Sensibilisierungsmaßnahmen müssen daher je nach Zielgruppe differenziert werden.


Shadow GPT Risiken

Die meisten Unternehmen bewerten die Risiken nicht

Der Nutzung von Shadow GPT liegen keineswegs schlechte Absichten zugrunde. Die Mitarbeiter sind neugierig, mit diesem neuen Tool zu experimentieren, und das ist ihr gutes Recht. Die Experimentierphase ist wichtig, um den Nutzen zu verstehen, und wie der MIT-Forscher Ethan Mollick erklärte, muss man sich mindestens 4 Stunden lang mit diesen Tools beschäftigen, um sie zu verstehen. Denn genau hier liegt das Problem: der Mangel an Informationen und Transparenz.

Die Unternehmen hingegen wurden überrumpelt. Fast 50 % der in einer Umfrage vom März 2023 befragten US-Unternehmen waren dabei, ihre internen Richtlinien zu überarbeiten, um Shadow GPT zu berücksichtigen. Die Annahme von ChatGPT durch ihre Mitarbeiter kam so plötzlich und das Thema war so neu, dass sie sich nicht früh genug damit befassen konnten.

Aber neben den großen Unternehmen gibt es auch all jene, für die ChatGPT noch lange ein Geheimnis bleiben wird, bis ihre Geschäftsgeheimnisse ans Licht kommen. Denken Sie daran, dass 96% der Unternehmen KMUs sind und dass ihr digitaler Reifegrad noch besser werden muss. Es gibt also viele Herausforderungen bei der Aufklärung der Mitarbeiter über die Vorteile der KI, aber auch über ihre Grenzen.

 



Posted in Innovation.

Post your opinion

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert