5 kritische Fragen, die Sie KI-Anbietern stellen sollten

In einer sich schnell entwickelnden KI-Landschaft müssen Unternehmensleiter bei der Zusammenarbeit mit Anbietern von KI-gestützten Lösungen sorgfältig vorgehen. Um Datenschutz, regulatorische Compliance und organisatorische Datenintegrität zu gewährleisten, ist es entscheidend, die richtigen Fragen zu stellen. Im Folgenden finden Sie fünf wichtige Fragen, die jeweils einen grundlegenden Problembereich behandeln und im Hinblick auf Klarheit und Relevanz für das heutige Geschäftsumfeld angepasst wurden.  

1. Nutzen Sie KI, und wo wird sie in Ihrer Software eingesetzt? 

Es ist von grundlegender Bedeutung zu verstehen, wie und wo KI in eine Plattform eingebettet ist. Egal, ob es sich um nicht-generative KI handelt, die Mitarbeiterfluktuation vorhersagt, oder generative KI, die Leistungsbeurteilungen zusammenfasst — fragen Sie Anbieter, welche KI-Funktionen verwendet werden, welche Art von Unterstützung sie bieten und auf wessen Modelle sie sich stützen — sei es OpenAI, Anthropic oder ein anderer Anbieter. Diese Transparenz ist entscheidend, um zu beurteilen, wie Ihre Daten verarbeitet oder offengelegt werden könnten. 

Können KI-Funktionen je nach Rolle, Standort oder Person ein- oder ausgeschaltet werden? 

Da KI-bezogene Gesetzgebung je nach Region — sogar von Stadt zu Stadt — variiert, müssen Organisationen die Kontrolle darüber behalten, wo und wie KI eingesetzt wird. Fragen Sie Anbieter, ob Sie KI-Funktionen für bestimmte Benutzer oder Rechtsgebiete deaktivieren können, insbesondere da viele Plattformen neue KI-Funktionen mittlerweile ohne Zustimmung automatisch aktivieren. Flexibilität ist der Grundstein für die Einhaltung von Vorschriften und die Aufrechterhaltung des Vertrauens der Nutzer. 

3. Ist das KI-Modell exklusiv für unser Unternehmen oder ein gemeinsames, allgemeines Modell? 

Wenn Anbieter KI nutzen, um Vorhersagen zu treffen oder Ihre Daten zusammenzufassen, sollten Sie unbedingt wissen, wohin diese Daten gelangen. Werden sie in ein allgemeines Modell wie ChatGPT eingespeist, oder wird ein privates Modell verwendet, das ausschließlich für Ihre Organisation bestimmt ist? Dies hat Auswirkungen auf Datenbesitz, Vertraulichkeit und darauf, ob Ihre geschützten Informationen zur Schulung von Drittanbieter-Modellen wiederverwendet werden. 

4. Werden Benutzer informiert, wenn KI in ihren Aktivitäten involviert ist? 

Transparenz ist nicht nur ethisch, sondern in vielen Rechtsgebieten auch eine regulatorische Anforderung. Benutzer sollten benachrichtigt werden, wenn KI aktiv ist, analog zu den Zustimmungsaufforderungen in Plattformen wie Microsoft Teams. Fragen Sie Ihren Anbieter, ob er sichtbare Benachrichtigungen oder Opt-in-Optionen anbietet, insbesondere wenn KI das Nutzerverhalten aufzeichnen, zusammenfassen oder interpretieren könnte. Rechtliche Verpflichtungen können je nach Land oder Bundesstaat variieren. 

5. Wo werden die Modelle gehostet und wo werden die Daten verarbeitet? 

Fragen Sie Anbieter, wo Ihre Daten gehostet, verarbeitet und gespeichert werden. Dies wirkt sich sowohl auf das Vertrauen als auch auf die Compliance aus, insbesondere in regulierten Branchen oder bei grenzüberschreitenden Aktivitäten. Datenschutzgesetze können bei Verstößen hohe Strafen nach sich ziehen, verlangen Sie deshalb vertragliche Klarheit von Ihrem Anbieter. Fragen Sie auch, ob Drittanbieter Ihre Daten im Rahmen von KI-Modell-Interaktionen verarbeiten oder speichern. 

Genießen Sie Ihre Reise mit KI, aber denken Sie daran, dass es sich um Ihre wertvollen Unternehmensdaten handelt, nicht um die des Anbieters. Im Falle von Arbeitnehmerdaten handelt es sich auch um private Daten einer Person, die für Ihre Organisation arbeitet. Gehen Sie nicht davon aus, dass jeder damit genauso sorgfältig umgeht wie Sie. 

Möchten Sie mehr darüber erfahren, welche Fragen Sie KI-Anbietern stellen sollten? Lesen Sie unseren aktuellen Leitfaden Die 5 unverzichtbaren Voraussetzungen für den Einsatz von KI im Personalwesen.